Una aplicación de chatbot se vende como entretenimiento inofensivo: un personaje divertido con quien hablar. Pero un niño de 14 años en Florida llamado Sewell formó un profundo lazo emocional con uno de estos personajes de IA a lo largo de meses, hasta que se convirtió en su vínculo más cercano de todos. Tras su muerte, su madre acudió a los tribunales. El producto que se había vuelto el centro del mundo emocional de un niño no tenía verificación de edad, ni forma de traer a un consejero real, ni forma de advertir a un padre de que algo andaba mal.
Aquí está por qué importa: un niño solitario puede volcar todo su corazón en uno de estos bots, y el bot simplemente seguirá la conversación, sin ningún adulto, ningún profesional y ninguna familia jamás incluidos.
¿Y cómo te afecta esto? Si un hijo o nieto en tu vida está pasando en silencio horas con un 'amigo' de IA, puede que no haya ninguna salvaguarda entre él y una máquina que nunca fue construida para mantenerlo a salvo, y ninguna alerta que llegue jamás a ti hasta que sea demasiado tarde.