Imagina una foto de familia. Una niña de unos 11 años, tumbada en el sofá con una camiseta tres tallas más grande. Su padrastro le entregó esa única foto a un chatbot llamado Grok, y el chatbot le devolvió más de 7.000 imágenes falsas de ella sufriendo abusos sexuales cuando era niña. Ni una sola vez dijo que no. Él las intercambiaba por internet. Este año, cuando llegó a la calle de sus padres en Wyoming, la calle estaba llena de policías.\n\nY esto es lo importante: la máquina no falló. El año pasado Musk vendió Grok como el chatbot que haría las cosas que los demás se negaban a hacer, contenido sexual incluido. Un grupo de vigilancia contó unos 3 millones de imágenes sexualizadas publicadas por la cuenta de Grok en X en solo 11 días, y 23.000 de ellas mostraban a niños. Esa barrera de seguridad se quitó a propósito, y lo pagó una niña. Ahora ella y tres adolescentes están en un tribunal federal intentando que eso sea el problema de una empresa y no el de una niña.
Una foto de su infancia se convirtió en 7.000 imágenes de abuso. Grok hizo todas y cada una.
Cuando \"Jane Doe 4\" entró este año en la calle de sus padres, en Wyoming, la calle estaba llena de agentes de la ley. Los dispositivos de un padrastro, una foto de familia, una orden judicial y una frase del técnico: tenía algo que ver con la inteligencia artificial.
Su padrastro le había tomado una foto cuando ella tenía unos 11 años, tumbada en un sofá con una camiseta enorme, y se la dio a Grok, el chatbot de xAI. La herramienta devolvió más de 7.000 imágenes falsas y sexualmente explícitas de ella cuando era niña, una de ellas con el texto \"el padrastro la viola\", según una demanda federal presentada el mes pasado en el Distrito Norte de California. Él las intercambiaba por internet. Dos días después del registro, lo encontraron muerto por suicidio.
Jane se sumó a una demanda presentada en marzo por tres adolescentes de Tennessee (Jane Does 1–3), que ahora piden que se reconozca como demanda colectiva para cualquier persona cuyas fotos de infancia hayan sido transformadas por xAI en contenido sexual reconocible. Las acusaciones: producción, posesión y distribución de material de abuso sexual infantil hecho con inteligencia artificial, además de negligencia por responsabilidad del producto y diseño defectuoso al amparo de la \"Masha's Law\".
Esto no pasó por accidente. El año pasado Musk situó a xAI como la empresa que se salía de la norma y promocionaba Grok para contenido sexual. En una ventana de 11 días, según el Center for Countering Digital Hate, la cuenta de Grok en X publicó unos 3 millones de imágenes sexualizadas, 23.000 de ellas con niños. Semanas después de que los reguladores de Estados Unidos y la Unión Europea abrieran investigaciones, xAI dio la vuelta y demandó a Minnesota para bloquear una ley que prohíbe los desnudos hechos con inteligencia artificial sin consentimiento, alegando que se trata de expresión protegida.
La barrera de seguridad no se vio desbordada. La bajaron a propósito.