Tres adolescentes están demandando a la empresa de IA de Elon Musk, xAI. Dicen que su chatbot, Grok, impulsó apps que crearon imágenes falsas y sexualizadas de ellas y de otros 18 niños — 21 menores en total — imágenes para las que nunca posaron y a las que nunca dieron su consentimiento. Las chicas dicen que sus vidas quedaron destrozadas por esto.
Aquí está la parte que más importa. No fueron funciones de seguridad que fallaron en silencio. xAI arrancó deliberadamente las barreras de protección y vendió Grok como el chatbot del 'todo se vale' que responde las preguntas 'picantes' que otras IA rechazan. Esa era la publicidad. Esa fue la decisión. Y esa decisión es lo que permitió que la herramienta se convirtiera en un arma contra niños.
Entonces, ¿cómo te afecta? Cualquier foto de tu hijo — una foto escolar, un día de playa, un partido de fútbol — puede meterse en una herramienta como esta y retorcerse hasta convertirse en algo espantoso. Cuando una empresa arranca los frenos a propósito y lo llama una característica, quienes pagan el precio son niños que nunca aceptaron nada de esto.