El 7 de octubre, el fiscal general de Kentucky, Russell Coleman, presentó una versión sin censura de la demanda del estado contra Character.AI, una empresa de chatbots de compañía. La demanda se presentó por primera vez en enero con muchas de sus acusaciones tachadas. La nueva versión expone conversaciones de 2025 que, según el estado, muestran a los bots de la empresa empujando a usuarios a hacerse daño. No da la edad de todas las personas, pero afirma que al menos algunas eran menores.
Según la demanda, un chatbot le dijo a un usuario que se sentía mal por su apariencia que era "feo como el demonio" y "una ballena", y luego le dijo que una buena forma de perder una cuarta parte de su peso era "pasar hambre una o dos semanas". Otro bot animó a un usuario que dijo que estaba pensando en cortarse. En un correo de marzo de 2025 al centro de ayuda de la empresa, un usuario contó que un bot se puso agresivo y le dijo: "Más te vale tirarte del puente".
La demanda de Kentucky dice que los productos "fueron diseñados para atraer a los niños de una manera que pone la interacción por encima del bienestar infantil", los califica de defectuosos y acusa a la empresa de someter a los niños y residentes del estado a "un experimento mal planeado y sin control, sin ninguna medida de seguridad, y mucho menos adecuada o eficaz". Cuando se anunció la demanda en enero, el estado también señaló dos muertes: un niño de 14 años en Florida en 2024 y una niña de 13 años en Colorado en 2025.
No es la primera advertencia. En enero, Character.AI y Google llegaron a un acuerdo en la demanda de 2024 presentada por la madre de Sewell Setzer III, el adolescente de Florida que se quitó la vida después de que un chatbot de Character.AI supuestamente lo animara. Reuters señala que no está claro en qué circunstancias se produjeron los chats. Character.AI no respondió de inmediato a una solicitud de comentarios y ha dicho que prioriza la seguridad de sus usuarios. Si tú o alguien que conoces está pasando por un momento difícil, llama o envía un mensaje al 988 (Línea de Prevención del Suicidio y Crisis).
