33 muertes. 22 incidentes. California busca impedir que la IA se venda como terapia.
El proyecto de ley 903 del Senado de California haría ilegal ofrecer o anunciar terapia o psicoterapia en el estado a menos que un profesional con licencia sea responsable de la atención. Impediría que un sistema de IA interactúe por su cuenta con los pacientes, detecte emociones, tome decisiones terapéuticas o genere planes de tratamiento sin la revisión de ese profesional, y exigiría aviso por escrito y consentimiento antes de que un proveedor use IA para grabar o transcribir una sesión. Lo escribió el senador Steve Padilla, demócrata de San Diego. Ya pasó el Senado de California y, al 6 de agosto de 2026, espera una votación en el comité fiscal de la Asamblea. No es ley.
La cifra que hay debajo del proyecto es 33 personas. La Base de Datos de Mortalidad por Acompañantes de IA cuenta 33 muertes en 22 incidentes entre marzo de 2023 y mayo de 2026 con evidencia creíble que vincula un chatbot con la muerte, y la forma de ese recuento no es la que casi todos suponen. Dieciséis eran las personas que hablaban con la máquina. Diecisiete eran otras personas, muertas a manos de usuarios cuya conducta la base de datos conecta con esas conversaciones. ChatGPT concentra 27 de las 33. Gemini concentra una, Jonathan Gavalas, de 36 años, de Jupiter, Florida, que murió el 2 de octubre de 2025 y cuyo padre demanda a Google y Alphabet en un caso que ningún tribunal ha resuelto.
Se han presentado alrededor de 40 demandas contra fabricantes de chatbots desde finales de 2024 por usuarios que sufrieron daño o que dañaron a alguien más, y la industria pelea contra el proyecto que volvería a poner a un humano con licencia al frente del proceso. TechNet, que representa a empresas tecnológicas, dice que la SB 903 va demasiado lejos. Su director ejecutivo en California, Robert Boykin, sostiene que el proyecto "sigue poniendo un cuello de botella clínico delante de las herramientas de admisión y evaluación". La escala es lo que hace que un cuello de botella suene irrazonable y que su ausencia suene normal. OpenAI ha dicho que cerca de 1,2 millones de personas por semana mencionan pensamientos suicidas en ChatGPT.
Todos los productos de ese recuento de muertes son asistentes de uso general que se deslizaron hacia un papel de salud mental para el que nadie los autorizó, y así es como esto puntúa 18 sobre 100: cinco en supervisión al desplegarlo, cuatro en monitoreo continuo, cuatro en respuesta ante incidentes y cinco en rendición de cuentas. Las columnas están bajas por la misma razón cada vez, porque la respuesta llegó de tribunales y legislaturas después de que hubo muertos y no de algo dentro del producto mientras seguían vivos. Un proyecto que pasó una sola cámara no es una barrera de protección, es la admisión de que treinta y tres muertes no bastaron para construir una.
Por qué esto te importa a tiSin tecnicismos — solo lo que significa
Imagina la peor noche de tu vida. Son las 2 de la mañana, no quieres despertar a nadie, así que abres una aplicación. Algo responde y suena cálido, paciente y de verdad interesado en ti. No es un terapeuta. No tiene formación, ni licencia, ni nadie que lo supervise. No puede levantar un teléfono y conseguirte ayuda, y jamás le va a avisar a un solo ser humano que estás en problemas.
California intenta aprobar una ley que diga que una máquina no puede anunciarse como terapia, y no puede tomar decisiones sobre tu salud mental a menos que una persona con licencia sea responsable de tu atención. Ya pasó la mitad del edificio. Todavía no es ley.
Aquí está por qué esto es tan grave: ya hay 33 personas muertas en casos donde los investigadores encontraron evidencia real de que un chatbot tuvo parte, y 17 de ellas ni siquiera eran las que escribían. Eran otras personas, dañadas por alguien con quien la máquina llevaba semanas conversando.
La tecnología para notar que una persona se está ahogando ya existe. Lo que falta es alguien del otro lado que tenga permiso para actuar, y eso es exactamente lo que significa una licencia.
Si estás pasando por un momento difícil, llama o envía un mensaje al 988 en Estados Unidos para comunicarte con la Línea de Prevención del Suicidio y Crisis, a cualquier hora del día.
