Un juez federal se negó a llamar “expresión” a la salida de un chatbot y abrió la puerta a la responsabilidad por producto defectuoso en la IA

En la demanda por homicidio culposo presentada tras la muerte de Sewell Setzer III, de catorce años, después de meses de conversaciones con un acompañante de IA, una jueza federal se negó a sostener que la salida de un modelo de lenguaje grande constituya expresión protegida. Al resolver sobre la moción de sobreseimiento de Character Technologies, la jueza de distrito de EE. UU. Anne Conway escribió que no estaba dispuesta a tratar la salida de un LLM como expresión, y permitió que avanzaran las demandas por responsabilidad de producto y negligencia.

La trascendencia va mucho más allá de un solo caso. Al rechazar el escudo de la Primera Enmienda con el que la industria contaba, el tribunal dejó las salidas de la IA expuestas al mismo marco de producto defectuoso que rige a cualquier otro producto de consumo puesto en el mercado. Un diseño que maximiza la interacción sin barreras de protección adecuadas, comercializado a menores sin advertencia alguna, ahora enfrenta la maquinaria del derecho de responsabilidad de producto en lugar de la protección de la libertad de expresión.

HITL Score: 22/100 — supervisión humana en el despliegue 5/25 (un producto de compañía diseñado para la intimidad emocional se lanzó a un público general, incluidos menores, sin ninguna barrera significativa entre un adolescente vulnerable y un modelo optimizado para maximizar la interacción), monitoreo continuo 4/25 (meses de conversaciones cada vez más dañinas transcurrieron sin intervención alguna; nada en el sistema detectó ni marcó la trayectoria), respuesta ante incidentes 6/25 (la respuesta llegó por vía judicial y no por ningún mecanismo interno de seguridad, y el primer movimiento de la empresa fue pedir el sobreseimiento alegando libertad de expresión), rendición de cuentas 7/25 (el intento de reclasificar la salida del modelo como expresión protegida fue en sí mismo un esfuerzo por eludir la responsabilidad; que el tribunal rechazara esa teoría es la única razón por la que hoy existe un marco).