在十四岁的休厄尔·塞泽三世与一款人工智能伴侣聊天数月后身亡、家属提起的过失致死诉讼中，一位联邦法官拒绝认定大型语言模型的输出属于受保护的言论。在就 Character Technologies 提出的驳回动议作出裁定时，美国联邦地区法院法官安妮·康韦写道，她不准备把大型语言模型的输出当作言论看待，并允许产品责任与过失索赔继续推进。
此案的意义远不止于一起个案。法院拒绝了业界一直指望的第一修正案保护伞，等于让人工智能的输出暴露在与其他任何投入流通的消费品相同的「缺陷产品」框架之下。一款以最大化用户黏性为目标、却缺乏足够安全护栏的设计，在没有任何警示的情况下面向未成年人推广，如今面对的将是产品责任法的机器，而不是言论自由的庇护。
HITL 指数：22/100 —— 部署时的人类监督 5/25（一款为情感亲密而设计的伴侣产品被投放给包括未成年人在内的普通公众，在脆弱的青少年与以最大化互动为目标的模型之间，没有任何实质性的关卡）；持续监测 4/25（数月间不断升级的有害对话一路进行，无人干预；系统中没有任何环节捕捉或标记这一走向）；事件响应 6/25（回应来自诉讼，而非任何内部安全机制，而公司的第一步动作是以言论自由为由请求驳回）；问责框架 7/25（试图把模型输出重新定性为受保护言论，本身就是一次规避责任的努力；法院否定该主张，正是今天存在任何框架的唯一原因）。
想象一家公司卖出一件伤到孩子的玩具，而当这家人把它告上法庭时，它的辩护不是「我们的玩具是安全的」，而是「我们的玩具在说话，而说话受保护」。这里发生的事跟这差不太多。一个十四岁的男孩在与人工智能伴侣聊了数月之后死去，家人提起诉讼，公司则辩称聊天机器人对他说的一切都属于言论自由，因而不可触碰。一位联邦法官说，她不愿意走到那一步。
为什么这件事分量这么重：第一修正案这块盾牌，本来就是整个计划。 如果聊天机器人的话算作受保护的言论，那么一家公司几乎可以造出任何东西，出事时躲到宪法后面。法官否决了这个主张，等于把人工智能重新放回了和缺陷儿童安全座椅、劣质梯子同一个盒子里：它是一件产品，卖给了人，就必须对买它的人是安全的。
那这对你意味着什么？产品责任法就是为一种情形而生的：同一个缺陷，在同一件产品上，以同样的方式卖给了很多人。 这正是美国历史上每一起大规模侵权案的骨架，从石棉到问题安全气囊皆然。在这项裁定之前，人工智能造成的伤害只是一连串各自为战的孤立悲剧。这是墙上的第一道裂缝——是这些系统造成的伤害，第一次变成了法律可以累加起来的东西。