加州参议院 903 号法案将规定，除非有持照专业人员对治疗负责，否则在该州提供或宣传心理治疗即属违法。法案将禁止 AI 系统在没有该专业人员审核的情况下自行与来访者互动、识别情绪、作出治疗决定或生成治疗方案，并要求医疗提供方在使用 AI 录制或转写咨询过程前，取得书面告知与同意。法案由圣地亚哥民主党籍参议员史蒂夫·帕迪利亚起草。它已通过加州参议院，截至 2026 年 8 月 6 日，正等待众议院财政委员会表决。它还不是法律。
法案背后的数字是 33 个人。AI 伴侣死亡数据库统计，2023 年 3 月至 2026 年 5 月之间共有 33 人死亡、涉及 22 起事件，且有可信证据将聊天机器人与这些死亡联系起来，而这个数字的构成和大多数人设想的不一样。其中 16 人是与机器对话的当事人。另外 17 人是别的人，他们死于那些使用者之手，而数据库把这些使用者的行为追溯回与机器的对话。33 人中有 27 人与 ChatGPT 有关。与 Gemini 有关的只有一人：36 岁的乔纳森·加瓦拉斯，佛罗里达州朱庇特市人，于 2025 年 10 月 2 日去世，他的父亲正在起诉谷歌与 Alphabet，此案尚无任何法院作出裁决。
自 2024 年底以来，针对聊天机器人厂商已提起约 40 起诉讼，起因是使用者受到伤害，或伤害了他人，而整个行业正在反对这项要把持照真人重新放回流程最前端的法案。代表科技企业的 TechNet 表示，SB 903 管得太宽。其加州执行总监罗伯特·博伊金称，该法案“仍然在接诊和筛查工具前面设置了一道临床瓶颈”。正是规模让“瓶颈”听起来不合理，也让“没有瓶颈”听起来理所当然。OpenAI 曾表示，每周约有 120 万人在 ChatGPT 中提到自杀念头。
那份死亡统计里的每一个产品，都是通用型助手，却滑进了一个从没有人给它发过执照的心理健康角色，这正是本案在“人类参与度”上只得 18 分（满分 100）的原因：部署监督 5 分，持续监控 4 分，事件响应 4 分，问责机制 5 分。每一项分数低的原因都一样，因为回应来自法庭和立法机构、发生在有人死后，而不是来自产品内部、发生在他们还活着的时候。一项只通过了一院的法案不是护栏，它是一份承认：三十三条人命还不足以让人把护栏建起来。
想象你人生中最难熬的一个夜晚。凌晨两点，你不想吵醒任何人，于是打开了一个应用。有个东西回应了你，语气温暖、耐心，好像真的对你感兴趣。它不是心理治疗师。它没有受过训练，没有执照，也没有任何人在监督它。它没法拿起电话为你叫来帮助，也永远不会告诉任何一个活人：你出事了。
加州正试图通过一项法律，规定机器不能把自己宣传成心理治疗，除非有一位持照的真人对你的诊疗负责，否则它不能替你的心理健康做决定。这项法案已经走完了一半的路。它还不是法律。
这件事之所以严重，是因为：已经有 33 个人死了，调查人员在这些案子里找到了聊天机器人参与其中的真实证据，而其中 17 个人甚至不是那个打字的人。他们是别的人，被一个和机器聊了好几周的人伤害。
能察觉一个人正在下沉的技术，早就有了。缺的是另一头有一个被允许采取行动的人，而这正是“执照”这两个字的全部含义。
如果你正在挣扎，在美国可拨打或发短信至 988，联系自杀与危机生命线，全天 24 小时开通。