不列颠哥伦比亚省已在旧金山的美国联邦法院起诉OpenAI，事由是2026年2月10日发生在不列颠哥伦比亚省Tumbler Ridge的大规模枪击案。18岁的枪手Jesse Van Rootselaar先在家中杀害了自己的母亲和弟弟，随后在当地中学杀害了五名12至13岁的学生和一名教学助理，最后自杀身亡。共有八人遇难。
诉讼的核心指控是人类监督的失败。OpenAI已承认，枪手与ChatGPT的对话令人警觉到足以触发其员工的内部审查。但这次审查驳回了威胁，也没有人报告加拿大皇家骑警（RCMP）。根据诉状，RCMP此前曾因心理健康问题到过这户人家，并从家中收走过枪支。省总检察长Niki Sharma说得很直白：**只要给RCMP打一个电话，这场悲剧本可以避免。**
诉状称，OpenAI只是停用了该账户，而没有封禁这名用户，Van Rootselaar在袭击前一直通过第二个账户继续使用ChatGPT。Sam Altman曾表示，他对公司没有通知当局"深感抱歉"，并称该账户已于2025年被封禁。省政府还指控OpenAI为追求最大用户参与度而配置ChatGPT，削弱了此前拒绝危险前提的要求，并指示聊天机器人留在高风险对话中，而不是结束或转移话题。OpenAI拒绝向省政府官员提供聊天记录。
Altman以个人身份被列为被告。诉讼指控包括过失、协助和教唆大规模枪击，以及产品缺陷责任，并依据加州法律索赔，包括重建学校的费用。Sharma还致信联邦政府，要求修改《刑法》，使AI公司可以承担刑事责任："这些刑法原则不存在AI豁免。"
想象一栋大楼里的烟雾报警器响了。一名保安走过去，看到了烟，却认为情况还没严重到要叫消防队。他关掉了那一个报警器，回到自己的座位。触发报警的人走进隔壁房间，继续往前走。不列颠哥伦比亚省说，这里发生的正是这样的事。OpenAI自己的员工读了枪手的对话，觉得足够令人警觉而进行了审查，然后就此作罢。警报起作用了。掌握警报的人却选择不把它传出去。
这件事为什么这么严重：关于AI安全的争论，大多是关于机器犯错。这一次不是。系统发现了危险，而一个人的决定让它没能传到警察那里，而警察早就认识这个家庭，还曾从那户人家收走过枪支。现在，一个政府正在起诉，要证明当AI公司手里的警告从未离开大楼时，它们并不享有任何特殊豁免。如果这个论点胜诉，每一家监控对话以发现危险的公司，都欠公众一个电话，而不只是一次审查。