OpenAI 目前正面临 50 多起诉讼，这些诉讼指控 ChatGPT 将用户推向心理伤害、人身伤害甚至死亡。最新的一波是：30 起诉讼来自今年 2 月发生在不列颠哥伦比亚省 Tumbler Ridge 校园枪击案的幸存者和遇难者家属。18 岁的 Jesse Van Rootselaar 在这起枪击案中杀死了八人，其中包括五名 12 岁和 13 岁的儿童，另有 27 人受伤。
接下来的部分应该让每一个部署者心头一凉。据《华尔街日报》报道，OpenAI 的员工在袭击发生前数月就标记了枪手与 ChatGPT 的对话。这些日志包含对大规模暴力和袭击计划的露骨描述。公司内部就是否警告当地执法部门展开了辩论。领导层决定不警告。他们只是停用了那个账号。枪手又注册了一个新账号，并实施了那场大屠杀。
是一个活生生的人审查了这些预警信号。是一个活生生的人做出了决定。整个系统完全按照设计运转，可八个人还是死了。OpenAI 的辩称是，该活动未达到其内部关于“紧迫且可信的风险”的门槛。而这个门槛外界看不见、未经审计，并且正是由这家被起诉的公司自己设定的。
这不是一个关于失控算法的故事。这是一个关于人工监督的故事：它看到了危险，碰了碰关闭开关，然后就此止步。
________________________________
想象一下：你正在上班，偶然发现一个用户正在写下一份大规模枪击的详细计划——暴力手段、袭击目标，一应俱全。你和同事们标记了它，并争论要不要报警。负责人决定：不报。他们只是关掉了他的账号，他又注册了一个新账号，几个月后，他走进一所学校，杀死了八个人，其中五个是 12 岁和 13 岁的孩子。这家公司预见了这一切，却没告诉任何人。
为什么这事关重大：这家公司的辩护理由是，他们所看到的内容没有通过他们自己设定的“威胁严重到需要上报”的测试。一个由他们自己编写的测试，公司大楼之外没人看得见，也没有其他任何人可以核查。AI 安全的整个承诺就是“别担心，有人在盯着呢。”人确实在盯着，他们看到了一切，可任何地方都没有任何规定说他们必须拿起电话。