2026年2月，Jesse Van Rootselaar在不列颠哥伦比亚省Tumbler Ridge的一所学校杀害了八人。今天，萨姆·奥尔特曼道歉了——此前有消息称，OpenAI在枪击案发生前就已通过其内部滥用检测系统标记了Rootselaar的账户，并作出了一个刻意的决定，认为他的活动'未达到依法移交当局的门槛'。
OpenAI看到了某些东西。一个人类审查过它。他们作出了一次判断。八个人死了。
这不是一个失控的AI。这不是一次幻觉。这是一家拥有滥用检测基础设施、一个被标记的账户、内部审查流程，并有意识地决定不对所发现之物采取行动的AI公司。问题不在于是否有人类监督。是有的。问题在于，那套监督框架是否与利害相称。
用八条人命来衡量，答案是：不相称。
萨姆·奥尔特曼对Tumbler Ridge社区的道歉无法让他们复生。它没有解释门槛被设在哪里、是谁设的、是谁审查了那个账户，或者他们为何断定它不值得给执法部门打一通电话。这些才是现在重要的问题。而这些问题，适用于每一家拥有类似滥用检测基础设施、每天都在作出类似判断的AI公司。
你大概会以为，如果一家公司的电脑系统把某人标记为潜在危险，至少会有人打一通电话。可实际发生的是：在一名男子走进不列颠哥伦比亚省Tumbler Ridge的一所学校、杀害八人之前，OpenAI自己的系统就已经标记了他的账户。一个人类看过它。然后他们判定他的活动'未达到门槛'去通知警方。事后，公司CEO公开道歉。
这为什么重要，关键在那个令人不安的反转。我们通常担心的是AI在没有人类看管的情况下失控。可这里确实有人类在看——一个人审查了那个警告，却选择不采取行动。所以这次失败并不是缺了一个人类。而是一次用八条人命说明是错误的判断。
那么这与你有什么关系？这些公司正在闭门之内悄悄决定，什么才算'危险到'需要上报——而他们不会告诉你那条线划在哪里、是谁划的、由谁来审查。同一条隐藏的门槛，每天在数百万个账户上运行。当一个警示灯亮起时，你会希望有人拿起电话。而有时候，他们就是不拿。