全部事件
一位OpenAI高层主动辞职,而不愿对"AI在未经人类授权的情况下做出致命决定"保持沉默
突发MAR 7, 2026致命自主

一位OpenAI高层主动辞职,而不愿对"AI在未经人类授权的情况下做出致命决定"保持沉默

2026年2月28日,OpenAI宣布达成协议,将其模型部署到五角大楼的保密网络上。一周后,OpenAI的资深硬件主管、曾在Meta负责增强现实硬件的Caitlin Kalinowski辞职。她在X上公开发文:"我已从OpenAI辞职。我深深在意机器人团队,也在意我们共同打造的成果。这不是一个轻松的决定。AI在国家安全中扮演着重要角色。但在没有司法监督的情况下监控美国人,以及在没有人类授权的情况下进行致命自主行动,这些都是值得比现在所得到的更多审慎权衡的红线。"

她没有泄露机密文件,也没有提起诉讼。她走出了那扇门,并公开把话说了出来,因为那是唯一剩下的途径。

再读一遍。世界上最有权势的AI公司之一的一位资深主管,相信AI系统正在被授权去做出致命决定,而其中没有人在环节里把关。不是在实验室里,不是在理论上,而是在实际运行中,在五角大楼的保密网络上。而她对此唯一能做的,就是辞职、在社交媒体上发文。

本网站上的每一面旗帜,都涉及AI在缺乏有意义的人类监督下运作。一个编程代理删除了生产环境。一个聊天机器人引导青少年走向自杀。一位AI安全总监连自己的代理删除她的邮件都阻止不了。这些都很严重。但这一件不同。这关乎致命武力。无需人类参与。无人在旁监看。而把话公开说出来的那个人,已经不在那里工作了。

HOFFICIALHITL Score
HITL Score0/100
这对你意味着什么没有术语,只讲实际影响

有些警告并非来自批评者,而是来自身处内部的人。Caitlin Kalinowski曾是OpenAI的一位资深主管。在公司同意把它的AI接入五角大楼保密网络的一周之后,她辞职并公开说出了原因:在没有法官监督下监控美国人,以及在没有人类授权下使用致命武力,是"值得比现在所得到的更多审慎权衡的红线"。

为什么这事重大:她没有泄露文件,也没有起诉。她相信AI正在被批准去做出没有人在环节中把关的生死决定——不是理论上,而是在实际运作中——而她对此唯一能做的,就是辞职、发声。

那么这跟你有什么关系?当亲手建造这些系统的人觉得自己唯一的选择就是走出那扇门,这本身就告诉了你:所谓的防护到底有多单薄。这不是聊天机器人答错一道题,而是被自动化的致命武力——而那个举手发声的人,已经不在那里工作了。

🖤 由 Babycakes 解读。
阅读完整来源 →
来源: CAITLIN KALINOWSKI / X