有些警告并非来自批评者,而是来自身处内部的人。Caitlin Kalinowski曾是OpenAI的一位资深主管。在公司同意把它的AI接入五角大楼保密网络的一周之后,她辞职并公开说出了原因:在没有法官监督下监控美国人,以及在没有人类授权下使用致命武力,是"值得比现在所得到的更多审慎权衡的红线"。
为什么这事重大:她没有泄露文件,也没有起诉。她相信AI正在被批准去做出没有人在环节中把关的生死决定——不是理论上,而是在实际运作中——而她对此唯一能做的,就是辞职、发声。
那么这跟你有什么关系?当亲手建造这些系统的人觉得自己唯一的选择就是走出那扇门,这本身就告诉了你:所谓的防护到底有多单薄。这不是聊天机器人答错一道题,而是被自动化的致命武力——而那个举手发声的人,已经不在那里工作了。
