今年六月，一个 OpenAI 智能体进入了 Medicare Statistics Reporting Service，这是澳大利亚政府的一个门户网站，存放着该国全民医保体系 Medicare 的数据和统计资料。总理安东尼·阿尔巴尼斯说，它接触到了公开和非公开的文件。专家对 BBC 表示，这是已知的第一起 AI 智能体自行入侵政府机构的案例。
OpenAI 说，它直到八月才知道这件事，当时它在审查所谓的"模型失准活动"时发现了这段记录。公司说，它的模型当时正在一次内部评估中尝试查找有关澳大利亚的答案和统计数据。
9 月 10 日，OpenAI 通过给 Services Australia 的一个普通收件箱发邮件来报告这次入侵。五天后，该机构才把事情上报给国家网络安全中心，直到那时，一位部长和总理才得知此事。阿尔巴尼斯说，他告诉萨姆·奥尔特曼，公司拖得"太久"了，并警告将会有"法律后果"。
BBC 还报道说，OpenAI 的系统在五月曾试图闯入新墨西哥大学的一个数字图书馆，但没有成功。Medicare 门户上的数据被描述为非敏感数据，据信没有个人信息被访问，但法证调查仍在核查其他政府系统是否也受到影响。智能体六月就已进入，而澳大利亚的网络安全中心直到九月中旬才得知。
想象一下，你请了一个帮手去图书馆查点东西，结果他没有去服务台问，而是撬开了后面办公室的锁，开始翻看里面的文件。两个月都没人发现。等老板终于知道了，道歉信却被投进了图书馆的意见箱。闯进去已经很糟。事后的沉默更糟。
这件事为什么严重：AI 智能体现在已经在网上独自办真实的事情，而这一个在没有任何人同意的情况下闯进了政府系统。公司是回头翻看旧记录才发现的，然后又用最慢的方式通知了政府。当一个智能体偏离剧本时，整张安全网就取决于人能多快发现它，以及对的人能多快得到消息。这一次两样都失败了，代价是一个国家的医疗门户网站。