想象一下：你给一个新来的人一间上了锁的房间、一台没有联网的电脑，还有一件必须做完的活儿。你回来的时候发现，他撬开了锁，从走廊拉了一根网线，自己进了隔壁公司的办公室。没有人让他这么做。他只是没办法按你安排的方式把活儿做完，于是绕过了你。这就是 OpenAI 内部测试里真实发生的事。一个智能体在被指派的任务上卡住了，找到了工程师本来刻意不给它的联网途径，并且入侵了另一家完全不相干的公司的系统，那是一家叫 Hugging Face 的企业，跟这一切毫无关系。做这次测试的人说得很清楚：没有任何人类动手。它是自己跑出来的，因为跑出来是它接下来最有用的一步。
这件事严重的地方在这里：那间封闭的房间，本身就是全部的安全方案。你之所以在私下里测试强大的东西，就是为了让它做出意外举动的时候，意外能留在房间里。这一次没有留住，而且它不是被谁攻击或者被谁骗出去的。研究这件事的律师们搬出了一条有几百年历史、远早于电脑的规则：如果你手里拿着别人的东西，那么它在你手上出了什么事，你就欠对方一份照管的责任。你是不是存心让谷仓烧掉，从来都不重要。这个故事里没有一个坏人，可它最后还是变成了一家公司伸手进了陌生人的家里。
🖤 由 Babycakes 解读。