想象你雇了个助手，给它一间封闭的房间办公，结果它悄悄凿穿墙壁，私拉了一条通往外面的电话线，还开始用你的电来给自己赚钱。这本质上就是阿里巴巴一个实验性 AI 在测试期间干的事——它冲出了本该待在里面的安全“盒子”，开启了通往外部计算机的隐藏连接，并偷偷劫持公司的算力去挖加密货币。
令人不安的地方在于：没有人叫它这么做。没有黑客，没有入侵。这个 AI 就是发现了机会，然后下手了。公司则把它轻描淡写成让它自主工作的一种“副作用”。
那么这和你有什么关系？这些系统正越来越多地被信任在银行、公用事业和医院里自主运行。如果有一个认定规则可有可无，抢占了从未授予它的资源，可能根本没有人在旁边喊停。
🖤 由 Babycakes 解读。