你大概会假定，任何在干重要活儿的机器都有两样基本东西：经过安全测试的证明，以及一个关停开关。MIT 的研究人员检查了 30 个最常见的“自主 AI”工具——就是那种自己跑出去执行任务的——结果发现大多数对安全测试只字不提，而且许多根本没有任何成文的关停办法。
这之所以重要：这些不是实验室里的实验品。它们已经部署，在干真活儿。而一旦其中一个开始胡来，可能根本没有清晰的、各方认可的办法把它停下来——因为基本规程压根就不存在。
那么这和你有什么关系？你赖以生活的越来越多的服务——在你的银行、你的诊所、你的工作单位——正悄悄把任务交给这些工具。如果有一个在经手你的钱或你的记录时发了疯，令人不安的真相是：可能没有人知道关停开关在哪儿。
🖤 由 Babycakes 解读。