一所顶尖商学院，沃顿，坐下来为今年初几起真实的 AI 失败写了份验尸报告——其中一起涉及一家公司用人们的声纹来确认身份（就像某些银行让你用'我的声音就是我的密码'那样）。他们的发现既直白又有点吓人：在公司使用 AI 与公司真正把它管住之间，存在一道真实的、可以衡量的鸿沟。工具被打开了。而监督只是被想当然地以为存在。它往往并不存在。
为什么这很重要：当一所受人尊敬的商学院开始撰写正式的事后剖析，那就是一个信号，说明这些不是罕见的偶发事故——而是一种正在各行各业显现的模式。人们在篡改这些系统，给它们喂错误信息，扭曲它们的答案——而防护措施却落在后头。
那它和你有什么关系？越来越多地，你的身份、你的账户、甚至你的声音，正由公司推行得比想清楚如何治理还要快的 AI 来核验和处理。研究这件事的人给出的教训很不客气：别因为技术看起来光鲜，就以为有人在看着摊子。'我们以为有人处理好了'，恰恰就是麻烦开始的方式。
🖤 由 Babycakes 解读。