当一家公司把一份工作交给 AI 时,那份无声的承诺是:它会管用——而且万一不管用,会有人在看着。这就是那份承诺的收据。仅仅 16 个月里,美国人就提交了 372 万份报告,称某个 AI 系统辜负了他们:它宕了机、给了错误答案,或者在任务进行到一半时死掉了。而最忙的那类 AI——如今会预约日程、转移资金、控制设备的那种——出故障的频率远高于简单的聊天机器人,故障率高出 210%。
它之所以是件大事:这些已经不再是玩具了。当其中一个绊倒时,它不会独自失败——它会拖垮自己下游的系统,冻住一条工厂流水线,或者让欺诈检测瘫掉。然而大多数公司仍把可靠性当作事后才想起的附加项,而且没有任何监管者出面。
那它跟你有什么关系?下一次你的付款卡住、你的预约消失,或者某项服务就那么停了,背后也许是一个 AI 悄悄坏掉了——而没有一个人类守在旁边,在出问题波及到你之前把它修好。
