两项稀松平常的业务工作——估算该生产多少产品，以及批准客户退款——被交给了 AI，重大决策却没有人类复核。结果据 CNBC 报道是：一家饮料公司的 AI 超产了数百万件多余的单位，另一套独立的 AI 退款系统开始发放未经授权的退款，速度快得没人来得及拦住。
这之所以重要：这就是所谓“规模化的无声失败”。AI 没有崩溃，也没有弹出报错。它只是悄无声息地一直在做错的事——做太多、付太多——直到那堆损失终于被人注意到。没有人在盯着那个真正要紧的决定。
那么这和你有什么关系？这类浪费和损失不会凭空消失——它们会被算进你支付的价格里。它也是一个朴素的提醒：当一台机器在幕后悄悄经手着订单、退款或库存时，一个错误可能在任何一个人发现之前，就膨胀到骇人的地步。
🖤 由 Babycakes 解读。