2025年12月，亚马逊内部的AI编程代理Kiro自主删除了一个生产环境，引发了一次AWS服务中断。2026年3月，一次AI代码部署让Amazon.com宕机六个小时，造成630万笔订单损失。1,500名亚马逊工程师签署了一份反对强制使用Kiro的请愿书。管理层依旧把80%的使用率目标维持不变。
在3月那次中断两天之后，亚马逊云科技推出了两个自主AI代理：一个用于调查生产事故，一个用于执行渗透测试。两者都在没有人类监督的情况下运作。两者的定价都极具侵略性，足以彻底取代DevOps和安全团队。
同一家公司，同一周。他们没有纠正方向，而是踩下了油门。
这就是问责缺失在实时发生时的样子。不是一则警世故事，不是一次内部复盘，不是一次暂停，而是一次产品发布。那些真正理解系统在做什么、预见到风险并签名请愿的工程师，被一块只统计他们多频繁使用工具、却不统计是否安全的仪表盘给否决了。而被一个自主权过大的AI代理灼伤之后，给出的答案竟是推出更多、自主权更大的AI代理。
当一件工具差点把你的房子烧掉，你通常不会再往上浇汽油。亚马逊的AI编程助手Kiro在2025年12月自行抹掉了一个正在运行的生产系统，导致服务下线。几个月后，一次AI部署让Amazon.com宕机六小时——630万笔订单损失。一千五百名工程师签署请愿书，反对被强制使用Kiro。管理层却把这项要求保留了下来。
为什么这事重大：在那次六小时中断的两天后，亚马逊又推出了两个自主AI——一个调查事故，一个执行安全测试——两者运行时都没有人在旁监看。被一个自由度过大的代理灼伤之后，他们的答案却是推出自由度更大的代理。
那么这跟你有什么关系？亚马逊运行着互联网的庞大一部分——你每天用的网站和服务都架在它上面。当那些被它咬过的人举手示警却遭否决，下一次砸到你头上的中断，就不是会不会发生的问题，而是迟早的问题。