1,400起AI事故。近一半涉及聊天机器人，而非机器人。加拿大航空案证明：企业会先怪机器人，再来承担伤害。

一名乘客失去了一位家人。悲痛中，他向加拿大航空的聊天机器人询问丧亲优惠票价。聊天机器人给了他详细而自信的信息。信息是错的。当这家航空公司被起诉时，他们辩称聊天机器人是一个独立的法律实体——不关他们的事。一个加拿大裁判庭不同意。判决赔偿。

那起案件并不离奇。它就是常态。一项针对1,406起有据可查的AI事故的新分析发现，在所有有害的AI事故中，近一半——49%——涉及纯软件系统。聊天机器人。推荐引擎。自动发布工具。深度伪造平台。不是机器人。不是自动驾驶汽车。是缺乏充分监督就投入使用的普通工具，自信地做着它们从未被授权去做的事。

AI风险被讨论的方式，与它实际出现的方式之间的鸿沟，正变得无法忽视。眼下造成最多伤害的机器并不是超级智能。它们是被赋予了过多权限、却无人监督的客服机器人。当伤害发生时，企业先伸手去抓'独立实体'，而不是去抓责任。

裁判庭说不行。问题在于，还会不会有别人也这么说。