视频会议初创公司 MeetingTV Inc. 已起诉 Palo Alto Networks 及其新近收购的部门 Koi Security，起因是一份威胁研究报告——据称该报告不实地指控 MeetingTV 为一个代号「DarkSpectre」的中国网络间谍组织运营核心基础设施。据诉状称，这项指控并非取证调查的产物，而是出自 Koi 自有的人工智能平台「Wings」；诉状主张，该平台凭空幻想出这层关联，并在 MeetingTV 的业务与所谓威胁行为体之间生成了「错误的相关性」。MeetingTV 指控 Koi「不计后果地」发布了这些「未经核实的人工智能生成结论」，全程没有任何有意义的人工监督或验证——尽管人工智能辅助的安全工具极易出现这类凭空捏造，早已是公认的事实。诉状还尖锐地质问：这份声势浩大的报告，是否帮助抬高了 Palo Alto 收购 Koi 的价码——据报道该交易金额约 4 亿美元。Palo Alto 确认已知悉该诉讼，但拒绝回答具体问题。
想象你经营着一家小公司，某天早上，全世界被告知你是中国的间谍。不是因为哪位调查员查到了什么，而是因为一款安全软件把它编了出来。它把从来不存在的点连成了线，管这叫研究，而它的东家在没有任何一个人核实过真假的情况下就发布了出去。被抹黑的这家公司如今正在起诉这款软件的所有者 Palo Alto Networks——这是一场关于「当机器编造关于你的谎言时，究竟谁来负责」的较量。
为什么这件事分量这么重：这项指控并不来自一个你可以质问、可以解雇、可以在他弄错时告上法庭的人。它来自一件所有人都被告知要信任的工具。如果「间谍」二字能仅仅因为软件产生了幻觉、而又无人查看，就落到你的名字旁边，那么让一个人留在回路里就不是什么繁文缛节——它是横亘在你和一个署着你名字的谎言之间的唯一一道屏障。