Sullivan and Cromwell，世界上历史最悠久、最负盛名的律师事务所之一，向纽约一名联邦法官提交了含有 AI 编造内容的法庭文件。捏造的案例引证。根本不存在的法律出处。他们提交了一封紧急信函，恳求法官不要对他们施以制裁。
这不是圣地亚哥某个单打独斗的执业者。这不是一家偷工减料的小事务所。Sullivan and Cromwell 曾为巴拿马运河提供法律顾问。他们经手过安然公司的倒闭。他们是这个星球上最顶尖的五家律所之一。而他们向一家联邦法院提交了虚假引证，只因为在文件提交之前没有人核实 AI 生成了什么。
由 HEC Paris 和 Sciences Po 维护的一个法律文书 AI 编造内容数据库，如今已收录了超过 1,300 起法律裁决中有据可查的实例。1,300 起。这个数据库一年前才上线。
Brigandi 一案，是对一位圣地亚哥单打独斗执业者处以 11 万美元的制裁。Sullivan and Cromwell 面对的，是一家联邦法院的不满和一场声誉上的灾难。事务所不同。失败的方式却一模一样。AI 产生了输出。没有人核实。它被递交到了法庭。
问题不是这种事是否正在你的事务所发生。而是是否有人在核查。
律师本该反复检查自己的工作——尤其是那些有名、收费高昂的律师。所以这件事让人一惊：这个星球上最顶尖的律师事务所之一，Sullivan & Cromwell——那家经手过安然公司倒闭的事务所——向联邦法院提交的文件里，引用了根本不存在的法庭案例。是一个 AI 编造了它们，律师没有发现，文件就递到了法官面前。他们不得不发去一封紧急信函，恳求不要受罚。
为什么这很重要：这可不是哪家偷工减料的小作坊。如果一家顶级律所放任 AI 编造虚假事实、未经核查就溜进法庭，那问题就不止是一个粗心的律师。一份持续更新的统计已经记录了超过 1,300 起 AI 伪造法律文书的案例——而这份名单才刚满一岁。
那它和你有什么关系？想象一下，你的官司、你的抚养权争夺、你的纠纷，全压在没人费心核实过的文件上——里面满是 AI 凭空想象出来的案例。无论它是对的还是在彻头彻尾地编造，这台机器听起来都自信而权威。挡在你和那些自信的胡话之间的，唯有一个真正去核查的人。而在这件事里，连最优秀的也没有去做。