当你被指控犯罪时,检察官就是你人生中权力最大的人。他们对法官说的话,直接影响你是睡在家里还是睡在牢房里。在加州内华达县,检察官让 AI 帮忙起草这些文件——AI 凭空捏造了一个不存在的判例,出现在一份要求继续关押一名男子的文书里。这不是偶然的一次:虚假内容贯穿了四起重罪案件、持续两个月,办公室里没有一个人发现。
最让人不安的是这一段:一位年轻检察官想说出真相。她说自己请求上报这些错误,向法庭、辩方和被这些文书针对的人道歉——而她的上司说不行。这个办公室没有 AI 政策、没有培训,领导层却在推动第一年的律师使用这个工具。错误曝光后,办公室的第一反应是主张自己应该免受处罚。
这和你有什么关系?私人律师提交一条假的 AI 引用,付一笔罚款了事。而当检察官这么做时,有人可能失去自由——机器一本正经的胡说八道,披上了国家权力的外衣。加州最高法院已经重新打开制裁之门,一名法官已被指派去查清问题有多深。每个县都该问的问题,正是内华达县从未问过的那个:在机器的话成为一个人继续被关在笼子里的理由之前,谁在检查这台机器?
