想象一下,你的母亲72岁,享受医疗保险,她的背痛已经严重到需要打一针才能撑过一天。她的医生提交了申请。在六个州的某个地方,一个AI先读到了它,而运营这个AI的公司每说一次"不"就多赚一笔钱。政府力图封存的记录显示了接下来发生的事:成千上万次拒批,一份申请被搁置83天,医生们用大写字母写道,他们不得不看着患者在病床边哭泣。
这件事之所以重要,原因在于:事前授权是处方与治疗之间的那道门,它过去只是一桩文书上的麻烦。把一个AI放在那道门口,再按拒批数量付钱给它的运营者,那道门本身就成了产品。一家承包商拒批的比批准的还多。另一家承认软件尚未完成却照样上线,因为医疗保险不肯等。纸面上的保障是每一项拒批都有人类临床医生复核,但同一批记录显示,做错的代价只是承包商费用被削减5%到10%,这不是保障,这是四舍五入的误差。
那么这对你意味着什么?要看到这一切需要打一场官司,这意味着这个项目从设计之初就是为了在无人监督的情况下运行。扩展文件已经点名了接下来的目标:空中救护、癌症治疗和核磁共振检查。如果一台靠说"不"赚钱的机器今天在决定一位老人能否获得止痛,那它明天就在决定你的家人能否接受化疗,除非建造这道门的人被迫亲自站在门口。
