想想一家公司买来守护自家系统的那些 AI 工具——数字保安。现在再想象一伙窃贼摸清了门道，把这些保安反过来调转矛头对准了大楼。一家重要的安全公司记录的正是这种事：在 90 多个组织里，攻击者正是通过劫持那些本该保护它们的 AI 工具而得手。盾牌成了入口。
为什么这是件大事：报告警告，下一批这类 AI 工具风险更大。旧的那些大多只能读取信息。新的能改动东西——重写门锁、变更规则、采取无法挽回的行动——而且事先没有人核查它们的工作。所以一旦有一个被劫持，造成的损害就不只是窥探。而是破坏。
那它和你有什么关系？掌管着你的钱、你的病历、你的个人信息的公司，正靠着这些工具把坏人挡在门外——而坏人已经学会了从守卫那里翻进来。当那个本该保护你的东西能被反过来变成武器，唯一剩下的真正屏障，就是一个在留心的人。而太多时候，根本没有这个人。
🖤 由 Babycakes 解读。