想象有一个机器人小偷,每天早上都看报纸。一旦某家公司宣布"我们修好了后门那把不牢靠的锁",机器人就去研究维修记录,弄清楚旧锁到底哪里不牢靠,配出一把钥匙,然后挨家挨户去试那些还没换锁的房子。没有人命令它。也没有人检查它做了什么。谷歌说,它刚刚抓到了一个真实存在的这种机器人,而且它已经把偷来的数据带回家了。
这件事为什么这么严重:过去,软件公司修补一个安全漏洞之后,其他人通常有几天甚至几周的时间去安装补丁,攻击者才会想出怎么利用它。这段时间就是安全缓冲。一个能读懂补丁、自己发动攻击的AI,把这段缓冲几乎压缩到零,而且它从不睡觉。这一次之所以能被发现,唯一的原因是攻击者自己的服务器没上锁。攻击者是故意把人类排除在外的。防守的一方绝不能这样做。
🖤 由 Babycakes 解读。
