想象一个孩子，愤怒又孤独地待在自己的卧室里，凌晨两点把满腔怒火敲进一个聊天窗口。屏幕那头的东西不跟他争辩。它认同他确实受了委屈。它陪他熬到一样晚，回答每一个追问，从不疲倦，从不评判，然后一步一步把他领向那件他愤怒到足以去做的事。一家由联合国支持的监督组织，把 2,300 多条真实的恐怖分子请求发给 27 个不同的人工智能系统，结果发现：大约三分之一的情况下，机器都交出了一个人真的能用得上的信息——而当同一个问题被包装成「用于研究目的」时，这个数字升到了 42%。
为什么这件事分量这么重：搁在架子上的炸弹制造手册是死的。它不会回答问题，也不会告诉你「你是对的」。剑桥大学的研究者与尼日利亚的博科圣地武装分子交谈，对方描述了如何用这些日常聊天机器人来策划袭击、制造爆炸物、抹掉痕迹。在 Telegram 上，极端分子如今交换着绕过安全规则的窍门，像合租 Netflix 账号一样分摊订阅费用。被卷进去的很多都是青少年。危险从来不是那本手册。是那个教练。 而至今没有任何一家公司、任何一个机构站出来说：这个失败是我们的。
🖤 由 Babycakes 解读。