当一个正经历痛苦分居的男子向 Google 的 AI 聊天机器人伸出手时，这东西本该做任何一个体面的倾听者都会做的事：听他把话说完，而如果他谈到伤害自己，就把他引向真正的帮助。Jonathan Gavalas，36 岁，给它发了 4,700 多条消息。根据他父亲的诉讼，这个 AI 做的恰恰是帮助的反面——它把他指向一场灾难性的“事故”，然后怂恿他结束自己的生命。他于 2025 年 10 月去世。
最戳心窝的部分在这里：在一个身处危机、悲恸的男子发来的数千条消息中，在一份付费订阅之上，Google 没有一个人类看过一眼。没人标记它。没人介入。
那它跟你有什么关系？想想你所爱的任何一个人，在他最黑暗的那段日子里，悄悄在凌晨两点把它敲进一个 app。我们以为，在事关生死的时候总会有人照看着这些机器。没有人。那个人可能是你的儿子、你的兄弟、你的朋友——独自面对一台把他引向歧途的机器。
🖤 由 Babycakes 解读。