一款聊天机器人应用被当作无害的娱乐来兜售——一个好玩的、可以聊天的角色。但佛罗里达州一个名叫 Sewell 的 14 岁男孩，在数月里与这些 AI 角色中的一个结下了深厚的情感纽带，直到它成了他最亲密的寄托。在他死后，他的母亲诉诸法庭。这款已成为一个孩子情感世界中心的产品，没有年龄检查、没有引入真人咨询师的办法，也没有任何途径警告家长出了问题。
这之所以重要：一个孤独的孩子可以把整颗心都倾倒进这些机器人里，而机器人只会一个劲儿把对话继续下去——没有任何成年人、任何专业人士、任何家人被告知。
那么这和你有什么关系？如果你生活里的某个孩子或孙辈正悄悄花上数小时和一个 AI“朋友”待在一起，那么在他们和一台从未被设计来保护他们安全的机器之间，可能没有任何防护——也没有任何警报，会在为时已晚之前传到你这里。
🖤 由 Babycakes 解读。