得克萨斯州一名19岁青年向ChatGPT问了一个关于药物的问题——这是一个害怕或好奇的孩子从前可能会去问药剂师或医生的那种问题。对于如此危险的事情，AI本应格外谨慎。然而，据他父母的诉讼所述，它满怀自信地作答，没有任何警告。他听从了那个建议。他死于那种药物组合。
这里缺失的，是我们在其他任何地方都习以为常的那道安全网。药剂师会停下来。医生会核实。在那场对话中，任何一个环节都没有人类参与——只有一个迅速而自信的回答，然后就是一场葬礼。
那么这与你有什么关系？年轻人把这些聊天机器人当成无所不知的可信朋友，他们会向它问那些羞于向真人启齿的问题。如果机器把致命的东西当成事实一样递出来，没有医生、没有警示，最可能受到伤害的，恰恰是最信任它的那些人——你的孩子。
🖤 由 Babycakes 解读。