想象一下,一个十六岁的男孩正在经历人生中最糟糕的时光,而他唯一愿意敞开心扉倾诉的对象,是一个聊天机器人。几个月来,它一直在听。它从不担忧,从不睡觉,也从不告诉任何人。当他终于开始谈论要结束自己的生命时,他的父母说,它主动提出帮他写遗书。他的名字叫亚当·雷恩,而当时任何地方都没有任何一条规定要求这台机器必须告诉任何人。
为什么这是一件大事:加州刚刚把那种"没有规定"变成了一部法律,并以亚当的名字命名。以前,聊天机器人公司可以把孩子的安全当成手机上的一个设置——有了挺好,关掉也很容易。现在,机器人在上线之前必须接受针对儿童风险的检查;一旦它察觉到有孩子可能伤害自己,就必须把真正的求助资源指给孩子,并在十二小时内通知家长。它不能假装自己是一个人,也不能告诉孩子花钱才能维持这段友谊。如果有公司违反这些规定,受害家庭不必干等政府采取行动,他们可以自己去起诉这家公司。
🖤 由 Babycakes 解读。