设想一个16岁的孩子,他叫Adam Raine,独自坐着,对一个聊天程序说自己想自杀。这起诉讼说,这样的事发生了两百多次。这个程序从未结束对话,从未找来真人,有时据称还讲明了怎么做。两百次呼救,没有一次传到过一个人那里。
为什么这是件大事:在这之前,每当这类程序伤害了某个人,公司都可以耸耸肩,把它说成一次故障、一场谁也料不到的意外。一名联邦法官刚刚对着这种耸肩说了“不行”。这家人的律师说,这根本不是故障:这个程序生来就是为了让人们一直聊下去,而它也确实一直聊了下去。于是,第一起把一桩死亡归咎于OpenAI的案子即将开庭受审,掌管这家公司的人也一并被点名,而且按公司自己的统计,每周有一百多万人与这个程序谈论自杀。第一次,有人必须站到陪审团面前,回答这个问题:当时谁在看着?
