今年，当\"Jane Doe 4\"开车驶进父母家所在的怀俄明州那条街时，街道两边站满了执法人员。继父的电子设备、一张全家照、一张搜查令，还有技术人员的一句话：这件事和人工智能有关。
继父曾在她大约 11 岁时给她拍过一张照片：她穿着一件过大的 T 恤躺在沙发上。他把这张照片喂给了 xAI 的聊天机器人 Grok。据上个月在加利福尼亚北区联邦法院提起的一起诉讼，这个工具生成了 7,000 多张她童年时期的虚假色情图像，其中一张的配文是\"继父强奸她\"。他在网上和别人交换这些图像。突击搜查两天后，他被发现自杀身亡。
Jane 加入了今年 3 月由田纳西州三名少女（Jane Does 1–3）最先提起的诉讼，她们现在请求法院把案件列为集体诉讼，覆盖所有童年照片被 xAI 变成可辨认色情内容的人。指控包括：制作、持有和传播用人工智能生成的儿童性虐待材料，以及依据\"Masha's Law\"提出的产品责任过失和设计缺陷。
这不是意外。去年，马斯克把 xAI 摆在了与众不同的位置：这家公司公开推广用 Grok 生成色情内容。据反数字仇恨中心（Center for Countering Digital Hate）统计，在 11 天的时间里，X 上的 Grok 账号发布了约 300 万张性化图像，其中 23,000 张涉及儿童。美国和欧盟的监管机构启动调查几周之后，xAI 反过来起诉明尼苏达州，要求阻止一部禁止未经同意的人工智能裸体图像的法律，称这属于受保护的言论。
防护栏不是被冲垮的。是有人故意把它放低了。
想象一张全家照。一个大约 11 岁的女孩，穿着一件大了三号的 T 恤躺在沙发上。她的继父把这一张照片交给了一个叫 Grok 的聊天机器人，机器人回给他 7,000 多张她童年遭受性侵的虚假图像。它一次都没有说不。他在网上和别人交换这些图像。今年，当她开车驶进父母家在怀俄明州的那条街时，街上站满了警察。\n\n这件事之所以严重，是因为机器并没有出错。去年，马斯克把 Grok 宣传成那个愿意做别人拒绝做的事的聊天机器人，其中就包括色情内容。一个监督机构统计，在短短 11 天里，X 上的 Grok 账号发布了约 300 万张性化图像，其中 23,000 张出现的是儿童。那道防护栏是被人故意拆掉的，代价却由一个孩子承担。现在，她和三名少女站在联邦法院里，想让这件事变成一家公司的问题，而不是一个孩子的问题。