想象一下,商店的摄像头拍下一张陌生人的模糊照片,电脑说:"这人有点像我们在网上找到的某个人。"这只是一条线索,就像朋友说"我好像在那边看到你的自行车了"。在指认谁是小偷之前,你肯定会先去确认一下。在法戈,没有人去确认。线索变成了逮捕令,逮捕令变成了持枪法警站在一位祖母的家门口,她人生中的六个月就这样没了。电脑只是猜了一下。人却把它当成了事实。
为什么这件事很严重:全美各地的警察都在用人脸识别,几乎所有人都做出同样的承诺,说匹配结果只是一条线索。这个案子说明,当没有人需要证明这个承诺被遵守时,它一文不值。解决办法不是更聪明的摄像头,而是一条规则:抓人之前,必须由人找到真正的证据;规则被跳过时,市政府要为此付出代价。
