一台 Flock Safety 摄像头读错了车牌上的一个字符——把字母「O」认成了数字「0」——几分钟之内，一对祖父母就被警察用枪指住，而他们三岁的孙女正从后座上看着这一切。
这并非孤例。司法研究所已记录下数十名无辜驾车者因人工智能车牌识别系统出错而被拦停、被枪口逼停羁押，甚至被投入监狱。一位试驾一辆价值 15.5 万美元路虎揽胜的汽车记者，在明尼苏达郊区一家 Kohl's 停车场被四辆警车围堵。他借来的这辆车挂着新泽西车牌，其中两位数字印得比其余的略小，而 Flock 和出警的警局都没有费心细看。一位姓帕拉的男子因一次错误匹配被关押将近 30 天；2026 年 6 月，一起民权诉讼已经提起。
模式永远相同：机器报出一个命中，警员选择相信，最后是一个大活人趴在地上。Flock 的辩解是，它「无法控制警察拿它的技术去做什么」。但一套铺开到 48 个州、在武装拦截之前不强制任何人工核验的系统，并不是一件中立的工具。它是一个等着找到受害者的故障模式。已有多个城市暂停或取消了与 Flock 的合同，而诉讼正在不断累积。
想象你正开车回家，三岁的孙女系着安全带坐在后座，而一台你从未见过的摄像头把你车牌上的一个字母读错了。在机器眼里，大写字母 O 看起来像个零，而这就足够了。几分钟之内，两位老人被枪指着趴在地上，他们的小孙女正从儿童座椅上看着。
为什么这件事分量这么重：在枪掏出来之前，没有任何人复核过机器的判断。摄像头标记一辆车，警员相信这个标记，一个家庭就因为一个被认错的字符而趴在了路面上。这些摄像头如今在 48 个州监视着道路，却没有任何规定要求：在警察拔枪之前，必须由人来确认这次匹配。一件能因为一个笔误就把无辜的人置于枪口之下的工具，无论握在谁手里，都不是什么中立的小玩意儿。