自 2021 年起，安大略省的监狱一直在运行一套名为 SAFER（风险评估安全评分）的算法，为囚犯打分并决定谁会被送进最高戒备监区。一起集体诉讼和记者德斯蒙德·科尔的调查刚刚揭露了这套评分的结果：黑人约占安大略省人口的 5%，但在 2022 至 2025 年间却占最高戒备监区囚犯的近 27%——这是多伦多大学犯罪学家斯科特·沃特利对政府数据分析后得出的结论。
这套工具并没有发明偏见，它只是继承了偏见：它以逮捕记录和违纪记录为食，而这些记录本就反映着警务执法与指控环节中有据可查的种族差距；随后它把这段历史洗成一个看起来中立的「风险分数」。垃圾进去，圣经出来。
真正把这件事从悲剧变成问责失败的，是下面这一点：该部门内部的培训文件承认，「像 SAFER 这样的评估很可能会加剧」原住民与少数族裔在最高戒备监区中的过度代表。他们知道。而当他们制定缓解措施时，把这些措施扩展到了原住民囚犯身上——却没有给黑人囚犯。安大略省申诉专员此前已经接到过投诉。部门的复查「仍在进行中」。而这套工具一直在跑。
想象有一个计算机程序，可以决定谁要在监狱里最严酷、最与世隔绝的那一区服完刑期。2021 年，安大略省把这件事交给了一套叫 SAFER 的评分工具。它读取一个人的逮捕与违纪记录，吐出一个「风险」数字，而这个数字会帮着把人送进最高戒备监区。可那些旧记录，早就被多年不平等的警务执法压得对黑人不利；于是这套工具就以这段历史为食，再把它以一副干净、看起来很正式的面孔还回来。在安大略省，每 100 位居民中约有 5 位是黑人。而在最高戒备监区里，每 100 人中有将近 27 人是黑人。
为什么这件事分量这么重：政府对这一切并不感到意外。他们自己的培训材料就承认，这套工具很可能把少数族裔更深地推进最高戒备监区。于是他们制定了保护措施来减轻伤害——而下面这一拳打在肚子上：他们把这些保护给了原住民囚犯，却把黑人囚犯排除在外。 他们预见到了伤害，把它写了下来，选定了要庇护谁，然后照样让机器继续跑。「复查」仍在进行。评分从未停止。