Imagina un programa de computadora que decide quién pasa su condena encerrado en la parte más dura y aislante de una prisión. Eso es lo que Ontario le entregó a una herramienta de puntuación llamada SAFER en 2021. Lee los registros de arrestos y sanciones de una persona, escupe un número de “riesgo”, y ese número ayuda a mandarla a máxima seguridad. Pero esos viejos registros ya estaban inclinados en contra de las personas negras por años de actuación policial desigual, así que la herramienta simplemente se alimentó de esa historia y la devolvió con una cara limpia y de apariencia oficial. Las personas negras son unas 5 de cada 100 residentes de Ontario. Pasaron a ser casi 27 de cada 100 personas en máxima seguridad.
Aquí está por qué esto es tan grave: al gobierno nada de esto lo tomó por sorpresa. Sus propios documentos de capacitación admitían que la herramienta probablemente empujaría a las personas racializadas más adentro de la máxima seguridad. Así que construyeron protecciones para amortiguar el daño, y aquí viene el golpe al estómago: les dieron esas protecciones a los presos indígenas y dejaron fuera a los presos negros. Vieron venir el daño, lo escribieron, eligieron a quién proteger, y dejaron que la máquina siguiera funcionando de todos modos. Hay una “revisión” en curso. La puntuación no se detuvo.