Cuando te acusan de un delito, el fiscal es la persona más poderosa de tu vida. Lo que le dice al juez ayuda a decidir si duermes en tu casa o en una celda. En el condado de Nevada, California, los fiscales dejaron que una IA ayudara a escribir esos documentos — y la IA inventó un caso judicial que no existe, en un escrito que pedía mantener a un hombre en prisión. No fue una sola vez, por accidente: las falsedades atravesaron cuatro causas penales durante dos meses, y nadie en la oficina las detectó.
Esta es la parte que más debería molestarte: una fiscal joven quiso decir la verdad. Cuenta que pidió reportar los errores y disculparse ante el tribunal, la defensa y las personas contra quienes se usaron esos escritos — y su supervisor le dijo que no. La oficina no tenía política de IA, ni capacitación, y la dirección empujaba a abogados de primer año a usar la herramienta de todos modos. Cuando los errores salieron a la luz, el primer movimiento de la oficina fue argumentar que debía quedar protegida del castigo.
¿Y en qué te toca a ti? Un abogado privado que presenta una cita falsa de IA paga una multa. Cuando lo hace un fiscal, alguien puede perder su libertad — y el disparate confiado de la máquina llega vestido con la autoridad del Estado. La Corte Suprema de California ha vuelto a abrir la puerta a las sanciones, y un juez ha sido designado para averiguar qué tan hondo llega. La pregunta que cada condado debería hacerse es la que el condado de Nevada nunca se hizo: ¿quién revisa a la máquina antes de que sus palabras se conviertan en la razón por la que una persona sigue en una jaula?