Un departamento de policía estaba probando una herramienta de IA que escucha las grabaciones de las cámaras corporales de los oficiales y escribe el informe oficial por ellos. Durante una llamada, un televisor de fondo reproducía la película de Disney La princesa y el sapo. La IA no pudo distinguir la caricatura de la realidad — así que escribió en un informe policial oficial que un oficial se había convertido en rana. Un sargento tuvo que aclarar formalmente que el departamento no emplea anfibios.
Es gracioso porque es absurdo. Pero un informe policial es un documento legal — va a fiscales, jueces y jurados, y se supone que cada hecho en él debe ser rastreable hasta una fuente real. Esta IA simplemente creyó todo lo que captó su micrófono y lo escribió con total confianza.
Entonces, ¿cómo te afecta? La rana fue detectada porque es ridícula. El próximo error no lo será — será un nombre mal escuchado, una dirección equivocada, un pequeño detalle inventado que suena lo suficientemente plausible como para colarse en el registro. Ese es el tipo de error silencioso que puede poner a la persona equivocada en un tribunal — o en una celda.