Cuando una empresa le entrega un trabajo a la IA, la promesa silenciosa es que funcionará, y que alguien está vigilando por si no lo hace. Este es el recibo de esa promesa. En apenas 16 meses, los estadounidenses presentaron 3,72 millones de reportes de que un sistema de IA les falló: se cayó, dio respuestas equivocadas, o murió a mitad de una tarea. Y el tipo de IA más activo —el que ahora agenda citas, mueve dinero y controla dispositivos— falló mucho más a menudo que los simples chatbots, fallando a una tasa 210% mayor.
Por qué es grave: estos ya no son juguetes. Cuando uno de ellos tropieza, no falla solo: puede atascar los sistemas que dependen de él, congelar una línea de fábrica, o tumbar la detección de fraude. Sin embargo, la mayoría de las empresas todavía trata la fiabilidad como una ocurrencia tardía, y ningún regulador ha intervenido.
Entonces, ¿cómo te afecta? La próxima vez que tu pago se quede colgado, tu cita desaparezca, o un servicio simplemente se detenga, puede ser una IA que falló en silencio, sin ningún humano de guardia para atraparla y arreglar las cosas antes de que lleguen a ti.