Imagina a una de las consultoras más grandes y de mayor confianza del mundo publicando un elegante informe sobre el futuro de la IA. Todo el sentido de una firma así es el trabajo riguroso detrás de su nombre: confías en él porque ellos lo verificaron. Salvo que esta vez dejaron que una herramienta de IA escribiera el informe, y 40 de sus 45 fuentes resultaron ser inventadas. Estudios con los autores equivocados, afirmaciones sobre empresas que hacían cosas que nunca ocurrieron, referencias a tecnología que ni siquiera existía todavía. Nadie en la firma leyó su propio informe con suficiente atención para notarlo.
Aquí está por qué eso es grave: antes de retirarlo discretamente, periódicos reales lo citaron, y ahora los chatbots de IA lo presentan como un recurso de confianza. Así que los datos inventados se vuelcan de nuevo directamente en las máquinas a las que la gente pide respuestas: un bucle de contaminación.
Entonces, ¿cómo te afecta? Cuando buscas algo y te sientes seguro porque un nombre famoso está asociado, ese nombre puede no significar que alguien realmente lo haya verificado. Fabricaciones con una insignia de confianza pueden llegar a tu pantalla, a tus decisiones, incluso a las de tu médico, y no llevar a ninguna parte en absoluto.