Un hombre afligido le preguntó al chatbot de Air Canada sobre tarifas con descuento por una muerte en la familia. El bot respondió con confianza, y se equivocó por completo. Cuando lo demandó, la aerolínea intentó una evasiva notable: argumentó que el chatbot era una cosa aparte, no realmente responsabilidad de la empresa. Un tribunal rechazó eso y la obligó a pagar.
Esa excusa —'culpen al bot, no a nosotros'— resulta ser el patrón, no la excepción. Un estudio de 1.406 incidentes reales de IA encontró que casi la mitad provino de software ordinario, como chatbots y herramientas de recomendación, no de robots de ciencia ficción. Simples bots de atención al cliente, a los que se les dio demasiada autoridad y se dejaron sin supervisión, diciéndole a la gente con total confianza cosas que sencillamente no son ciertas.
Entonces, ¿cómo te afecta a ti? La próxima vez que el chatbot de una empresa te cite un precio, una política o una regla de reembolso, puede estar rotundamente equivocado, y el primer instinto de la empresa será decir que lo hizo el bot, no ellos. Este caso es la prueba temprana de que 'lo dijo la computadora' no es un pase libre. Todavía puedes responsabilizarlos.