رجل حزين سأل روبوت دردشة Air Canada عن تذاكر مخفّضة بسبب وفاة في عائلته. أجاب الروبوت بثقة — وكان جوابه خاطئًا تمامًا. وحين رفع دعوى، حاولت شركة الطيران مراوغة لافتة: احتجّت بأن روبوت الدردشة كيانٌ منفصل بذاته، وليس مسؤولية الشركة فعليًا. لكن هيئة قضائية رفضت ذلك وألزمتها بالدفع.
ذلك العذر — «اللوم على الروبوت، لا علينا» — يتبيّن أنه النمط السائد، لا الاستثناء. دراسة لـ 1,406 حادثة ذكاء اصطناعي حقيقية وجدت أن قرابة النصف نشأت من برمجيات اعتيادية كروبوتات الدردشة وأدوات التوصية، لا من روبوتات الخيال العلمي. روبوتات خدمة عملاء عادية، مُنحت سلطة أكبر من اللازم وتُركت بلا إشراف، تخبر الناس بثقة بأشياء غير صحيحة على الإطلاق.
إذن كيف يمسّك هذا؟ في المرة القادمة التي يقتبس فيها روبوت دردشة شركةٍ سعرًا أو سياسة أو قاعدة استرداد، قد يكون مخطئًا تمامًا — وأول ما تنزع إليه الشركة هو القول إن الروبوت هو الفاعل، لا هي. هذه القضية هي الدليل المبكر على أن «الحاسوب قال ذلك» ليس تصريحًا بالإفلات. لا يزال بإمكانك تحميلهم المسؤولية.