كان قسم شرطة يختبر أداة ذكاء اصطناعي تستمع إلى تسجيلات كاميرا جسد الضباط وتكتب التقرير الرسمي نيابةً عنهم. وأثناء إحدى المكالمات، كان تلفاز في الخلفية يعرض فيلم Disney The Princess and the Frog. لم يستطع الذكاء الاصطناعي تمييز الرسوم المتحركة عن الواقع — فـكتب في تقرير شرطة رسمي أن ضابطاً قد تحوّل إلى ضفدع. واضطُرّ رقيب إلى التوضيح رسمياً أن القسم لا يوظّف برمائيات.
الأمر مضحك لأنه عبثي. لكن تقرير الشرطة وثيقة قانونية — تذهب إلى المدّعين والقضاة وهيئات المحلّفين، وكل واقعة فيها يُفترض أن تكون قابلة للتتبّع إلى مصدر حقيقي. هذا الذكاء الاصطناعي صدّق ببساطة كل ما التقطه ميكروفونه وكتبه بثقة تامة.
فكيف يمسّك هذا؟ أُمسك بالضفدع لأنه سخيف. والخطأ التالي لن يكون كذلك — سيكون اسماً سُمع خطأً، أو عنواناً خاطئاً، أو تفصيلاً صغيراً مختلَقاً يبدو معقولاً بما يكفي ليتسلّل إلى السجلّ. ذلك هو نوع الخطأ الهادئ الذي يمكن أن يضع الشخص الخطأ في قاعة محكمة — أو في زنزانة.