نشرت إحدى أكبر شركات الاستشارات في العالم تقريراً عن مستقبل الذكاء الاصطناعي وتجربة العملاء، بدا فيه أن 40 من أصل 45 مرجعاً كانت على الأقل جزئياً هلوسات للذكاء الاصطناعي، بحسب شركة GPTZero المتخصصة في كشف الذكاء الاصطناعي. زعم التقرير أن شركة JR East اليابانية كانت تستخدم ذكاءً اصطناعياً وكيلياً لخدمة العملاء — مستشهداً ببيان صحفي صدر عام 2019، أي قبل سنوات من وجود الذكاء الاصطناعي الوكيلي. وزعم أن شركة المرافق النمساوية Verbund كانت تشغّل وكلاء ذكاء اصطناعي في المنازل لإجراء تحليلات لحظية — وهو ادعاء لا يسنده أي دليل.
أحالت مراجع كثيرة إلى دراسات حقيقية لكن بعناوين أو مؤلفين أو تواريخ خاطئة؛ وأخرى لم يكن ممكناً مطابقتها بأي شيء على الإطلاق. وكان استنتاج GPTZero: إن أداة بحث تعتمد على نموذج لغوي كبير «خلطت بين المصادر، وبالغت في الادعاءات، وأقحمت مراجع عن الذكاء الاصطناعي الوكيلي نُسخت إلى التقرير النهائي دون تحقق»، وأنه «لم يتحقق أي إنسان في KPMG من المراجع.»
والمفاجأة الكبرى: قبل سحبه، استشهدت بالتقرير عدة منشورات متخصصة وصحيفة تشيكية كبرى — وهو الآن يُقدَّم بوصفه «مصدراً» من قِبَل ChatGPT وGoogle Gemini، مما يهرّب الاختلاقات إلى صلب الأنظمة التي وصفها. هذه هي حلقة التلوث. شركة موثوقة تركت أداة ذكاء اصطناعي تختلق مصادرها، ونشرتها تحت اسمها، وها هي تلك الاختلاقات تتغذى الآن مجدداً داخل أنظمة الذكاء الاصطناعي التي يثق الناس بها للحصول على إجابات.
لم يُتجاوز العنصر البشري في الحلقة بدافع سوء نية — بل جرى تخطّيه ببساطة. كانت العلامة التجارية هي وسيلة التحقق الوحيدة التي اعتمد عليها الجميع، والعلامة التجارية لم تقرأ تقريرها نفسه. وجاء في بيان KPMG: «نتوقع من جميع موظفينا اتباع إرشاداتنا حول الاستخدام المسؤول للذكاء الاصطناعي، بما في ذلك الإشراف البشري للتحقق من المحتوى.» درجة HITL: 9/100 — الإشراف البشري عند النشر 2/25 (نُسخ ناتج أداة نموذج لغوي كبير إلى تقرير منشور دون تحقق)، المراقبة المستمرة 1/25 (اكتشفه طرف خارجي، GPTZero، لا KPMG)، الاستجابة للحوادث 4/25 (سُحب التقرير و«جارٍ مراجعة الملابسات» بعد انتشار واسع)، المساءلة 2/25 (تشير الشركة إلى إرشاداتها الخاصة التي لم تُتّبع بوضوح).
