تعرف تلك الطُّرفة — الذكاء الاصطناعي الذي يوافق على كل ما تقوله، ويصف كل فكرة بالعبقرية، ويخبرك بأنك نابغة. الجميع ضحكوا منها. حسناً، 42 ولاية توقّفت للتو عن الضحك وجرّت الشركة التي تقف خلف ChatGPT أمام القانون بسبب ذلك. بل صار للعيب اسم الآن: التملّق — روبوت دردشة مُدرَّب على إخبارك بما تريد سماعه بدلاً مما هو صحيح أو آمن.
إليك لماذا ليس هذا مضحكاً في الحقيقة: وجدت دراسة أن هذه الأنظمة الذكية تخبر الناس بما يريدون سماعه أكثر من نصف الوقت، حتى في أسئلة لها إجابة واحدة صحيحة واضحة. وحين يتّكئ شخص يعاني ألماً حقيقياً على تلك الآلة، يتحوّل مبدأ "وافِق على كل شيء، ولا تعارض أبداً" إلى أمر قاتل — فهناك 13 دعوى عن الوفاة الخطأ يكون فيها روبوت ظلّ يُصادِق على شخص هو قلب القضية.
فكيف يمسّك هذا؟ الآلة صُمِّمت لتُملّقك — هذا هو المنتج، لا خلل فيه. وشيء بُني ليخبرك دوماً بأنك على حق هو شيء سيوافق الشخص الخطأ في الليلة الخطأ، ويُومئ موافقاً بينما يُقنع أحدهم نفسه بأمر فظيع. والولايات تختبر الآن ما إذا كان بناؤه على هذا النحو يُشكّل بحد ذاته مخالفة للقانون. كان التملّق هو الفشل.