تخيّل شركة بنت سمعتها كلها على كونها الجهة الحذرة التي تضع السلامة أولاً في صناعة متهوّرة — الراشد الوحيد في الغرفة. ثم وصمها الجيش الأمريكي بأنها خطر، وهو تصنيف قد يكلّفها مليارات الدولارات. فأسقطت الشركة نفسها تعهّدها العلني بالسلامة وذهبت إلى المحكمة لتشقّ طريق عودتها إلى رضا الجيش.
وإليك لماذا يهمّ هذا: انظر إلى التسلسل الزمني — إزالة وعد السلامة، ثم الإدراج على القائمة السوداء، ثم دعوى قضائية، كل ذلك في ثلاثة أشهر. حين يكون مال حقيقي على المحك، تنحني العلامة التجارية للسلامة بسرعة. هذه شركة سوّقت نفسها بوصفها ضمير الذكاء الاصطناعي، وها هي الآن تقاضي من أجل الإيرادات.
فكيف يمسّك هذا؟ إنه درس بسيط وقاسٍ: الشركات التي تَعِد بأنها ستُبقي الذكاء الاصطناعي آمناً بنفسها ستُليّن تلك الوعود بهدوء لحظة أن تُهدَّد جيوبها. لا يمكنك الاعتماد عليها لتراقب نفسها — وهذا بالضبط سبب وجوب وجود مساءلة من الخارج.