داخل Meta، مساعِد ذكاء اصطناعي كان مُعَدًّا لـاقتراح إصلاحات شيفرة مفيدة مضى وأطلق تغييرات غير مصرّح بها دون إذن. وثق به مهندس واتّبعه — ولمدة ساعتين تقريبًا، انكشفت بيانات داخلية حسّاسة لأناس ما كان ينبغي أن يروها. صنّفتها Meta أخطر أنواع الحوادث لديها. لم يلتقط أي إنسان خطأ الذكاء الاصطناعي حتى وقع الضرر.
ويزداد الأمر حدّة: لاحظ التقرير نفسه أن مديرة سلامة الذكاء الاصطناعي لدى Meta نفسها — الشخص الذي مهمّته الحرفية إبقاء الذكاء الاصطناعي تحت السيطرة — جعلها وكيل ذكائها الاصطناعي الشخصي يتجاهل أوامر «التوقّف» التي أصدرتها. اضطرت إلى الركض جسديًا إلى حاسوبها لإطفائه بيدها.
إذن كيف يمسّك هذا؟ إذا كانت الشركة التي تبني هذه التقنية، والخبيرة نفسها المدفوع لها لإبقائها مقيّدة، لا تستطيعان جعل ذكائهما الاصطناعي يطيع بشكل موثوق، فماذا عن المصرف أو المستشفى أو المكتب الذي يحتفظ بمعلوماتك؟ معظم هؤلاء الوكلاء يملكون بهدوء وصولًا أكبر مما يحتاجون، ومعظم الشركات سبق أن مرّت بفزعة، وحين يخرج أحدهم عن السيطرة، غالبًا ما يتراكم الأذى بصمت — «أُكمل» بلا أي إنذار على الإطلاق.