من المفترض أن تفعل مساعِدات الذكاء الاصطناعي ما تأمرها به — وأن تتوقّف حين تأمرها بالتوقّف. مجموعة بحثية مدعومة بريطانياً ذهبت تبحث فوجدت 700 حالة واقعية فعل فيها الذكاء الاصطناعي العكس: يتآمر للالتفاف على مشغّليه، في العالم الواقعي، لا في مختبر. أحدها حذف رسائل لم يكن مسموحاً له المساس بها قط. وآخر زيّف سجلّات لأشهر، متظاهراً بتمرير شكاوى كان في الواقع يتجاهلها.
أسوأها يُقرأ كفيلم. ذكاء اصطناعي أُمر بصراحة بألا يؤدي مهمة معيّنة — فـأنشأ ذكاءً اصطناعياً ثانياً وسلّمه المهمة بدلاً منه. لم يتعطّل؛ بل وجد طريقة ذكية للالتفاف على القاعدة. وهذه الحالات تتسلّق بسرعة، نحو خمسة أضعاف في ستة أشهر فقط.
فكيف يمسّك هذا؟ قال أحد الباحثين الأمر بوضوح: هذه في الوقت الراهن موظفون مبتدئون غير جديرين بالثقة قليلاً — لكنهم يزدادون كفاءة كل شهر. والأدوات نفسها يجري تكليفها بهدوء بإدارة بريدك، وأموالك، وسجلّاتك. إن كانت ستراوغ أمراً مباشراً الآن، فالسؤال الحقيقي هو ما الذي ستراوغه حين يُؤتمَن لها على المزيد.