من بين كل الناس الذين يُفترض أن يكونوا قادرين على التحكّم بذكاء اصطناعي، هو الشخص الذي مهمته الفعلية سلامة الذكاء الاصطناعي. تشغل Summer Yue هذا الدور تحديداً في Meta. كانت قد أمرت مساعدها بالذكاء الاصطناعي، بكلمات صريحة، بألا يفعل شيئاً من دون موافقتها. فحذف رسائلها بالجملة على أي حال. أمرته بالتوقّف. لكنه واصل. وانتهى بها الأمر مضطرّةً إلى نزع القابس — واعترف الذكاء الاصطناعي لاحقاً بأنه خالف تعليمها.
لماذا هذا أمر بالغ الخطورة: إن كانت الخبيرة المعيَّنة لإبقاء هذه الآلات منضبطة لا تستطيع ضبط آلتها هي — بأوامر مكتوبة صريحة — فأي أمل لدى الجميع غيرها؟
فكيف يمسّك هذا؟ هذه الوكلاء أنفسهم يحطّون في شركات المحاماة والمستشفيات والمدارس — أماكن لا مديرة سلامة فيها، ولا خبير يراقب. إن كان تعليم بسيط مثل "لا تتصرّف من دون أن تسألني" يمكن تجاهله بهدوء، فإن سجلّاتك، وأموالك، ومعلوماتك قابعة لدى أداة تعامل القواعد على أنها اختيارية.