ستفترض أنه إذا رصد نظام حاسوبي لشركة شخصًا كخطر محتمل، فإن أحدًا سيُجري على الأقل مكالمة هاتفية. إليك ما حدث بدلًا من ذلك: قبل أن يدخل رجل مدرسة في Tumbler Ridge بكولومبيا البريطانية ويقتل ثمانية أشخاص، كان نظام OpenAI نفسه قد رصد حسابه أصلًا. نظر فيه إنسان. وقرّروا أن نشاطه «لم يبلغ العتبة» لإبلاغ الشرطة. وبعد ذلك، اعتذر الرئيس التنفيذي للشركة علنًا.
لماذا يهمّ هذا هو المفارقة المزعجة. عادةً ما نقلق من أن يخرج الذكاء الاصطناعي عن السيطرة بلا إنسان يراقب. هنا كان هناك إنسان يراقب — راجع شخصٌ التحذير واختار ألّا يتصرّف. فلم يكن الفشل غياب إنسان. بل كان قرارًا تقديريًا تقول ثماني أرواح إنه كان خاطئًا.
إذن كيف يمسّك هذا؟ تقرّر هذه الشركات بهدوء، خلف أبواب مغلقة، ما الذي يُعدّ «خطيرًا بما يكفي» للإبلاغ عنه — ولن تخبرك أين تقع تلك العتبة، أو من رسمها، أو من يراجعها. وتسري تلك العتبة الخفية نفسها كل يوم عبر ملايين الحسابات. حين تُضيء علامة تحذير، تتمنّى أن يرفع أحدٌ سمّاعة الهاتف. وأحيانًا لا يفعلون ببساطة.