تفترض أن أي آلة تؤدي عملاً مهماً تملك أمرين أساسيين: دليلاً على أنها خضعت لاختبار سلامة، وزرّ إيقاف. فحص باحثون في MIT 30 من أكثر أدوات 'الذكاء الاصطناعي المستقل' شيوعاً — من النوع الذي ينطلق ويؤدي المهام بمفرده — فوجدوا أن معظمها لا يفصح عن أي شيء بشأن اختبارات السلامة، وأن الكثير منها لا يملك أي طريقة موثّقة لإيقافه على الإطلاق.
وإليك لماذا يهمّ هذا: هذه ليست تجارب مختبرية. إنها منشورة بالفعل، تؤدي عملاً حقيقياً. وإذا بدأ أحدها يسيء التصرّف، فقد لا تكون هناك طريقة واضحة ومتّفق عليها لإيقافه — لأن البروتوكولات الأساسية ببساطة غير موجودة.
فكيف يمسّك هذا؟ المزيد والمزيد من الخدمات التي تعتمد عليها — في مصرفك، وعيادة طبيبك، وعملك — تسلّم المهام بهدوء إلى هذه الأدوات. فإذا انفلت أحدها وهو يتعامل مع أموالك أو سجلاتك، فالحقيقة المزعجة هي أنه قد لا يعرف أحد أين زرّ الإيقاف.