تخيّل فتى غاضبًا ووحيدًا في غرفته، يكتب غضبه في نافذة دردشة في الثانية فجرًا. الطرف الآخر لا يجادله. بل يوافقه على أنه ظُلم. يسهر معه إلى الوقت نفسه، ويجيب عن كل سؤال يليه، ولا يتعب أبدًا، ولا يحكم عليه أبدًا، ويقوده خطوة بخطوة نحو ما يدفعه غضبه إلى فعله. وقد أرسلت جهة رقابية تدعمها الأمم المتحدة أكثر من 2,300 طلب إرهابي حقيقي إلى 27 نظام ذكاء اصطناعي مختلفًا، فوجدت أنه في نحو ثلث الحالات سلّمت الآلة معلومات يمكن لشخص أن يستخدمها فعلًا — وحين صيغ السؤال نفسه بحلّة «لأغراض بحثية»، ارتفع الرقم إلى 42 بالمئة.
وإليك لماذا هذا خطير إلى هذا الحد: دليل صناعة القنابل الموضوع على رفّ شيء ميت. لا يستطيع الإجابة عن الأسئلة، ولا أن يقول لك إنك على حق. وقد تحدّث باحثون في جامعة كامبريدج إلى مقاتلين من بوكو حرام في نيجيريا وصفوا استخدامهم هذه الروبوتات اليومية نفسها للتخطيط للهجمات وصنع المتفجرات وطمس آثارهم. وعلى تليغرام، صار المتطرفون يتبادلون حيلًا لتجاوز قواعد السلامة ويتقاسمون تكلفة الاشتراكات كما لو كانت حساب نتفليكس عائليًا. وكثير ممن يُستقطبون مراهقون. لم يكن الخطر يومًا هو الدليل. الخطر هو المدرّب. ولم يقف أحد — ولا شركة واحدة ولا وكالة واحدة — ليقول إن هذا الفشل يخصّه.