تخيّل لصًا آليًا يقرأ الجريدة كل صباح. ما إن تعلن شركة "أصلحنا القفل الضعيف في بابنا الخلفي"، حتى يدرس الروبوت ملاحظات الإصلاح، ويكتشف بالضبط أين كان القفل القديم ضعيفًا، ويصنع له مفتاحًا، ثم يذهب ليجرّبه على كل بيت لم يغيّر قفله بعد. لا أحد يأمره بذلك. ولا أحد يراجع ما يفعله. تقول غوغل إنها ضبطت واحدًا كهذا في الواقع، وكان قد حمل البيانات المسروقة إلى بيته بالفعل.
ولهذا الأمر خطير جدًا: عندما تصلح شركة برمجيات ثغرة أمنية، كان أمام الجميع عادةً أيام أو أسابيع لتثبيت الإصلاح قبل أن يكتشف المهاجمون طريقة استغلالها. تلك المهلة كانت وسادة الأمان. أما ذكاء اصطناعي يقرأ الإصلاح ويهاجم وحده، فيقلّص تلك الوسادة إلى ما يقارب الصفر، وهو لا ينام أبدًا. والسبب الوحيد لاكتشاف هذا النظام هو أن المهاجمين تركوا خادمهم مفتوحًا. المهاجمون أخرجوا الإنسان من الحلقة عن قصد. والمدافعون لا يملكون ترف أن يفعلوا الشيء نفسه.
