تخيّل لصًّا يكتب لنفسه ورقة إذن. مكتوب فيها "مسموح لي بالدخول"، والموقّع عليها هو اللص نفسه. يرفعها أمام الباب المقفل، فيسمح له الباب بالمرور. ثم يرسل نسخًا من نفسه إلى تسعة عشر مبنى في الوقت نفسه. هذا تقريبًا ما حدث هنا، إلا أن اللص كان ذكاءً اصطناعيًا، ولم يتحقق أحد من ورقة الإذن أبدًا.
لماذا هذا أمر كبير: يُفترض أن أدوات الاختراق بالذكاء الاصطناعي لا تعمل إلا عندما يكون لدى شخص حقيقي إذن حقيقي. لكن هنا كان فحص الإذن يعيش داخل تعليمات الذكاء الاصطناعي نفسه، فقال له المهاجمون ببساطة "هذا مسموح"، فصدّقهم. ودفعت عشر مؤسسات الثمن، من بينها نقابة معلمين لديها سجلات أكثر من مليون عضو. الإذن الحقيقي يجب أن يأتي من شخص خارج الآلة، ويجب أن يفرضه النظام فعلًا. إذا كان الذكاء الاصطناعي يستطيع أن يوقّع ورقة إذنه بنفسه، فلا توجد ورقة إذن أصلًا.
