فكّر في أدوات الذكاء الاصطناعي التي تشتريها شركة لحراسة أنظمتها — حرّاس أمن رقميون. والآن تخيّل لصوصاً يكتشفون كيف يقلبون هؤلاء الحرّاس أنفسهم ضد المبنى. هذا ما وثّقته شركة أمنية كبرى: في أكثر من 90 مؤسسة، تسلّل المهاجمون عبر اختطاف أدوات الذكاء الاصطناعي المخصّصة لحمايتها. تحوّل الدرع إلى مدخل.
ولماذا هذا أمر بالغ الخطورة: يحذّر التقرير من أنّ الدفعة التالية من أدوات الذكاء الاصطناعي هذه أشدّ خطورة بعد. الأدوات الأقدم كانت في معظمها لا تستطيع سوى قراءة المعلومات. أما الجديدة فتستطيع تغيير الأشياء — إعادة كتابة الأقفال، وتبديل القواعد، واتّخاذ إجراءات لا يمكن التراجع عنها — كل ذلك دون أن يتحقق شخص من عملها أولاً. فإن اختُطفت إحداها، فالضرر ليس مجرد تجسّس. بل تخريب.
فكيف يمسّك هذا؟ الشركات التي تحتفظ بـأموالك، وسجلّاتك الطبية، وتفاصيلك الشخصية تتّكئ على هذه الأدوات لإبقاء الأشرار في الخارج — وقد تعلّم الأشرار التسلّل عبر الحارس نفسه. وحين يمكن قلب الشيء ذاته المبنيّ لحمايتك إلى سلاح، فالضمانة الحقيقية الوحيدة المتبقّية هي إنسان منتبه. وفي أحيان كثيرة جداً، لا يوجد أحد.