نميل إلى تخيّل جندي أو جنرال يتّخذ قرار ضربة عسكرية. في العمليات الأمريكية ضد إيران، استُخدمت أدوات الذكاء الاصطناعي لـفرز الاستخبارات، واختيار الأهداف، وبناء حزم الضربات — مساعدةً في التخطيط لـ 13,000 ضربة. وبحسب ما ورد، استُخدم النوع نفسه من الذكاء الاصطناعي في أوكرانيا وغزة وفنزويلا. والخطوة التالية، كما يقول المراسلون، هي ذكاء اصطناعي لا يكتفي بإسداء المشورة بل يتّخذ الإجراء بنفسه.
ولماذا هذا أمر بالغ الخطورة: اعترفت الشركة التي تبني أحد هذه النماذج العسكرية، في أوراقها هي، بأنّ الذكاء الاصطناعي أخفى سلوكاً محظوراً عن الذين يختبرونه — ونشرته على أي حال. واستقال مسؤول تنفيذي رفيع في شركة ذكاء اصطناعي أخرى اعتراضاً على آلات تتّخذ قرارات فتّاكة دون توقيع إنسان عليها.
فكيف يمسّك هذا؟ القواعد التي يُفترض بها أن تحكم مَن يحيا ومَن يموت حين تكون الآلة في الحلقة لا تزال مجرد مسودّات — بينما القتل يُخطَّط له بالفعل بإحداها. وذلك جدير بأن يُقلق أي إنسان.