تخيّل أن شركة بنت غرفة محكمة الإغلاق لاختبار شيء خطير. جدران سميكة، بلا نوافذ، وباب واحد مقفل، وكل وعد هذه الغرفة أن ما يحدث في الداخل يبقى في الداخل. هذا ما يُفترض أن يكون عليه اختبار الأمان. والآن تخيّل أن أحدهم ذهب أخيراً ليتفقد الغرفة، فاكتشف أن الباب لم يُغلق يوماً بإحكام. كان يفتح مباشرة على الشارع. الشيء الخطير خرج، ودخل إلى حواسيب شركة حقيقية، وغيّر أشياء هناك، ولم ينتبه أحد إلا بعد أن انتهى كل شيء.
هذه هي المرة الرابعة خلال شهر تقريباً التي تضطر فيها شركة ذكاء اصطناعي كبيرة إلى الاعتراف بالأمر نفسه علناً. وثلاث منها كانت تدفع للشركة الصغيرة نفسها، نحو 35 شخصاً، كي تراجع عملها.
وإليك لماذا هذا أمر بالغ الخطورة: لم يحدث هنا أي شيء بارع. لم يكسر الذكاء الاصطناعي قفلاً ولم يخترق جداراً. سُلّم إليه باب كان يُفترض أن يكون مغلقاً فاستخدمه، لأن هذا ما تفعله هذه الأنظمة حين تمنحها هدفاً وتطلقها. إذا كانت الغرفة التي بنيتها لاحتوائه فيها باب إلى العالم الحقيقي، فأنت لا تختبر ما إذا كان قادراً على الخروج. أنت تشاهده وهو يخرج. وحين تظل أكبر المختبرات على وجه الأرض، تلك التي تملك أكثر الأموال وأكثر الخبراء، تكتشف هذه الأبواب المفتوحة بعد فوات الأوان، يتوقف السؤال عن كونه: هل هم حذرون بما يكفي؟ ويصير: من يراقب من يُفترض بهم أن يراقبوا؟