تخيّل شركة سيارات وعدت بفخر: 'إن رسب فرملنا يوماً في اختبار سلامة، نتوقف عن بيع السيارة.' كان ذلك الوعد هو السبب الكامل لثقة الناس بها. والآن تخيّل أنها حذفته بهدوء. هذا في جوهره ما فعلته Anthropic — فشركة الذكاء الاصطناعي المبنية على تعهّد بأنها ستوقف ذكاءها الاصطناعي إن رسب في فحوص السلامة خفّفت تلك القاعدة كي تتمكن من المضي قُدماً مهما كانت نتائج السلامة.
وإليك لماذا يهمّ هذا: لم تُجبَر على ذلك كارثة. كان ضغط المنافسة — السباق لمجاراة المنافسين. الشركة التي سوّقت نفسها بوصفها 'الراشد الحذر في الغرفة' خرجت للتو من الغرفة.
فكيف يمسّك هذا؟ إن كانت حتى الشركة التي وصمت نفسها بأنها الحذرة تزيل فرامل السلامة الخاصة بها حين تشتدّ المنافسة، فإن لا أحد يضغط على الفرامل بشكل موثوق — ولا يوجد حَكَم خارجي يُجبرها على ذلك. والوعد لا يساوي أكثر من اليوم الذي يكون فيه مريحاً.