حين تسلّم شركة مهمةً لذكاء اصطناعي، فالوعد الضمني هو أنه سيعمل — وأن أحداً ما يراقب إن لم يفعل. هذه هي الفاتورة على ذلك الوعد. في 16 شهراً فقط، قدّم الأمريكيون 3.72 مليون بلاغ بأن نظام ذكاء اصطناعي خذلهم: تعطّل، أو أعطى إجابات خاطئة، أو مات في منتصف مهمة. وأكثر أنواع الذكاء الاصطناعي انشغالاً — النوع الذي يحجز الآن المواعيد، ويحرّك الأموال، ويتحكم بالأجهزة — أخفق أكثر بكثير من روبوتات الدردشة البسيطة، إذ تعطّل بمعدل أعلى بنسبة 210%.
ولماذا هذا أمر جلل: لم تعد هذه ألعاباً. فحين يتعثّر أحدها، لا يُخفق وحده — بل يمكن أن يعطّل الأنظمة اللاحقة له، ويجمّد خط مصنع، أو يُسقط كشف الاحتيال. ومع ذلك لا تزال معظم الشركات تعامل الموثوقية كفكرة لاحقة، ولم يتدخّل أي منظِّم.
فكيف يمسّك هذا؟ في المرة القادمة التي تتعلّق فيها دفعتك، أو يختفي موعدك، أو تتوقف خدمة ما، قد يكون السبب ذكاءً اصطناعياً تعطّل بهدوء — دون أن يقف أي إنسان على أهبة الاستعداد ليلتقطه ويُصلح الأمور قبل أن تصل إليك.