أخبر مستشار في الذكاء الاصطناعي موقع Axios بأن أحد عملائه من المؤسسات تكبّد فاتورة قدرها 500 مليون دولار مقابل Claude في شهر واحد. ليس في سنة. بل في شهر.
لم يكن هناك احتيال، ولا اختراق، ولا جهة مارقة. وزّعت الشركة تراخيص الذكاء الاصطناعي على موظفيها دون أي حدود للاستخدام، ولا سقوف للإنفاق، ولا ضوابط على كيفية استهلاك الموظفين لموارد الذكاء الاصطناعي. وتدرّج المهندسون من أسئلة سريعة لروبوت الدردشة إلى تدفقات عمل آلية ضخمة متعددة الخطوات تعمل على مدار الساعة. وظل العدّاد يدور بلا توقف. وبحلول الوقت الذي نظر فيه أحدٌ إلى الفاتورة، كان نصف مليار دولار قد تبخّر.
هكذا يبدو نشر ذكاء اصطناعي دون أي إنسان في الحلقة على دفتر الموازنة. فعلت التقنية تماماً ما أُمرت به. كان الإخفاق في الحوكمة: لا بوابة عند النشر، ولا مراقبة للاستهلاك، ولا أحد مسؤول عن متابعة الرقم وهو يتصاعد. ويُقال إن استخدام الذكاء الاصطناعي لكل مطوّر قفز نحو 18 ضعفاً في تسعة أشهر مع أتمتة تدفقات العمل — والفجوة بين «منحنا الجميع حق الوصول» و«وضعنا القواعد» أصبحت الآن هاوية مالية.
500 مليون دولار من نوع المال الذي ينهي مسارات مهنية، ويقتل الموازنات، ويظهر في تقرير 10-K. تبخّر لا لأن الذكاء الاصطناعي خطير، بل لأن طبقة الإشراف لم تُبنَ قط. وتلك هي أطروحة 38 Flags بأكملها، مكتوبة في فاتورة واحدة.
درجة HITL: 24/100 — الإشراف البشري عند النشر 3/25 (طُرح الوصول إلى الذكاء الاصطناعي على الموظفين دون أي سقوف إنفاق، ودون أي حدود لكل مقعد، ودون أي بوابات موافقة؛ والنشر دون إنسان يحدد الحدّ هو الإخفاق المثالي في الحوكمة)، المراقبة المستمرة 4/25 (بلغت الفاتورة 500 مليون دولار قبل أن يلاحظ أحد — لا لوحة استهلاك لحظية، ولا تنبيه إنفاق، ولا عتبة محفِّزة)، الاستجابة للحوادث 7/25 (اكتُشفت المشكلة في النهاية وكشف عنها مستشار، بعد وقوعها، دون أي مفتاح إيقاف للإنفاق المنفلت)، المساءلة 10/25 (الضوابط اللازمة لمنعه — حدود الاستخدام، الموازنات، الوصول القائم على الأدوار — موجودة بوضوح ولم تُفعَّل ببساطة).
