ثمة منظمة دولية محترمة — OECD، التي تراقب اقتصادات العالم — تُحصي بهدوء كم مرة تخفق أنظمة الذكاء الاصطناعي وتسبّب ضرراً. في شهر واحد، يناير من هذا العام، أحصت 435 من هذه الإخفاقات. ولم تكن تلك قفزة شاذّة؛ فالعدّ الشهري مستقر فوق 300 منذ فترة الآن. هذه ليست توقّعات ولا فرضيات مخيفة. بل فوضى حقيقية موثّقة، تحدث كل يوم، عبر كل نوع من الصناعات.
ولماذا هذا مهم: إلى جانب تلك اللوحة المتنامية، لا يزال لا يوجد كتيّب قواعد مطلوب — لا قانون يُلزم الشركات بأن يراجع إنسان ما تفعله هذه الأنظمة، ولا مساءلة حقيقية ذات أنياب. التقنية تُطرح أسرع بكثير مما يضع أحد حواجز الأمان.
فكيف يمسّك هذا؟ كل رقم على تلك اللوحة هو لحظة صنعت فيها آلة قراراً أو شكّلته — بشأن قرض، أو مطالبة، أو سجلّ، أو شخص — دون أن يراقبها أحد حقاً. أكثر من ثلاثمئة شهرياً، وفي تزايد. والجزء المقلق ليس مجرد أنّ هذا يحدث؛ بل أنّ أحداً يحصي بعناية، وأنّ لا أحد تقريباً ممّن بيدهم الأمر يقرأ الحصيلة. وأنت وعائلتك تعيشون داخل تلك الفجوة.