حين تُتَّهم بجريمة، يكون المدّعي العام أقوى شخص في حياتك. فما يقوله للقاضي يساعد في تقرير ما إذا كنت ستنام في بيتك أم في زنزانة. في مقاطعة نيفادا بكاليفورنيا، ترك المدّعون الذكاء الاصطناعي يساعد في كتابة تلك المستندات — فاخترع الذكاء الاصطناعي قضية لا وجود لها، في مستندٍ يطالب بإبقاء رجل في السجن. ولم تكن مرة واحدة عن غير قصد: جرت الأكاذيب في أربع قضايا جنائية على مدى شهرين، ولم يكتشفها أحد في المكتب.
وإليك الجزء الذي ينبغي أن يزعجك أكثر: مدّعية شابة أرادت قول الحقيقة. تقول إنها طلبت الإبلاغ عن الأخطاء والاعتذار للمحكمة وللدفاع وللأشخاص الذين استُخدمت المستندات ضدهم — فقال لها رئيسها لا. لم يكن لدى المكتب سياسة للذكاء الاصطناعي ولا تدريب، بينما كانت القيادة تدفع محامي السنة الأولى إلى استخدام الأداة رغم ذلك. وحين ظهرت الأخطاء، كانت أول خطوة للمكتب هي الدفع بأنه ينبغي حمايته من العقاب.
فكيف يمسّك هذا أنت؟ المحامي الخاص الذي يقدّم استشهاداً زائفاً من الذكاء الاصطناعي يدفع غرامة. أما حين يفعلها مدّعٍ عام، فقد يفقد إنسانٌ حريته — ويصل هراء الآلة الواثق مرتدياً سلطة الدولة. أعادت المحكمة العليا في كاليفورنيا فتح باب العقوبات، وعُيّن قاضٍ لكشف عمق المشكلة. السؤال الذي ينبغي لكل مقاطعة أن تطرحه هو السؤال الذي لم تطرحه مقاطعة نيفادا قط: من يراجع الآلة قبل أن تصبح كلماتها السبب في بقاء إنسان داخل قفص؟