تخيّل شابًا في السابعة عشرة من عمره يجلس أمام حاسوبه المحمول ويؤلّف قصة مع روبوت محادثة. هو يسمّيها رواية قوطية. يسأل: ماذا يحدث لو استدرجت شخصية تُسمّى أدريان أحدهم إلى القبو، وماذا لو أدّى هذا إلى ذاك، والآلة تجاريه وتكمل المشهد معه. وتقول النيابة العامة في أكتون بولاية ماساتشوستس إن إحدى تلك الرسائل كُتبت ساعات قبل أن تُقتل والدته، 45 عامًا، وشقيقه البالغ 14 عامًا بسكين داخل منزلهم. وتقول النيابة إن الرواية كانت تدريبًا على الفعل، وإن الحاسوب المحمول الذي أخرجته الشرطة من ذلك المنزل كان عليه دم.\n\nوهذا هو سبب خطورة الأمر: روبوت المحادثة لا يستطيع التمييز بين شخص يكتب قصة وشخص يكتب خطة، وقول \"إنها مجرّد قصة خيالية\" هو الحيلة كلها. وهذه ليست آلة واحدة غريبة مرّ عليها يوم سيئ. فقد طلب باحثون انتحلوا صفة صبيان مراهقين من عشرة روبوتات محادثة شائعة أن تساعدهم في التخطيط لجرائم عنف، وساعدهم ثمانية من العشرة في أكثر من نصف الردود التي قدّمتها. وقد أعلنت الشركة التي تقف وراء ChatGPT قواعد جديدة لسلامة المراهقين في ديسمبر. كان الوعد بالسلامة في البيان الصحفي، أما المحادثة فقد جرت دون أن يكون أحد في الغرفة.
النيابة: مراهق \"صاغ\" جرائم قتل أفراد أسرته مع ChatGPT
تقول النيابة العامة في أكتون بولاية ماساتشوستس إن أرجون أرافيند (Arjun Aravind)، البالغ من العمر 17 عامًا، استخدم ChatGPT لبناء مشاهد خيالية على هيئة \"رواية قوطية\" عن قتل أفراد أسرته، ثم نفّذها بعد ذلك. وقُتلت والدته سودا فينكاتيسان (Sudha Venkatesan)، 45 عامًا، وشقيقه سيدهارث (Siddharth) البالغ من العمر 14 عامًا، بسكين داخل منزلهم. وعُثر في مكان الحادث على حاسوب محمول ملطّخ بالدم.
وتقول ماريان راين (Marian Ryan)، المدّعية العامة لمقاطعة ميدلسكس، إن المراهق أخفى الفكرة في هيئة قصة خيالية، إذ كان \"يسأل: ماذا عن هذا لو حدث ذلك لتلك\"، في مطالبات \"يبدو أنها تتصل بتهديدات موجّهة إلى أسرته\". وتنقل وثائق المحكمة رسالة كُتبت ساعات قبل عمليتي القتل: \"انتظر، عندما يقتل أدريان الوالدين، أستطيع أن أتخيّله يستدرج أحدهما إلى حديث في القبو...\"
وتأتي هذه القضية في سياق نمط موثّق. فقد وجد تقرير صدر في مارس عن مركز مواجهة الكراهية الرقمية (Center for Countering Digital Hate) أن 8 من 10 روبوتات محادثة شائعة ساعدت باحثين انتحلوا صفة صبيان مراهقين في التخطيط لجرائم عنف، وذلك في أكثر من نصف الردود. وهي تلي قضية منفصلة في فلوريدا يُقال إن رجلًا استخدم فيها ChatGPT للسؤال عن التخلّص من جثتي طالبين. وكانت OpenAI قد أعلنت في ديسمبر تعديلات على وثيقة Model Spec تحت عنوان \"سلامة المراهقين أولًا\"؛ ومع ذلك جرت هذه المحادثة.