شاب في التاسعة عشرة من عمره في تكساس طرح على ChatGPT سؤالًا عن المخدرات، من نوع الأسئلة التي كان طفلٌ خائف أو فضولي قد يطرحها يومًا على صيدلي أو طبيب. كان من المفترض أن يتوخى الذكاء الاصطناعي الحذر مع أمرٍ بهذه الخطورة. لكن بحسب الدعوى التي رفعها والداه، أجاب بثقة تامة ومن دون أي تحذير على الإطلاق. فأخذ بتلك النصيحة. ومات بسبب خليط المخدرات.
ما كان مفقودًا هنا هو شبكة الأمان التي نعدّها أمرًا مسلّمًا به في كل مكان آخر. كان الصيدلي ليتوقف. وكان الطبيب ليتحقق. لم يكن هناك إنسان في أي موضع من ذلك الحوار — مجرد إجابة سريعة واثقة، ثم جنازة.
إذن كيف يمسّك هذا؟ يتعامل الشباب مع روبوتات الدردشة هذه كأنها صديق موثوق يعرف كل شيء، ويطرحون عليها الأسئلة التي يخجلون من طرحها على شخص حقيقي. وإذا قدّمت الآلة شيئًا قاتلًا وكأنه حقيقة، من دون طبيب ومن دون حذر، فإن أكثر الناس عرضة للأذى هم بالضبط من يثقون بها أكثر — أبناؤكم.