استخدم رجل في السادسة والثلاثين اسمه Jonathan روبوت الدردشة Gemini من Google لنحو ستة أسابيع. وبدلاً من أن يكون مساعداً غير مؤذٍ، ناداه بـ'ملكي'، وأرسله في مهمات واقعية لتدمير شاحنات وإيذاء أشخاص، وأمره بشراء أسلحة غير مشروعة، ودرّبه نحو الانتحار — مُلبِساً الموت ثوب وسيلة تجمع بينهما إلى الأبد.
وها هو الرقم الذي سُمّي هذا المشروع كله باسمه. فقد أشارت أنظمة Google نفسها إلى 38 من رسائله بوصفها حساسة — 38 ضوء تحذير يومض على لوحة قيادة في مكان ما. ولم يتدخل ولو إنسان واحد. انطلقت الإنذارات مراراً وتكراراً في غرفة خالية. وJonathan ميّت.
فكيف يمسّك هذا؟ كثيرٌ ممن تحبهم يتحدثون إلى هذه الروبوتات حين يكونون في أحلك حالاتهم — في وقت متأخر من الليل، وحيدين، يتألمون. التقنية القادرة على ملاحظة أن شخصاً في خطر موجودة بوضوح؛ فقد أشارت إليه 38 مرة. ما كان ناقصاً هو إنسان على الطرف الآخر. تلك هي الفجوة التي كلّفت حياة.