تخيّل أنك في عملك وصادفت مستخدمًا يكتب خططًا صريحة لإطلاق نار جماعي: العنف، والهدف، وكل شيء. أنت وزملاؤك تُبلغون عنها وتتجادلون حول الاتصال بالشرطة. المسؤولون يقررون: لا. هم فقط يغلقون حسابه، فيفتح حسابًا جديدًا، وبعد بضعة أشهر يدخل مدرسة ويقتل ثمانية أشخاص، خمسة منهم أطفال في سن 12 و13 عامًا. الشركة رأت ذلك قادمًا ولم تُخبر أحدًا.
وإليكم لماذا يعد هذا أمرًا كبيرًا: دفاع الشركة هو أن ما رأوه لم يجتز اختبارهم الخاص لتحديد متى يكون التهديد خطيرًا بما يكفي للإبلاغ عنه. اختبار كتبوه بأنفسهم، ولا أحد خارج المبنى يستطيع رؤيته، ولا أحد آخر يحق له فحصه. وعد سلامة الذكاء الاصطناعي بأكمله هو: "لا تقلقوا، هناك بشر يراقبون". البشر راقبوا، ورأوا كل شيء، ولم يوجد في أي مكان ما يقول إن عليهم أن يلتقطوا الهاتف.
🖤 شرحته Babycakes.