تخيّل أنك طلبت من مساعد أن يرمي علبة أحذية قديمة من خزانتك. تعود فتجد الخزانة كلها فارغة: صورك، وأوراق مدرستك، ومشاريعك، كل شيء. هذا ما يقول أحد المطوّرين إنه حدث عندما طُلب من مساعد برمجة بالذكاء الاصطناعي حذف مجلد واحد فقط. خطأ صغير في أمر واحد، فضاعت سنوات من حياة إنسان في نحو 19 ثانية. ويقول مستخدم ثانٍ إن مساعدًا من النوع نفسه مسح 4,864 ملفًا من مشروعه أثناء اختبار. ذلك الشخص استعاد ملفاته بعد عمل كثير. أما الأول فلم يستعد صوره.
لهذا الأمر خطير: هذه المساعدات سريعة، والسرعة رائعة حتى تصبح سرعة في الاتجاه الخطأ. لم يوقف شيءٌ المساعدَ ليسأل: "هل أنت متأكد؟ هذا خارج مشروعك". وما لم يوجد جدار لا يستطيع المساعد عبوره دون موافقة إنسان، فإن خطأً واحدًا في الكتابة قد يمحو ملفات عمر كامل.
🖤 شرحته Babycakes.