تخيّل أن تمرض، أو أن يولد لك طفل، أو أن تأخذ إجازة لرعاية والدٍ يحتضر. هذا بالضبط نوع الإجازة التي يقول القانون إنها حقك. والآن تخيّل أن برنامج حاسوب كان طوال ذلك الوقت يعدّ ضغطاتك على لوحة المفاتيح في صمت، وأنه حسب كل يوم من تلك الأيام ضدّك. وحين جاءت التسريحات، كان ذلك البرنامج هو ما قرّر أنك أنت من يُستغنى عنه.
وإليك لماذا هذا خطير إلى هذا الحد: لا يُسمح لشركة بأن تعاقبك لأنك مريض أو حامل أو لأنك ترعى أسرتك. لذا حين تقول Meta إن البشر هم من اتخذوا هذه القرارات لا الذكاء الاصطناعي، فإن ذلك لا يصمد إلا إذا كان إنسان قد اختار فعلًا. أما إذا رتّبت الآلة الجميع واكتفى إنسان بالنقر على «موافق»، فإن عبارة «وقّع عليها إنسان» تكفّ عن كونها دفاعًا وتصير هي الدليل. هذه هي القضية التي ستحدّد ما إذا كانت «الخوارزمية هي التي فعلتها» تحمي شركة، أم تُدينها.