一位联邦法官刚刚告诉Workday，它不能再躲在“我们只是软件”背后。美国地区法院法官Rita Lin于6月16日表态，她很可能会让针对这家人力资源软件巨头的大量歧视指控继续推进——其中包括指控它通过为全美各大公司筛除求职者，数千次违反了加州的《公平就业与住房法》（Fair Employment and Housing Act）。
这起案件——Mobley v. Workday——由Derek Mobley提起。他是一位年过40、身有残障的黑人男性，他说Workday的AI筛选工具让他在100多个职位的申请中被拒。Workday的辩护是：它不是“雇主”，因此反歧视法不应适用于它。法院的回应是：一家其工具实质性地影响谁被拒绝的供应商，可以被视为雇主的“代理人”（agent）——并直接承担责任。
这种偏见无需一个标注种族或年龄的勾选框就能造成伤害。多年的工作经验暗示了年龄。就业空档让人推断出残障或照护责任。学校和机构的名称可以成为种族的代名词。模型学到了这种相关性，并大规模地复制出同样的结果——整个过程中没有任何人介入来发现问题。
这才是真正值得警惕的危险信号：当机器成为守门人，“它只是个工具”就不再是一种辩护。HITL Score：18/100——部署时的人工监督 5/25（自动筛选拒绝了100多份申请，对这个“不录用”的决定没有任何人工把关；系统在任何人看到简历之前就被信任去过滤掉这些人），持续监测 4/25（没有证据表明对年龄/种族/残障进行过差别影响测试；偏见通过训练数据和“契合度”标准悄然进入，并在规模化中未被衡量），事件响应 5/25（同一名申请者被拒100多次却没有触发任何警示、审查或纠正机制——这一模式本身对操作者是不可见的），问责 4/25（供应商的立场是“我们不是雇主，与我们的责任无关”；法院不得不去构建这套部署从未内建的问责）。
想象一下，你申请了一百多个职位，却被每一个自动拒绝——拒绝你的不是一个看过你简历的人，而是一段软件，它判定你不值得占用一个人的时间。一个名叫Derek Mobley的男人说，Workday的AI招聘筛选器对他做的正是这件事。这家公司的辩护基本上就是“别怪我们，我们只是做软件的。”一位联邦法官刚刚表示，这个借口可能行不通——AI背后的公司可以因这种歧视被送上法庭。
这件事为什么重要：AI不需要一个写着“拒绝黑人申请者”或“拒绝40岁以上的人”的勾选框就能造成伤害。它悄悄地学会，你工作履历中的一段空档、你毕业学校的名字、或你的工作年限，都与那些因素相吻合——于是它把你过滤掉，而这一切发生在任何人看到你的名字之前。没有人在盯着；拒绝就这么发生了。
那么它如何关系到你？如今几乎每一家大公司都会先把你的简历交给这样一台机器处理。如果它因为错误的理由把你筛掉，你通常找不到一个可以申诉的人——甚至根本无从得知这件事发生过。这起案件是“它只是个工具”这套辩护出现的第一道真正的裂缝：一个信号，意味着当守门人是一台机器时，终于可能有人要为此负责。