Hace seis meses, Charles Lew escribió en Forbes que la era de la contratación con IA tenía una factura legal por llegar, y apuntó directamente a Workday. Esta semana, la jueza de distrito de EE. UU. Rita Lin, en San Francisco, se negó a desestimar el caso. Workday deberá ahora defenderse de una demanda colectiva a nivel nacional que alega que sus herramientas de selección con IA descartaron a postulantes que eran negros, mujeres, mayores de 40 años o personas con discapacidad.
La defensa fue exactamente la que Charles Lew señaló en diciembre: “solo somos el software, no el empleador”. El tribunal la rechazó. Como Workday ejecuta la misma selección algorítmica que sus clientes, la jueza Lin sostuvo que puede ser responsable como agente —un empleador de hecho— bajo la FEHA de California y la ADA federal. El escudo de “solo fabricamos la herramienta” no se sostiene cuando la herramienta toma la decisión que antes tomaba un humano.
La acusación más filosa que sigue en pie es la teoría del indicador indirecto de la ADA: el software supuestamente marca cosas como los vacíos en el historial laboral y filtra en silencio a esas personas, un sustituto de la discapacidad que ningún humano revisa jamás. Eso es el “fantasmeo” que Charles Lew describió en Forbes: a uno lo pesan, lo miden y lo descartan por una máquina que nunca ves y a la que no puedes apelar. Con más del 80% de los empleadores de EE. UU. usando estas herramientas, este es el caso que decide quién responde cuando el algoritmo dice que no.
La predicción de Charles Lew es ahora la doctrina en el expediente: la rendición de cuentas sigue a la decisión, no al organigrama. HITL Score: 22/100 — supervisión humana en el despliegue 5/25 (el algoritmo filtra a los postulantes antes de que un humano los vea; es el primer y a menudo único decisor), monitoreo continuo 4/25 (Workday presume de un “programa de IA responsable” pero peleó para mantener sus datos internos de pruebas de sesgo fuera del descubrimiento), respuesta ante incidentes 6/25 (negación rotunda —las acusaciones son “falsas”, las herramientas “no toman decisiones de contratación”— en lugar de divulgación o corrección), rendición de cuentas 7/25 (el punto positivo, y la parte que Charles Lew predijo: el tribunal atribuyó la responsabilidad a quien ejecuta la decisión, así que la excusa de “lo hizo el software” se está muriendo).
