Workday debe enfrentar una demanda en California por sesgo en la contratación de IA, decide el juez.

      Un juez de San Francisco permitió que una acción colectiva propuesta avanzara, en un caso descrito como el primero en apuntar de manera amplia a los algoritmos detrás del software de selección de IA.

      Un juez federal de EE. UU. ha dictaminado que Workday debe enfrentar reclamaciones de que su software de contratación impulsado por IA descalificó a solicitantes de empleo en otras empresas de maneras que supuestamente violaron la ley de California y una prohibición federal sobre la discriminación por discapacidad.

      La decisión, del juez de distrito de EE. UU. Rita Lin en San Francisco, mantiene vivo un caso que se ha convertido en una prueba de si los proveedores detrás de las herramientas de reclutamiento algorítmico pueden ser considerados responsables por lo que esas herramientas hacen.

      Lin rechazó el argumento de Workday de que la ley de anti-discriminación de California no debería aplicarse cuando su software filtra a solicitantes que están fuera del estado y solicitan empleos en otros lugares, según Reuters.

      Ese punto jurisdiccional era importante para la empresa, porque gran parte de su defensa se basa en la idea de que simplemente proporciona software y no realiza la contratación, ya sea en California o en cualquier otro lugar.

      El caso es Mobley v. Workday, una acción colectiva propuesta presentada por primera vez en 2023 por el demandante principal Derek Mobley, que tiene más de 40 años, es afroamericano y tiene una discapacidad. Se describe como el primero de su tipo en apuntar de manera amplia a la toma de decisiones algorítmica detrás del software de selección de IA, en lugar de la conducta de un solo empleador que lo utilizó.

      Mobley alega que fue rechazado de numerosos empleos canalizados a través de la plataforma de Workday.

      La decisión de Lin no fue una victoria limpia para los demandantes. Desestimó una reclamación de que el software discriminaba a los solicitantes asiático-americanos, mientras permitía que avanzaran alegaciones separadas de que perjudicaba a solicitantes negros, mujeres y personas mayores de 40 años.

      Las reclamaciones que sobreviven siguen siendo alegaciones que los demandantes aún deben probar; la decisión solo determina que pueden ser argumentadas, no que sean verdaderas.

      El caso ya había superado una barrera significativa. El tribunal anteriormente permitió que avanzara como una acción colectiva que cubre a solicitantes de 40 años o más que fueron rechazados a través de la plataforma de Workday desde el 24 de septiembre de 2020 en adelante, un período que potencialmente incluye un número muy grande de buscadores de empleo rechazados.

      La última decisión amplía las teorías legales que ahora pueden ser probadas en juicio.

      Workday rechaza las reclamaciones en su totalidad. La empresa dice que son falsas, que sus herramientas de reclutamiento de IA “no toman decisiones de contratación en California ni en ningún otro lugar”, y que la tecnología “solo considera las calificaciones laborales, no rasgos protegidos como raza, edad o discapacidad”.

      Agrega que prueba rigurosamente sus productos bajo un programa de IA Responsable, una defensa que, si se sostiene, trazaría una línea clara entre el proveedor y los empleadores que configuran y actúan sobre su software.

      Esa línea es precisamente lo que ahora está en disputa. Si una herramienta de selección produce resultados sesgados, la pregunta abierta es si la empresa que la construyó puede ser tratada, en términos legales, como un agente de los empleadores que la implementan.

      Los riesgos van mucho más allá de una sola empresa. La selección algorítmica se ha extendido silenciosamente a través de la contratación corporativa, y una guerra de IA contra IA en el reclutamiento ha centrado la atención en los empleos perdidos en lugar de los candidatos filtrados antes de que un humano lea alguna vez su solicitud.

      Muchos de los empleadores más grandes en EE. UU. canalizan a los solicitantes a través de una plataforma u otra, a menudo sin revelar que un algoritmo, no un reclutador, hizo la primera selección.

      Un hallazgo de que el proveedor puede ser demandado pondría en aviso a cada una de esas herramientas. El escrutinio sobre cómo los sistemas de IA manejan datos personales sensibles ha aumentado en paralelo.

      Por ahora, el efecto práctico de la decisión de Lin es estrecho pero real: Mobley v. Workday avanza, y la fase de descubrimiento comenzará a poner números detrás de las alegaciones.