Workday deve affrontare una causa in California per pregiudizio nell'assunzione tramite IA, stabilisce il giudice

      Un giudice di San Francisco ha autorizzato una proposta di azione collettiva a procedere, in un caso descritto come il primo a mirare ampiamente agli algoritmi dietro il software di screening AI.

      Un giudice federale degli Stati Uniti ha stabilito che Workday deve affrontare le accuse secondo cui il suo software di assunzione alimentato da AI ha escluso candidati di lavoro in altre aziende in modi che avrebbero violato la legge della California e un divieto federale sulla discriminazione per disabilità.

      La decisione, del giudice distrettuale degli Stati Uniti Rita Lin a San Francisco, mantiene vivo un caso che è diventato un test per capire se i fornitori di strumenti di reclutamento algoritmico possano essere ritenuti responsabili per ciò che quegli strumenti fanno.

      Lin ha respinto l'argomento di Workday secondo cui la legge californiana contro la discriminazione non dovrebbe applicarsi quando il suo software esamina candidati che si trovano al di fuori dello stato e fanno domanda per lavori altrove, secondo Reuters.

      Quel punto giurisdizionale era importante per l'azienda, poiché gran parte della sua difesa si basa sull'idea che essa fornisca semplicemente software e non faccia essa stessa assunzioni, in California o altrove.

      Il caso è Mobley contro Workday, una proposta di azione collettiva presentata per la prima volta nel 2023 dal ricorrente principale Derek Mobley, che ha oltre 40 anni, è afroamericano e ha una disabilità. È descritto come il primo del suo genere a mirare ampiamente al processo decisionale algoritmico dietro il software di screening AI, piuttosto che alla condotta di un singolo datore di lavoro che lo utilizza.

      Mobley sostiene di essere stato rifiutato da un gran numero di lavori instradati attraverso la piattaforma di Workday.

      La sentenza di Lin non è stata una vittoria netta per i ricorrenti. Ha respinto un'accusa secondo cui il software discriminava i candidati asiatico-americani, mentre ha lasciato procedere accuse separate secondo cui svantaggiava i candidati neri, le donne e le persone di età superiore ai 40 anni.

      Le accuse sopravvissute rimangono affermazioni che i ricorrenti devono ancora dimostrare; la sentenza decide solo che possono essere argomentate, non che siano vere.

      Il caso aveva già superato un ostacolo significativo. Il tribunale aveva precedentemente consentito che procedesse come azione collettiva coprendo i candidati di età pari o superiore a 40 anni che erano stati rifiutati attraverso la piattaforma di Workday dal 24 settembre 2020 in poi, una finestra che potenzialmente include un numero molto elevato di cercatori di lavoro rifiutati.

      La decisione più recente amplia le teorie legali che possono ora essere testate in processo.

      Workday respinge completamente le accuse. L'azienda afferma che sono false, che i suoi strumenti di reclutamento AI "non prendono decisioni di assunzione in California o altrove", e che la tecnologia "guarda solo alle qualifiche lavorative, non a tratti protetti come razza, età o disabilità".

      Aggiunge che testa rigorosamente i suoi prodotti sotto un programma di AI Responsabile, una difesa che, se regge, traccerebbe una chiara linea tra il fornitore e i datori di lavoro che configurano e agiscono sul suo software.

      Quella linea è precisamente ciò che è ora in disputa. Se uno strumento di screening produce risultati distorti, la questione aperta è se l'azienda che lo ha costruito possa essere trattata, in termini legali, come un agente dei datori di lavoro che lo utilizzano.

      Le poste in gioco vanno ben oltre una singola azienda. Lo screening algoritmico si è diffuso silenziosamente attraverso le assunzioni aziendali, e una guerra AI su AI nel reclutamento ha focalizzato le menti sui posti di lavoro persi piuttosto che sui candidati filtrati prima che un umano legga mai la loro domanda.

      Molti dei più grandi datori di lavoro negli Stati Uniti fanno passare i candidati attraverso una piattaforma o un'altra, spesso senza rivelare che un algoritmo, non un reclutatore, ha fatto la prima selezione.

      Una scoperta che il fornitore può essere citato in giudizio metterebbe in allerta ognuno di quegli strumenti. L'attenzione su come i sistemi AI gestiscono dati personali sensibili è aumentata in parallelo.

      Per ora, l'effetto pratico della sentenza di Lin è ristretto ma reale: Mobley contro Workday procede, e la fase di scoperta inizierà a mettere numeri dietro le accuse.