A San Francisco, un giudice federale ha rimosso l’ultimo ostacolo per una class action contro Workday, gigante del software HR basato su cloud. È la prima volta che un tribunale permette di attaccare in modo ampio gli algoritmi che muovono i tool di screening automatico dei candidati. Al centro delle accuse, la tesi che la piattaforma, usata da altre aziende per filtrare curriculum e colloqui, abbia sistematicamente scartato alcuni profili violando le leggi antidiscriminazione della California. Una decisione che potrebbe ridefinire la catena delle responsabilità nell’adozione dell’intelligenza artificiale in azienda.

Cosa c’è dentro una “scatola nera” per le assunzioni

I moderni strumenti di recruiting basati su Large Language Models o su modelli di machine learning tradizionale puntano a snellire processi altrimenti lunghissimi: analizzano migliaia di candidature, valutano corrispondenze tra CV e descrizione della posizione, in alcuni casi arrivano a condurre prime interviste via chatbot. Il problema è che questi sistemi ereditano i bias presenti nei dati di addestramento, spesso storici e specchio di disuguaglianze consolidate. Senza adeguate misure di fairness e audit periodici, il risultato può essere una discriminazione nascosta – e su scala molto più vasta di quella umana.

La particolarità del caso Workday è che l’attacco legale non si limita all’utilizzo da parte di un singolo datore di lavoro, ma chiama in causa direttamente il fornitore del software. In passato, azioni simili avevano preso di mira le aziende utilizzatrici. Ora il tribunale ritiene che Workday possa essere considerato alla stregua di un “agente” che compie scelte di assunzione, aprendo scenari nuovi per i vendor di AI.

Chi risponde quando l’algoritmo sbaglia?

La mossa del giudice californiano ha implicazioni che vanno ben oltre il perimetro del recruiting. Segnala che i fornitori di soluzioni AI “chiavi in mano” – quasi sempre erogate in modalità cloud – non possono nascondersi dietro il velo dell’automazione. Se il software produce un effetto discriminatorio, la responsabilità potrebbe ricadere su chi l’ha progettato, addestrato e distribuito. Per gli utilizzatori finali si apre un doppio rischio: da un lato, dover rispondere in solido per le scelte dell’algoritmo; dall’altro, trovarsi vincolati a tool di cui non controllano internamente logiche e meccanismi di aggiornamento.

Questo scenario rafforza la riflessione su quanto sia strategico mantenere un controllo diretto sulla pipeline di machine learning. Non è una questione puramente tecnica: riguarda la possibilità di auditare i modelli, intervenire sui dati di training, applicare metriche di fairness personalizzate e, soprattutto, dimostrare in sede legale quali contromisure siano state adottate.

Il dibattito sul deployment on-premise riparte dall’HR tech

In molti settori regolamentati – finanza, sanità, energia – l’idea di gestire in casa i sistemi AI critici non è nuova. Ma casi come quello di Workday allargano la riflessione anche all’HR e più in generale ai processi di people analytics. Se un fornitore cloud è chiamato a rispondere in tribunale per le performance del proprio algoritmo, un’organizzazione potrebbe preferire un approccio self-hosted, dove il modello gira su infrastruttura proprietaria o in ambienti ibridi attentamente governati. Ciò consente di stabilire con chiarezza chi fa cosa, mantenere la sovranità sui dati e adattare le misure di conformità al proprio specifico framework normativo.

Certo, gestire un LLM o un modello di classificazione on-premise comporta costi infrastrutturali e competenze che non tutte le aziende hanno. Ma il TCO (TCO) va calcolato includendo anche i rischi reputazionali e legali. Ed è qui che il caso Workday rappresenta un punto di svolta: la discriminazione algoritmica non è più solo un rischio teorico, ma un danno concreto che può portare in aula.

Oltre il contenzioso: audit, trasparenza e sovranità

Il vero lascito di questa vicenda potrebbe essere un’accelerazione verso modelli di deployment più trasparenti e verificabili. La richiesta di spiegabilità dei modelli, già centrale in normative come il GDPR europeo, trova un nuovo alleato nella giurisprudenza californiana. Per i team che oggi valutano se appoggiarsi a servizi cloud o costruire un ambiente di inference on-premise, la lezione è chiara: ogni scelta di architettura è anche una scelta di accountability.

Chi osserva da mesi il panorama degli LLM e degli strumenti di screening sa che i framework di serving come vLLM o TensorRT-LLM stanno maturando proprio per rendere praticabile il self-hosting senza sacrificare latenza o throughput. Non si tratta di tornare a data center gestiti manualmente, ma di combinare il meglio del controllo locale con l’agilità di orchestrazione moderna. AI-RADAR continuerà a seguire l’evolversi del framework normativo e le soluzioni tecniciche che permettono di bilanciare innovazione e diritti fondamentali.