Meta avrebbe affidato alla sua intelligenza artificiale interna la scelta di 8.000 dipendenti da mandare a casa, e il criterio non sarebbe stato solo la performance lavorativa, ma anche quanto ciascuno usasse gli strumenti di AI aziendali. È quanto emerge da una denuncia presentata in California da 26 ex dipendenti sotto pseudonimo, che accusano l'azienda di aver violato leggi statunitensi e dello stato californiano, discriminando in particolare chi era in congedo medico o familiare protetto.

Al centro della causa c'è un'architettura interna che Meta avrebbe messo in piedi per valutare il personale: un insieme di sistemi che include l'assistente 'Metamate', agenti 'second-brain' addestrati dai dipendenti stessi, monitoraggio di battitura e attività sui software, dashboard sull'uso dei token AI e classificazioni algoritmiche delle performance. Secondo la denuncia, i dipendenti venivano valutati e inseriti in categorie come 'AI Native', 'AI First' o 'AI Enabled', a seconda del loro livello di adozione degli strumenti interni. In pratica, chi li usava meno rischiava di più.

La vicenda va oltre il singolo caso legale. Mette a nudo un rischio sistemico che accompagna l’adozione di AI all'interno delle imprese, soprattutto quando il deployment è on-premise e i modelli restano fuori da qualsiasi auditing esterno. In un contesto self-hosted, l'azienda ha il pieno controllo tecnico della pipeline, ma anche la responsabilità quasi assoluta di governare l'equità e la trasparenza dell'algoritmo. Se il sistema opera come una black box – e spesso lo è, perché i ranking prodotti da reti neurali proprietarie non sono facilmente interpretabili – l'opacità si trasforma in un’arma a doppio taglio: protegge i dati ma può coprire automatismi discriminatori.

Qui emerge un paradosso tutto nuovo. Un'infrastruttura AI gestita internamente è spesso elogiata per garantire sovranità sui dati e conformità normativa, ma nel momento in cui viene usata per prendere decisioni che impattano i diritti delle persone, quella stessa chiusura diventa un fattore di rischio. Non ci sono enti terzi che validino i criteri, né standard consolidati per certificare che un sistema di scoring dei dipendenti sia equo. E se l'AI viene addestrata su metriche proxy come l'uso di un tool aziendale, può facilmente penalizzare chi ha ruoli meno digitalizzati o chi è assente per motivi legittimi, senza che nessuno – tranne l'algoritmo – lo abbia deliberatamente deciso.

La denuncia contro Meta funziona quindi come un campanello d'allarme per chi progetta o gestisce deployment on-premise. Non basta calcolare la potenza di calcolo, la latenza dei modelli o il TCO; occorre integrare fin dall'architettura meccanismi di auditabilità e di override umano quando l'output dell'AI ha conseguenze legali. La facilità con cui un'azienda può mettere in produzione un sistema di valutazione del personale basato su metriche opache mostra quanto sia fragile il confine tra automazione efficiente e deriva algoritmica. E pone una domanda scomoda: se anche i dipendenti di una delle più avanzate aziende AI al mondo diventano pedine di un ranking incomprensibile, cosa può succedere nelle aziende che si affacciano ora a questi strumenti, magari con meno risorse per governarli?