HHS e l'Intelligenza Artificiale per la selezione di sovvenzioni

Il Dipartimento della Salute e dei Servizi Umani (HHS) ha iniziato a utilizzare strumenti di intelligenza artificiale forniti da Palantir e dalla startup Credal AI a partire da marzo 2025. L'obiettivo dichiarato è quello di vagliare le domande di sovvenzione, identificando e scartando quelle che mostrano un allineamento con iniziative di Diversità, Equità e Inclusione (DEI) o con concetti legati all'ideologia di genere.

L'implementazione di questi strumenti solleva questioni importanti sull'uso dell'AI nel processo decisionale governativo, in particolare per quanto riguarda la trasparenza, la responsabilità e il potenziale per introdurre distorsioni nei criteri di valutazione. L'utilizzo di algoritmi per filtrare le sovvenzioni potrebbe portare a escludere progetti validi basati su interpretazioni soggettive o pregiudizi incorporati negli algoritmi stessi.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.