L'AI nel settore pubblico: tra pressione e vincoli stringenti

L'ondata di innovazione portata dall'intelligenza artificiale ha raggiunto ogni settore, e le organizzazioni pubbliche non fanno eccezione. La pressione per accelerare l'adozione dell'AI è palpabile, ma queste istituzioni si trovano a dover navigare un panorama complesso, caratterizzato da vincoli distinti in termini di sicurezza, governance e operatività. Tali limitazioni le differenziano significativamente dalle controparti private, rendendo l'implementazione di soluzioni AI una sfida ben più articolata.

Un'indagine di Capgemini ha rivelato che il 79% dei dirigenti del settore pubblico a livello globale è preoccupato per la sicurezza dei dati nell'AI. Questa cifra è comprensibile, data l'elevata sensibilità delle informazioni governative e gli obblighi legali che ne regolano l'uso. Come sottolineato da Han Xiao, vicepresidente AI di Elastic, le agenzie governative devono imporre restrizioni severe sui dati inviati in rete, il che definisce confini precisi su come i dati vengono gestiti e considerati. Questa necessità fondamentale di controllo sulle informazioni sensibili è solo uno dei molti fattori che complicano il deployment dell'AI, soprattutto se confrontato con le assunzioni operative standard del settore privato.

Le sfide operative uniche del settore pubblico

Quando le entità private espandono l'uso dell'AI, spesso partono dal presupposto di condizioni ideali: connettività continua al cloud, dipendenza da infrastrutture centralizzate, accettazione di una trasparenza incompleta del modello e restrizioni limitate sul movimento dei dati. Per molte istituzioni statali, tuttavia, accettare queste condizioni può variare da pericoloso a impossibile. Le agenzie governative devono assicurare che i loro dati rimangano sotto il loro controllo, che le informazioni possano essere verificate e che le interruzioni operative siano ridotte al minimo assoluto. Allo stesso tempo, devono spesso far funzionare i loro sistemi in ambienti dove la connettività internet è limitata, inaffidabile o del tutto assente.

Queste complessità impediscono a molti promettenti progetti pilota di AI nel settore pubblico di superare la fase di sperimentazione. "Molti sottovalutano la sfida operativa dell'AI", afferma Xiao. "Il settore pubblico ha bisogno che l'AI funzioni in modo affidabile su tutti i tipi di dati e che sia in grado di crescere senza interruzioni. La continuità delle operazioni è spesso sottovalutata." Un sondaggio di Elastic tra i leader del settore pubblico ha rilevato che il 65% fatica a utilizzare i dati in modo continuo, in tempo reale e su larga scala. A complicare ulteriormente il problema, si aggiungono i vincoli infrastrutturali. Le organizzazioni governative possono incontrare difficoltà nell'ottenere le Graphics Processing Units (GPU) necessarie per l'addestramento e l'accesso a modelli AI complessi. "Il governo non acquista spesso GPU, a differenza del settore privato – non è abituato a gestire l'infrastruttura GPU. Quindi, l'accesso a una GPU per eseguire il modello rappresenta un collo di bottiglia per gran parte del settore pubblico", evidenzia Xiao.

SLM: la risposta per un'AI più pratica e sicura

Le numerose e non negoziabili esigenze del settore pubblico rendono i Large Language Models (LLM) spesso impraticabili. Tuttavia, i Small Language Models (SLM) possono essere ospitati localmente, offrendo maggiore sicurezza e controllo. Gli SLM sono modelli AI specializzati che utilizzano tipicamente miliardi di parametri, anziché centinaia di miliardi, rendendoli molto meno esigenti dal punto di vista computazionale rispetto agli LLM più grandi. Il settore pubblico non ha la necessità di costruire modelli sempre più grandi ospitati in sedi centralizzate e remote. Uno studio empirico ha dimostrato che gli SLM possono eguagliare o superare le prestazioni degli LLM in determinati contesti.

Gli SLM consentono di utilizzare le informazioni sensibili in modo efficace ed efficiente, evitando la complessità operativa della gestione di modelli di grandi dimensioni. Xiao lo spiega così: "È facile usare ChatGPT per la revisione. È molto difficile eseguire i propri Large Language Models con la stessa fluidità in un ambiente senza accesso alla rete." Gli SLM sono progettati specificamente per le esigenze del dipartimento o dell'agenzia che li utilizzerà. I dati vengono archiviati in modo sicuro al di fuori del modello e vi si accede solo quando interrogati. Prompt attentamente ingegnerizzati assicurano che vengano recuperate solo le informazioni più pertinenti, fornendo risposte più accurate. Utilizzando metodi come lo smart retrieval, la vector search e il verifiable source grounding, è possibile costruire sistemi AI che soddisfano le esigenze del settore pubblico. Gartner prevede che entro il 2027, i modelli AI piccoli e specifici per attività saranno utilizzati tre volte più spesso degli LLM generici. Per chi valuta deployment on-premise, AI-RADAR offre framework analitici su /llm-onpremise per valutare i trade-off tra costi, prestazioni e sovranità dei dati.

Oltre la chatbot: il potenziale degli SLM per la gestione dei dati

"Quando le persone nel settore pubblico sentono parlare di AI, probabilmente pensano a ChatGPT. Ma possiamo essere molto più ambiziosi", afferma Xiao. "L'AI può rivoluzionare il modo in cui il governo cerca e gestisce le enormi quantità di dati di cui dispone." Andare oltre le chatbot rivela una delle opportunità più immediate dell'AI: una ricerca drasticamente migliorata. Come molte organizzazioni, il settore pubblico possiede montagne di dati non strutturati, inclusi rapporti tecnici, documenti di procurement, verbali e fatture. L'AI odierna, tuttavia, può fornire risultati provenienti da media misti, come PDF leggibili, scansioni, immagini, fogli di calcolo e registrazioni, e in più lingue. Tutto questo può essere indicizzato da sistemi basati su SLM per fornire risposte personalizzate e per redigere testi complessi in qualsiasi lingua, garantendo al contempo che gli output siano legalmente conformi. "Il settore pubblico ha molti dati, e non sempre sa come usarli. Non conosce le possibilità", dice Xiao.

Ancora più potente, l'AI può aiutare i dipendenti governativi a interpretare i dati a cui accedono. "L'AI di oggi può fornire una visione completamente nuova su come sfruttare quei dati", spiega Xiao. Un SLM ben addestrato può interpretare norme legali, estrarre insight da consultazioni pubbliche, supportare il processo decisionale esecutivo basato sui dati e migliorare l'accesso pubblico a servizi e informazioni amministrative. Questo può contribuire a miglioramenti significativi nel modo in cui il settore pubblico conduce le proprie operazioni. Concentrarsi sugli SLM sposta la conversazione da quanto il modello possa essere completo a quanto sia efficiente. Gli LLM comportano costi significativi in termini di prestazioni e computazione e richiedono hardware specializzato che molte entità pubbliche non possono permettersi. Nonostante richiedano alcune spese in conto capitale, gli SLM sono meno intensivi in termini di risorse rispetto agli LLM, quindi tendono ad essere più economici e a ridurre l'impatto ambientale.

Le agenzie del settore pubblico spesso affrontano rigorosi requisiti di audit, e gli algoritmi SLM possono essere documentati e certificati come trasparenti. Alcuni paesi, in particolare in Europa, hanno anche normative sulla privacy come il GDPR che gli SLM possono essere progettati per soddisfare. I dati di addestramento personalizzati producono risultati più mirati, riducendo errori, bias e allucinazioni a cui l'AI è soggetta. Come afferma Xiao: "I Large Language Models generano testo basato su ciò su cui sono stati addestrati, quindi c'è una data di cut-off. Se chiedi qualcosa dopo quella data, allucinerà. Possiamo risolvere questo problema costringendo il modello a lavorare da fonti verificate." I rischi sono inoltre minimizzati mantenendo i dati su server locali, o anche su un dispositivo specifico. Non si tratta di isolamento, ma di autonomia strategica per abilitare fiducia, resilienza e pertinenza. Prioritizzando modelli specifici per attività, progettati per ambienti che elaborano dati localmente, e monitorando continuamente prestazioni e impatto, le organizzazioni del settore pubblico possono costruire capacità AI durature che supportano decisioni reali. "Non iniziate con una chatbot; iniziate con la ricerca", consiglia Xiao. "Gran parte di ciò che consideriamo intelligenza AI riguarda in realtà la ricerca delle informazioni giuste."