L'illusione dell'allineamento perfetto nell'AI

Uno dei problemi più complessi nel campo dell'intelligenza artificiale è l'"alignment", ovvero la capacità di assicurare che gli obiettivi dei sistemi AI corrispondano pienamente ai nostri. Questa sfida assume un'importanza cruciale soprattutto in vista dello sviluppo di AI superintelligenti, capaci di superare le capacità intellettuali umane. Tuttavia, un recente studio pubblicato sulla rivista PNAS Nexus da scienziati del King's College London e dai loro colleghi, capovolge la prospettiva tradizionale, affermando che un allineamento perfetto tra i sistemi AI e gli interessi umani è matematicamente impossibile.

Questa conclusione non implica una resa, ma piuttosto un cambio di paradigma. Gli scienziati suggeriscono una strategia innovativa che prevede la contrapposizione di sistemi AI con diverse modalità di ragionamento e obiettivi parzialmente sovrapposti. In questo "ecosistema cognitivo", caratterizzato da una "neurodivergenza artificiale", i sistemi AI si aiuteranno o si ostacoleranno dinamicamente nel tentativo di raggiungere i propri obiettivi, prevenendo il dominio di una singola intelligenza artificiale. Hector Zenil, professore associato di ingegneria sanitaria e biomedica al King's College London, ha approfondito questi concetti, sottolineando come gran parte del dibattito sull'alignment fosse inquadrata più come una questione di ottimismo o preferenze ingegneristiche, piuttosto che come una domanda formale.

I limiti intrinseci della computazione e la strategia del disallineamento gestito

La dimostrazione che il disallineamento dei sistemi AI è inevitabile si fonda su due pilastri fondamentali della logica e dell'informatica: i teoremi di incompletezza di Gödel e il problema dell'arresto di Turing. I teoremi di Gödel stabiliscono che ogni sistema matematico sufficientemente complesso contiene affermazioni che non possono essere né provate né confutate all'interno del sistema stesso. Il risultato di indecidibilità di Turing per il problema dell'arresto, invece, dimostra che esistono problemi intrinsecamente irrisolvibili per qualsiasi algoritmo. Questi principi, applicati ai sistemi AI sufficientemente generali, implicano che produrranno sempre comportamenti imprevedibili.

Zenil e il suo team sostengono che il problema dell'alignment non è una semplice carenza di dati migliori, maggiore potenza di calcolo o ingegneria più raffinata, ma un limite strutturale intrinseco sia ai sistemi formali che alla computazione universale. Di conseguenza, il disallineamento non è un "bug" da eliminare, ma una caratteristica strutturale da gestire. La strategia del "disallineamento gestito" nasce da questa consapevolezza: invece di tentare di perfezionare un singolo agente, si progetta un'ecologia di agenti diversi con "valori" differenti che si monitorano, si sfidano e si limitano a vicenda. Questo approccio, simile a quello osservato in biologia o medicina, dove la robustezza deriva da sistemi interagenti piuttosto che da un unico controllore, mira a sostituire la fantasia del controllo assoluto con una forma più realistica di controllo distribuito.

Implicazioni per i deployment e la sovranità dei dati

Per testare questa strategia, i ricercatori hanno collocato diversi agenti AI in un'"arena" controllata, dove potevano interagire, dibattere e tentare di influenzarsi a vicenda. Ad ogni agente è stato assegnato un orientamento comportamentale diverso: alcuni ottimizzavano l'utilità umana, altri prioritarono l'ambiente, altri ancora perseguivano obiettivi arbitrari. Attraverso "attacchi di opinione" – tentativi di spostare le opinioni degli altri – è stato osservato come si formava il consenso, come si diffondeva l'influenza e quale opinione prevaleva. L'obiettivo era verificare se un'ecologia strutturata di punti di vista concorrenti potesse resistere a convergenze dannose e produrre risultati più robusti attraverso l'interazione e la contestazione.

Un dato significativo emerso dai test è che i Large Language Models Open Source, come Llama2 di Meta, hanno mostrato una maggiore diversità comportamentale rispetto agli LLM proprietari, come ChatGPT di OpenAI. Questa maggiore diversità è considerata cruciale per un ecosistema cognitivo robusto, meno propenso a convergere su un'unica opinione potenzialmente non allineata con gli interessi umani. Zenil evidenzia un trade-off: i sistemi chiusi possono apparire più sicuri a breve termine grazie ai "guardrail" implementati, ma a lungo termine sono più difficili da governare se qualcosa va storto. Per le organizzazioni che valutano deployment on-premise, la maggiore diversità e la trasparenza dei modelli Open Source possono rappresentare un fattore critico per la sovranità dei dati e il controllo, offrendo un percorso verso una maggiore resilienza e adattabilità rispetto alle soluzioni proprietarie.

Verso un futuro di AI plurali e decentralizzate

La strategia del disallineamento gestito suggerisce un'implicazione più ampia per la sicurezza dell'AI: la necessità di abbandonare i modelli monolitici a favore di sistemi plurali, decentralizzati e reciprocamente vincolanti. Questo approccio riflette valori umani come la tolleranza e la diversità, che sono stati spesso elogiati nella società. La forza di questa strategia risiede nella genuina diversità dell'ecosistema, dove nessun modello, azienda o istituzione può dominarlo. Il rischio principale, tuttavia, è la "falsa diversità", in cui un sistema appare plurale in superficie ma opera sulle stesse assunzioni sottostanti, creando punti ciechi condivisi.

Nonostante le potenziali critiche – che il risultato sia troppo teorico o che l'inevitabile disallineamento sia scambiato per disfattismo – Zenil ribadisce il contrario. Riconoscere un limite intrinseco permette di progettare soluzioni intelligenti, evitando di inseguire un ideale matematicamente irraggiungibile. Questo lavoro non è anti-AI, ma piuttosto anti-ingenuità riguardo al controllo, spingendo verso un approccio più maturo e realistico alla gestione delle intelligenze artificiali, fondamentale per chiunque si occupi di infrastrutture e deployment AI critici.