Immaginate una banca che vuole allineare il proprio LLM alla gestione delle richieste di mutuo. Il team addestra il modello mostrandogli coppie di scenari e chiedendo quale sia la decisione preferibile. Un caso: negare un prestito a un giovane con garanzie scarse ma alto potenziale, oppure concederlo a un cliente anziano con reddito fisso ma rischioso? Il confronto locale può ignorare un principio globale: la banca ha come politica la proporzionalità del trattamento rispetto al reddito, ma solo se il portafoglio complessivo lo consente. Se forziamo una scelta senza contesto, perdiamo la logica vera.

Un nuovo studio pubblicato di recente mette in discussione proprio questo. I ricercatori formalizzano l'idea di pluralismo interno: un individuo valuta una regola decisionale secondo più priorità autorevoli, talvolta in tensione tra loro. Priorità come la proporzionalità, l'egalitarismo o l'uguale trattamento sono intrinsecamente globali: il loro significato in un caso dipende da ciò che accade altrove. I confronti a coppie locali — lo strumento standard nell'allineamento AI e nel design partecipativo — presuppongono invece che ogni scelta isolata sia sufficiente per catturare la volontà della persona, e che questa possa sempre rispondere in modo netto. Due assunzioni che qui crollano.

Il modello identifica due fallimenti. Primo, le priorità globali sfuggono ai confronti locali: non si può dedurre la regola giusta da un insieme di sì/no atomici. Secondo, quando le priorità entrano in conflitto (es. efficienza vs equità), forzare una scelta produce distorsioni comportamentali costose, perché la persona è costretta a risolvere un dilemma che non avrebbe mai risolto in astratto. È il classico scenario in cui un responsabile compliance direbbe: "Non posso rispondere senza vedere l'intero portafoglio" — ma il tool di raccolta preferenze non lo permette.

L'alternativa proposta è radicale nella sua semplicità: consentire l'indecisione. Anziché pretendere risposte forzate, si registra quando la persona non sa scegliere. Il risultato: il numero di query necessarie per apprendere le preferenze in modo accurato si riduce sensibilmente. Non solo meno dati, ma anche un segnale più fedele di ciò che conta davvero.

Oltre il cloud: valori aziendali e fine-tuning on-premise

Per chi opera LLM in contesti on-premise — banche, assicurazioni, pubblica amministrazione — la posta in gioco è alta. Queste organizzazioni non cercano un allineamento generico a valori medi di internet, ma il rispetto di policy interne, norme settoriali e principi etici spesso in conflitto tra loro. Un motore di concessione creditizia deve bilanciare redditività, trasparenza e non discriminazione, e ogni principio ha natura globale: non si valuta su un singolo caso, ma sull'aggregato.

I metodi standard di fine-tuning basati su Reinforcement Learning from Human Feedback (RLHF) si appoggiano proprio su confronti a coppie locali. Il feedback raccolto tramite piattaforme cloud rischia di appiattire queste tensioni interne, perché costringe a scelte decontestualizzate. Spostare il processo on-premise non basta: serve una diversa architettura cognitiva del processo di allineamento stesso. I framework di serving e addestramento locale potrebbero integrare strumenti che elicitano direttamente le priorità — ad esempio chiedendo di ordinare principi globali prima di valutare casi specifici — e che accettano l'indecisione come dato informativo.

La sovranità dei dati qui assume un significato più profondo: non è solo dove girano i bit, ma chi controlla la definizione stessa dei valori. Se l'azienda può modellare il comportamento dell'LLM a partire dai propri trade-off interni, senza delegare a un servizio esterno la negoziazione implicita tra priorità, ottiene un controllo più granulare e interpretabile. Il costo computazionale si riduce (meno query da raccogliere) e la fedeltà del modello aumenta.

Lo studio, per quanto teorico, indica una direzione chiara: i metodi di apprendimento delle preferenze del futuro non moltiplicheranno i dati, ma modelleranno l'ambivalenza e la struttura globale dei valori umani. Un cambio di paradigma che chi sviluppa e distribuisce LLM on-premise farebbe bene a osservare da vicino. Non si tratta di aggiungere un layer di fairness, ma di riconoscere che le persone — e le organizzazioni — ragionano per priorità plurali, e solo un'AI capace di accettare i conflitti potrà servirle davvero.