Quando un agente di reinforcement learning opera in un ambiente dove non tutto è visibile – come una porta chiusa in un labirinto o lo stato mentale di un avversario – chiedere aiuto a un piccolo modello linguistico (SLM) sembrerebbe una scappatoia sensata. In teoria, il modello porta con sé una forma di ragionamento generale che può colmare le lacune della policy addestrata. In pratica, finora era un disastro: negli esperimenti, l’approccio “vanilla” con gate di incertezza azzerava quasi sempre il contributo dello SLM. Non perché i modelli fossero stupidi, ma perché la domanda era posta male.

Il team di ricerca ha diagnosticato un problema di contesto, non di capacità. Il prompt standard – una richiesta egocentrica, priva di memoria – lasciava lo SLM all’oscuro di ciò che l’agente aveva già visto o fatto. Così, il modello non correggeva mai la policy, e la rete di reinforcement procedeva da sola, vanificando l’architettura. La soluzione si chiama ASK+: un prompt arricchito con una mappa parziale dell’ambiente, le posizioni visitate e la cronologia delle azioni, più un ragionamento strutturato a catena di pensiero. In pratica, anzi che chiedere “cosa faccio ora?” a un consulente bendato, gli si forniscono appunti, mappa e diario di bordo. Il salto è netto: su DoorKey la percentuale di successo sale dall’89% di PPO puro al 93%; su FourRooms passa dal 53% al 70%; su HigherLower raggiunge il 73,7%, toccando il limite superiore teorico dello SLM da solo. E la sorpresa più significativa: un modello Qwen3.5 da 2 miliardi di parametri ottiene risultati pari o superiori a quello da 4 miliardi. Il progetto del prompt e la decisione selettiva di quando interpellare il modello (gate di incertezza) dominano l’impatto della scala.

Questa dinamica rovescia la narrativa dominante secondo cui per avere assistenza AI di qualità servono modelli sempre più grandi. Non è una questione accademica: per chi valuta deployment on-premise, dove la VRAM è limitata e il TCO va calcolato sul lungo periodo, la possibilità di tenere in casa un modello da 2B – che gira senza problemi su una GPU di fascia media – invece di dover ricorrere a un 4B o superiore, sposta gli equilibri finanziari e di privacy. Avere il modello in locale significa dati che non escono mai dal perimetro aziendale, latenza prevedibile e nessun costo di API ricorrente. In contesti sensibili come la guida autonoma in fabbrica o la supervisione di infrastrutture critiche, la sovranità dei dati non è un lusso.

Lo studio aggiunge un altro tassello tecnico rilevante: il segnale di entropia predittiva usato per il gate misura l’incertezza sull’azione, non sullo stato, e resta informativo anche nei POMDP, cioè ambienti parzialmente osservabili. Ciò significa che il meccanismo di chiamata selettiva funziona ben oltre i setting completamente osservabili, allargando la platea di applicazioni reali.

C’è una lezione strutturale per l’industria. L’ossessione per il numero di parametri sta lasciando spazio a un paradigma più sofisticato, in cui l’ingegneria del prompt e la gestione del contesto diventano il vero differenziale competitivo. I fornitori di modelli, abituati a vendere taglie sempre più grandi, potrebbero vedere eroso il proprio vantaggio se le aziende capiscono che con un prompt ben costruito un modello piccolo e autogestito copre già il 95% dei casi d’uso. Allo stesso tempo, i team di MLOps dovranno investire meno in hardware esotico e più in design dell’interazione e pipeline di aggiornamento del contesto.

In definitiva, ASK+ dimostra che la corsa ai modelli sempre più grandi non è l’unica strada percorribile, soprattutto quando l’obiettivo è integrare assistenza cognitiva in ambienti incerti e con risorse controllate. Una vittoria per chi crede nella frugalità computazionale e nella sovranità tecnicica.