La generalizzazione strutturale — la capacità di comporre elementi noti in combinazioni mai viste — è da anni il banco di prova prediletto per misurare il ragionamento dei modelli linguistici. Eppure, mancava una definizione formale. Un nuovo contributo teorico colma questa lacuna con una formulazione matematica neutra: la soddisfa tanto un compilatore che codifica le regole a mano quanto un sistema che le apprende dai dati. Il punto, argomentano gli autori, è che la domanda scientifica diventa interessante solo quando la capacità deve emergere in modo autonomo da esempi finiti.

Ed è qui che la complessità computazionale traccia un confine netto. Il problema della generalizzazione strutturale, se scomposto in una proiezione sintattica e una semantica (in stile Montagoviano), richiede di valutare alberi di composizione semantica. Quel compito è un’istanza di BFVP, notoriamente NC¹-completo — una classe che cattura operazioni parallelizzabili ma intrinsecamente ricorsive, come il parsing di espressioni annidate. I Transformer puri, invece, appartengono alla classe TC⁰, meno espressiva: possono calcolare funzioni tramite circuiti a soglia di profondità costante, ma non possono simulare la ricorsione necessaria a gestire strutture annidate di profondità arbitraria. La dimostrazione di Kraus et al. (2026) incapsula questo limite: ciò che un Transformer può apprendere da dati è incluso in TC⁰. Sotto l’ipotesi standard che TC⁰ sia strettamente più debole di NC¹, ne segue che un Transformer puro non imparerà mai la generalizzazione strutturale in senso pieno.

Non è un dettaglio da teorici. Chi oggi mette in produzione LLM per compiti che richiedono inferenze composizionali — interrogazioni su database stratificate, analisi di clausole contrattuali, generazione di codice con vincoli annidati — si scontra con comportamenti fragili che i benchmark sintetici non sempre catturano. La ragione è duplice. Da un lato, la valutazione standard non distingue tra capacità realmente appresa e capacità “donata” dall’architettura o dall’addestramento su distribuzioni poco impegnative. Dall’altro, il muro TC⁰ implica che aumentare parametri e dati non è sufficiente: si può migliorare la copertura lessicale o la fluidità, ma non si colma il deficit di composizionalità sistematica.

La via d’uscita indicata dalla ricerca ha un nome preciso: sistemi neuro-simbolici. I modelli che dominano le classifiche su compiti di generalizzazione strutturale iniettano esplicitamente la componente semantica Gγ — ad esempio tramite moduli di parsing simbolico o memoria strutturata — aggirando così il collo di bottiglia computazionale. In pratica, il ragionamento composizionale non viene appreso dal Transformer, ma delegato a un componente esterno che opera fuori dal regime TC⁰.

Per chi valuta deployment on-premise di LLM, questa conclusione ha un riflesso architetturale immediato. Una stack interamente basata su Transformer, per quanto ottimizzata con quantization e serving efficiente, resterà cieca alla composizionalità profonda, a meno che non venga arricchita con moduli simbolici espliciti. Il controllo diretto sull’infrastruttura — tipico del self-hosted — diventa allora un abilitatore: permette di orchestrare pipeline ibride senza dipendere da API cloud che offrono pochi margini di intervento sull’architettura interna del modello. In settori dove la correttezza logica è irrinunciabile, come la compliance normativa o la diagnostica industriale, la possibilità di affiancare un motore simbolico al LLM non è un lusso accademico, ma un requisito di sistema.

Il messaggio strutturale, insomma, è che la scalabilità bruta dei Transformer non può sostituire l’espressività computazionale. Il paper segnala che la prossima frontiera non è solo fare modelli più grandi, ma integrare circuiti di calcolo che escono dal perimetro TC⁰, esattamente come i sistemi neuro-simbolici stanno già facendo, spesso in silenzio, nei contesti dove contano le risposte esatte.