La notizia non è che un modello linguistico da mezzo miliardo di parametri risolve un benchmark di ragionamento. È che lo fa riusando lo stesso blocco di pesi in loop, senza generare ragionamenti testuali intermedi, e con un budget di parametri addestrabili di soli sei milioni. Il gruppo di ricerca ha preso Qwen2.5-0.5B-Instruct, lo ha scomposto in Prelude, blocco ricorrente con pesi condivisi e Coda, e ha introdotto un percorso a un solo loop identico al modello base con un bridge di rientro per i loop successivi. Al primo loop il retrofit non è inferiore al modello di partenza sulla batteria ARC preregistrata.
Il primo risultato è che il meccanismo installato è una procedura riutilizzabile, non una semplice memorizzazione della risposta terminale. Funziona con due budget parametrici: sei milioni di parametri addestrati sopra i pesi congelati del modello base e 180 milioni per il blocco completo. Con supervisione sui passi intermedi, il modello esegue un passo del compito per ogni loop e mantiene il comportamento anche quando viene valutato solo sulla risposta finale. L'adattatore ha eguagliato il blocco completo in media (83,8% contro 84,0%), è rimasto avanti fino alla profondità 11 e ha ceduto oltre. Il fine-tuning verbale ha raggiunto il 79-86% su rendering verbali controllati, con trasferimento zero-shot minimo. Ma quando l'addestramento verbale dell'adattatore parte dal meccanismo già installato, supera di 18,6 punti un addestramento fresco equiparato, anche su un test set separato.
Il secondo risultato riguarda l'estrapolazione: il modello estende la profondità a circa 1,5 volte quella supervisionata, mantenendo il 70% di accuratezza fino a profondità 18. Il confronto con un modello scratchpad della stessa dimensione è illuminante. Dentro l'orizzonte appreso i due si equivalgono, ma oltre quel limite il modello scratchpad collassa. Il modello ricorrente vince complessivamente 84% contro 72%, conserva il 53% contro il 2,5% oltre profondità 10 e risponde 7,6 volte più veloce. Qui c'è una differenza strutturale: il ragionamento avviene in spazio latente, non generando token intermedi. Per chi gestisce inference on-premise o self-hosted, questo sposta il costo computazionale dai token generati ai passi interni del modello, con effetti potenziali su latenza e memoria che vanno misurati caso per caso. La piattaforma AI-RADAR offre su /llm-onpremise framework analitici per valutare questi trade-off.
Il terzo risultato, però, è il più interessante. Un secondo compito, eseguire la regola al contrario, ha esposto i limiti. L'inversa era apprendibile in isolamento, ma nessuna continuazione è riuscita ad acquisirla preservando il meccanismo installato e la capacità generale. È un confine di interferenza catastrofica. Significa che il retrofit ricorrente non è un modulo generico che si possa estendere a piacere: l'installazione è task-specifica e il trasferimento a compiti correlati ma inversi può distruggere ciò che già funziona.
La domanda aperta è la selezione della profondità. Il modello non impara da solo quando fermarsi, e questo ha implicazioni concrete. Un deployment on-premise che voglia sfruttare il ragionamento iterativo latente deve oggi fissare un numero di loop, con il rischio di usare troppa o troppo poca compute. L'architettura a pesi condivisi riduce il numero di parametri unici da mantenere in memoria, ma non risolve il problema di decidere la profondità ottimale per ogni input. La strada verso modelli che ragionano in loop è aperta, ma il confine mostrato dal compito inverso suggerisce che la robustezza non arriva gratis.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!