LT-Tuning: Un nuovo paradigma per il ragionamento LLM

La capacità di ragionamento dei modelli linguistici di grandi dimensioni (LLM) è spesso implementata attraverso il Chain-of-Thought (CoT), un approccio che richiede ai modelli di verbalizzare ogni passaggio intermedio in token testuali. Questo, tuttavia, limita il ragionamento allo spazio discreto del vocabolario.

Recentemente, il ragionamento in spazi latenti continui è emerso come un'alternativa promettente, consentendo un'inference più robusta e una computazione flessibile. Tuttavia, i paradigmi latenti attuali soffrono spesso di feature collapse e instabilità.

L'approccio di Latent Thoughts Tuning

Per affrontare queste sfide, è stato proposto Latent Thoughts Tuning (LT-Tuning), un framework che ridefinisce il modo in cui i pensieri latenti vengono costruiti e implementati. Invece di basarsi esclusivamente sugli stati nascosti grezzi, LT-Tuning introduce un meccanismo di Context-Prediction-Fusion che sfrutta congiuntamente gli stati nascosti contestuali e la guida semantica predittiva dallo spazio di embedding del vocabolario.

In combinazione con una pipeline di apprendimento progressiva a tre stadi, LT-Tuning consente anche di passare dinamicamente tra modalità di pensiero latenti ed esplicite. Gli esperimenti dimostrano che questo metodo supera le baseline di ragionamento latente esistenti, mitigando efficacemente il feature collapse e ottenendo un'elevata accuratezza di ragionamento.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.