Controllo preciso dei LLM tramite Style Modulation Heads

Un recente studio pubblicato su arXiv presenta un metodo innovativo per controllare i Large Language Models (LLM) senza ricorrere al fine-tuning. La tecnica si basa sull'individuazione di un sottoinsieme specifico di attention heads, denominati 'Style Modulation Heads', che svolgono un ruolo chiave nella formazione della persona e dello stile del modello.

L'activation steering, una tecnica efficiente dal punto di vista computazionale per influenzare il comportamento degli LLM, spesso porta a un degrado della coerenza del testo generato. I ricercatori ipotizzano che questo problema derivi dall'intervento diretto sul residual stream, che amplifica involontariamente il rumore indesiderato.

Identificando e intervenendo solo sulle Style Modulation Heads, i ricercatori sono riusciti a ottenere un controllo più robusto del comportamento del modello, mitigando significativamente il degrado della coerenza osservato con l'activation steering tradizionale. L'individuazione di queste heads avviene tramite un'analisi geometrica delle rappresentazioni interne del modello, combinando la similarità coseno layer-wise e i contribution scores head-wise. Questo approccio permette una localizzazione precisa a livello di componente, consentendo un controllo del modello più sicuro e accurato.

Per chi valuta deployment on-premise, esistono trade-off tra controllo granulare e risorse computazionali. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.