Il fine-tuning di un LLM parte quasi sempre da un presupposto: servono testi leggibili, annotati o curati. Un nuovo lavoro lo mette in discussione, chiedendosi se la leggibilità umana sia davvero necessaria. La risposta proposta si chiama DASA, Desired-Update-Aligned Synthetic Data, e usa i gradienti di attivazione di un modello di riferimento congelato per generare embedding sintetici continui.

Oltre il testo: come funziona DASA

Invece di ricostruire il testo sorgente o imporre fluidità linguistica, DASA punta ad aggiornamenti utili per l’adattamento del modello. Gli embedding vengono usati direttamente per il fine-tuning downstream; le proiezioni discrete in token servono solo per l’ispezione qualitativa.

I test coprono sei modelli delle famiglie Llama e Qwen, da 1B a 32B parametri, su sei benchmark che spaziano tra conoscenza, ragionamento matematico, generazione di codice e ragionamento di buon senso. In condizioni LoRA paragonabili, DASA ottiene prestazioni simili ai dati in linguaggio naturale e le supera in più configurazioni; supera inoltre GRADMM nella maggior parte dei confronti. Con i setting di sintesi valutati, DASA offre anche un’accelerazione da 3,6 a 4,9 volte rispetto a GRADMM, con picco di memoria GPU comparabile.

Il gradiente come nuova unità di cura dei dati

La tesi implicita è che la qualità di un dataset di fine-tuning non sia una proprietà del testo in sé, ma della direzione di aggiornamento che induce nel modello. È un cambio di prospettiva: non ci si chiede più se una frase è ben scritta o se un’istruzione è formulata bene, ma se il segnale prodotto porta il modello verso un comportamento target.

Questo ha conseguenze di secondo ordine. La cura dei dati si sposta dal lavoro linguistico-editoriale alla progettazione di segnali di feedback e alla scelta del modello di riferimento. Chi possiede competenze di ottimizzazione e infrastruttura di calcolo ne beneficia più di chi ha solo accesso a corpora testuali. Allo stesso tempo, la portabilità dei dati sintetici potrebbe ridursi: un embedding generato con un modello di riferimento congelato è legato alla geometria attivazionale di quel modello, quindi non è scontato che si trasferisca bene ad architetture diverse.

C’è anche un tema di accountability. Se i dati di addestramento non sono più leggibili, diventa più complesso ricostruire cosa il modello abbia effettivamente appreso durante il fine-tuning. Le proiezioni discrete in token sono solo qualitative, non una rappresentazione fedele del segnale. Per chi opera in contesti regolati o con requisiti di audit, questo non è un dettaglio: cambia il tipo di documentazione che un team deve produrre per dimostrare la provenienza e la natura degli aggiornamenti.

Per chi gestisce modelli self-hosted, il metodo tocca anche il trade-off tra preparazione dei dati e calcolo. Da un lato riduce la dipendenza da dataset testuali curati; dall’altro introduce un passaggio di ottimizzazione di embedding sintetici che richiede un modello di riferimento congelato e il calcolo dei gradienti di attivazione. Lo speedup rispetto a GRADMM e la memoria GPU comparabile segnalano che il collo di bottiglia non è necessariamente l’hardware in termini assoluti, ma il tipo di segnale che si decide di usare. Per chi valuta deployment on-premise, esistono trade-off tra costo di preprocessing del testo e costo di sintesi; AI-RADAR offre framework analitici su /llm-onpremise per esaminarli.

Il punto non è che il testo scompaia, ma che per il fine-tuning potrebbe diventare un sottoprodotto ispettivo, non l’input principale.