Quando un modello da 2 miliardi di parametri supera concorrenti tre volte più grandi su benchmark in lingua francese, il segnale è inequivocabile: la specializzazione linguistica può battere la forza bruta del multilinguismo. È la lezione che arriva da Luth-2, la nuova famiglia di small language models (SLM) appena rilasciata da un team indipendente e già in cima alla classifica francese di Hugging Face.

Luth-2-0.8B e Luth-2-2B non sono modelli di reasoning, ma fissano nuovi record per il francese in compiti di comprensione e matematica. Il modello da 2B ottiene 69.67 su Multi-IF contro il 65.17 di Gemma-4-E2B-it, un modello tre volte più grande; la variante da 0.8B raggiunge 72.92 su MGSM-Rev2, polverizzando il 55.60 di granite-4.0-h-micro; e su Math-500, Luth-2-2B fa 81.52 contro 81.24 di Gemma-4-E2B-it. Numeri che ribaltano la logica del “più grande è meglio”.

Dietro questi risultati c’è una combinazione tecnica che rompe con l’approccio multilingua generico. Il team ha costruito una miscela di fine-tuning supervisionato (SFT) da 3 miliardi di token che copre matematica, conoscenza, codice, chiamate di funzione, istruzioni e dialogo multi-turno. A questo ha aggiunto un reinforcement learning basato su specializzazioni per dominio e una distillazione on-policy multi-dominio (MOPD). Il backbone scelto, Qwen3.5, si è rivelato molto più recettivo al post-training rispetto ai modelli precedenti. Il risultato: due modelli che nella loro classe di taglia offrono prestazioni competitive con architetture ben più pesanti.

Ed è proprio la taglia a fare la differenza per chi guarda al deployment reale. Entrambi i modelli sono così compatti da girare in locale senza bisogno di GPU enterprise. Le versioni GGUF, già disponibili, permettono l’inference su CPU consumer con costi hardware irrisori. Questo cambia le carte per qualsiasi organizzazione che operi in francese e debba rispettare vincoli di residenza dei dati, latenza o semplicemente voglia tenere sotto controllo il TCO dell’AI generativa. Un’azienda con sede a Parigi o Ginevra può ora eseguire un LLM che parla la sua lingua a livelli da modello cloud, ma su un laptop o un piccolo server on-premise, senza mai far uscire i dati dal perimetro aziendale.

Il caso Luth-2 segnala una crepa strutturale nei grandi modelli multilingua. Troppo spesso “parlano” molte lingue senza eccellere in nessuna, disperdendo capacità computazionale in token che non servono agli utenti di una specifica comunità linguistica. Per il francese – ma il discorso vale per qualsiasi lingua ad alta risorsa – un SLM specializzato non solo raggiunge la parità con modelli più grandi, ma la supera, con un consumo energetico e un fabbisogno di VRAM drasticamente inferiori. È una dinamica che incoraggia gli ecosistemi locali a investire in modelli verticali, e che spinge i fornitori di hardware a ottimizzare per inference a bassa potenza, dall’edge ai mini-server.

In un’epoca in cui il GDPR e le normative sulla sovranità digitale obbligano a ripensare dove e come girano i carichi di AI, Luth-2 mostra che non serve rincorrere modelli da centinaia di miliardi di parametri. A volte, la risposta è più piccola, più mirata – e infinitamente più facile da gestire.