Chi frequenta i circuiti del machine learning open source si sarà imbattuto in un nome ancora poco familiare: Soofi S. La sigla completa, 30B-A3B, racconta però più di quanto sembri a prima vista, e lo fa parlando la lingua di chi gestisce stack on-premise. Dietro quella stringa c’è un modello linguistico di fondazione europeo, rilasciato con licenza aperta e pensato per essere eseguito su hardware locale, senza dipendere da API cloud. E, aspetto non secondario, accompagnato da un paio di versioni preview orientate al ragionamento – i cosiddetti modelli "thinking" che stanno ridefinendo le aspettative sull’inference avanzata.

Un’architettura su misura per il locale

Il dettaglio che salta all’occhio è la coppia di numeri: 30 miliardi di parametri totali, ma soltanto 3 miliardi attivi durante l’inference. Questa configurazione lascia intuire un’architettura a mistura di esperti (MoE), sulla scia di modelli come Mixtral, che permette di mantenere una capacità espressiva notevole senza pretendere centinaia di GB di VRAM. Per chi assembla server on-premise o valuta workstation con GPU consumer, la differenza è sostanziale: un modello con 3B di parametri attivi può girare su schede da 24 GB di VRAM, se non meno, abbattendo i costi di capitale e semplificando la gestione termica e l’efficienza energetica.

Le versioni "thinking" aggiungono un ulteriore strato: suggeriscono che il team abbia sperimentato tecniche di ragionamento a più passi, possibilmente con catene di pensiero o strumenti analoghi a quelli visti nei modelli più grandi. In attesa di benchmark ufficiali, è lecito chiedersi quanto queste varianti consumino in più in termini di latenza e memoria, ma il solo fatto che siano state rese disponibili segnala una volontà di competere sul terreno dell’inference complessa, non solo su quella generativa di base.

L’Europa entra nell’arena dei modelli fondazione

La provenienza europea non è un dettaglio aneddotico. In un momento in cui la sovranità digitale e la conformità al GDPR orientano le scelte infrastrutturali, un modello nato in Europa e rilasciato sotto licenza aperta può diventare un tassello importante per organizzazioni che non vogliono – o non possono – affidare dati sensibili a provider extra-UE. L’assenza di vincoli geografici sull’hosting offre flessibilità a chi progetta deployment air-gapped o ibridi, un tema che AI-RADAR esplora sistematicamente nei suoi framework per valutare i trade-off tra cloud e on-premise.

Lo stesso dibattito che ha accolto Qwen 3.6 (di origine cinese) e Gemma 4 (Google, ma con anima cloud-first) ora si arricchisce di un contendente che parla di regolamentazione europea e trasparenza. Ciò non significa automaticamente che Soofi S sia superiore o meglio allineato, ma colma un vuoto: mancava un LLM europeo ottimizzato per l’inference locale con ambizioni di parità prestazionale.

Cosa cambia per chi costruisce stack locali

Al di là delle prime segnalazioni degli utenti – che stanno iniziando a confrontarlo con Qwen 3.6 e Gemma 4, i loro modelli di riferimento negli stack personali – la comparsa di Soofi S rinforza una tendenza strutturale. I modelli di fondazione stanno diventando più piccoli, più efficienti e più modulari, rendendo l’on-premise non più un’alternativa di ripiego ma una scelta strategica per chi governa dati, costi e compliance. Chi adotta un LLM locale oggi non deve più accontentarsi di capacità ridotte: l’architettura MoE, unita a tecniche di quantization e serving ottimizzato, sta abbattendo la barriera tra "modello da laboratorio" e "modello da produzione".

Va detto che il progetto è agli albori. Non ci sono ancora valutazioni comparative indipendenti, e la maturità dell’ecosistema di tooling – dai framework di inference come vLLM o llama.cpp al supporto per fine-tuning – è tutta da verificare. Eppure, la direzione è chiara: la proliferazione di modelli local-first sposta il potere negoziale verso chi progetta infrastrutture, lontano dai vendor cloud che hanno finora dettato le condizioni di accesso all’AI avanzata.

In attesa di test più approfonditi, Soofi S 30B-A3B ci ricorda che l’innovazione nei modelli linguistici non corre più su un binario unico, e che la prossima generazione di stack on-premise potrebbe nascere dalla combinazione di tanti tasselli come questo, piuttosto che da un monolite centralizzato.