L’annuncio arriva da un consorzio tedesco di cui ancora si attendono dettagli sui partecipanti, ma il messaggio è chiaro: Soofi S, un LLM da 30 miliardi di parametri con licenza aperta, non solo esiste, ma piazza risultati da vertice assoluto nei benchmark multilingue, in inglese e tedesco. Non è un esperimento accademico di nicchia: è un modello subito utilizzabile, addestrato per eccellere su due lingue che contano economicamente e politicamente, e rilasciato fuori dai circuiti delle big tech americane.

La scelta di un consorzio, anziché di un singolo vendor, non è casuale. In Europa la frammentazione delle risorse è cronica, e iniziative coordinate come questa puntano a mettere insieme capacità di calcolo e competenze sparse. L’open source qui non è ideologia: è l’architrave per permettere a enti governativi, istituti finanziari e aziende sottoposte a regolamentazioni stringenti — dal GDPR alle norme bancarie — di adottare un LLM all’altezza senza dover spedire dati sensibili oltre confine.

Sul piano tecnico, un modello da 30B parametri in precisione FP16 occupa circa 60 GB di VRAM, il che significa che una singola GPU di fascia alta — una NVIDIA A100 da 80 GB, per esempio, o le più recenti H100 — può gestire inference a lotti ridotti senza ricorrere a complesse architetture distribuite. Non siamo nel regno dei modelli da smartphone, ma per un’organizzazione con un minimo di infrastruttura on-premise la barriera d’ingresso è concreta. La quantization a INT8, già rodata su altri modelli open, può abbattere ulteriormente il footprint di memoria, rendendo il deployment ancora più accessibile. Il punto è che la dimensione non è un deterrente: è esattamente quel che serve per prestazioni competitive senza diventare ingestibile.

E qui si innesta la questione della sovranità dei dati. Mentre le aziende europee valutano soluzioni cloud per l’AI, il combinato disposto di un modello linguisticamente competente in tedesco (lingua con morfologia complessa e domini legali/tecnici densi) e la possibilità di eseguirlo in locale sposta l’ago della bilancia. Non si tratta più di scegliere tra accuratezza e controllo: Soofi S promette di offrire entrambi, neutralizzando l’argomento che per avere il massimo delle performance bisogna per forza appoggiarsi a provider statunitensi.

Certo, mancano dati pubblici su consumi energetici, latenza e throughput in configurazione self-hosted. Ma il rilascio in sé manda un segnale strutturale: l’Europa non intende più restare spettatrice nella partita dei grandi modelli. Se il consorzio investirà anche su strumenti di fine-tuning e pipeline di deployment documentate, l’effetto a catena potrebbe spingere altre organizzazioni — magari in ambito sanitario o legale — a costruire verticalizzazioni on-premise basate su Soofi S. In un panorama dominato da modelli con migliaia di miliardi di parametri, un 30B efficiente e aperto può diventare il cavallo di battaglia di chi deve coniugare performance, privacy e TCO.

Non a caso, i riflettori si accendono sulle prossime mosse: la comunità osserverà se il consorzio pubblicherà benchmark dettagliati, curve di scaling e ricette di addestramento, elementi che determinano la vera riproducibilità e, con essa, la fiducia di chi valuta deployment on-premise. Nel frattempo, Soofi S alza l’asticella: per i vendor proprietari, la presenza di un contendente europeo open e multilingue rende più difficile giustificare i lock-in e i costi ricorrenti dei servizi cloud chiusi.