Yandex ha pubblicato su Hugging Face il modello AliceAI-Foundation-80B-A3B-Base, presentato come concorrente russo di Qwen 35B e DeepSeek V4 Flash. Il nome riassume l'impianto: 80 miliardi di parametri totali e, nella sigla A3B, una componente attiva ridotta, coerente con architetture mixture-of-experts. Ma la nota più rilevante non è la scala: è che non si tratta di una fine-tune di Qwen3 e nemmeno di una variante post-addestrata come le serie Qwen3.5 o 3.6. Yandex ha costruito un'architettura completamente custom, partendo dal pretraining.
La conseguenza diretta è che il paragone con modelli istruiti e allineati va preso con molte cautele. Un base model senza post-training non ha lo stesso profilo comportamentale di un assistente conversazionale: non è pronto per chat, tool calling o agenti. Posizionarlo accanto a Qwen e DeepSeek può servire a segnalare ambizione, ma sposta il confronto sul terreno della qualità del pretraining piuttosto che sull'usabilità immediata. Questa distinzione è strutturale, non stilistica: chi valuta un modello per deployment on-premise non compra solo i pesi, ma anche la maturità del passaggio successivo, fatto di fine-tuning, allineamento e integrazione con i runtime.
Il secondo elemento concreto è l'assenza di supporto in Llama.cpp. Nel mondo self-hosted e locale, Llama.cpp è uno dei runtime più diffusi per eseguire LLM su CPU, GPU consumer e hardware con memoria limitata. Un modello con architettura custom che non ha ancora un backend in quel progetto resta di fatto fuori dalla cassetta degli attrezzi di molti operatori. Non è un limite permanente: i porting arrivano quando c'è domanda. Ma oggi crea un collo di bottiglia: senza runtime, il modello non entra nelle pipeline di inference leggere e non può essere confrontato in condizioni realistiche con modelli già supportati.
C'è un terzo livello di lettura. La scelta di Yandex di non appoggiarsi a Qwen3 e di sviluppare un'architettura propria segnala che la competizione internazionale sui foundation model si sta spostando dal solo fine-tuning alla progettazione dei modelli. Questo ha implicazioni per chi costruisce infrastruttura on-premise: la proliferazione di architetture custom aumenta il costo di manutenzione dei runtime e riduce la portabilità dei modelli tra stack diversi. Chi scommette su un unico framework di serving deve fare i conti con il fatto che ogni nuova famiglia di modelli può richiedere lavoro di supporto specifico.
Per chi valuta deployment on-premise, il trade-off tra novità architetturale e maturità dell'ecosistema di inference è esattamente il tipo di analisi che AI-RADAR sviluppa su /llm-onpremise. AliceAI non è oggi un modello plug-and-play per il self-hosted: è più un segnale di ricerca e di direzione tecnicica. La domanda aperta è se la community investirà nel porting prima che arrivi una versione post-trained, o se il progetto resterà un artefatto interessante per laboratori e ricercatori.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!