Il dato che distingue Maxwell-V1-Flash da molti annunci nel settore è tutto nella coppia 35 miliardi / 3 miliardi. Il modello del Maxwell Team ha 35 miliardi di parametri totali, ma ne attiva solo 3 miliardi per token, escludendo gli embedding. Con una finestra di contesto fino a 256.000 token, l'obiettivo dichiarato non è battere benchmark di scala, ma rendere praticabile il costo dell'inference per ragionamento, compiti agentici e contesti lunghi.

L'architettura si appoggia su tre scelte precise. La Maxwell Block Sparse Attention (MBSA) non applica l'attenzione densa a tutta la storia: ogni gruppo KV mantiene una copertura fissa di 8 blocchi di prefisso e 8 blocchi locali da 128 token, e può aggiungere fino a 16 blocchi remoti scelti da un indexer appreso. Il calcolo principale resta limitato a 4.096 token per gruppo KV, mentre la cache KV dell'intera storia rimane disponibile. Secondo il team, il kernel MBSA è 6,7 volte più veloce della GQA densa a 256K. È un cambio di logica: non si taglia il contesto, si seleziona dove guardare.

Le altre due componenti sono le manifold-constrained hyper-connections e una Mixture-of-Experts fine-grained. Le prime allargano il flusso informativo con più flussi residui e aggregazioni apprese senza moltiplicare le valutazioni di attenzione o feed-forward. La seconda combina esperti instradati fine-grained con esperti condivisi sempre attivi, e usa un bias di correzione del routing dinamico insieme a una loss di bilanciamento leggera a livello di sequenza. In pratica, il modello cerca di aumentare la capacità senza far crescere allo stesso ritmo il lavoro per token.

La fase di pre-training parte densa, con circa 26 trilioni di token multilingue e l'ottimizzatore Muon su gran parte delle matrici dei pesi nascosti. L'attenzione block-sparse entra a metà addestramento, al livello di 128K, dopo che l'indexer è stato riscaldato contro l'attenzione densa full-history. Da lì la rete e l'attenzione sparsa vengono addestrate congiuntamente. Il tokenizer è consapevole della scrittura e compatto in più lingue, con attenzione specifica a lingue del sud-est asiatico a bassa disponibilità di risorse come thai, lao, birmano, khmer e shan. La fase di post-training alterna SFT in due stadi e rami RL indipendenti per compiti generali, ragionamento verificabile e traiettorie agentiche, poi una distillazione on-policy multi-teacher unifica il tutto in un unico modello.

Per chi osserva il deployment on-premise, la notizia ha un significato strutturale. Un LLM con 3 miliardi di parametri attivi per token sposta il costo dell'inference dalla capacità bruta della GPU alla qualità del software di serving e alla gestione della cache KV. La cache completa resta in memoria, quindi la pressione su VRAM e larghezza di banda non scompare; cambia la natura del problema: non serve solo più memoria, serve un runtime capace di sfruttare kernel sparsi e una pipeline di recupero dei blocchi remoti efficiente. I benchmark di velocità dichiarati dal team sono legati a quel kernel, non a un generico miglioramento del modello.

È qui che la proposta del Maxwell Team incrocia le decisioni di chi valuta self-hosted. Non offre una scheda tecnica di GPU, ma un modo per ridurre il costo computazionale di funzionalità che fino a poco fa erano appannaggio di modelli densi molto più pesanti. Il rischio, dal punto di vista di un'azienda, è che i guadagni dichiarati dipendano da un'integrazione software non banale: l'indexer appreso, la gestione dei blocchi remoti e la distillazione multi-teacher sono parte del valore, non dettagli accessori. Chi guarda ai framework analitici di AI-RADAR su /llm-onpremise per confrontare le opzioni separa quindi il modello dallo stack che lo serve.

Il segnale di mercato è chiaro: la corsa alla scala lascia spazio a modelli che comprimono il lavoro per token e rendono il contesto lungo un problema di sistemi, non solo di parametri. Questo favorisce chi opera in contesti regolamentati o con dati da mantenere in sede, dove un modello 35B con attenzione sparsa può risultare più praticabile di un equivalente denso, a patto di accettare una gestione più sofisticata di cache e runtime.