Topic / Trend Rising

Piccoli LLM efficienti e architetture MoE

Nuovi modelli come Maxwell-V1-Flash e SenseNova-Loop-9B dimostrano che architetture sparse e parametri ridotti possono competere con modelli molto più grandi. Gli esperimenti di fine-tuning con modelli da 4B e 350M confermano che qualità dei dati e durata dell'addestramento contano spesso più della scala.

Detected: 2026-11-20 · Updated: 2026-11-20

Articoli Correlati

2026-11-17 • LocalLLaMA

Maxwell-V1-Flash: 35B totali, 3B attivi e contesto a 256K token

Il team Maxwell ha pubblicato Maxwell-V1-Flash, un LLM MoE con 35 miliardi di parametri totali e 3 miliardi attivi per token. Punta su attenzione block-sparse, contesto fino a 256K token e capacità agentiche, riducendo il costo pratico dell'inference...

#Hardware #LLM On-Premise #Fine-Tuning
2026-11-14 • LocalLLaMA

SenseNova-Loop-9B: un 9B che sfida i 27B, ma l'inference è il nodo

La pagina Hugging Face di SenseNova-Loop-9B-Preview attira l'attenzione di un utente: prestazioni paragonabili a Qwen 3.5 27B con soli 9B parametri, ma con parametri di inference intorno a 15B e MTP. Il framework è promettente ma non ancora rifinito.

#Hardware #LLM On-Premise #DevOps
← Torna ai Topic