Topic / Trend Rising

Modelli MoE Open-Weight

I rilasci open-weight sono sempre più incentrati su architetture Mixture-of-Experts con parametri totali elevati, pochi parametri attivi e finestre di contesto molto lunghe. I modelli aperti cinesi e i nuovi entranti continuano a ridurre il divario con i modelli chiusi statunitensi.

Detected: 2026-10-21 · Updated: 2026-10-21

Articoli Correlati

2026-10-20 • LocalLLaMA

Spark-X2.6-4B: il budget di inference diventa una leva operativa

Il team XHToken ha pubblicato Spark-X2.6-4B, evoluzione di Spark-X2.5-4B. Stessa architettura, miglioramenti via post-training per coding, agenti, contesti lunghi e multilingua. Tre livelli di ragionamento regolabili permettono di bilanciare qualità,...

#Hardware #LLM On-Premise #Fine-Tuning
2026-10-20 • LocalLLaMA

Ornith-1.5-122B: l'auto-miglioramento come nuovo confine per i modelli aperti

Ornith-1.5-122B estende il loop di auto-miglioramento di Ornith-1.0: non più solo scaffold e rollout, ma generazione congiunta di task, scaffold e soluzioni con reinforcement learning. I pesi GGUF abbassano la barriera per l'uso locale, ma il modello...

#Hardware #LLM On-Premise #Fine-Tuning
2026-10-16 • LocalLLaMA

Beam di Reflection: ragionamento a token ridotti, memoria da 501 miliardi

Reflection ha rilasciato Beam, LLM aperto con architettura MoE da 501 miliardi di parametri totali e 23 miliardi attivi. Supporta contesto da 1 milione di token e precisioni BF16, FP8 e NVFP4. La tesi è il ragionamento token-efficiente: circa un terz...

#Hardware #LLM On-Premise #DevOps
2026-10-16 • LocalLLaMA

Tencent Hy-Memory-30B-A3B: perché 3B attivi contano più di 30B totali

La scheda del modello Tencent Hy-Memory-30B-A3B accende il dibattito su un dato sfuggente: un'architettura con 3 miliardi di parametri attivi su 30 miliardi totali supererebbe Opus 5 in un test di memoria non specificato. Il punto non è il benchmark,...

#Hardware #LLM On-Premise #DevOps
2026-10-15 • PyTorch Blog

Meta apre i pesi di Muse Spark Open: 816B parametri e contesto da 1M token

Meta rilascia i pesi di Muse Spark Open, modello da 816 miliardi di parametri totali e 42 miliardi attivi con finestra da 1M token. L'annuncio unisce Helion e TorchTitan: kernel portabili su GPU NVIDIA, AMD e Intel e strumenti di fine-tuning nativo P...

#Hardware #LLM On-Premise #Fine-Tuning
← Torna ai Topic