Metodi come ToMoE, KVBoost e MTP riducono i parametri attivi o riusano blocchi di cache key-value, tagliando il calcolo per token senza riaddestramento completo.
ToMoE converte checkpoint densi in MoE senza fine-tuning, riducendo i parametri attivi per token ma non il footprint in memoria. Un cambio di logica per l'on-premise: meno calcolo, stesso modello. Restano aperti i nodi runtime, latenza e VRAM. Il seg...
KVBoost riusa la cache key-value a livello di chunk e riduce il time-to-first-token di 4,49 volte su Qwen2.5-3B, senza perdita di accuratezza. A differenza del prefix caching, non richiede un prefisso iniziale condiviso: un doppio hash separa identit...
Un nuovo metodo converte LLM densi in architetture Mixture of Experts tramite pruning dinamico differenziabile, riducendo i parametri attivi per token senza eliminarli. Non richiede fine-tuning e supera le tecniche precedenti di pruning strutturale s...
llama.cpp abilita MTP per GLM-4.5-Air, un MoE da 106 miliardi di parametri con soli 12 miliardi attivi. La novità accelera l'inference su macchine con molta memoria ma calcolo limitato, come Strix Halo, DGX Spark e RTX 3090, e rafforza l'ecosistema d...
