Formati di quantization, speculative decoding e metodi di riduzione dei token stanno migliorando il throughput e riducendo i requisiti hardware per l'inference locale.
Un sistema di inference combina quantization, speculative decoding e offloading degli esperti per accelerare i modelli MoE su singola GPU. Il modello draft quantizzato resta on-device e anticipa con precisione gli esperti da caricare, riducendo il co...
Il nuovo metodo EAGLE-4 registra un'accelerazione di 3,59× rispetto alla decodifica vanilla nei benchmark pubblicati, superando DFlash2 (2,80×), DSpark (2,57×) e MTP (2,22×). Il supporto oggi è limitato a Qwen3.8-27B e manca l'integrazione in llama.c...
Migtissera distribuisce in formato GGUF un fine-tuning di Qwen che, secondo i benchmark interni, genera fino a un quarto di token in meno a parità di punteggio. Meno token significa risposte più rapide, sessioni più lunghe e costi di inference ridott...
ISTA-DASLab ha aggiornato il modello Qwen3.8-Flash-Next-GSQ-RCO-Coder in formato GGUF. I pesi mantenuti non cambiano rispetto alla base IQ3_S, ma circa il 25% della selezione degli esperti è diversa. Il modello resta English-only: con un budget di es...
Una proposta per llama.cpp introduce i tipi IQ2_K–IQ6_K: stesse dimensioni dei Q-quants, divergenza KL nettamente migliore, prestazioni leggermente inferiori e creazione più lenta. Per chi esegue LLM in locale, il trade-off si sposta: pari occupazion...
Un esperimento su Reddit mostra che sostituire il PLE quantizzato dei GGUF comuni con il sidecar FP8 completo migliora la qualità percepita di Qwen 3.8 Flash Next, senza impatto sulla velocità. Cresce solo lo spazio su disco.
Il progetto ORL (On-Policy Residual Learning) promette di accelerare i diffusion LLM senza sacrificare la qualità. Su una singola RTX 5090 il team segnala 2.788 token/s con LLaDA-2.1-mini in NVFP4; il motore di inference dlmrt, open source, sfrutta C...
Un preprint di Stanford, Together AI, UIUC e Meta introduce i Hybrid Reasoning Agents: modelli che ragionano in modo interno e producono testo solo per tool e risposta finale. Nei test segnalati guadagnano circa il 10%, usano metà token, girano due v...
Un test empirico di tre giorni su GYRO-M, quantization Q2 del modello Qwen Flash Next, segnala stabilità paragonabile al q3 ISTA con dimensioni ridotte. Il progetto nasce da un singolo contributore e mostra tenuta su contesti lunghi, ma evidenzia cri...
