L'ecosistema LLM locale si sta consolidando su quantization GGUF, compatibilità con llama.cpp e configurazioni GPU/CPU consumer: modelli da 27B girano su schede da 16GB e i formati IQ/FP8 migliorano velocità e qualità.
ISTA-DASLab ha pubblicato i quanti GGUF di DeepSeek-V4.1-Flash-1017 con l’approccio GSQ-RCO. Il modello, però, non gira su llama.cpp: i pull request per il supporto all’architettura sono ancora aperti. La scheda tecnica cita Strata, ma il runtime ori...
Un sistema di inference combina quantization, speculative decoding e offloading degli esperti per accelerare i modelli MoE su singola GPU. Il modello draft quantizzato resta on-device e anticipa con precisione gli esperti da caricare, riducendo il co...
KRAFTON AI pubblica Raon-1 mini preview, un LLM MoE da 30B con 4B attivi, orientato a conversazione coreana e task agentici. Con licenza Apache 2.0, speculative decoding e quantization NVFP4/MXFP8, l'inference può girare su una singola NVIDIA RTX 509...
Il nuovo metodo EAGLE-4 registra un'accelerazione di 3,59× rispetto alla decodifica vanilla nei benchmark pubblicati, superando DFlash2 (2,80×), DSpark (2,57×) e MTP (2,22×). Il supporto oggi è limitato a Qwen3.8-27B e manca l'integrazione in llama.c...
Un utente documenta il salto da 9 a 48 token/s passando a STRATA su CachyOS con driver NVIDIA pronti, usando Qwen 3.8 Flash Next a 3 bit. La GPU da 8 GB regge 32k di contesto e arriva a 42k, restando a 130 MB dal crash. Il caso mostra pregi e limiti ...
Migtissera distribuisce in formato GGUF un fine-tuning di Qwen che, secondo i benchmark interni, genera fino a un quarto di token in meno a parità di punteggio. Meno token significa risposte più rapide, sessioni più lunghe e costi di inference ridott...
Con North Micro Vision su llama.cpp e Transcribe in Unsloth, Cohere normalizza l'inference locale e il fine-tuning su dati propri. Il segnale sposta il TCO: il costo marginale dell'hardware dedicato può divergere dal costo per token delle API. Restan...
Cohere ha annunciato l'integrazione dell'encoder visivo di North Micro Vision Instruct in llama.cpp. Tutte le architetture recenti dell'azienda diventano così compatibili con il runtime locale, mentre Cohere Transcribe arriva in Unsloth per il fine-t...
ISTA-DASLab ha aggiornato il modello Qwen3.8-Flash-Next-GSQ-RCO-Coder in formato GGUF. I pesi mantenuti non cambiano rispetto alla base IQ3_S, ma circa il 25% della selezione degli esperti è diversa. Il modello resta English-only: con un budget di es...
Una proposta per llama.cpp introduce i tipi IQ2_K–IQ6_K: stesse dimensioni dei Q-quants, divergenza KL nettamente migliore, prestazioni leggermente inferiori e creazione più lenta. Per chi esegue LLM in locale, il trade-off si sposta: pari occupazion...
Un homelab, non un vendor, ha documentato un LLM da 27 miliardi di parametri con 262.000 token di contesto su una singola Radeon RX 9060 XT da 16 GB di VRAM, usando quantization, streaming della cache KV e fix software. Il segnale: il costo d'ingress...
Un homelab con una singola Radeon RX 9060 XT da 16 GB e 24 GB di RAM DDR5 esegue un LLM da 27 miliardi di parametri con 262.000 token di contesto. Il setup usa quantization IQ4_XS, cache KV streaming e registra 42,7 token/s in generazione a 20k di co...
Un esperimento su Reddit mostra che sostituire il PLE quantizzato dei GGUF comuni con il sidecar FP8 completo migliora la qualità percepita di Qwen 3.8 Flash Next, senza impatto sulla velocità. Cresce solo lo spazio su disco.
