L'ecosistema degli LLM locali si sposta verso 1 bit, Q2, IQ2_K-IQ6_K, sidecar FP8 e compromessi BF16 per far entrare i modelli in VRAM scarsa preservando la qualità. Repository GGUF privi di documentazione mostrano un crescente onere di verifica per i deployment self-hosted.
Un repository GGUF privo di note su Hugging Face sposta il costo della verifica su chi valuta il deploy. AI-Radar analizza quantization, contesto, VRAM e provenance, e mostra perché l'assenza di documentazione blocca pipeline self-hosted, TCO e sovra...
Su Hugging Face è comparso il repository unsloth/DeepSeek-V4.1-Flash-1017-GGUF, ma senza alcun documento o annuncio ufficiale del team Unsloth. L'assenza di note tecniche lascia aperti interrogativi su quantization, finestra di contesto e requisiti d...
Una proposta per llama.cpp introduce i tipi IQ2_K–IQ6_K: stesse dimensioni dei Q-quants, divergenza KL nettamente migliore, prestazioni leggermente inferiori e creazione più lenta. Per chi esegue LLM in locale, il trade-off si sposta: pari occupazion...
Un esperimento su Reddit mostra che sostituire il PLE quantizzato dei GGUF comuni con il sidecar FP8 completo migliora la qualità percepita di Qwen 3.8 Flash Next, senza impatto sulla velocità. Cresce solo lo spazio su disco.
La repository di DeepSeek V4.1 Flash compare su Hugging Face senza dettagli tecnici. Per i team che valutano LLM self-hosted, il solo annuncio accende un confronto su architetture efficienti e inference locale. Ma senza parametri, memory footprint o ...
La pubblicazione di Dory1.0-4B-BF16 mostra come la precisione BF16 ridefinisca il deployment locale. Non è solo un modello piccolo: circa 8 GB di pesi spostano l'attenzione su VRAM, TCO e quantization. Per team con workstation e piccoli server, il se...
Un modello da 4 miliardi di parametri in precisione BF16 firmato NVIDIA Nemotron Labs appare su Hugging Face. Non è la dimensione a contare, ma il formato: BF16 tiene il modello lontano dalle compressioni spinte e lo colloca nello spazio dei deployme...
Un test empirico di tre giorni su GYRO-M, quantization Q2 del modello Qwen Flash Next, segnala stabilità paragonabile al q3 ISTA con dimensioni ridotte. Il progetto nasce da un singolo contributore e mostra tenuta su contesti lunghi, ma evidenzia cri...
Precision Numerics debutta con Boole-1.7B, versione a 1 bit di Qwen3-1.7B da 247 MB, 13,9 volte più piccola del BF16. Conserva l'85,9% del punteggio medio su dieci task, supera Bonsai-1.7B a 1 bit e quasi eguaglia la versione a 1,58 bit. Disponibile ...
