Un'ondata di test della community mostra modelli grandi da 27B e MoE come Qwen 3.8, DeepSeek V4, GLM-Air e Kimi K3 eseguiti su GPU consumer e prosumer tramite GGUF quantizzati, decodifica speculativa e runtime come llama.cpp, vLLM e KTransformers.
Un Epyc 7663, 256 GB di RAM ECC e una RTX 5090 portano un LLM MoE da 151 GB a 24 token/s in quantization Q8_K_XL. Il caso ribalta l'assunto che serva VRAM aggregata pari ai pesi: il bilanciamento tra CPU, banda di memoria e PCIe diventa il vero vinco...
Un utente ha testato DeepSeek V4 Flash in self-hosted con un Epyc 7663, 256 GB di RAM ECC e una RTX 5090 da 32 GB. Con quantization Q8_K_XL e contesti da 100-128k token, ottiene 23,8-24,6 token/s. Il dato mostra come un LLM da circa 151 GB di pesi po...
Un utente di Reddit racconta come i suggerimenti della community abbiano trasformato un setup frustrante in un LLM locale funzionante con Home Assistant e input visivi. La barriera del self-hosted non è l'hardware ma la configurazione, e la community...
llama.cpp abilita MTP per GLM-4.5-Air, un MoE da 106 miliardi di parametri con soli 12 miliardi attivi. La novità accelera l'inference su macchine con molta memoria ma calcolo limitato, come Strix Halo, DGX Spark e RTX 3090, e rafforza l'ecosistema d...
Un team ha creato quantizzazioni GGUF di Qwen 3.8 27B e le ha confrontate su una RTX PRO 6000 con un compito di costruzione di isole voxel. Il Q4_K_M occupa 17,1 GB e decodifica a 67 token/s, con un accordo top-1 del 95,6% rispetto a BF16. Le differe...
Un test one-shot chiede a qwen3.8:27b in FP8 su vLLM e RTX 6000 Pro 96GB di convertire 2,1 MB di C in HTML/three.js. Con contesto da 262.144 token, il file non entra nella finestra e l'agente deve navigarlo. Opus 5 cloud chiude in 21 minuti con outpu...
Un utente con M1 Max non ne può più: Qwen 3.8 27B in modalità xhigh impiega una notte per un singolo task. Chiede una variante 35B A3B, meno brillante ma più veloce. La richiesta mette a nudo il conflitto tra long-thinking e hardware consumer nel sel...
Un test di hosting su Modal con 8 B300 mostra 92 token/s in decode e 190 dollari per milione di token di output. La variante 1-bit su 8 A100 costa meno all'ora ma triplica il costo per token. L'analisi della prova rivela perché il prezzo orario è una...
La nuova release di llama.cpp, con sorgenti e build precompilate, segna una tappa per l'inference self-hosted. Meno attrito per sviluppatori e aziende che vogliono eseguire LLM in locale, più pressione sui servizi cloud-only.
Un report non verificato descrive una sessione di quasi venti ore di coding agentico con Qwen3.8-27B Q6 su RTX 3090 e RTX 3060, a 60–63 token/s. Il dato, se replicato, sposta il confine tra cloud e self-hosted. Analizziamo trade-off, TCO e sovranità ...
Un report riferisce una sessione di quasi venti ore di coding agentico con Qwen3.8-27B Q6 su una RTX 3090 e una RTX 3060, a 60–63 token/s. Il caso mostra come un LLM di fascia media con quantization Q6 possa sostenere carichi prolungati on-prem su ha...
Un test su RTX 4060 Ti da 16 GB mostra Qwen 3.8 27B a 30-35 token/s con quantization Q3_xxs, buona tenuta su coding e logica, ma fragilità conversazionali. Emerge un cambio di prospettiva per chi self-hosta LLM su GPU consumer.
Su una RTX 5090 da 32 GB, un nuovo GGUF NVFP4 per Qwen3.8 27B raggiunge 6.250 token/s nel prefill con prompt da 2048 token, il 50% in più di un Q4_0 con uguale ingombro di memoria e il 4-7% in più di altri NVFP4. Include una testa MTP quantizzata e i...
La scadenza dell'abbonamento Pro a Claude Code ha spinto un utente a passare a un LLM locale Qwen3.8-27b su GPU 5090M con 24GB di VRAM e a Pi. Il test su un'app per previsioni aurorali ha mostrato tempi simili, UI migliore per Pi ma scienza migliore ...
Un costruttore ha validato una configurazione self-hosted con 16 RTX 5060 Ti da 16 GB, due switch Broadcom/PLX PEX88096 e una Xeon Gold 6330. Il sistema serve DeepSeek V4 Flash-0731 con contesto fino a 1 milione di token e, in una configurazione, gen...
Un test bare-metal con due RTX 3090, vLLM e decodifica speculativa DFlash2 porta Qwen3.8-27B a 218 token/s su singola richiesta, con prefill fino a 1342 token/s e contesto massimo di 131k. Il setup usa quantization INT4 AutoRound, 22,3 GB di VRAM per...
Un carico agentico di oltre otto ore su una singola RTX PRO 6000, con DeepSeek Harness e NInfer, ha gestito 966 chiamate modello, 131,2 milioni di token in input e 853,3 mila in output con zero errori di generazione. Il confronto con i listini API st...
Il progetto abbandona i numeri di build sequenziali e adotta il versioning semantico. Un cambiamento che pesa soprattutto nei contesti self-hosted e on-premise, dove la prevedibilità delle API e la stabilità delle pipeline di inference contano più de...
Il framework per LLM eterogenei KTransformers pubblica la versione 0.7 con supporto AVX-512 esteso, un intervento mirato sui server AMD EPYC. Per chi opera in self-hosted, il messaggio è strutturale: la CPU non è più un ripiego, ma una componente att...
