📖 AI-Radar · 2026-W35

MTP sbarca in GLM-Air: il MoE da 106B accelera sulle GPU locali

llama.cpp abilita MTP per GLM-4.5-Air, un MoE da 106 miliardi di parametri con soli 12 miliardi attivi. La novità accelera l'inference su macchine con molta memoria ma calcolo limitato, come Strix Halo, DGX Spark e RTX 3090, e rafforza l'ecosistema dei fine-tuning per la scrittura creativa.

24 Aug #Hardware #LLM On-Premise #Fine-Tuning