Un'ondata di modelli cinesi—DeepSeek V4 Flash, Ling-3.0, GLM-5.3—viene rilasciata con enormi conteggi di esperti e pesi aperti, democratizzando le capacità. La compatibilità con motori di inference locali accelera l'adozione on-premise.
I benchmark locali di un utente mostrano DeepSeek V4 Flash 0731 in formato MXFP4 al top per efficienza e qualità, raggiungendo 1.000 token/s in prefill e 90 token/s in generazione. Un risultato che accende i riflettori sulla quantization a bassa prec...
InclusionAI ha rilasciato i pesi di Ling-3.0-flash su Hugging Face. Il modello conta 127,5 miliardi di parametri con un'architettura a 512 esperti, di cui solo 8 attivi per token. La vera notizia è la versione FP8 ufficiale: 128GB, sufficienti per un...
InclusionAI ha rilasciato Ling-3.0-flash, un modello MoE open-weight da 124 miliardi di parametri con appena 5 miliardi attivi per token. Annunciato prima dell’ondata Kimi K3 e DeepSeek-V4-Flash, il suo dimensionamento potrebbe ritagliargli una nicch...
Un commit nello SDK Java di Z.AI accenna a un nuovo modello GLM-5.3. Un segnale che anticipa l'aggiornamento di una famiglia di LLM già diffusa in scenari on-premise cinesi, e che rilancia la discussione su sovranità dei dati e competizione con i ven...
Una segnalazione su Reddit mette in guardia gli utenti di DeepSeek-V4-Flash: il template di chat non supporta messaggi di sistema inframezzati. Ogni messaggio viene issato in cima, invalidando la cache del prefisso e aumentando costi e latenza, anche...
Un nuovo modello di MiniMax è atteso nei prossimi giorni. Dietro la frenesia dei lanci cinesi si legge un disegno preciso: spingere gli LLM verso deployment on-premise, dove sovranità dei dati e hardware domestico dettano le regole del gioco.
