Modelli open-weight come GLM 5.3 Flash e Mistral Large 4 superano Anthropic nei benchmark indipendenti, spostando i calcoli di TCO verso infrastrutture self-hosted. Anche modelli di generazione immagini come Qwen-Image-2.1-Turbo ampliano le opzioni open-weight per il deployment locale.
Due modelli aperti guidano l'Artificial Analysis Cyber Index e superano ogni singolo modello Anthropic. Il sorpasso non è solo classifica: sposta il calcolo del TCO dai canoni API all'infrastruttura on-premise, riapre il confronto su sovranità dei da...
Due modelli open source occupano le prime posizioni dell'Artificial Analysis Cyber Index, davanti a tutti i modelli di Anthropic. GLM 5.3 Flash è in cima; anche Mistral Large 4 si piazza meglio dei rivali chiusi. Per chi valuta deployment on-premise,...
Il nuovo checkpoint accelerato della famiglia Qwen genera e modifica immagini in otto passaggi di denoising. Pesi aperti, pipeline Diffusers pronta e la stessa architettura visiva 7B del modello 2.1. Meno iterazioni significa inference più rapida, ma...
Una pull request nel repository di llama.cpp introduce il supporto per GLM5Next MTP; la segnalazione su Reddit conferma la possibilità di eseguire GLM 5 Flash MTP in locale. Per chi valuta deployment self-hosted, il passaggio allarga il parco modelli...
Un utente ha assemblato un setup di inference interamente locale con GLM 5.3 Flash su due DGX Spark, usando vLLM con parallelismo tensoriale a due vie. I numeri dichiarati: prefill a circa 1.500 token/s e decode a circa 40 token/s con 100mila token d...
