Questa sezione LLM monitora release di modelli, quantizzazione, capacita di ragionamento e impatti pratici su deployment locale o ibrido. L'obiettivo e focalizzarsi su cio che cambia davvero le decisioni tecniche: finestra di contesto, latenza, footprint memoria, licenze e evidenza valutativa su famiglie open e commerciali. E una raccolta pensata per team che cercano segnali affidabili, non rumore. Integra la lettura con la pillar LLM, i vincoli hardware e l'integrazione framework.
Un test inusuale con uno spiedo rotante attiva i “pesi tedeschi” di GLM 5.2 e riaccende il dibattito su quanto contino gli aggiornamenti incrementali dei modelli. Qwen 3.6 35B gira in locale con llama.cpp e quantization Q8, mostrando i compromessi di chi punta al self-hosting.
L'inchiesta del New York Times mostra la diffusione di 'humaniser' che riscrivono testi IA per eludere i rilevatori. Una corsa agli armamenti già persa: la vera sfida è ripensare la valutazione, non stanare l'algoritmo.
Elon Musk ha previsto che la Cina realizzerà un modello di intelligenza artificiale di classe Fable 5 probabilmente nel primo trimestre del 2026. Il CEO di un'azienda cinese concorrente di Anthropic ha dichiarato che arriverà ancora prima. La competizione globale per LLM sempre più potenti accelera, con ricadute concrete per chi valuta soluzioni self‑hosted e la sovranità tecnicica dei dati.
Artificial Analysis lancia AA Briefcase, un test pensato per misurare la capacità di pianificazione ed esecuzione dei compiti nei Large Language Models. Claude Fable e GLM 5.2 guidano le rispettive categorie in un benchmark ancora libero da saturazione, offrendo spunti freschi per chi sceglie modelli da eseguire in locale.
Il team NLP dell’Ohio State University ha rilasciato QUEST-35B, un agente di Deep Research completamente aperto: codice, pesi, ricetta di training e dataset sintetici da 8.000 esempi. I benchmark lo mostrano competitivo con i migliori sistemi proprietari. Un segnale forte per chi valuta il deployment on-premise di capacità di ricerca avanzata, con il pieno controllo dei dati.
L'Ohio State University rilascia QUEST-35B, un agente di ricerca autonomo addestrato con 32 GPU H100 e dataset sintetici. Codice, pesi e ricetta di addestramento sono pubblici, con benchmark competitivi rispetto a sistemi chiusi. Un segnale per chi guarda al deployment on-premise.
La versione a 2 bit di GLM-5.2, ridotta da 1,51 TB a 238 GB, conserva circa l’82% dell’accuratezza. Ora eseguibile localmente su Mac con 256 GB di memoria unificata o sistemi con RAM/VRAM equivalenti, grazie al supporto in llama.cpp e Unsloth Studio. Una svolta per chi valuta deployment on-premise di LLM potenti, con benefici in termini di sovranità dei dati e TCO.
SupraLabs pubblica SupraVL-Nano-900k, un modello visione-linguaggio da 900mila parametri addestrato da zero su Flickr8k. Non è un modello produttivo, ma un blueprint trasparente per chi vuole capire come funzionano i VLM: ogni componente, dall’encoder visivo CNN al decoder in stile GPT-2, è scritto da zero e documentato in un notebook Jupyter. Un artefatto didattico licenziato Apache 2.0 che fa luce sulla meccanica interna dei modelli, utile anche a chi pianifica deployment on-premise.
Un team di ricercatori ha messo a punto un sistema di ensemble di Large Language Models per individuare automaticamente gli studi che riportano dati EQ-5D negli abstract di PubMed. Combinando modelli Gemini e Gemma di Google con una strategia di stacking pesato, l’approccio ha raggiunto un F1-score di 0,74, superando le prestazioni singole. Una strada promettente per chi gestisce revisioni sistematiche in biomedicina, anche se il deployment locale di più modelli apre interrogativi su risorse e latenza.
Uno strumento di visual analytics aggrega centinaia di risposte stocastiche per rendere visibili i bias nascosti degli LLM, andando oltre i log di singole richieste. Il metodo, testato su GPT-2 XL e modelli allineati, riduce il carico cognitivo degli analisti e apre a verifiche sistematiche in contesti on-premise, dove sovranità e audit sono critici.
Un team propone un pipeline con recupero semantico per misurare quanto un corso di laurea copra gli standard CS2013 e CS2023. Tra sette retriever, il migliore è un ensemble di fusione di ranghi; un noto modello long-context è stato battuto da un piccolo modello a frasi. Scoperta che conta per chi costruisce sistemi di retrieval on-premise: non sempre serve un LLM enorme.
Il benchmark AA-Briefcase misura la capacità di un LLM di navigare compiti complessi di knowledge work. Il modello cinese GLM-5.2 ha ottenuto punteggi più alti di GPT-5.5, segnalando come le valutazioni specializzate stiano ridisegnando la selezione dei modelli, anche per deployment self-hosted dove controllo e sovranità contano.
LFM2.5-Embedding-350M e LFM2.5-ColBERT-350M puntano su efficienza, footprint ridotto e supporto a 11 lingue. Ideali per pipeline RAG self-hosted, promettono di portare la ricerca cross-lingue direttamente nei datacenter aziendali senza dipendere dal cloud.
Il team di North Mini Code rilascia una versione a 4 bit del modello su Hugging Face. Con circa 20 GB di memoria richiesta, il modello può girare su hardware locale tramite Ollama e runtime llama.cpp, oltre a essere accessibile via API OpenRouter. Una spinta alla portabilità che apre nuovi scenari per l'inference on-premise e lo sviluppo autogestito.
OpenAI presenta GPT-5.5 Instant, variante ottimizzata per le risposte sanitarie di ChatGPT: ragionamento più solido, contesto migliorato e valutazioni informate da medici. Per chi valuta deployment on-premise in sanità, il progresso solleva interrogativi su hardware, quantization e conformità, temi centrali nella valutazione del TCO e della sovranità dei dati.
Poolside ha rilasciato Laguna M.1, un LLM Mixture-of-Experts da 225 miliardi di parametri totali (23B attivati per token), ottimizzato per il coding agentico e contesti estesi (262.144 token). Il modello, con licenza Apache 2.0, presenta un'architettura a 70 strati e 256 esperti, offrendo supporto nativo per il ragionamento. Le sue dimensioni lo rendono particolarmente rilevante per valutazioni di deployment on-premise, richiedendo hardware specifico e un'attenta analisi del TCO.
GLM-5.2 ha ottenuto il riconoscimento come il miglior modello Large Language Model (LLM) "open weight" per la scrittura creativa, secondo il benchmark di Sam Paech su EQ Bench. Questo risultato evidenzia il potenziale dei modelli accessibili per scenari di deployment on-premise, offrendo alle aziende maggiore controllo e flessibilità rispetto alle soluzioni proprietarie basate su cloud, con implicazioni significative per la sovranità dei dati e il Total Cost of Ownership (TCO).
Una ricerca ha rivelato una sorprendente uniformità narrativa nei Large Language Models più diffusi. Personaggi come Elias Thorne, il guardiano del faro, compaiono in oltre l'88% delle storie generate, indipendentemente dal modello. Questo fenomeno solleva interrogativi sulla diversità dei dataset di training e sulle implicazioni per la generazione di contenuti originali.
Kwai-Keye ha rilasciato Keye-VL-2.0-30B-A3B, un LLM multimodale da 30 miliardi di parametri progettato per l'analisi video avanzata e le capacità di agente. Il modello si distingue per la sua architettura DSA-Native che gestisce contesti ultra-lunghi fino a 256K token, offrendo efficienza nell'inference e nel training. Supera i competitor open source e si allinea ai modelli closed source di punta nella comprensione video e nelle funzionalità di agente integrate.
Z.ai ha reso disponibile in Open Source il suo modello GLM 5.2, generando entusiasmo nella community. Gli sviluppatori e le aziende attendono con interesse un successore della serie "Flash", con un range di parametri tra 27 e 120 miliardi, per ottimizzare i deployment on-premise e ibridi.