LLM open-weight come GLM 5.2, Quest e TMax guidano l'innovazione, abilitando il deployment locale e i contributi della comunità. L'ecosistema matura con quantization, distribuzione P2P e framework agentici aperti.
Baidu pubblica Unlimited-OCR su ModelScope: 3.3 miliardi di parametri, licenza MIT, parsing one-shot di immagini, PDF e documenti multipagina. Lunghezza output di 32K token, supporto a inference con Transformers e serving SGLang compatibile OpenAI. U...
Microsoft ha rilasciato FastContext, un subagente da 4B parametri per esplorare repository nei flussi di coding con LLM. Riduce i token fino al 60%, migliora l’accuratezza su SWE-bench e, grazie alla PR per ‘oh my pi’, si può usare on-premise. Segnal...
AllenAI presenta TMax, un dataset di ambienti RL e una ricetta di addestramento aperti che producono agenti terminale compatti, fino a 27B parametri. Il modello da 9B batte tutti gli open sotto i 10B su Terminal Bench 2.0 e si avvicina a sistemi chiu...
Dopo il licenziamento di Junyang Lin, Qwen non ha più rilasciato modelli aperti. Il laboratorio di Alibaba è ora l'ultimo tra i grandi player cinesi a tenere chiuso il suo 3.7, mentre concorrenti come DeepSeek e GLM continuano a pubblicare. Una scelt...
Il team di Noema AI ha rilasciato Noema Atlas, un software peer-to-peer open source per la distribuzione di pesi LLM. Basato su Iroh e content-addressing via BLAKE3, consente trasferimenti verificati tra macchine, deduplica automatica e fallback opzi...
L'Ohio State University rilascia QUEST-35B, un agente di ricerca autonomo addestrato con 32 GPU H100 e dataset sintetici. Codice, pesi e ricetta di addestramento sono pubblici, con benchmark competitivi rispetto a sistemi chiusi. Un segnale per chi g...
La versione a 2 bit di GLM-5.2, ridotta da 1,51 TB a 238 GB, conserva circa l’82% dell’accuratezza. Ora eseguibile localmente su Mac con 256 GB di memoria unificata o sistemi con RAM/VRAM equivalenti, grazie al supporto in llama.cpp e Unsloth Studio....
Hugging Face offre l'opportunità di eseguire l'inference del modello GLM-5.2 gratuitamente per le prossime sei ore. Questa iniziativa, seppur limitata nel tempo, evidenzia le dinamiche del deployment di Large Language Models e le considerazioni sui c...
GLM-5.2 ha ottenuto il riconoscimento come il miglior modello Large Language Model (LLM) "open weight" per la scrittura creativa, secondo il benchmark di Sam Paech su EQ Bench. Questo risultato evidenzia il potenziale dei modelli accessibili per scen...
Z.ai ha reso disponibile in Open Source il suo modello GLM 5.2, generando entusiasmo nella community. Gli sviluppatori e le aziende attendono con interesse un successore della serie "Flash", con un range di parametri tra 27 e 120 miliardi, per ottimi...
Il rilascio di GLM 5.2, un Large Language Model da 744 miliardi di parametri con licenza MIT, segna un'importante evoluzione per l'AI on-premise. Sebbene il modello completo richieda cluster di livello enterprise, il suo potenziale di distillazione e...
