Rilasci come Spark-X2.5, MiniCPM5-2B, K2-Horizon-MoVA e Qwen-Drive portano modelli aperti compatti o sparsi con meno parametri attivi e capacità specializzate. llama.cpp sta aggiungendo supporto per nuove architetture come Tencent Hy4, rafforzando i percorsi di inference locale, edge e on-premise.
Il team Qwen pubblica un modello open weight derivato da un checkpoint da 4B e ottimizzato per la guida. Il checkpoint BF16 completo pesa 9B. Un segnale concreto della spinta dei laboratori cinesi verso la guida autonoma con modelli aperti, con impli...
OpenBMB ha pubblicato MiniCPM5-2B, un modello open weights da 2 miliardi di parametri che ottiene 15 sull'Artificial Analysis Intelligence Index v4.2, il punteggio più alto tra i modelli aperti fino a 4B. Il risultato interessa chi valuta deployment ...
Una pull request su llama.cpp introduce il supporto per Spark-X2.5, due LLM compatti da 4B e 1.7B parametri, con contesto nativo fino a 1M token e architettura ibrida a finestra scorrevole. La mossa abbassa la soglia per l'inference locale e self-hos...
La pull request #28127 per integrare Hy4-preview in llama.cpp non porta benchmark, ma segnala la convergenza dell'ecosistema self-hosted. Anche i vendor cloud mostrano attenzione alle pipeline on-premise. Restano da verificare stabilità, licenze e do...
La pull request #28127 aggiunge il supporto all'architettura preview di Tencent Hy4 in llama.cpp. Un segnale concreto per chi valuta stack on-premise e sovranità dei dati, senza benchmark ufficiali.
IFM ha pubblicato il checkpoint finale del modello sparse Mixture-of-Experts K2-Horizon-MoVA-36B-A4B, con 36 miliardi di parametri totali e 4 miliardi attivi per token. Distribuito in GGUF, compete su task agentici e di reasoning con modelli chiusi d...
