I modelli aperti compatti e gli approcci di addestramento con pochi dati stanno ottenendo risultati competitivi su task specifici, dai modelli sotto i 4B ai budget in stile BabyLM. L'efficienza sta diventando una leva progettuale primaria per costi, distribuzione e uso on-device.
Nel BabyLM 2026 Strict-Small, Qiushi Engine ha guadagnato 0,23 punti Overall su nove metriche senza aumentare la scala, ma riorganizzando l'esperienza attorno alle dipendenze contestuali. Per chi valuta LLM self-hosted, il segnale è il principio di e...
Qiushi Engine ha condotto un programma di ricerca autonomo su BabyLM 2026 Strict-Small, con 10 milioni di parole e 100 milioni di presentazioni cumulative. Tre fasi hanno unito avanzamento, scoperta di principi e miglioramento guidato. L'Overall sale...
Un nuovo framework affronta il vincolo dei vocabolari eterogenei nella decodifica speculativa collaborativa. X-CoSD limita lo scambio di distribuzioni alla regione comune tra i due modelli; la variante estesa sposta il ricampionamento sul server e la...
OpenBMB ha pubblicato MiniCPM5-2B, un modello open weights da 2 miliardi di parametri che ottiene 15 sull'Artificial Analysis Intelligence Index v4.2, il punteggio più alto tra i modelli aperti fino a 4B. Il risultato interessa chi valuta deployment ...
Un test su 25 pasti tratti da Nutrition5k mette a confronto sette LLM multimodali nella stima calorica, con soglia di errore al 20%. Muse Spark 1.3, con pesi aperti, raggiunge il 48%, mentre Qwen 3.8 27B si ferma al 16%. La classifica non segue la ta...
Una pull request su llama.cpp introduce il supporto per Spark-X2.5, due LLM compatti da 4B e 1.7B parametri, con contesto nativo fino a 1M token e architettura ibrida a finestra scorrevole. La mossa abbassa la soglia per l'inference locale e self-hos...
Un esperimento porta un modello conversazionale da 90M su una console Sony del 2004. L'inference viaggia a circa 0,5-0,6 token al secondo, con risposte in 1-3 minuti. Più una provocazione tecnica che uno strumento utile, ma dice molto sui vincoli rea...
