È stato rilasciato il modello linguistico di grandi dimensioni (LLM) Kimi-Linear-48B-A3B-Instruct, con particolare attenzione al supporto di contesti estesi.

Dettagli Chiave

La caratteristica principale di questo modello è la sua capacità di gestire contesti più lunghi in modo efficace, superando le prestazioni di GLM 4.7 Flash in questo ambito.

Disponibilità GGUF

La comunità ha rapidamente reso disponibile una versione GGUF del modello, grazie al contributo di Bartowski. Questo formato facilita l'utilizzo del modello su diverse piattaforme e con diversi strumenti, rendendolo più accessibile agli sviluppatori e ai ricercatori.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.