LiquidAI ha chiuso la famiglia LFM2.5 con un modello che rovescia la narrazione dominante: non contano solo i parametri totali, ma quanti ne vengono attivati per ogni singolo token. LFM2.5-24B-A2B dichiara 24 miliardi di parametri complessivi e 2,45 miliardi attivi. La differenza non รจ un dettaglio tecnico: รจ il cuore di una strategia per portare il ragionamento automatico su hardware locale senza far esplodere i costi di inference.
La scheda tecnica spiega come. Il modello usa 40 layer, di cui 30 blocchi a convoluzione breve double-gated e 10 blocchi GQA, con 64 esperti per blocco MoE e routing top-4. In pratica, ogni token attiva solo una frazione ristretta della rete, il che mantiene basso il costo computazionale per token. Il contesto arriva a 131.072 token e il vocabolario include 128.000 elementi, con un budget di addestramento dichiarato di 36 trilioni di token. Le lingue supportate includono l'italiano oltre a inglese, spagnolo, francese, tedesco e altre. I parametri di generazione consigliati (temperatura 0,1, top_k 50, repetition_penalty 1,05) puntano a un output deterministico, coerente con l'uso in contesti agentici.
Sul fronte prestazionale, LiquidAI colloca il modello contro Qwen3.6-35B-A3B, un MoE con circa il 50% in piรน di parametri totali e attivi. Sul benchmark LiveClaw, il nuovo modello segna 48,09 contro 38,19. Non sappiamo i dettagli dell'ambiente di test, ma la fonte indica anche una velocitร di 184 token/s su un Apple M5 Max e fino a 21.000 token/s in output su una singola NVIDIA B300. Sono numeri che parlano a chi valuta deployment locale, non solo a chi guarda i benchmark.
Qui sta il punto strutturale. Un modello con 24 miliardi di parametri totali ma solo 2,45 miliardi attivi puรฒ cambiare l'equazione del TCO per gli agenti on-device. Meno parametri attivi per token significa meno energia e meno pressione sulla VRAM per ogni passaggio. In un contesto di privacy e sovranitร dei dati, la possibilitร di eseguire un ragionamento 'always thinks before it answers' senza inviare prompt a un'API cloud esterna ha implicazioni concrete per chi sviluppa agenti che trattano dati sensibili. I file GGUF pubblicati su Hugging Face abbassano ulteriormente la barriera per l'uso locale.
L'intera famiglia LFM2.5, dal modello da 230 milioni di parametri fino a questo 24B-A2B, copre due ordini di grandezza. ร un segnale che il vendor sta spingendo su una gamma per l'inference distribuita, dal dispositivo al server single-GPU. La sfida per i runtime locali sarร gestire il routing degli esperti senza annullare i guadagni di velocitร : un tema che riguarda l'intero ecosistema MoE, non solo questo modello.
๐ฌ Commenti (0)
๐ Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!