Famiglie compatte come LFM3, MedJev e fine-tune distillati di Qwen portano l'AI su telefoni, portatili e hardware collaborativo, riducendo la dipendenza dal cloud. Il trend mostra modelli compatti e specializzati come percorso realistico per l'inference locale.
Liquid AI ha presentato LFM3, famiglia di modelli compatti da 1,7–2,2 miliardi di parametri con architettura tri-hybrid e supporto llama.cpp. I decision model saltano la generazione di token e restituiscono risposte in un singolo forward pass. Per ch...
Un modello System One open source gira su un laptop e ottiene risultati vicini a GPT-4 su benchmark medici, con calibrazione ben controllata nei test di conoscenza ma meno affidabile sulle predizioni a livello paziente. Un metodo di ricalibrazione a ...
Liquid AI ha presentato una famiglia di modelli da 1,7 a 2,2 miliardi di parametri, progettati per girare su telefono, laptop e dispositivi edge. Oltre al testo, arrivano versioni multimodali e modelli di decisione che rispondono in un singolo passag...
CrowdGPT punta ad addestrare un LLM da un miliardo di parametri in modo collaborativo, usando i PC dei partecipanti al posto dei datacenter e pubblicando il 100% dei dati e dei pesi. Lo sviluppatore chiede feedback sugli incentivi, dal tempo GPU ai c...
Un progetto indipendente ha pubblicato una versione preliminare di un modello da 4 miliardi di parametri per coding e generazione di scene 3D, come fine-tune di Qwen3.5-4B. I checkpoint GGUF Q4_K_M e Q8_0 sono già su Hugging Face, mentre il training ...
L'economia degli abbonamenti dei grandi LLM è sotto pressione, mentre modelli specializzati da pochi miliardi di parametri risolvono compiti come OCR e segmentazione. La tesi: il futuro è locale, con modelli più piccoli, addestramento più semplice e ...
