Modelli compatti come LFM3, agenti browser on-device e ottimizzazioni per GPU consumer spostano i carichi AI sui dispositivi edge; la pressione dei costi cloud e gli strumenti agentici accelerano la transizione locale.
SenseNova porta su Hugging Face un LLM multimodale con decoder a blocchi riutilizzati e attenzione ibrida. Con 24 layer eseguiti due volte e 56 esecuzioni da 32 layer distinti, punta a carichi agentici e documenti fino a 256K token. L'approccio riduc...
Il primo Loom SDK v0.1 di AMD inaugura la roadmap Hyperloom annunciata ad Advancing AI. L'obiettivo: ottimizzare carichi agentici su CPU, GPU e NPU. Per i deployment locali, il segnale è duplice: AMD punta a unificare l'ecosistema ROCm, ma la maturit...
Liquid AI ha presentato LFM3, famiglia di modelli compatti da 1,7–2,2 miliardi di parametri con architettura tri-hybrid e supporto llama.cpp. I decision model saltano la generazione di token e restituiscono risposte in un singolo forward pass. Per ch...
Uno studio su sette modelli e tre benchmark mostra che le skill degli agenti LLM non sono universali: ciò che migliora un modello forte può degradare uno debole. Nell'86% dei fallimenti dei modelli deboli il requisito violato era già nella skill. L'a...
La domanda di infrastrutture AI locali cresce mentre i costi del cloud pesano sui bilanci. Il nodo delle forniture si stringe attorno alla Asus RTX Spark, segnale di un mercato che sposta risorse verso l'on-premise. Il fenomeno evidenzia pressioni su...
Liquid AI ha presentato una famiglia di modelli da 1,7 a 2,2 miliardi di parametri, progettati per girare su telefono, laptop e dispositivi edge. Oltre al testo, arrivano versioni multimodali e modelli di decisione che rispondono in un singolo passag...
Una modifica alle schede Nvidia RTX 20, 30 e 40 rimuove un limite che dimezza le prestazioni nei carichi AI. Il caso tocca il cuore dell'inference locale e del TCO per chi sceglie hardware consumer.
La startup svedese Strawberry esce dalla beta con un browser enterprise che integra assistenti AI. Gli agenti girano sul dispositivo dell'utente, non su server cloud, e questo può rispondere alle richieste di sovranità dei dati. La società ha chiuso ...
Un progetto indipendente ha pubblicato una versione preliminare di un modello da 4 miliardi di parametri per coding e generazione di scene 3D, come fine-tune di Qwen3.5-4B. I checkpoint GGUF Q4_K_M e Q8_0 sono già su Hugging Face, mentre il training ...
