Un passaggio verso modelli a pesi aperti distribuiti localmente sta guadagnando slancio, spinto da costi, sovranità dei dati e ottimizzazioni delle prestazioni su hardware consumer.
Un utente con hardware limitato sceglie Gemma 4 12B quantizzato per il proprio assistente personale, dimostrando che l'utilità reale spesso batte le dimensioni. La corsa ai LLM più grandi nasconde una verità pragmatica: il modello vincente è quello c...
Un nuovo modello da 27 miliardi di parametri incarna la tensione fra capacità e sovranità: compatto quanto basta per girare in locale, discende da Qwen e promette di sparigliare le scelte di deployment enterprise.
L'ecosistema open-weight si prepara a più lanci ravvicinati da Moonshot, DeepSeek, Liquid e Mistral. Mentre il costo computazionale dell'intelligenza crolla, il nodo critico per i team enterprise diventa la governance: impedire che modelli sempre più...
Un ringraziamento della community per un traguardo simbolico di llama.cpp racconta molto più di un semplice aggiornamento software: è il segnale che l'inference locale su hardware comune è ormai una realtà produttiva, capace di ridefinire strategie d...
Il CEO di Hugging Face, Clem Delangue, racconta un mercato in cui le imprese abbandonano progressivamente i servizi API a consumo per portare i modelli in casa. Con circa metà della Fortune 500 sulla piattaforma, il self-hosting diventa la scelta str...
