AI-RADAR.it
AI-RADAR.IT · AI-RADAR.NET · AI-RADAR.TECH
News & analisi per LLM locali, stack e hardware on-prem.

AI-Radar - Osservatorio su LLM locali, hardware AI e trend

AI-Radar per LLM on-prem & AI in casa

Il radar quotidiano su modelli, framework e hardware per far girare l'AI in locale. LLM, LangChain, Chroma, mini-PC e tutto ciò che serve per un cervello distribuito "in-house".

⚙️ Stack: LLM locali · LangChain · Transformers · ChromaDB · MiniPC · AI boxes
🛰️ Ask Observatory (Q&A + RAG) già collegato all'archivio articoli.
👥 160+ membri · Iscriviti gratis →
📡

Il Segnale del Giorno

Cambricon nella PyTorch Foundation: il software è la vera partita dell'hardware

Cambricon nella PyTorch Foundation: il software è la vera partita dell'hardware

L’ingresso di Cambricon come membro Platinum della PyTorch Foundation segnala un cambio di fase: controllare lo stack software open source conta quant...

📡 Segnale AI 2026-09-08

⚡ In Tendenza

View All →
Ecosistema Aperto di Hardware AI e... Rumore LLM nella Manutenzione Open Source Valutazione e Affidabilità degli LLM Parità tra LLM Open Source e Modelli...

🛠️ Guide & Osservatorio On-Premise

🚀 Esegui i modelli in locale → Tutte le guide →

Riferimenti evergreen e pratici per far girare l'AI in locale — hardware, costi, privacy e stack completo.

🖥️ Osservatorio LLM On-Premise Hardware, stack, governance e architetture di riferimento per l'AI in locale. →
⚡ Le migliori GPU per LLM locali 📊 Quanta VRAM per Llama 70B 🧮 KV-cache e memoria di contesto 💰 Quanto costa un LLM in locale 🏎️ Motori di serving a confronto 🧩 Ollama vs LM Studio 🔒 ChatGPT privato per aziende 📉 Quantizzazione LLM spiegata 🇮🇹 LLM on-prem per la PMI italiana ⌨️ Coding assistant locale (VS Code) 💬 Costruisci un chatbot RAG privato 🚀 Esegui i modelli in locale (Qwen, Llama, R1…)

Ultime analisi & news dal radar

Articoli generati dall'AI sulla base dei feed, con spazio per layer editoriale umano sopra il contenuto grezzo.

AlphaGenome Atlas: DeepMind mappa 9 miliardi di varianti del DNA
📁 Altro AI generated 🏆 IEEE Spectrum

AlphaGenome Atlas: DeepMind mappa 9 miliardi di varianti del DNA

DeepMind ha rilasciato AlphaGenome Atlas, un archivio pubblico di previsioni precalcolate per nove miliardi di possibili cambi a singola lettera del genoma umano. Lo strumento elimina la necessità di scrivere codice o eseguire il modello e aggiunge un punteggio d'impatto. Il dataset pesa circa un petabyte e ha richiesto un salto prestazionale di 80 volte, ottenuto con distillazione, ottimizzazione dei kernel GPU ed eliminazione di calcoli ridondanti.

2026-09-08 📰 Fonte
Replit apre a Londra e sfida la monocultura della Silicon Valley
📁 Market AI generated ℹ️ Tech.eu

Replit apre a Londra e sfida la monocultura della Silicon Valley

Replit ha inaugurato a Londra il primo ufficio fuori dagli Stati Uniti. L'azienda, che conta circa venti persone nella capitale britannica, potrebbe arrivare a cento dipendenti entro l'inizio del prossimo anno. Il CEO Amjad Masad ha criticato la monocultura della Silicon Valley e ha legato la diversità di Londra alla generazione di idee. Ha inoltre chiesto un campo di gioco equilibrato e un'AI open source e accessibile, non controllata da poche aziende.

2026-09-08 📰 Fonte
Arm lancia Total Design per la physical AI e un framework per la robotica
📁 Frameworks AI generated ℹ️ AI News

Arm lancia Total Design per la physical AI e un framework per la robotica

Arm riunisce oltre 80 partner per definire standard comuni nella robotica e nella physical AI. Il Robotics Capability Framework introduce livelli di capacità simili ai livelli SAE, legando casi d'uso a vincoli di latenza, collocazione del calcolo, memoria, potenza e sicurezza. L'iniziativa estende alla robotica il metodo già usato per l'infrastruttura AI cloud e segnala un'accelerazione verso compute locale e edge per i sistemi fisici.

2026-09-08 📰 Fonte
Cambricon nella PyTorch Foundation: il software è la vera partita dell'hardware
📁 Hardware AI generated ✅ PyTorch Blog

Cambricon nella PyTorch Foundation: il software è la vera partita dell'hardware

L’ingresso di Cambricon come membro Platinum della PyTorch Foundation segnala un cambio di fase: controllare lo stack software open source conta quanto la potenza dei chip. Per chi valuta LLM self-hosted, il supporto nativo di backend diversi riduce dipendenza da CUDA, manutenzione e TCO. Restano da verificare continuità e maturità dei contributi upstream.

2026-09-08 📰 Fonte
Huawei Kirin 9050 Pro: LogicFolding porta densità +55% e consumi NPU -66%
📁 Hardware AI generated ✅ DigiTimes

Huawei Kirin 9050 Pro: LogicFolding porta densità +55% e consumi NPU -66%

Huawei ha messo alla prova la tecnicia LogicFolding sul Kirin 9050 Pro: secondo la fonte, il guadagno di densità raggiunge il 55% e il consumo della NPU scende del 66%. Il dato segnala una direzione precisa per l'inference locale: chip più densi e NPU più efficienti cambiano i calcoli di chi valuta deployment edge e on-premise, riducendo l'energia richiesta per eseguire modelli sul dispositivo.

2026-09-08 📰 Fonte
Cambricon nella PyTorch Foundation: il peso dell'hardware open source
📁 Frameworks AI generated ✅ PyTorch Blog

Cambricon nella PyTorch Foundation: il peso dell'hardware open source

L'adesione di Cambricon come membro Platinum della PyTorch Foundation segna un passo strategico per l'ecosistema hardware aperto. L'azienda, pioniera nei chip AI dal 2016, porta anni di contributi upstream a PyTorch e vLLM, puntando a un'astrazione dei dispositivi più uniforme. Per chi valuta deployment on-premise, questo rafforza l'opzione di stack self-hosted su hardware alternativo a CUDA, con implicazioni su TCO e sovranità dei dati.

2026-09-08 📰 Fonte
PyTorch Foundation apre a Alibaba, Ant Group e Cambricon: la partita è il multi-backend
📁 Frameworks AI generated ✅ PyTorch Blog

PyTorch Foundation apre a Alibaba, Ant Group e Cambricon: la partita è il multi-backend

Alibaba Cloud e Cambricon entrano nella PyTorch Foundation come Platinum member, Ant Group come Gold member. A Shanghai i keynote con Huawei delineano uno stack aperto che va da silicio e acceleratori ai runtime per agenti. Il vero segnale è la spinta a rendere PyTorch agnostico rispetto all’hardware, con effetti diretti su chi valuta infrastrutture self-hosted e alternative alle GPU tradizionali.

2026-09-08 📰 Fonte
Jenny, l'app desktop MIT per LLM locali nata da notti e weekend
📁 Frameworks AI generated ℹ️ LocalLLaMA

Jenny, l'app desktop MIT per LLM locali nata da notti e weekend

Un developer rilascia Jenny, app Electron open source per eseguire LLM in locale con tool calling, rollback e IDE. Nessuna chiamata di rete oltre al runtime locale; sicurezza su comandi distruttivi e modifiche ai file. Windows first, con segnalazioni di buona resa su RTX 5070 Ti.

2026-09-07 📰 Fonte
MiniCPM5-2B: OpenBMB guida i modelli open weights sotto i 4B
📁 LLM AI generated ℹ️ LocalLLaMA

MiniCPM5-2B: OpenBMB guida i modelli open weights sotto i 4B

OpenBMB ha pubblicato MiniCPM5-2B, un modello open weights da 2 miliardi di parametri che ottiene 15 sull'Artificial Analysis Intelligence Index v4.2, il punteggio più alto tra i modelli aperti fino a 4B. Il risultato interessa chi valuta deployment self-hosted: taglia contenuta e pesi aperti riducono la soglia per l'uso locale e il fine-tuning su dati proprietari, pur senza eliminare i normali collaudi.

2026-09-07 📰 Fonte
llama.cpp, MCP e FreeCAD: un LLM locale che progetta geometrie
📁 Altro AI generated ℹ️ LocalLLaMA

llama.cpp, MCP e FreeCAD: un LLM locale che progetta geometrie

Una guida mostra come collegare llama.cpp, il protocollo MCP e FreeCAD per generare solidi con un modello locale. Il flusso usa Qwen3.8-27B quantizzato Q4_K_M e un proiettore visivo mmproj-F16: il modello può avviare tool, leggere screenshot e verificare la geometria. Tutto resta sulla macchina. Per il CAD on-premise, il loop agente-strumento interamente locale diventa uno scenario concreto, con i file che non lasciano il perimetro aziendale.

2026-09-07 📰 Fonte
A Bengaluru la sfida è passare da utenti a costruttori di sistemi ML
📁 Frameworks AI generated ✅ PyTorch Blog

A Bengaluru la sfida è passare da utenti a costruttori di sistemi ML

Oltre 170 tra studenti, ingegneri e ricercatori hanno partecipato all'evento Red Hat-Hugging Face a Bengaluru. Al centro profiling, inference, ambienti RL, training distribuito e comunicazione GPU. Il messaggio: l'India non deve restare solo un mercato di consumo AI, ma entrare nel core stack open source.

2026-09-07 📰 Fonte
Rustls 0.23.44 attiva i certificati post-quantum ML-DSA di default
📁 Altro AI generated ✅ Phoronix

Rustls 0.23.44 attiva i certificati post-quantum ML-DSA di default

La versione 0.23.44 di Rustls abilita di default i certificati ML-DSA, portando l'autenticazione post-quantum da opzione a impostazione standard. Per chi gestisce endpoint TLS self-hosted davanti a servizi LLM, il cambiamento riduce la necessità di configurazioni manuali, ma sposta la pressione su tooling per CA private, HSM e client legacy. Un segnale strutturale: la migrazione post-quantum entra nel ciclo di vita ordinario delle librerie.

2026-09-07 📰 Fonte
Astra e LLM open source: il divario vero è nell’orchestrazione
📁 OnPremise AI generated ℹ️ LocalLLaMA

Astra e LLM open source: il divario vero è nell’orchestrazione

Un post su Reddit chiede quando i LLM open source raggiungeranno Astra. Il segnale non riguarda i pesi del modello, ma l'infrastruttura: pipeline multimodale, runtime di inference, memoria e orchestrazione. Per chi valuta stack on-premise, il divario si traduce in trade-off tra controllo, latenza e TCO. L'open source può competere su compiti specifici, ma l'esperienza integrata richiede investimenti coordinati. AI-Radar analizza le implicazioni per deployment locali e sovranità dei dati.

2026-09-07 📰 Fonte
Un benchmark su 25 pasti mostra che per le calorie non vince il modello più grande
📁 LLM AI generated ℹ️ LocalLLaMA

Un benchmark su 25 pasti mostra che per le calorie non vince il modello più grande

Un test su 25 pasti tratti da Nutrition5k mette a confronto sette LLM multimodali nella stima calorica, con soglia di errore al 20%. Muse Spark 1.3, con pesi aperti, raggiunge il 48%, mentre Qwen 3.8 27B si ferma al 16%. La classifica non segue la taglia dei modelli: un segnale utile per chi valuta hardware consumer e deployment ibrido.

2026-09-07 📰 Fonte
Open source LLM e Astra: il divario che la community osserva
📁 LLM AI generated ℹ️ LocalLLaMA

Open source LLM e Astra: il divario che la community osserva

Una domanda comparsa su Reddit riapre il confronto tra assistenti proprietari multimodali e LLM open source. Senza benchmark, resta la percezione di un ritmo AI difficile da seguire. Per chi valuta stack locali, il nodo non è solo il modello, ma integrazione, latenza e infrastruttura on-premise.

2026-09-07 📰 Fonte
llama.cpp, una fork testa l'expert expansion sui modelli MoE su Apple Metal
📁 Frameworks AI generated ℹ️ LocalLLaMA

llama.cpp, una fork testa l'expert expansion sui modelli MoE su Apple Metal

Una branch custom di llama.cpp porta l'expert expansion ai modelli MoE e la testa su Apple Metal. Il risultato supera la versione DS4 dell'autore, ma manca validazione su altre piattaforme. Il caso mostra quanto l'inference locale sui modelli sparse dipenda ancora da fork individuali e pochi test multipiattaforma.

2026-09-06 📰 Fonte
DeepSeek-V4-Flash-Vision vs Qwen3.8-Flash-Next: token lenti, task più rapidi
📁 LLM AI generated ℹ️ LocalLLaMA

DeepSeek-V4-Flash-Vision vs Qwen3.8-Flash-Next: token lenti, task più rapidi

Una comparativa locale con quantization Q8_K_XL su due StrixHalo 128GB mostra che DeepSeek-V4-Flash-Vision genera token più lentamente di Qwen3.8-Flash-Next, ma chiude i compiti in circa metà tempo. L'autore osserva meno allucinazioni e una minore tendenza a sovrainterpretare le consegne, mentre Qwen incontra blocchi nelle modalità più aggressive. Un invito a valutare i modelli on-premise oltre la velocità di generazione grezza.

2026-09-06 📰 Fonte
Spark-X2.5 in GGUF: llama.cpp apre la strada ai modelli compatti da 1M token
📁 LLM AI generated ℹ️ LocalLLaMA

Spark-X2.5 in GGUF: llama.cpp apre la strada ai modelli compatti da 1M token

Una pull request su llama.cpp introduce il supporto per Spark-X2.5, due LLM compatti da 4B e 1.7B parametri, con contesto nativo fino a 1M token e architettura ibrida a finestra scorrevole. La mossa abbassa la soglia per l'inference locale e self-hosted, mentre l'addestramento su Huawei Ascend segnala una filiera hardware alternativa. I modelli puntano su coding, agenti e flussi di lavoro locali, con implicazioni per sovranità dei dati e TCO.

2026-09-06 📰 Fonte
Qwen 3.8 27B senza censura: i tagli mirati battono le modifiche pesanti
📁 LLM AI generated ℹ️ LocalLLaMA

Qwen 3.8 27B senza censura: i tagli mirati battono le modifiche pesanti

Undici giorni e circa 167 ore di GPU per confrontare otto varianti abliterated di Qwen 3.8 27B con il modello base. I dati mostrano che le modifiche chirurgiche superano quelle aggressive: i modelli più editati entrano in loop di pensiero e perdono usabilità. Il copyright resta il muro più resistente, chimica e biologia diventano facili da sbloccare. La forensica sui chat template rivela leve comportamentali nascoste.

2026-09-06 📰 Fonte
Qwen3.8-Flash-Next: 45 tok/s su M4 Max, 25 su M2 Ultra in locale
📁 Hardware AI generated ℹ️ LocalLLaMA

Qwen3.8-Flash-Next: 45 tok/s su M4 Max, 25 su M2 Ultra in locale

La variante Qwen3.8-Flash-Next-oQ4e-mtp mostra velocità di inference locale su Apple Silicon: 45 token al secondo su M4 Max e 25 su M2 Ultra. Il dato arriva da llm-bench.io e mette a confronto una variante ottimizzata con Qwen3.8 27B, con prestazioni simili. Una lettura utile per chi valuta self-hosted su hardware Apple.

2026-09-06 📰 Fonte
Open source e laboratori di frontiera: quando la parità percepita sposta il mercato
📁 OnPremise AI generated ℹ️ LocalLLaMA

Open source e laboratori di frontiera: quando la parità percepita sposta il mercato

La percezione di parità tra modelli open source e laboratori di frontiera, emersa in un dominio critico, sposta la competizione dalla qualità tecnica a costi e governance. Chi gestisce dati sensibili guarda al self-hosted come opzione concreta: TCO, latenza e controllo superano il punteggio dei benchmark. Il segnale indica pressione sui token, domanda di hardware per inference locale e un premio fragile per le API chiuse.

2026-09-06 📰 Fonte
TrueForge usa il 63% di token in meno dei managed agent a parità di task
📁 Frameworks AI generated ℹ️ LocalLLaMA

TrueForge usa il 63% di token in meno dei managed agent a parità di task

Un benchmark su 14 task cross-system e tre server MCP mostra che TrueForge con Opus 4.8 risolve 11/14 task come Claude Managed Agents, ma consuma il 63% di token in meno e costa il 30% in meno per run. Con GLM-5.2 il costo scende a 3 dollari. Restano però assenti tracing nativo, sandbox e una gestione del contesto non lossy.

2026-09-06 📰 Fonte
Open source e laboratori di frontiera: un divario ormai marginale
📁 Market AI generated ℹ️ LocalLLaMA

Open source e laboratori di frontiera: un divario ormai marginale

Un professionista che costruisce una rete di cybersecurity racconta di non vedere più differenze sostanziali tra modelli aperti e modelli dei laboratori di frontiera. Il divario tecnico si restringe, mentre il marketing prova a sostenere prezzi dei token in vista di possibili quotazioni. E i modelli locali come DeepSeek V4 Flash entrano nella partita.

2026-09-05 📰 Fonte
AMD forma un team 'elite' per portare Rust nello stack GPU
📁 Altro AI generated ✅ Phoronix

AMD forma un team 'elite' per portare Rust nello stack GPU

AMD sta costruendo un team di sviluppatori di alto livello per introdurre Rust nel cuore dello stack GPU: firmware, driver, compilatori shader e altri componenti. L'obiettivo è ridurre le classi di vulnerabilità legate alla memoria e migliorare l'affidabilità del software che governa le GPU, con effetti che vanno oltre la singola azienda.

2026-09-05 📰 Fonte
Qwen3.8 27b su una 3090: coding agentico locale e il gap con i modelli grandi
📁 Hardware AI generated ℹ️ LocalLLaMA

Qwen3.8 27b su una 3090: coding agentico locale e il gap con i modelli grandi

Un post tecnico mostra come Qwen3.8 27b in quantization Q4_K_XL giri su una RTX 3090 con 24GB di VRAM e contesto da 100k token. L'autore sostiene che i piccoli LLM self-hosted, capaci di svolgere l'80-90% del lavoro ripetitivo, minano i ricavi dei vendor cloud più dei modelli frontier. Resta però un vuoto nel salto verso modelli più grandi: servono server multi-GPU o cluster DGX e i costi hardware aprono un nuovo calcolo di convenienza.

2026-09-05 📰 Fonte
Tencent Hy4 su llama.cpp: il segnale per l'inference locale
📁 OnPremise AI generated ℹ️ LocalLLaMA

Tencent Hy4 su llama.cpp: il segnale per l'inference locale

La pull request #28127 per integrare Hy4-preview in llama.cpp non porta benchmark, ma segnala la convergenza dell'ecosistema self-hosted. Anche i vendor cloud mostrano attenzione alle pipeline on-premise. Restano da verificare stabilità, licenze e documentazione: il valore reale si misurerà su costi operativi, efficienza e vincoli di sovranità.

2026-09-05 📰 Fonte
Qwen3.8 27B su RTX 5080: 21 quantizzazioni alla prova dei 16 GB
📁 LLM AI generated ℹ️ LocalLLaMA

Qwen3.8 27B su RTX 5080: 21 quantizzazioni alla prova dei 16 GB

Un benchmark su 21 varianti quantizzate di Qwen3.8 27B con una RTX 5080 da 16 GB mostra quanto conti la scelta del formato GGUF. La variante IQ4_XS di bartowski ottiene la divergenza media più bassa e il miglior accordo sul token più probabile, mentre alcune quantizzazioni più aggressive risultano deludenti. I dati aiutano chi vuole inference locale senza sacrificare del tutto la qualità.

2026-09-04 📰 Fonte
ASCII smuggling: dagli attacchi AI agli spammer, la minaccia invisibile cambia bersaglio
📁 Altro AI generated ✅ Ars Technica AI

ASCII smuggling: dagli attacchi AI agli spammer, la minaccia invisibile cambia bersaglio

La tecnica dei tag Unicode invisibili, nata per nascondere prompt injection agli LLM, è ora usata dagli spammer per eludere i filtri email. Il passaggio segnala una divergenza strutturale: i modelli leggono ciò che gli umani non vedono. Per i deployment self-hosted, la sfida si sposta sulla normalizzazione del testo prima dell'inference.

2026-09-04 📰 Fonte
Un LLM da 90 milioni di parametri gira su PSP: il local al limite del 2004
📁 Hardware AI generated ℹ️ LocalLLaMA

Un LLM da 90 milioni di parametri gira su PSP: il local al limite del 2004

Un esperimento porta un modello conversazionale da 90M su una console Sony del 2004. L'inference viaggia a circa 0,5-0,6 token al secondo, con risposte in 1-3 minuti. Più una provocazione tecnica che uno strumento utile, ma dice molto sui vincoli reali del deployment locale.

2026-09-04 📰 Fonte
768 GB di VRAM, 18.000 euro: il sogno self-hosted davanti ai modelli da 2 trilioni
📁 Hardware AI generated ℹ️ LocalLLaMA

768 GB di VRAM, 18.000 euro: il sogno self-hosted davanti ai modelli da 2 trilioni

Un costruttore ha investito 18.000 euro in un server EPYC con 768 GB di VRAM e 256 GB di RAM per eseguire LLM open source di frontiera in locale. Ma i prossimi modelli, a partire da GLM 6, potrebbero essere due o tre volte più grandi, rendendo inutilizzabile la macchina a quantization a 4 bit. Il caso mostra il nuovo confine tra self-hosted e hardware enterprise.

2026-09-04 📰 Fonte
Un FPS multiplayer nato da un LLM locale: Qwen 3.8 Flash Next in azione
📁 Altro AI generated ℹ️ LocalLLaMA

Un FPS multiplayer nato da un LLM locale: Qwen 3.8 Flash Next in azione

Un utente ha costruito un FPS multiplayer con Qwen 3.8 Flash Next in locale, usando opencode e GPU NVIDIA (RTX 5090 e RTX 4000 PRO). Demo giocabile in due ore, tre giorni di rifiniture, 20 token/s medi con MTP, contesto 256k e quantization Q4_K_XL. L'esperienza segnala la maturità crescente dei flussi di coding self-hosted, ma anche i requisiti hardware per chi vuole autonomia creativa senza cloud.

2026-09-04 📰 Fonte
XDC 2026: driver GPU, OpenCL su CUDA e Vulkan Gallium a Toronto
📁 Hardware AI generated ✅ Phoronix

XDC 2026: driver GPU, OpenCL su CUDA e Vulkan Gallium a Toronto

Il programma di XDC 2026, in programma a Toronto, affronta Wayland, OpenCL su CUDA e la possibile evoluzione Vulkan Gallium. Per chi esegue LLM in locale, sono temi che toccano driver, controllabilità e longevità delle infrastrutture GPU self-hosted.

2026-09-04 📰 Fonte
Mesa 26.3 introduce il supporto alla modalità GPU a 64 bit di Intel Nova Lake P
📁 Hardware AI generated ✅ Phoronix

Mesa 26.3 introduce il supporto alla modalità GPU a 64 bit di Intel Nova Lake P

Le modifiche al compilatore grafico Intel integrate in Mesa 26.3 rivelano che Nova Lake P adotterà una modalità di indirizzamento degli shader a 64 bit. È un cambio architetturale profondo, non un semplice aggiornamento: espande lo spazio di memoria indirizzabile e prepara il driver open source a supportare la prossima generazione di GPU Intel. Per chi valuta stack locali, il supporto anticipato riduce i rischi di disallineamento tra hardware e software.

2026-09-04 📰 Fonte
Nvidia-Hugging Face: il controllo dell'AI passa da pagamenti e talenti
📁 OnPremise AI generated ✅ DigiTimes

Nvidia-Hugging Face: il controllo dell'AI passa da pagamenti e talenti

L'accordo tra Nvidia e Hugging Face segnala che il controllo dell'ecosistema LLM passa anche da clausole finanziarie. Pagare i concorrenti nel silicio e vincolare un miliardo di dollari al personale incide su neutralità delle piattaforme, costo del talento e dipendenze per chi valuta stack self-hosted e on-premise. Un segnale da monitorare accanto a VRAM, inference e TCO.

2026-09-04 📰 Fonte
ASIC oltre le GPU: il segnale dal test per il 2027
📁 Hardware AI generated ✅ DigiTimes

ASIC oltre le GPU: il segnale dal test per il 2027

Chunghwa Precision Test prevede che il fatturato degli ASIC superi quello delle GPU entro il 2027. La proiezione segnala un riequilibrio dell'hardware AI verso chip specializzati, con implicazioni per TCO, flessibilità e deployment on-premise. Il vero tema è il trade-off tra efficienza per token e opzionalità dei carichi di lavoro.

2026-09-04 📰 Fonte
Acer punta su RTX e GoogleBook mentre cresce la domanda di AI on-site
📁 Hardware AI generated ✅ DigiTimes

Acer punta su RTX e GoogleBook mentre cresce la domanda di AI on-site

La scelta di Acer di puntare su RTX e GoogleBook segnala un riposizionamento dell'hardware verso l'inference locale. La domanda di AI in sede cresce per ragioni di sovranità, latenza e controllo dei costi, spingendo i vendor a investire su GPU e dispositivi per carichi self-hosted.

2026-09-04 📰 Fonte
Nvidia e Hugging Face: pagamenti ai rivali e un miliardo per i talenti
📁 Market AI generated ✅ DigiTimes

Nvidia e Hugging Face: pagamenti ai rivali e un miliardo per i talenti

I termini negoziati da Nvidia con Hugging Face prevedono pagamenti a favore dei concorrenti nel settore dei chip e un fondo da un miliardo di dollari per trattenere il personale. Un segnale di come si stiano ridisegnando gli equilibri nell'infrastruttura AI, tra hardware, modelli e competenze.

2026-09-04 📰 Fonte
sanoTTS: sintesi vocale completa su un microcontrollore da 3 dollari
📁 Altro AI generated ℹ️ LocalLLaMA

sanoTTS: sintesi vocale completa su un microcontrollore da 3 dollari

Un nuovo stack TTS da 294mila parametri occupa 337 KB in INT8 e gira su un microcontrollore da 3 dollari con 512 KB di SRAM, senza NPU. Offre 11 voci e 6 lingue; il modello da 1,5 milioni di parametri supera reti più pesanti su SCOREQ. Un segnale per chi valuta voice AI locale.

2026-09-03 📰 Fonte
Nvidia acquisisce Hugging Face: ora controlla la distribuzione dei modelli
📁 Market AI generated ℹ️ Tom's Hardware

Nvidia acquisisce Hugging Face: ora controlla la distribuzione dei modelli

Con un'operazione da 12,93 miliardi di dollari, Nvidia mette le mani su Hugging Face, il punto di riferimento per la distribuzione di modelli e dataset. L'operazione unisce il principale fornitore di GPU al canale che alimenta fine-tuning e inference self-hosted. Per chi gestisce LLM on-premise cambiano gli incentivi: la neutralità della piattaforma diventa un nodo critico per sovranità, TCO e dipendenza dal fornitore.

2026-09-03 📰 Fonte
NVIDIA acquisisce Hugging Face per 12,93 miliardi: neutralità sotto esame
📁 Market AI generated ℹ️ AI News

NVIDIA acquisisce Hugging Face per 12,93 miliardi: neutralità sotto esame

NVIDIA ha raggiunto un accordo da 12,93 miliardi di dollari per acquisire Hugging Face. L'operazione promette di mantenere la piattaforma aperta, multi-cloud e indipendente dall'hardware NVIDIA. Ma il controllo del principale punto di accesso agli LLM open-weight solleva interrogativi su ottimizzazione, sovranità dei dati e incentivi di lungo periodo.

2026-09-03 📰 Fonte
IFM rilascia K2-Horizon-MoVA-36B-A4B in GGUF: frontiera a 4B attivi
📁 LLM AI generated ℹ️ LocalLLaMA

IFM rilascia K2-Horizon-MoVA-36B-A4B in GGUF: frontiera a 4B attivi

IFM ha pubblicato il checkpoint finale del modello sparse Mixture-of-Experts K2-Horizon-MoVA-36B-A4B, con 36 miliardi di parametri totali e 4 miliardi attivi per token. Distribuito in GGUF, compete su task agentici e di reasoning con modelli chiusi di frontiera. Previsti anche checkpoint intermedi, dati e codice di training.

2026-09-03 📰 Fonte
Equinix spinge sull'AI distribuita con NVIDIA, Together AI, AWS e Google Cloud
📁 Altro AI generated ℹ️ TechWire Asia

Equinix spinge sull'AI distribuita con NVIDIA, Together AI, AWS e Google Cloud

Equinix ha presentato Inference Exchange, una piattaforma di inference distribuita sviluppata con NVIDIA e Together AI, e Fabric One, connettività gestita basata su specifiche aperte di AWS e Google Cloud. Inference Exchange consente di collocare i carichi AI vicino a dati e utenti, con opzioni multitenant e ambienti dedicati con GPU riservata. Fabric One automatizza il provisioning di rete tramite portali, API, agenti e prompt in linguaggio naturale. Beta nel 2026, disponibilità nel 2027.

2026-09-03 📰 Fonte
NVIDIA acquisisce Hugging Face per 12,93 miliardi di dollari
📁 Market AI generated ✅ Phoronix

NVIDIA acquisisce Hugging Face per 12,93 miliardi di dollari

NVIDIA ha annunciato l'acquisizione di Hugging Face per 12,93 miliardi di dollari. L'operazione unisce il principale fornitore di GPU per LLM e la piattaforma che ospita modelli, dataset e strumenti. Per i team che valutano deployment self-hosted o on-premise, il nodo è la governance di un ecosistema integrato hardware-software: vantaggi di pipeline e rischi di dipendenza.

2026-09-03 📰 Fonte
Nvidia-Hugging Face: la voce da 12,9 miliardi che scuote il self-hosted
📁 Market AI generated ℹ️ LocalLLaMA

Nvidia-Hugging Face: la voce da 12,9 miliardi che scuote il self-hosted

Un post su Reddit rilancia una presunta acquisizione di Hugging Face da parte di Nvidia per 12,9 miliardi di dollari. La notizia non ha conferme ufficiali, ma se fosse vera ridisegnerebbe il punto neutro tra hardware GPU e distribuzione di LLM open-weight. Per chi valuta deployment on-premise e self-hosted, il nodo sarebbe la dipendenza da un unico attore lungo tutta la filiera.

2026-09-03 📰 Fonte
Qwen-3.8-Next-Flash: iniezione di conoscenza a caldo in llama.cpp
📁 Frameworks AI generated ℹ️ LocalLLaMA

Qwen-3.8-Next-Flash: iniezione di conoscenza a caldo in llama.cpp

Una modifica sperimentale a llama.cpp aggiorna in-memory la tabella Ngram PLE dei modelli Qwen, inserendo conoscenza senza ricaricare il modello. Il progetto, testato soltanto con quantization q8, richiede memory mapping e soffre di scarso controllo sull'output. È un percorso verso memoria hot-swap per LLM self-hosted, ma con vincoli di memoria e prevedibilità ancora rilevanti.

2026-09-03 📰 Fonte
Arcon spinge Qwen3-4B: quanto conta l'architettura, non solo i parametri
📁 Altro AI generated ℹ️ LocalLLaMA

Arcon spinge Qwen3-4B: quanto conta l'architettura, non solo i parametri

Il progetto Arcon usa Qwen3-4B con LoRA per costruire un assistente locale con memoria persistente, stato interno e strumenti. Più che un chatbot, è un banco di prova per capire fino a che punto un modello compatto possa reggere un'interazione da assistente. La risposta ha implicazioni per chi valuta deployment on-premise e sovranità dei dati.

2026-09-03 📰 Fonte
Il calcolo lento come scelta: un Qwen 27B e la produttività asincrona
📁 Altro AI generated ℹ️ LocalLLaMA

Il calcolo lento come scelta: un Qwen 27B e la produttività asincrona

Un intervento su Reddit riporta un passaggio da 15 ore di programmazione attiva a 4 ore per debuggare o implementare una feature con Qwen 27B, anche a 0,5 token al secondo. Il dato ridisegna le aspettative per l'inference asincrona e il calcolo del valore del tempo umano.

2026-09-03 📰 Fonte
La KV cache pesa più dei parametri sui modelli locali a contesto lungo
📁 LLM AI generated ℹ️ LocalLLaMA

La KV cache pesa più dei parametri sui modelli locali a contesto lungo

Per gli LLM locali, il numero di parametri non è l'unico vincolo: la KV cache cresce con ogni token e può diventare il vero collo di bottiglia a contesti da 100k o 200k token. GQA, MQA e quantization riducono l'ingombro, ma il problema resta lineare. La prossima ottimizzazione guarderà più alla memoria persistente e al movimento dati che ai parametri.

2026-09-03 📰 Fonte
Qwen3.8-Flash-Next su due RTX 3090: la cache esperti spinge il decode a 29 t/s
📁 Hardware AI generated ℹ️ LocalLLaMA

Qwen3.8-Flash-Next su due RTX 3090: la cache esperti spinge il decode a 29 t/s

Un utente documenta un balzo del decode da 17 a 25-29 token/s su due RTX 3090, con contesto pieno da 261.888 token, usando la cache LRU degli esperti di llama.cpp e riducendo l'ubatch. La configurazione mantiene i 48 layer di esperti in RAM di sistema e mostra margini concreti per l'inference on-prem su hardware non recente, a patto di calibrare cache e buffer sulla VRAM.

2026-09-03 📰 Fonte
Quando tacere è la risposta giusta: addestrare il confine dell'evidenza
📁 LLM AI generated 🏆 ArXiv cs.CL

Quando tacere è la risposta giusta: addestrare il confine dell'evidenza

Un framework di training insegna ai modelli di QA grounded a rispondere solo quando l'evidenza diventa sufficiente, localizzando il punto esatto in cui l'astensione lascia spazio alla risposta. Su HotpotQA, 2WikiMultiHopQA e MuSiQue, con Qwen2.5-3B-Instruct e LoRA, il metodo riduce il tasso di risposte non supportate su set esterni.

2026-09-03 📰 Fonte
PRO-Step corregge il RAG multi-hop: premia ogni passo, non solo il risultato
📁 LLM AI generated 🏆 ArXiv cs.CL

PRO-Step corregge il RAG multi-hop: premia ogni passo, non solo il risultato

PRO-Step introduce una supervisione a livello di passo per il Retrieval-Augmented Generation. Invece di valutare solo la risposta finale, un modello generativo di ricompensa controlla coerenza logica e aderenza alle evidenze in ogni fase del ragionamento multi-hop. Il metodo usa ricerca ad albero e ottimizzazione diretta delle preferenze. I test mostrano i migliori risultati medi su cinque benchmark. L'approccio segnala un cambio utile per pipeline self-hosted più affidabili.

2026-09-03 📰 Fonte
Perplexity apre il server di inference per Mac ottimizzato per Qwen 3.6
📁 Frameworks AI generated ℹ️ LocalLLaMA

Perplexity apre il server di inference per Mac ottimizzato per Qwen 3.6

Perplexity ha reso open source il repository lily in pplx-garden, un inference server per Mac costruito attorno a un solo modello, Qwen 3.6, per ottenere il massimo su Apple Silicon. Non è serving generico: la verticalizzazione su un singolo modello cambia i trade-off tra flessibilità, manutenzione e prestazioni. Il pezzo analizza chi ne beneficia e cosa segnala per i deployment locali.

2026-09-03 📰 Fonte
Lemonade 11.9 porta il backend sperimentale AMD ROCm HRX in Llama.cpp
📁 Frameworks AI generated ✅ Phoronix

Lemonade 11.9 porta il backend sperimentale AMD ROCm HRX in Llama.cpp

Lemonade 11.9, server AI locale open source sostenuto da AMD, debutta su Linux, Windows e macOS con un backend sperimentale ROCm HRX per Llama.cpp. Il progetto conferma la linea «100% gratuito e privato» su GPU, CPU e NPU. Il dettaglio tecnico più rilevante è l'integrazione ancora sperimentale di HRX, una novità nel panorama ROCm, che segnala un ulteriore passo verso alternative locali al monopolio CUDA per chi valuta deployment self-hosted.

2026-09-03 📰 Fonte
GNOME Mutter 51.rc porta lo scan-out diretto dei buffer tra GPU diverse
📁 Altro AI generated ✅ Phoronix

GNOME Mutter 51.rc porta lo scan-out diretto dei buffer tra GPU diverse

La candidate release di GNOME Mutter 51 introduce il supporto allo scan-out dei buffer tra GPU diverse. Una novità che riduce copie e latenza nei sistemi Linux multi-GPU, con ricadute concrete su workstation locali e postazioni grafiche. Ma il valore va oltre il desktop.

2026-09-02 📰 Fonte
Greg KH: Linux 7.3 sarà un ciclo «rough» per il rumore dei contributi AI
📁 Altro AI generated ✅ Phoronix

Greg KH: Linux 7.3 sarà un ciclo «rough» per il rumore dei contributi AI

La prima release candidate di Linux 7.3 è appena arrivata e Greg Kroah-Hartman prevede un ciclo difficile per il rumore generato da AI e LLM. L'aumento di bug report e patch assistite sposta il costo sui maintainer. Per chi gestisce infrastrutture self-hosted, la stabilità del kernel diventa una variabile critica, con effetti su regressioni, tempi di review e scelte di kernel long-term support.

2026-09-02 📰 Fonte
Intel aggiorna LLM-Scaler-vLLM: vLLM 0.26 su GPU Arc con Docker
📁 Frameworks AI generated ✅ Phoronix

Intel aggiorna LLM-Scaler-vLLM: vLLM 0.26 su GPU Arc con Docker

Il progetto LLM-Scaler-vLLM di Intel rilascia una nuova beta basata su vLLM 0.26, pensata per avviare vLLM su GPU Arc e Arc Pro tramite container Docker. L'aggiornamento riduce l'attrito di configurazione per chi vuole servire LLM in locale su hardware Intel, ma resta una beta: segnale di un ecosistema software in maturazione più che una soluzione pronta per la produzione.

2026-09-02 📰 Fonte
← Precedente Page 1 / 63 Successiva →
Vedi Archivio Completo 🗄️

AI-Radar is an independent observatory covering AI models, local LLMs, on-premise deployments, hardware, and emerging trends. We provide daily analysis and editorial coverage for developers, engineers, and organizations exploring local AI solutions.

AI-RADAR badge LaunchTry LAUNCHING SOON ON LaunchTry Fazier badge