Archivio Notizie – Cronologia Completa Segnali AI

Oct 17 2026

LLM

Qwen 3.8 Flash Next: il PLE in FP8 cambia le carte in locale

Un esperimento su Reddit mostra che sostituire il PLE quantizzato dei GGUF comuni con il sidecar FP8 completo migliora la qualità percepita di Qwen 3.8 Flash Next, senza impatto sulla velocità. Cresce solo lo spazio su disco.

→

Oct 17 2026

LLM

DeepSeek V4.1 Flash su Hugging Face: il self-hosting torna sotto i riflettori

La repository di DeepSeek V4.1 Flash compare su Hugging Face senza dettagli tecnici. Per i team che valutano LLM self-hosted, il solo annuncio accende un confronto su architetture efficienti e inference locale. Ma senza parametri, memory footprint o quantization, siamo davanti a un segnale, non a una scheda tecnica.

→

Oct 17 2026

OnPremise

Il 4B BF16 di NVIDIA e il conto della VRAM nell'inference locale

La pubblicazione di Dory1.0-4B-BF16 mostra come la precisione BF16 ridefinisca il deployment locale. Non è solo un modello piccolo: circa 8 GB di pesi spostano l'attenzione su VRAM, TCO e quantization. Per team con workstation e piccoli server, il segnale è chiaro: cresce la fascia intermedia tra cloud ed edge, con implicazioni per vendor GPU e fornitori cloud. Un'analisi del trade-off tra controllo e infrastruttura.

→

Oct 17 2026

LLM

NVIDIA e il 4B BF16: il peso specifico dell'inference locale

Un modello da 4 miliardi di parametri in precisione BF16 firmato NVIDIA Nemotron Labs appare su Hugging Face. Non è la dimensione a contare, ma il formato: BF16 tiene il modello lontano dalle compressioni spinte e lo colloca nello spazio dei deployment locali su GPU con VRAM adeguata. Ne analizziamo le implicazioni per chi valuta self-hosted e TCO.

→

Oct 16 2026

Hardware

ORL spinge i diffusion LLM a 2.788 token/s su una RTX 5090

Il progetto ORL (On-Policy Residual Learning) promette di accelerare i diffusion LLM senza sacrificare la qualità. Su una singola RTX 5090 il team segnala 2.788 token/s con LLaDA-2.1-mini in NVFP4; il motore di inference dlmrt, open source, sfrutta CUDA graph e supporta le GPU Blackwell. Numeri di picco in modalità single-request, ma il valore sta nel cambio di prospettiva per chi valuta deployment self-hosted.

→

Oct 16 2026

LLM

Beam di Reflection: ragionamento a token ridotti, memoria da 501 miliardi

Reflection ha rilasciato Beam, LLM aperto con architettura MoE da 501 miliardi di parametri totali e 23 miliardi attivi. Supporta contesto da 1 milione di token e precisioni BF16, FP8 e NVFP4. La tesi è il ragionamento token-efficiente: circa un terzo dei token di inference rispetto ai modelli aperti leader. I benchmark mostrano risultati forti su coding e matematica, ma la memoria resta il nodo per il self-hosted.

→

Oct 16 2026

LLM

Ragionamento nascosto: l’approccio ibrido che dimezza i token degli LLM

Un preprint di Stanford, Together AI, UIUC e Meta introduce i Hybrid Reasoning Agents: modelli che ragionano in modo interno e producono testo solo per tool e risposta finale. Nei test segnalati guadagnano circa il 10%, usano metà token, girano due volte più veloci e costano meno. Il vero cambiamento è strutturale: il ragionamento esce dal flusso testuale, con effetti su verificabilità, fiducia e TCO dell’inference.

→

Oct 16 2026

LLM

Tencent Hy-Memory-30B-A3B: perché 3B attivi contano più di 30B totali

La scheda del modello Tencent Hy-Memory-30B-A3B accende il dibattito su un dato sfuggente: un'architettura con 3 miliardi di parametri attivi su 30 miliardi totali supererebbe Opus 5 in un test di memoria non specificato. Il punto non è il benchmark, ma il segnale strutturale per chi valuta deployment self-hosted: meno parametri attivi possono ridurre VRAM e costi di inference, senza rendere il modello più semplice da valutare.

→

Oct 16 2026

LLM

Qwen Flash Next: il quant Q2 GYRO-M sfida i team di ISTA Lab

Un test empirico di tre giorni su GYRO-M, quantization Q2 del modello Qwen Flash Next, segnala stabilità paragonabile al q3 ISTA con dimensioni ridotte. Il progetto nasce da un singolo contributore e mostra tenuta su contesti lunghi, ma evidenzia criticità sui testi cirillici. Una novità che riapre il confronto su quantization, loop resistance e metriche di qualità per deployment locali.

→

Oct 16 2026

Frameworks

Intel pubblica LLM-Scaler-vLLM PV 1.5: stack Docker per LLM su GPU Arc

Gli ingegneri software di Intel hanno rilasciato LLM-Scaler-vLLM PV 1.5, uno stack Docker pensato per semplificare l'inference di LLM su hardware Intel Arc. La novità segnala un investimento software mirato a rendere le GPU discrete dell'azienda più competitive nel deployment locale, riducendo l'attrito operativo per chi valuta alternative self-hosted.

→

Oct 16 2026

Hardware

Sovranità open source: il lavoro noioso che la rende concreta

Al Summit Europe l'attenzione va a GPU e AI, ma la parte più concreta viene dai piani di conformità CRA, metriche OSPO e obiettivi di migrazione come il 70% open source di Berlino entro il 2032. La burocrazia diventa infrastruttura.

→

Oct 16 2026

Hardware

Bolt Graphics cerca 100 milioni di dollari per sfidare Nvidia e AMD con la GPU Zeus

Bolt Graphics cerca 100 milioni di dollari per sviluppare Zeus, una GPU che punta a sfidare Nvidia e AMD oltre i soli carichi AI. La fonte non riporta specifiche tecniche, ma la mossa segnala un tentativo di creare un terzo polo hardware. Il successo dipenderà meno dal silicio e più dall'ecosistema software, dal TCO e dalla capacità di convincere chi gestisce pipeline self-hosted.

→

Oct 16 2026

OnPremise

Muse Spark Open: il segnale vero è nei kernel portatili, non nei 816B

Meta ha aperto i pesi di Muse Spark Open, ma il punto non è solo la scala: Helion, DSL nativo PyTorch per kernel portatili, e il supporto TorchTitan per fine-tuning spostano il confronto su controllo hardware, TCO e self-hosting. Analisi di secondo e terzo ordine.

→

Oct 16 2026

Frameworks

PRISM insegna ai sistemi multi-agente a scegliere la topologia giusta per ogni query

PRISM recupera un segnale per-query da corpora di grafi verificati che non hanno ranking. Un teacher legge un grafo sibling tramite un ramo low-rank zero-initialized; lo studente allinea i target decisionali su traiettorie auto-campionate. Su sei benchmark il metodo supera le baseline di progettazione topologica. L'effetto più interessante è sui costi di inference: meno interazioni superflue tra agenti, un vantaggio concreto per chi gestisce infrastrutture self-hosted.

→

Oct 16 2026

Frameworks

DeepUnfolding Agent: il controllo adattivo diventa un servizio esterno

La piattaforma FastAPI proposta da DeepUnfolding Agent separa il controller adattivo dall'esecuzione di dominio. Gli executor registrano uno schema, inviano diagnostiche di round e ricevono azioni di controllo vincolate, con persistenza SQLite, deploy Docker e percorsi classici, quantistici e ibridi. I test citati coprono finanza, sanità, genomica, trasporti, simulazione quantistica rumorosa ed esecuzione su hardware IBM Quantum. Il risultato è un layer di controllo riutilizzabile, tracciabile e validabile a livello API.

→

Oct 16 2026

LLM

Benchmark saturi: nei transcript resta segnale utile

Quando più modelli raggiungono punteggi quasi perfetti, i benchmark perdono capacità di distinguerli. Uno studio mostra che le trascrizioni complete dei task, anche da benchmark saturi, conservano informazioni predittive. Il pairwise judging riduce l'errore di predizione di 5,3 volte rispetto ai soli punteggi. Il segnale però non sempre regge ai cambi di distribuzione: i primi modelli di reasoning del 2025 sono stati sottostimati.

→

Oct 16 2026

Hardware

DeepSeek-V4-Flash su 4 Radeon AI PRO R9700: la modalità da 79 tok/s funziona

Un test con quattro Radeon AI PRO R9700 reali mostra che il motore affinity gestisce la configurazione multi-GPU senza output degeneri. La quantization a 2,875 bpw tiene 11.008 esperti in VRAM: 79 token/s in greedy, nessun host pool allocato. Il bug era nella simulazione con due schede, non nell'esecuzione multi-rank.

→

Oct 15 2026

LLM

Meta apre i pesi di Muse Spark Open: 816B parametri e contesto da 1M token

Meta rilascia i pesi di Muse Spark Open, modello da 816 miliardi di parametri totali e 42 miliardi attivi con finestra da 1M token. L'annuncio unisce Helion e TorchTitan: kernel portabili su GPU NVIDIA, AMD e Intel e strumenti di fine-tuning nativo PyTorch. Un segnale per chi valuta deployment on-premise, ma pesi aperti non significa licenza open source.

→

Oct 15 2026

LLM

Nemotron 3.5 Bolt: un VLM da 74B compresso in 24 GB per l'on-premise

NVIDIA descrive Nemotron 3.5 Bolt come modello vision-language per task agentici locali: 74B parametri totali, 9B attivi, quantization nativa a 2 bit e footprint da 24 GB. Supporta testo, immagini, video e contesto fino a 256K token; l'esecuzione avviene con vLLM su Ampere, Hopper e Blackwell.

→

Oct 15 2026

Market

RTX 5060 Ti a $1.292 in Giappone: il Black Friday delle GPU è già un test

La RTX 5060 Ti da 16 GB tocca 1.292 dollari in Giappone con aumenti fino al 144%; la RTX 5080 supera i 2.400. Più che un problema di gaming, è il segnale di una domanda di VRAM contesa con l’inference locale di LLM. I prezzi finali mettono in discussione il TCO di nodi self-hosted e spingono a rivedere le alternative.

→

Oct 15 2026

Hardware

GNOME Mutter migliora il damage tracking per le GPU secondarie

Un ritocco nel compositor di GNOME 52 limita le copie inutili tra le GPU nei portatili ibridi. Meno spreco di banda e batteria, con un effetto indiretto su chi usa la GPU discreta anche per l'inference locale.

→

Oct 15 2026

LLM

Microsoft e il modello locale da 137 miliardi di parametri: la mossa per il codice on-premise

Microsoft AI ha sviluppato una versione locale di MAI Code 1.1 Flash, modello di coding ottimizzato con architettura mixture-of-experts: 137 miliardi di parametri totali e 6,8 miliardi attivi. La notizia segnala una spinta verso strumenti di sviluppo self-hosted su Windows, con implicazioni per sovranità dei dati e costi di inference locale.

→

Oct 15 2026

LLM

Mr.Chatterbox-2.7B-Chat: un LLM addestrato da zero sui testi vittoriani

Presentato nella community da u/centerstate, Mr.Chatterbox-2.7B-Chat è un checkpoint pre-addestrato e rifinito con fine-tuning su testi vittoriani per la massima accuratezza storica. L'approccio da zero su un dominio specifico, con un modello da 2,7 miliardi di parametri, apre scenari per deployment self-hosted e controllo dei dati, pur restando un esperimento di nicchia.

→

Oct 15 2026

Hardware

AMD W7900 e LFM2.5: il segnale di un on-premise sempre più concreto

La prova di un LLM da 24 miliardi di parametri su AMD W7900, con contesto da 128.000 token e circa 95 token al secondo, segnala che l'inference on-premise si consolida anche fuori dall'ecosistema NVIDIA. L'analisi di AI-Radar esplora trade-off, sovranità dei dati e TCO.

→

Oct 15 2026

LLM

Il bengalese smonta le certezze dei benchmark LLM in inglese

Un benchmark zero-shot su otto LLM mostra che la qualità della summarization non si trasferisce dall'inglese al bengalese. GPT-5.6 Luna domina alcune metriche lessicali inglesi, ma LLaMA 3.3 70B ottiene i migliori ROUGE e BLEU bengalesi; Gemini 2.5 Flash primeggia in factuality. I ranking cambiano con la metrica: per le lingue a basse risorse serve un evaluation framework multilingue.

→

Oct 15 2026

OnPremise

Voice agent e recupero crediti: la conformità diventa una specifica

Un modello da 9 miliardi di parametri, addestrato una sola volta su 2.506 conversazioni generate da 297 procedure, affronta procedure di recupero crediti mai viste. I controlli documentali passano da 67-71% a 93-100%, i controlli grounded restano alti. L'audit della specifica condivisa trova 11 difetti, tre non rilevati dalla metrica.

→

Oct 15 2026

LLM

Modello inverso: addestrare LLM al ragionamento senza CoT

Un gruppo di ricercatori usa un LLM 'inverso' per ricostruire le tracce di ragionamento partendo dalle sole risposte. Il modello, addestrato una volta, genera in modo offline i passaggi intermedi per dati prompt-risposta, evitando i rollout multipli del reinforcement learning. Su Qwen3-0.6B una singola distillazione raddoppia pass@1 sui prompt difficili; lo stesso modello inverso fa da verificatore e porta la selezione best-of-n su Countdown da 0.753 a 0.969.

→

Oct 15 2026

LLM

Lotus: prevedere il futuro per comprendere le serie temporali

Il forecast grounding obbliga i modelli time-series allineati al linguaggio a conservare la dinamica temporale prima di affrontare i task finali. Lotus usa patch temporali-spettrali e parametri minimi, superando baseline molto più grandi su TSRBench.

→

Oct 15 2026

LLM

Il primo esame dell’artificialità: un C-test basato su LLM per la sovraintelligenza

Un nuovo test usa Levin's Kt e i modelli linguistici come macchine di rappresentazione per generare item di difficoltà misurabile in bit, prima che umani o modelli di frontiera riescano a risolverli. Dodici LLM sono stati valutati su una prima batteria certificata, mostrando curve caratteristiche che declinano con la difficoltà fino a una regione di sovraintelligenza non ancora esplorata.

→

Oct 15 2026

LLM

LiquidAI LFM2.5-24-A2B: performance robuste su AMD W7900 per LLM on-premise

Un utente ha condiviso un'esperienza positiva con il modello LiquidAI LFM2.5-24-A2B (24B parametri), evidenziando performance elevate (~95 tps) su GPU AMD W7900. Il modello, che richiede 30GB di VRAM per la quantization Q8 con un contesto di 128k token, si dimostra affidabile per carichi di lavoro locali, suggerendo un potenziale significativo per deployment on-premise e una maggiore diversificazione hardware nell'inference LLM.

→

Oct 14 2026

OnPremise

Mesa porta YOLOX su NPU: il driver aperto ridefinisce l'inference locale

Mesa estende il supporto alle NPU e dimostra YOLOX via PyTorch, spostando l'accesso all'accelerazione fuori dai toolchain proprietari. Per edge e on-premise, il driver aperto riduce lock-in e costi di porting, cambiando il calcolo del TCO. AI-Radar legge il segnale strutturale: l'accelerazione AI segue la traiettoria delle GPU, dove il valore si sposta dal semplice accesso hardware all'orchestrazione con framework condivisi e pipeline riproducibili.

→

Oct 13 2026

OnPremise

Reverse engineering CUDA con AI: il sintomo di un lock-in che pesa sull'on-premise

Un post Reddit rilancia l'idea di usare LLM per ricreare CUDA open source e liberare le GPU AMD. Il segnale non è la fattibilità tecnica immediata, ma la tensione strutturale tra controllo dello stack, compatibilità software e TCO nelle infrastrutture self-hosted. Per chi valuta deployment on-premise, il dibattito mostra come la scelta hardware sia inseparabile da ecosistemi, framework e vincoli di migrazione.

→

Oct 12 2026

OnPremise

Scontrini on-device: il segnale per chi controlla l'inference locale

Un modello da 0,8B che legge scontrini sul telefono mostra l'inference on-device come opzione concreta per documenti personali. Il progetto intreccia fine-tuning su dati donati, output JSON e una valvola self-hosted via server OpenAI-compatibile. Il segnale per chi valuta deployment locali è il trade-off tra memoria, qualità dei dati e TCO, con la sovranità come vincolo e non preferenza.

→

Oct 11 2026

Hardware

RTX 4090 contraffatte: la falla hardware dell'inference self-hosted

La circolazione di RTX 4090 contraffatte, quasi indistinguibili all'ispezione visiva e ai primi test software, trasforma l'acquisto di GPU consumer per LLM on-premise in un rischio strutturale. Il danno non si limita alla sostituzione: include instabilità sotto carico, benchmark inaffidabili e TCO più alto. Per chi punta su self-hosted e sovranità dei dati, la provenienza hardware diventa competenza infrastrutturale, non solo logistica.

→

Oct 10 2026

Market

GLM 5.3 Flash e Mistral Large 4: il sorpasso che sposta il TCO

Due modelli aperti guidano l'Artificial Analysis Cyber Index e superano ogni singolo modello Anthropic. Il sorpasso non è solo classifica: sposta il calcolo del TCO dai canoni API all'infrastruttura on-premise, riapre il confronto su sovranità dei dati, quantization e gestione delle GPU. AI-RADAR analizza le implicazioni per chi valuta deployment locali, fine-tuning e stack self-hosted, oltre i riflessi su vendor cloud e system integrator.

→

Oct 09 2026

OnPremise

SAP simula l'azienda: dati sintetici senza schema e il nuovo perimetro sovrano

Il framework Synthesis Through Simulation di SAP genera dati sintetici aziendali facendo operare un agente LLM contro API che applicano policy simulate, senza accedere agli schemi database. La validità strutturale nasce per costruzione, non per estrazione. Per le infrastrutture self-hosted cambia il calcolo di sovranità e TCO: la pipeline locale dalla simulazione al fine-tuning riduce dipendenza da cloud e approvazioni legali, ma sposta il rischio sulla fedeltà dell'ambiente simulato.

→

Oct 08 2026

OnPremise

LiteBox: il sandbox locale diventa un tassello per l’AI on-premise

Microsoft ha pubblicato il primo rilascio taggato di LiteBox, sandbox in Rust per isolare Linux su Linux e Linux su Windows. Il segnale è la maturità: un isolamento più forte dei container, portabile cross-OS, utile per pipeline LLM self-hosted. Riduce la dipendenza da sandbox cloud e rafforza sovranità. Restano da valutare overhead, superficie d'attacco e integrazione operativa.

→

Oct 07 2026

Frameworks

Guida esterna nei LLM: il bias non si elimina, si calibra

Il framework GA-GRPO formalizza la guida esterna nel fine-tuning di LLM reasoning come un operatore che introduce bias misurabile in base alla divergenza tra guida e policy. La teoria mostra che il bias è inevitabile e cresce nel tempo, ma il peso ottimale della guida diminuisce con l'avanzare dell'addestramento. Un test con Qwen2.5-Math-7B su nove benchmark mostra un risparmio del 31% di GPU-ore, con implicazioni dirette per il TCO dei deployment on-premise e self-hosted.

→

Oct 06 2026

OnPremise

ROCm 10.1: la cadenza software che riscrive il TCO on-premise

ROCm 10.1 conferma il ciclo di sei settimane di AMD per lo stack GPU. Più delle singole funzionalità, conta la prevedibilità: per i deployment self-hosted riduce il rischio di restare bloccati su versioni vecchie e rende il software parte governabile della pipeline. La maturità dello stack entra nel TCO accanto a VRAM e prestazioni. Restano incognite su compatibilità dei framework, SKU e qualità dei rilasci.

→

Oct 05 2026

OnPremise

Quando un LLM locale perde il filo: biografie nel refactoring e quantization spinta

Un task di refactoring su RTX 5070 Ti con Qwen3.8-27B in quantization IQ3_XXS produce una digressione biografica su Lee Kuan Yew nel reasoning. L'episodio mostra come compressione spinta e velocità possano erodere la coerenza interna, rendendo fragile la tracciabilità nei deployment self-hosted. Per i deployment on-premise, l'attenzione si sposta dai token al secondo alla stabilità dei passaggi intermedi, con implicazioni per pipeline agentiche e supervisione.

→

Oct 04 2026

LLM

Kolibri-1 e il nuovo baricentro dell'AI locale: meno calcolo, più memoria

Aleph Alpha pubblica la scheda di Kolibri-1: 78 miliardi di parametri totali, 3,46 miliardi attivi e contesto da 1 milione di token con licenza Apache 2.0. L'analisi AI-RADAR mostra come il vincolo si sposti dal calcolo alla memoria e alla cache KV, con implicazioni dirette per self-hosted e TCO.

→

Oct 03 2026

Frameworks

Helion in vLLM: il tuning dei GEMM diventa ricerca, non artigianato GPU

L'integrazione di Helion nel backend lineare di vLLM mostra che un solo kernel GEMM con autotuner ahead-of-time può coprire varianti specializzate e migliorare l'inference fino al 10% su Qwen3. Per chi gestisce LLM self-hosted, il segnale è duplice: si riduce la dipendenza da competenze CUDA profonde, ma si sposta il costo sul tuning offline e sulla governance delle configurazioni.

→

Oct 02 2026

OnPremise

BIG-IP Next per Kubernetes: l'efficienza AI si sposta dalla GPU alla rete

Il test F5 su BIG-IP Next for Kubernetes mostra che lo stesso cluster GPU può rendere più del triplo agendo su bilanciamento e instradamento del traffico. Per i deployment on-premise l'efficienza per nodo diventa centrale per il TCO; il rischio è legare l'ottimizzazione a uno stack proprietario. AI-RADAR analizza le implicazioni per chi valuta infrastrutture locali, tra capacità inutilizzata e dipendenza tecnica.

→

Oct 01 2026

General

Plants Governed Agents

A demo showing the integration of MachinaOS with MES via Shopfloor-Copilot

→

Sep 30 2026

LLM

Fine-tuning oltre il testo: DASA trasforma il gradiente nel dataset

DASA genera embedding sintetici dai gradienti di attivazione di un modello congelato, addestrando LLM senza passare da testo leggibile. I test su Llama e Qwen mostrano prestazioni simili o superiori ai dati testuali, con speedup fino a 4,9 volte rispetto a GRADMM. Per i deployment self-hosted cambia l'equilibrio tra cura dei dati, calcolo, portabilità e audit.

→

Sep 29 2026

OnPremise

Nemotron 3: il valore si sposta dai pesi all'orchestrazione dell'inference

Il punteggio di Nemotron 3 alle IOI 2026 non segna solo un primato. Il risultato dichiarato si spiega con GenCorrect, un loop di test-time compute che moltiplica i token per query. Per i deployment on-premise, i pesi aperti e la quantization NVFP4 abbassano la barriera hardware, ma il costo operativo si sposta su VRAM, throughput e TCO. L'analisi di AI-RADAR: perché conta e quali trade-off valutare.

→

Sep 28 2026

OnPremise

Nvidia spinge i personal AI computer: l'on-premise diventa un formato

La spinta di Nvidia sui personal AI computer segnala un cambio di baricentro: l'inference LLM si avvicina al dispositivo locale. Non è solo hardware consumer, ma un nodo on-premise in miniatura che tocca VRAM, quantization, TCO e sovranità dei dati. Per i team IT si apre una terza via tra cloud e data center: occorre valutare carichi stabili, vincoli di memoria e complessità operativa.

→

Sep 27 2026

Hardware

Snapdragon 8 Elite Gen 6: l'inference locale sposta il perimetro dei dati

Qualcomm presenta due system-on-chip con matrix core nella GPU e supporto LPDDR6. Non è una corsa ai benchmark: è un segnale sul confine della sovranità dei dati, che si sposta nel dispositivo. L'analisi AI-Radar sui vincoli di memoria, Quantization e TCO per chi valuta LLM locali.

→

Sep 26 2026

OnPremise

Qwengram-0.8B: memoria esterna e gate dinamica cambiano i conti del self-hosted

Qwengram-0.8B congela Qwen3.5-0.8B e aggiunge una memoria n-gram da 51 miliardi di parametri fuori dal GGUF. La perplexity scende del 5,05%, ma il dato rilevante è l'architettura: iniezione tardiva governata da una gate per token, sidecar quantizzato Q8_0 e nessun fine-tuning del backbone. Per chi gestisce LLM locali, il segnale è la separazione tra pesi e conoscenza: aggiornare la memoria senza toccare il modello apre scenari nuovi, ma impone vincoli severi ai runtime.

→

Sep 25 2026

LLM

Sicurezza, ad hominem e controllo locale: il vero costo degli LLM addomesticati

Il fine-tuning di sicurezza non è neutro: riduce lo spazio strategico degli LLM nei dibattiti reali. Per i deployment on-premise conta il controllo dei pesi, delle pipeline e del TCO. L'analisi AI-Radar mette a fuoco il trade-off tra modelli pronti via API e sistemi self-hosted capaci di ridefinire il comportamento conversazionale.

→

Sep 24 2026

Hardware

AMD e GDDR7 su Linux: il segnale infrastrutturale per chi fa inference on-premise

L'avvio del supporto GDDR7 nei driver Linux di AMD segnala un cambiamento per chi gestisce infrastrutture AI on-premise. La notizia, apparentemente tecnica, anticipa l'importanza della banda di memoria per l'inference LLM e riduce l'attrito di integrazione per ambienti self-hosted. Un segnale da leggere in ottica TCO e sovranità dei dati, più che come annuncio di prodotto.

→

Sep 22 2026

LLM

AliceAI 80B: architettura custom e il nodo dei runtime

Yandex ha pubblicato un base model da 80 miliardi di parametri con architettura custom e componente attiva ridotta. Non è una fine-tune di Qwen3 e non ha supporto in Llama.cpp: un doppio segnale. AI-RADAR analizza le implicazioni per chi valuta deployment on-premise: maturità dell'ecosistema di inference, costo di porting, proliferazione di architetture. Non è un modello plug-and-play, ma un indicatore di direzione tecnica.

→

Sep 21 2026

OnPremise

BI-Bench e BI-Agent: il vero divario è nell'orchestrazione dei dati

La BI end-to-end rivela un limite strutturale dei LLM: sotto il 50% di accuratezza senza guida umana. Il guadagno vero arriva da architetture che orchestrano strumenti e da post-training su dati proprietari. Per chi valuta on-premise e self-hosted, il TCO si sposta verso GPU, metadati e pipeline, non verso il costo per token.

→

Sep 20 2026

OnPremise

Von, 395M parametri e solo CPU: cosa cambia per l'inference on-premise

Von, un LLM open source da 395 milioni di parametri, gira interamente su CPU con 1-2 GB di memoria e latenze dichiarate tra 25 e 300 ms. Presentato su Reddit come sostituto di JEV, senza ottimizzazione iniziale, riapre il confronto su deployment locali senza GPU. Per AI-RADAR il segnale non è il benchmark, ma il costo di verifica indipendente e la possibilità di self-hosted dentro il perimetro aziendale.

→

Sep 19 2026

OnPremise

Bonsai 2 Swift e il costo nascosto dei token nel self-hosted

La domanda di UkisAI su Bonsai 2 Swift non riguarda un semplice aggiornamento. Mette in luce come il TCO degli LLM locali dipenda sempre più dal comportamento a runtime: token sprecati, loop di overthinking e scelte di quantization ridefiniscono l'efficienza on-premise.

→

Sep 18 2026

OnPremise

Il Transformer che amplifica il disaccordo cambia i conti dell'on-premise

MDT trasforma la divergenza tra volto, voce e testo nel segnale centrale dell'analisi clinica, raggiungendo 0,7408 Macro F1 sul test BAH e addestrandosi in meno di venti minuti su singola GPU. Per AI-Radar il dato chiave è operativo: un modello che codifica il conflitto con token espliciti sposta l'attenzione su pipeline parallele, VRAM e TCO, rendendo più concreta l'elaborazione locale dei video sensibili.

→

Sep 17 2026

OnPremise

63 ore di inference autonoma su una RTX 3090: il vero carico è l'orchestrazione

Un esperimento con un LLM da 27 miliardi di parametri in quantization a 4 bit su una RTX 3090, per 63 ore, non risolve Riemann ma mostra la tenuta di pipeline agentiche self-hosted. Il valore non è il teorema: è la stabilità di processo, la gestione della memoria e l'ownership dei dati. AI-Radar analizza implicazioni per infrastruttura locale, valutazione e orchestrazione.

→

Sep 16 2026

OnPremise

Cache KV: il nuovo fronte dell'infrastruttura LLM on-premise

La mossa di Astera Labs sposta l'attenzione dal calcolo alla memoria. La cache KV, critica per i carichi agentici, diventa un vincolo fisico che incide su parallelismo, latenza e TCO. Per i deployment self-hosted e on-premise la gerarchia di memoria e il movimento dei dati diventano criteri di scelta non più secondari.

→

Sep 15 2026

OnPremise

K2 Horizon 7B: il segnale che sposta la competizione sul rapporto VRAM/capacità

Un modello da 7B in GGUF si colloca tra modelli da 27 e 35 miliardi di parametri. Per chi valuta deployment self-hosted, il caso K2 Horizon 7B cambia il calcolo del TCO e mette al centro la resa per gigabyte di VRAM, non il numero di parametri. Ma servono verifiche approfondite.

→

Sep 14 2026

OnPremise

Il diritto all'AI locale, la sicurezza e la spinta alla centralizzazione

La rivendicazione del diritto di eseguire AI in locale, emersa in un dibattito sulla sicurezza, segnala una frattura profonda tra controllo distribuito e centralizzazione. Le restrizioni sui modelli aperti rischiano di colpire il self-hosted, la sovranità dei dati e l’hardware per l’inference on-premise, spostando il mercato verso API proprietarie e cloud. L’analisi esplora incentivi, effetti di secondo ordine e TCO, senza ridurre la sicurezza a un pretesto.

→

Sep 13 2026

OnPremise

Budget: un LLM denso da 9,4B su una scheda sposta il vincolo dalla GPU alla comunità

Un ricercatore indipendente ha preparato un modello denso da 9,4 miliardi di parametri per il training su una singola scheda, con distillazione da Llama 3 e semplificazioni architetturali. Non ci sono benchmark, ma il segnale per l'AI on-premise è chiaro: il collo di bottiglia non è più l'hardware, ma dati, iterazione e comunità. Il progetto Budget mostra che la barriera per l'addestramento locale è scesa.

→

Sep 12 2026

LLM

Personalità nel prompt, non nei pesi: il nuovo confine dell'on-premise

Un metodo in tre passaggi mostra come ottenere chatbot 'umani' senza fine-tuning: biografia, voce, istruzioni operative. Per i deployment on-premise il segnale è duplice: meno pressione sul training, ma più fragilità e rischi di audit. Il costo si sposta dall'addestramento all'inference, mentre la governance del testo diventa parte dell'infrastruttura. La partita si gioca sempre più sulla scrittura dei prompt, non sui pesi.

→

Sep 11 2026

LLM

BabyLM 2026: perché l'efficienza dei dati è una leva per il TCO on-premise

Nel BabyLM 2026 Strict-Small, Qiushi Engine ha guadagnato 0,23 punti Overall su nove metriche senza aumentare la scala, ma riorganizzando l'esperienza attorno alle dipendenze contestuali. Per chi valuta LLM self-hosted, il segnale è il principio di efficienza dei dati: sposta parte del costo da hardware e VRAM a progettazione del corpus e supervisione.

→

Sep 10 2026

Hardware

Enflame e il completamento del framework GPU cinese: il capitale non basta

La quotazione di Enflame chiude il ciclo delle quattro IPO dei produttori GPU cinesi. Il segnale finanziario è chiaro: Pechino considera i chip per AI una priorità strategica. Ma il capitale raccolto non sana da solo il divario di ecosistema software, VRAM, bandwidth e compatibilità con pipeline di fine-tuning e inference. Per infrastrutture self-hosted e on-premise, la vera partita si gioca su driver, strumenti e maturità operativa.

→

Sep 09 2026

Hardware

SEMIFIVE sul 4nm di Samsung: il primo stress test industriale degli ASIC per LLM

La produzione degli HyperAccel sul nodo a 4nm di Samsung segnala il passaggio degli acceleratori dedicati ai LLM da sperimentazione a logica industriale. La capacità limitata introduce pressioni su consegne e allocazione dei wafer. Per i deployment self-hosted, gli ASIC promettono TCO più basso su carichi stabili, ma vincolano l'hardware a modelli e schemi di quantization poco flessibili. Il trade-off va valutato oltre il costo di acquisto.

→

Sep 08 2026

Hardware

Cambricon nella PyTorch Foundation: il software è la vera partita dell'hardware

L’ingresso di Cambricon come membro Platinum della PyTorch Foundation segnala un cambio di fase: controllare lo stack software open source conta quanto la potenza dei chip. Per chi valuta LLM self-hosted, il supporto nativo di backend diversi riduce dipendenza da CUDA, manutenzione e TCO. Restano da verificare continuità e maturità dei contributi upstream.

→

Sep 07 2026

OnPremise

Astra e LLM open source: il divario vero è nell’orchestrazione

Un post su Reddit chiede quando i LLM open source raggiungeranno Astra. Il segnale non riguarda i pesi del modello, ma l'infrastruttura: pipeline multimodale, runtime di inference, memoria e orchestrazione. Per chi valuta stack on-premise, il divario si traduce in trade-off tra controllo, latenza e TCO. L'open source può competere su compiti specifici, ma l'esperienza integrata richiede investimenti coordinati. AI-Radar analizza le implicazioni per deployment locali e sovranità dei dati.

→

Sep 06 2026

OnPremise

Open source e laboratori di frontiera: quando la parità percepita sposta il mercato

La percezione di parità tra modelli open source e laboratori di frontiera, emersa in un dominio critico, sposta la competizione dalla qualità tecnica a costi e governance. Chi gestisce dati sensibili guarda al self-hosted come opzione concreta: TCO, latenza e controllo superano il punteggio dei benchmark. Il segnale indica pressione sui token, domanda di hardware per inference locale e un premio fragile per le API chiuse.

→

Sep 05 2026

OnPremise

Tencent Hy4 su llama.cpp: il segnale per l'inference locale

La pull request #28127 per integrare Hy4-preview in llama.cpp non porta benchmark, ma segnala la convergenza dell'ecosistema self-hosted. Anche i vendor cloud mostrano attenzione alle pipeline on-premise. Restano da verificare stabilità, licenze e documentazione: il valore reale si misurerà su costi operativi, efficienza e vincoli di sovranità.

→

Sep 04 2026

OnPremise

Nvidia-Hugging Face: il controllo dell'AI passa da pagamenti e talenti

L'accordo tra Nvidia e Hugging Face segnala che il controllo dell'ecosistema LLM passa anche da clausole finanziarie. Pagare i concorrenti nel silicio e vincolare un miliardo di dollari al personale incide su neutralità delle piattaforme, costo del talento e dipendenze per chi valuta stack self-hosted e on-premise. Un segnale da monitorare accanto a VRAM, inference e TCO.

→

Sep 03 2026

OnPremise

La cache degli esperti riscrive il TCO: MoE fluido su hardware on-premise datato

Il caso Qwen3.8-Flash-Next su due RTX 3090 mostra che nei modelli MoE la VRAM non è più l'unica variabile: la gerarchia di memoria e la cache degli esperti spostano il decode da 17 a 29 token/s. Un segnale concreto per chi valuta deployment on-premise su hardware non recente.

→

Sep 02 2026

LLM

Dai profili sintetici ai segnali reali: il fine-tuning cambia la personalizzazione degli LLM

La ricerca di ServiceNow mostra che i profili comportamentali estratti da interazioni reali offrono una personalizzazione più aderente rispetto alle personas sintetiche. Il metodo combina fine-tuning supervisionato e ragionamento multi-prospettiva, spostando l'attenzione dai template identitari ai segnali osservati. Per chi gestisce LLM self-hosted, il passaggio impone pipeline di pulizia, anonimizzazione e governance più articolate, con costi infrastrutturali ma anche un vantaggio competitivo legato alla sovranità dei dati.

→

Aug 31 2026

General

The Sandbox Dissolved! The monthly signal from AI-Radar

Anatomy of the Hugging Face Breach, Emergent Agentic Metagaming, and the Sovereign AI Imperative

→

Aug 31 2026

OnPremise

Quantization come superficie d'attacco: il vuoto tra validazione e deployment

La compressione post-training non è una trasformazione neutra. Un paper mostra classi di equivalenza comportamentale che collassano parametri diversi e aprono backdoor attivate solo dopo quantization INT8 o 4 bit. I test su modelli multilingua segnalano fino all'85,02% di inversione friend-foe e ΔBias=0,33. Per deployment on-premise e air-gapped, l'audit del solo checkpoint sorgente non basta: va certificata ogni coppia modello-compressione e ogni percorso di produzione.

→

Aug 30 2026

Hardware

La leva runtime che porta un LLM da 27B a 100k token su 16 GB

Un setup su Reddit mostra un modello dense da 27 miliardi di parametri a 47-50 token/s con contesto da 100.000 token su una RTX 4070 Ti SUPER da 16 GB. Il segnale non è il modello, ma il controllo fine del runtime: cache KV asimmetrica kvarn5/kvarn4, coda di 1.024 token a piena precisione e decodifica speculativa. Sposta il vincolo dalla VRAM al software di serving, con implicazioni per TCO e sovranità dei dati.

→

Aug 29 2026

Hardware

HP Z4 G6i: il prezzo è solo la superficie del segnale Linux-ready

La workstation HP Z4 G6i unisce Xeon serie 600, grafica RTX e supporto Linux dichiarato, ma la configurazione top supera i 41mila dollari. Il segnale per AI-Radar non è la potenza assoluta: è la legittimazione delle macchine da lavoro come nodi on-premise per LLM, inference locale e fine-tuning su dati sensibili. Restano da verificare GPU, VRAM e gestione operativa, variabili decisive per valutarne il TCO e l'uso reale.

→

Aug 28 2026

OnPremise

Nvidia-Hugging Face: il nodo dei modelli diventa un asset hardware

L’eventuale acquisizione di Hugging Face da parte di Nvidia va letta come presa di controllo su un punto di passaggio per modelli, pesi e pipeline. Per i deployment on-premise e self-hosted cambia il piano di distribuzione: neutralità, accesso e sovranità tecnica diventano variabili industriali. AI-Radar analizza implicazioni e segnali da monitorare.

→

Aug 27 2026

OnPremise

GreenLeaf Law Embed Tiny, il retrieval giuridico si fa locale

Un embedding giuridico da 0,6 miliardi di parametri mostra che distillazione, hard negative mining e quantization binaria possono spostare il retrieval legale verso deployment self-hosted. Il dato strutturale non è solo il benchmark, ma la possibilità di servire ricerca giuridica su hardware locale con TCO ridotto, dati nel perimetro e dataset specializzato come vero fossato. Restano aperti i limiti per l'uso ad alto rischio.

→

Aug 26 2026

OnPremise

Qwen3.8-27B scende a 19,7 GB: cosa cambia per l'on-premise

Un checkpoint Qwen3.8-27B in NVFP4 mostra che la quantization W4A4 guidata da distillation può portare un LLM da 27 miliardi di parametri sotto i 20 GB senza perdite rilevanti. L'analisi AI-Radar legge il risultato come un cambio di soglia per VRAM e TCO, ma anche come un vincolo hardware NVIDIA Blackwell e uno spostamento del costo di precisione verso il training.

→

Aug 25 2026

OnPremise

ToMoE e la sparsità dinamica: meno calcolo per gli LLM locali

ToMoE converte checkpoint densi in MoE senza fine-tuning, riducendo i parametri attivi per token ma non il footprint in memoria. Un cambio di logica per l'on-premise: meno calcolo, stesso modello. Restano aperti i nodi runtime, latenza e VRAM. Il segnale per chi gestisce LLM locali è la sparsità dinamica come leva di deployment.

→

Aug 24 2026

OnPremise

DeepSeek V4 Flash in cantina: la CPU ECC cambia i conti dell'on-premise

Un Epyc 7663, 256 GB di RAM ECC e una RTX 5090 portano un LLM MoE da 151 GB a 24 token/s in quantization Q8_K_XL. Il caso ribalta l'assunto che serva VRAM aggregata pari ai pesi: il bilanciamento tra CPU, banda di memoria e PCIe diventa il vero vincolo. Un segnale concreto per chi valuta TCO e sovranità dei dati.

→

Aug 23 2026

OnPremise

Dopo Qwen 3.8 27B: il silenzio che sposta il TCO verso il locale

Il silenzio dei vendor chiusi dopo Qwen 3.8 27B segnala un cambio di pressione competitiva: la retorica della sicurezza si affievolisce quando un LLM da 27B può girare in locale con 16 GB di VRAM. La barriera hardware scende, il TCO si sposta dal costo per token ai costi di gestione e l'on-premise diventa opzione di produzione. AI-RADAR analizza implicazioni per governance, hardware e regolamentazione.

→

Aug 22 2026

Hardware

Venti ore di coding agentico su due GPU consumer: il segnale di Qwen3.8-27B Q6

Un report non verificato descrive una sessione di quasi venti ore di coding agentico con Qwen3.8-27B Q6 su RTX 3090 e RTX 3060, a 60–63 token/s. Il dato, se replicato, sposta il confine tra cloud e self-hosted. Analizziamo trade-off, TCO e sovranità dei dati nella pipeline locale.

→

Aug 21 2026

LLM

QwenMix-3.7: sette token, un merge e il futuro dei checkpoint locali

Un esperimento nato su Reddit fonde Qwen3.8 e Qwen3.6 in un file GGUF. Supera solo uno smoke test, ma mostra come la modularità dei LLM self-hosted stia cambiando incentivi, governance e costi di validazione.

→

Aug 20 2026

OnPremise

Depth pruning su Qwen3.8-27B: la leggerezza non è gratuita

Uno sviluppatore ha ridotto Qwen3.8-27B a 22,7 miliardi di parametri con pruning di profondità, senza fine-tuning. Distribuito solo in MLX per Apple Silicon, mostra trade-off: meno pressione su memoria e calcolo, ma perdite nei casi limite. Per l'on-premise il costo si sposta dalla produzione alla validazione.

→

Aug 19 2026

OnPremise

DFlash 2 via llama.cpp: la distribuzione dei quantizzati è il segnale

La seconda versione di DFlash non arriva con un annuncio ma con la PR 27342 su llama.cpp e i quantizzati GGUF già pronti per Qwen 3.8 27B e Muse Glimmer. AI-Radar analizza il cambio di baricentro: il vero collo di bottiglia dell'on-premise non è il modello ma la disponibilità immediata di artefatti verificabili. Il trade-off tra sperimentazione rapida e governance del ciclo di vita software definisce il prossimo test di maturità per lo stack locale.

→

Aug 18 2026

Frameworks

FPO e il fine-tuning senza backward pass: l'adattamento locale cambia baricentro

FPO propone un fine-tuning dei LLM che non propaga errori tra i layer e non costruisce grafi autograd. Il metodo riduce il picco di memoria e accelera il throughput, ma concentra l'adattamento nei layer finali. Per chi gestisce modelli self-hosted, il guadagno operativo è reale: va però verificato con una diagnosi rapida, altrimenti il vantaggio si trasforma in un vincolo architetturale.

→

Aug 17 2026

LLM

Il benchmark come obiettivo: distorsione dei ranking e rischi per l'on-premise

Il fine-tuning su SWE-bench non trasferisce capacità a suite come Django o LiveCodeBench. Il benchmark diventa obiettivo di addestramento e smette di misurare capacità generale. Per chi gestisce LLM self-hosted, un punteggio gonfiato falsa il calcolo di VRAM, quantization e TCO. Serve una valutazione multi-task e una manutenzione continua dei benchmark, non un numero singolo.

→

Aug 16 2026

OnPremise

Qwen3.8-27B: la chiusura del loop visivo sposta il valore on-premise

Un confronto amatoriale tra Qwen3.6-27B e Qwen3.8-27B su un ray tracer in BASIC mostra una differenza decisiva: la capacità di osservare il rendering e correggere il codice in autonomia. Con quantization spinta e hardware locale, il ciclo chiuso riduce la supervisione umana e sposta la valutazione dagli LLM one-shot agli agenti multi-turno.

→

Aug 15 2026

OnPremise

Lemonade 11.6: il segnale è nel runtime, non nel modello

AMD aggiorna Lemonade SDK con Muse-Glimmer 30B e modulo sperimentale ROCm per generazione immagini. Più che una novità di benchmark, è un segnale per chi valuta LLM locali: il valore si sposta su ottimizzazione di CPU, GPU e NPU, prevedibilità dei costi e controllo dei dati. La release estende i carichi supportati su hardware AMD e abbassa la soglia per deployment self-hosted, pur lasciando aperti integrazione, driver e aggiornamenti.

→

Aug 14 2026

OnPremise

Doom dentro un LLM: il checkpoint che sposta il vincolo dal software alla VRAM

L'esperimento di physicsrob compila l'algoritmo di rendering di Doom nei pesi di un trasformatore Phi-3. Nessun addestramento: ogni peso è calcolato. Il risultato è deterministico e verificabile, ma restano 34–86 GB in fp32, nessuna quantization e inferenze nell'ordine dei 40 minuti per frame su GPU B200. Per AI-Radar il segnale è soprattutto infrastrutturale: il checkpoint è auditabile, ma il requisito di VRAM ne limita il deployment on-premise reale.

→

Aug 13 2026

Hardware

RTX PRO 6000 a 16.000 dollari: il calcolo on-premise non è più scontato

Il raddoppio del prezzo di listino della RTX PRO 6000 Blackwell, da meno di 8.000 a 16.000 dollari, segnala una domanda enterprise anelastica e un potere di prezzo che ridisegna i calcoli TCO per l'on-premise. La scheda da 96 GB di VRAM diventa un filtro: cloud, sovranità dei dati e accesso degli sviluppatori cambiano. Servono scenari, non budget basati sui vecchi listini.

→

Aug 12 2026

Frameworks

L'archivio batte la generazione: il segnale di LLM Agents Factory per l'inference on-premise

LLM Agents Factory offre una via pragmatica alla gestione degli agenti: invece di generarli a ogni richiesta, li recupera da un archivio strutturato. Questo riduce i costi di inference, la latenza e la pressione sulle GPU, con implicazioni dirette per chi sviluppa e mantiene stack on-premise. La stabilità e la prevedibilità dei profili agentivi diventano un vantaggio strategico, aprendo scenari di mercato per componenti standardizzati.

→

Aug 11 2026

LLM

200 dollari bastano per addestrare un LLM da 1B: la sovranità dei dati smette di essere un lusso

Un esperimento dimostra che con 200 dollari su GPU noleggiate si può addestrare un LLM da 1,1 miliardi di parametri e distribuirlo su CPU o persino smartwatch. Il costo irrisorio riscrive il calcolo del TCO per le aziende che valutano soluzioni self-hosted: la sovranità dei dati diventa una scelta progettuale concreta, non un lusso per pochi. Restano limiti di qualità e contesto, ma la commoditizzazione del training sposta il valore dalla potenza bruta alla capacità di orchestrare pipeline e deployment.

→

Aug 09 2026

OnPremise

DeepSeek genera il kernel che mancava: il Mac Studio come laboratorio di inference autonoma

Un utente ha fatto generare a DeepSeek un kernel Metal per eseguire Kimi K2 quantizzato su Mac Studio, ottenendo modeste prestazioni ma dimostrando che gli LLM possono colmare lacune software per l’inference self-hosted su hardware non-Nvidia. Il caso ridefinisce il calcolo del TCO a favore dell’hardware esistente e solleva interrogativi sulla robustezza del codice autogenerato. È un segnale di autonomia computazionale che si autoalimenta, con rischi e opportunità per le aziende che puntano all’on-premise.

→

Aug 08 2026

Hardware

Intel Battlemage e llama.cpp: una patch riscrive il TCO dell'inference on-premise

Una manciata di righe di codice in llama.cpp moltiplica fino a 2,7 volte le prestazioni delle GPU Intel Battlemage su contesti di 118.000 token quando la cache KV è quantizzata. Il guadagno è talmente netto da trasformare una scheda da gaming in un’alternativa concreta per l’inference locale di modelli da 35 miliardi di parametri, abbattendo il costo totale di possesso e aprendo scenari inediti per chi gestisce dati sensibili on-premise.

→

Aug 07 2026

OnPremise

Stack vocale NVIDIA in locale: implicazioni per l'AI on-premise

L'analisi esamina come il rilascio dello stack vocale NVIDIA (ASR, TTS, codec) ottimizzato per esecuzione locale tramite GGUF e NeMo-Speech.cpp ridefinisca il calcolo del TCO, la sovranità dei dati e le architetture on-premise. Il passaggio dal cloud al device sposta gli equilibri nel make-or-buy dei servizi vocali, abilita scenari regolamentati e prepara il terreno per agenti multimodali completamente locali.

→

Aug 06 2026

OnPremise

Quando il compositor diventa un alleato dell’AI locale: l’architettura di Denial e il nuovo ruolo delle UI on-premise

Denial integra Flutter direttamente in un compositor Rust per Wayland, riducendo latenza, carico di memoria e strati software. Per i carichi di lavoro on-premise che affiancano LLM self-hosted su dispositivi edge, questa co-ubicazione non è solo una curiosità ingegneristica, ma un segnale di come l’infrastruttura locale stia ripensando anche l’ultimo miglio dell’interfaccia utente, con ricadute concrete su TCO, sicurezza e sovranità dei dati.

→

Aug 05 2026

OnPremise

Maple-Preview e l’inference ternaria: la soglia on-premise si abbassa

Maple-Preview porta i pesi ternari su 20 miliardi di parametri, occupando solo 5 GB e attivando 1 miliardo di parametri per token con un design MoE-like. La preview apre a inference locale su GPU consumer, ma il supporto dei framework è ancora acerbo. AI-Radar analizza le implicazioni per il TCO, la sovranità dei dati e il deployment self-hosted, mettendo in guardia sul gap software e sui vincoli dei kernel ternari.

→

Aug 04 2026

OnPremise

RTX 5090 oltre 5.100 dollari: quanto costa davvero l’AI on-premise

I prezzi della RTX 5090 salgono alle stelle e rimettono in discussione la sostenibilità del deployment on-premise. L’analisi di AI-RADAR esplora le ripercussioni sul TCO, la sovranità dei dati e l’intera catena di approvvigionamento, mostrando come l’aumento dei costi dell’hardware stia spingendo verso quantization aggressiva, modelli distilati e un possibile ritorno al cloud, con vincitori e vinti lungo il percorso.

→

🗄️ Archivio Notizie