Il kernel Linux 7.3 includerà miglioramenti al driver AMDGPU per il reset recovery delle GPU con architettura GFX7, come Kaveri e Hawaii. L’intervento aumenta la resilienza dei sistemi a downtime zero e mostra come il supporto a lungo termine dell’hardware open-source possa diventare un fattore chiave per i deployment on-premise di AI e inference.
In Corea del Sud i prezzi della serie RTX 50 balzano del 30%. La scheda ammiraglia RTX 5090 sfonda i 5.100 dollari a causa dei rincari sui wafer TSMC e dei moduli GDDR7 da 20 dollari. Un campanello d’allarme per chi progetta infrastrutture inference on-premise, con il TCO che torna sotto esame.
La startup israeliana Majestic Labs, fondata da ex ingegneri Google e Meta, ha presentato un server che dichiara di eguagliare un rack di GPU Nvidia aggredendo il collo di bottiglia della memoria. L’articolo esplora le implicazioni architetturali per l’inference LLM on-premise e la sovranità dei dati.
Con 240mila transistor e un rendering 3D a 15 FPS, il TinyGPU v2.0 dimostra che l'elaborazione locale estrema è pronta a riscrivere i vantaggi di chi sceglie deployment on-premise ed edge, mettendo in discussione il predominio dei megawatt cloud.
Un utente mostra un sistema con 12 NVMe da 3,2 TB, 256 GB di RAM e CPU Threadripper per ospitare modelli enormi come l’ipotetico Le Chaton FAT. Una configurazione che riapre il dibattito sull’inference locale senza GPU di fascia alta, puntando tutto sulla banda di storage.
Gli sviluppi di KWin per Plasma 6.8 promettono maggiore efficienza nella gestione di più GPU ed eGPU. Un miglioramento che, oltre il desktop, riduce la contesa di risorse e rende più fluide le pipeline di inference e training LLM su Linux. Ecco perché interessa chi punta su stack on-premise.
Un ingegnere Huawei lancia la proposta di rendere open-source un driver Vulkan per GPU interna, ma il tono è dimesso e la comunità Mesa resta scettica. Senza un impegno convinto, il progetto rischia di arenarsi, lasciando gli utilizzatori di GPU Huawei su Linux senza un driver standardizzato: un segnale che pesa sulle scelte per le infrastrutture AI auto-ospitate.
Le release trimestrali dei driver Intel Media e oneVPL GPU Runtime mostrano le prime ottimizzazioni per l'accelerazione video su Nova Lake. Un mattone fondamentale per chi valuta hardware Intel in deployment locali di inference AI, dove la maturità dello stack software è tanto critica quanto la potenza bruta.
Il supercomputer Helios, basato su GPU AMD Instinct e stack ROCm, sta scalando le classifiche mondiali e mostra come l’ecosistema aperto di AMD sia ormai maturo per carichi AI, insidiando il dominio di CUDA. Un segnale forte per chi progetta infrastrutture on-premise e cerca alternative a Nvidia, tra controllo dei costi, sovranità dei dati e libertà da lock-in.
L'ultimo report di DIGITIMES fotografa un'ondata di investimenti infrastrutturali guidata da Google e Meta, trainati dalla crescita dei Large Language Models. Tra silicio personalizzato e cloud sempre più chiusi, AI-RADAR analizza le implicazioni per chi sceglie deployment locale, sovranità dei dati e controllo reale sui propri stack AI.
Moonshot rilascia Kimi K3, LLM MoE da 2.800 miliardi di parametri con quantization MXFP4. Per il deployment on-premise, un nodo da 8×A100 (640 GB) richiede tre macchine prima di allocare la cache KV; con 8×H200 (1.13 TB) servono due nodi. Solo 8×B300 (2.3 TB) e il supporto nativo FP4 di Blackwell consentono di eseguire il modello in single-node. I benchmark della community quantificheranno il costo hardware dell’inference per ogni generazione GPU.
Geekbench 7 arriva con una revisione radicale di punteggi e test. L’impatto sugli acquisti hardware per inference e training LLM potrebbe essere più profondo del previsto, specie in ambienti dove si valuta ogni watt e ogni gigabyte di banda memoria.
La patch per il driver DRM di Imagination Technologies rende la GPU BXM-4-64 MC1 compatibile con il kernel Linux 7.3. Un passo tecnico che segnala una tendenza più ampia: hardware diversificato ottiene supporto nativo, abbassando le barriere per carichi AI on-premise all’edge, tra TCO, sovranità e apertura.
L'azienda sudcoreana ha ottenuto un ordine da 200 milioni di dollari per condensatori multistrato ceramici (MLCC) da usare nei server dedicati all'intelligenza artificiale. Un accordo che evidenzia la scala della produzione hardware AI e mette sotto i riflettori un anello fragile della catena di fornitura: i componenti passivi.
La nuova linea di chip X100 di AMD spinge le APU Strix Halo nel mondo della robotica, portando in dote core CPU Zen 5 e GPU RDNA 3.5 per inference edge. Un'architettura unificata che compete direttamente con Intel Panther Lake e ridisegna i contorni del physical AI: elaborazione locale, latenza ridotta e sovranità dei dati diventano la chiave per flotte autonome. L'analisi delle implicazioni per chi valuta deployment on-premise e il futuro del segmento robotico.
Geekbench 7 introduce benchmark AI, carichi multimediali realistici e supporto CUDA. Non più solo numeri sintetici, ma metriche che contano per chi esegue LLM in locale. Un segnale che il benchmarking evolve verso l’era dell’inference on-premise.
Il framework open source leader per l'inference LLM su CPU e GPU consumer ora riconosce le schede Laguna XS.2 e M.1, acceleratori pensati per carichi AI on-premise. L'integrazione diretta nel commit b10087 segnala una maturazione dell'ecosistema hardware specializzato, abbassa le barriere per i nuovi chip e rafforza la sovranità dei dati.
Phoronix ha messo a confronto KDE Plasma 6.7, GNOME Shell 50.3 e Xfce 4.20 su CachyOS con GPU NVIDIA RTX 50. Per chi esegue LLM in locale, la scelta del desktop e del server grafico può pesare sulla memoria video e sulla stabilità dei carichi di calcolo.
Le spedizioni di server Grace standalone segnano un cambio di rotta: la CPU diventa il fulcro nei data center agentici. L'analisi di AI-RADAR su cosa significa per la sovranità dei dati e il deployment on-premise.
Un modder monta un dissipatore in alluminio da 2,5 kg su una RTX 4060 e la raffredda per convezione naturale. Il test dimostra che carichi moderati, come l'inference LLM on-premise, potrebbero fare a meno delle ventole, con implicazioni per silenziosità e affidabilità nei nodi edge.