Questa sezione Hardware segue il lato pratico dell'infrastruttura AI locale: GPU, NPU, mini PC, acceleratori edge, banda memoria e compromessi energetici che incidono direttamente sulle prestazioni in inferenza. Privilegiamo aggiornamenti con benchmark e note operative utili a decisioni reali, dal laboratorio domestico ai cluster pilota in azienda. Qui puoi confrontare costo totale, vincoli termici e scenari modello-hardware, poi approfondire con la guida pillar hardware e la copertura LLM collegata.
La collaborazione tra il gigante delle memorie e la startup californiana promette efficienza energetica per l'inference a bordo macchina, ma i dati concreti sulla potenza di calcolo non ci sono ancora.
Un utente mostra come un sistema basato su APU Strix Halo gestisca un LLM da 35 miliardi di parametri in locale, consumando meno di 150W e con costi energetici irrisori. Un confronto con le GPU discrete illumina nuovi parametri di valutazione per il deployment on-premise.
La maxi-IPO di SK hynix finanzierà l’espansione della produzione di High Bandwidth Memory, componente sempre più critico per l’addestramento e l’inference dei LLM. Per chi gestisce stack on-premise, l’annuncio segnala un tentativo di ridurre uno dei colli di bottiglia più persistenti: la disponibilità di VRAM a larga banda.
AMD ha inviato nuovi aggiornamenti ai driver AMDGPU e AMDKFD per Linux 7.3, puntando ad attivare una seconda pipeline grafica sugli APU più recenti. L’intervento, apparentemente di nicchia, può influenzare l’elaborazione visiva e parallela, con ricadute sugli scenari di inference locale basati su chip con grafica integrata.
Due nuovi design coreani e giapponesi provano a superare i limiti termici della memoria impilata. Più banda e stack più densi senza friggere le GPU: un segnale per chi fa inference on-premise e deve domare consumi e raffreddamento.
QuantumDiamonds, spin-off del Politecnico di Monaco, raccoglie 91 milioni per scalare un sistema di ispezione basato su centri NV nel diamante. L’obiettivo è ridurre il gap produttivo europeo nei chip, con ricadute concrete sulla disponibilità di hardware per l’AI on-premise.
Nuove patch per Device Tree permettono di avviare Linux anche sui SoC Apple M3 Pro, Max e Ultra. Per ora solo console, senza accelerazione grafica, ma il tassello avvicina il sogno di usare l’hardware Apple per carichi AI on-premise, sfruttando la memoria unificata. Chi segue il self-hosting di LLM prende appunti: la strada è lunga, ma i primi mattoni sono posati.
Dopo due anni in coda, il driver open-source ANV Vulkan di Intel integra la compressione HiZ plane, portando un miglioramento dei frame rate fino a qualche punto percentuale nei carichi grafici su GPU Intel recenti. Un piccolo passo che segnala la maturazione dello stack open-source, rilevante anche per chi valuta hardware on-prem per carichi computazionali.
Samsung starebbe preparando il lancio dell'acceleratore Gaia per PC, con HP e Lenovo già impegnate nella validazione dell'NPU. L'arrivo di unità neurali dedicate sui dispositivi client segna un passo decisivo verso l'inference locale di LLM e modelli ridotti, spostando il baricentro del deployment dal cloud all'edge. L'analisi delle implicazioni per la sovranità dei dati, il TCO e l'architettura ibrida.
ASE Holdings registra ricavi record nel Q2 2026 e investe 40 milioni di dollari in Corea del Sud, cavalcando la domanda esplosiva di packaging avanzato per l’intelligenza artificiale. Un segnale che la capacità di assemblaggio dei chip AI sta diventando cruciale per le infrastrutture on-premise e la sovranità dei dati.
SK Hynix ha infranto il record di Alibaba per la più grande quotazione statunitense, raccogliendo capitale fresco. Tuttavia i clienti che aspettano memoria HBM dovranno attendere fino al 2028 per vedere la capacità che quei fondi andranno a finanziare. Un segnale chiaro per chi pianifica infrastrutture AI: le strozzature hardware sono lontane dall’essere risolte.
NVIDIA ha rilasciato il supporto iniziale per il nuovo core Arm "Rigel" in GCC e LLVM Clang, in vista del lancio della CPU Rosa. La mossa segnala un'accelerazione nella strategia di integrazione verticale per i carichi AI, con ricadute su efficienza e sovranità dei deployment on-premise.
Il principale OSAT cinese punta sull’espansione della capacità di packaging avanzato per chip AI, sostenuto da ordini interni in forte crescita. Una mossa che ridisegna gli equilibri nella fornitura di hardware per LLM, con ripercussioni su costi, disponibilità e sovranità tecnicica per i deployment on-premise.
Secondo fonti di DIGITIMES, TSMC raggiungerà una capacità di 200mila wafer all’anno nel 2027 per il packaging CoWoS, un processo cruciale per i chip AI di Nvidia e non solo. L’espansione è colossale ma basterà a soddisfare la domanda di infrastrutture on-premise? L’analisi di AI-RADAR.
La domanda di AI e i contratti di fornitura stringono il mercato della memoria: le banche HBM, cruciali per GPU e training LLM, potrebbero costare il doppio entro il 2027. I costi dell’hardware on-premise cresceranno, ma le implicazioni strutturali vanno oltre il prezzo.
Il presidente di CHPT ha dichiarato che la crescente domanda di IA metterà sotto pressione la capacità produttiva dei semiconduttori e forzerà una ridefinizione delle priorità industriali di Taiwan. Un segnale che ha implicazioni profonde per chi pianifica deployment on-premise e per l'intero ecosistema hardware dell'IA.
Gli utili di BOE volano su recupero LCD e ramp-up dei pannelli OLED di ottava generazione per PC AI. Dietro i numeri, una scommessa hardware che sposta il baricentro dell'elaborazione LLM verso il dispositivo. Il boom di schermi efficienti e a costo decrescente ridisegna la convenienza del deployment on-premise e alimenta un ecosistema di laptop progettati per l'inference locale, con ricadute su sovranità dei dati e TCO.
A giugno JPC Connectivity ha registrato il fatturato più alto di sempre, spinto dalla domanda di data center per l’AI. Oltre alle GPU, sono i componenti di interconnessione ad alta velocità a vivere una stagione di crescita esplosiva. Un segnale che per chi prepara deployment on-premise la scarsità non riguarda solo i chip, ma anche cavi e connettori.
Arbor Technology registra il miglior mese di giugno di sempre per vendite, con un fatturato semestrale in forte crescita grazie alla domanda di dispositivi edge per l’AI. Un traguardo che riflette la migrazione dell’inference verso nodi di calcolo distribuiti e on-premise, attratti da latenza zero, controllo dei dati e costi operativi ridotti.
Il balzo del fatturato mensile di Liteon Technology, spinto dagli alimentatori per server AI, rivela un’infrastruttura in corsa dove l’efficienza energetica diventa discriminante per il deployment on-premise degli LLM.