Secondo Geckos, il prossimo balzo prestazionale nell’intelligenza artificiale arriverà dai materiali, non dall’architettura dei chip. La tesi apre interrogativi su chi dominerà la filiera hardware e su come evolveranno le infrastrutture on-premise per LLM. Mentre la legge di Moore rallenta, l’innovazione nei substrati, nelle interconnessioni e nella memoria potrebbe ridefinire TCO e sovranità dei dati.
L'azienda taiwanese Bellwether trasforma il design dei propri connettori per applicazioni ad alta corrente in un fossato di licenze brevettuali. Una mossa che ridisegna gli equilibri nella componentistica per server AI e impone nuovi calcoli sul TCO per chi sceglie infrastrutture on-premise.
Apple accusa OpenAI di aver incoraggiato ex dipendenti a portare con sé prototipi riservati, presentazioni confidenziali e dettagli critici sulla catena di fornitura. Una battaglia legale che mette in luce la posta in gioco per chi sviluppa hardware AI proprietario e il suo impatto sulle strategie di deployment on-premise e la sovranità tecnicica.
Un rumor su un nuovo SKU consumer riapre il dibattito sull'uso delle GPU GeForce per fare inference LLM in locale. Senza specifiche ufficiali, AI-RADAR analizza perché ogni variante della fascia alta impatta VRAM, TCO e accessibilità del self-hosting.
Un viaggio nel centro di collaudo termico ASUS rivela come i server per l’AI vengono spinti al limite per garantirne affidabilità e durabilità. Un aspetto decisivo per chi valuta il self-hosting di carichi LLM, dove il controllo diretto sull’hardware è irrinunciabile.
La collaborazione tra il gigante delle memorie e la startup californiana promette efficienza energetica per l'inference a bordo macchina, ma i dati concreti sulla potenza di calcolo non ci sono ancora.
Un utente mostra come un sistema basato su APU Strix Halo gestisca un LLM da 35 miliardi di parametri in locale, consumando meno di 150W e con costi energetici irrisori. Un confronto con le GPU discrete illumina nuovi parametri di valutazione per il deployment on-premise.
La maxi-IPO di SK hynix finanzierà l’espansione della produzione di High Bandwidth Memory, componente sempre più critico per l’addestramento e l’inference dei LLM. Per chi gestisce stack on-premise, l’annuncio segnala un tentativo di ridurre uno dei colli di bottiglia più persistenti: la disponibilità di VRAM a larga banda.
AMD ha inviato nuovi aggiornamenti ai driver AMDGPU e AMDKFD per Linux 7.3, puntando ad attivare una seconda pipeline grafica sugli APU più recenti. L’intervento, apparentemente di nicchia, può influenzare l’elaborazione visiva e parallela, con ricadute sugli scenari di inference locale basati su chip con grafica integrata.
Due nuovi design coreani e giapponesi provano a superare i limiti termici della memoria impilata. Più banda e stack più densi senza friggere le GPU: un segnale per chi fa inference on-premise e deve domare consumi e raffreddamento.
QuantumDiamonds, spin-off del Politecnico di Monaco, raccoglie 91 milioni per scalare un sistema di ispezione basato su centri NV nel diamante. L’obiettivo è ridurre il gap produttivo europeo nei chip, con ricadute concrete sulla disponibilità di hardware per l’AI on-premise.
Nuove patch per Device Tree permettono di avviare Linux anche sui SoC Apple M3 Pro, Max e Ultra. Per ora solo console, senza accelerazione grafica, ma il tassello avvicina il sogno di usare l’hardware Apple per carichi AI on-premise, sfruttando la memoria unificata. Chi segue il self-hosting di LLM prende appunti: la strada è lunga, ma i primi mattoni sono posati.
Dopo due anni in coda, il driver open-source ANV Vulkan di Intel integra la compressione HiZ plane, portando un miglioramento dei frame rate fino a qualche punto percentuale nei carichi grafici su GPU Intel recenti. Un piccolo passo che segnala la maturazione dello stack open-source, rilevante anche per chi valuta hardware on-prem per carichi computazionali.
Samsung starebbe preparando il lancio dell'acceleratore Gaia per PC, con HP e Lenovo già impegnate nella validazione dell'NPU. L'arrivo di unità neurali dedicate sui dispositivi client segna un passo decisivo verso l'inference locale di LLM e modelli ridotti, spostando il baricentro del deployment dal cloud all'edge. L'analisi delle implicazioni per la sovranità dei dati, il TCO e l'architettura ibrida.
ASE Holdings registra ricavi record nel Q2 2026 e investe 40 milioni di dollari in Corea del Sud, cavalcando la domanda esplosiva di packaging avanzato per l’intelligenza artificiale. Un segnale che la capacità di assemblaggio dei chip AI sta diventando cruciale per le infrastrutture on-premise e la sovranità dei dati.
SK Hynix ha infranto il record di Alibaba per la più grande quotazione statunitense, raccogliendo capitale fresco. Tuttavia i clienti che aspettano memoria HBM dovranno attendere fino al 2028 per vedere la capacità che quei fondi andranno a finanziare. Un segnale chiaro per chi pianifica infrastrutture AI: le strozzature hardware sono lontane dall’essere risolte.
NVIDIA ha rilasciato il supporto iniziale per il nuovo core Arm "Rigel" in GCC e LLVM Clang, in vista del lancio della CPU Rosa. La mossa segnala un'accelerazione nella strategia di integrazione verticale per i carichi AI, con ricadute su efficienza e sovranità dei deployment on-premise.
Il principale OSAT cinese punta sull’espansione della capacità di packaging avanzato per chip AI, sostenuto da ordini interni in forte crescita. Una mossa che ridisegna gli equilibri nella fornitura di hardware per LLM, con ripercussioni su costi, disponibilità e sovranità tecnicica per i deployment on-premise.
Secondo fonti di DIGITIMES, TSMC raggiungerà una capacità di 200mila wafer all’anno nel 2027 per il packaging CoWoS, un processo cruciale per i chip AI di Nvidia e non solo. L’espansione è colossale ma basterà a soddisfare la domanda di infrastrutture on-premise? L’analisi di AI-RADAR.
La domanda di AI e i contratti di fornitura stringono il mercato della memoria: le banche HBM, cruciali per GPU e training LLM, potrebbero costare il doppio entro il 2027. I costi dell’hardware on-premise cresceranno, ma le implicazioni strutturali vanno oltre il prezzo.