Questa sezione Hardware segue il lato pratico dell'infrastruttura AI locale: GPU, NPU, mini PC, acceleratori edge, banda memoria e compromessi energetici che incidono direttamente sulle prestazioni in inferenza. Privilegiamo aggiornamenti con benchmark e note operative utili a decisioni reali, dal laboratorio domestico ai cluster pilota in azienda. Qui puoi confrontare costo totale, vincoli termici e scenari modello-hardware, poi approfondire con la guida pillar hardware e la copertura LLM collegata.
La deeptech norvegese ottiene un round guidato da Nysnø, Sandwater e Emerald Technology Ventures per espandere la produzione di motori frameless basati sulla tecnicia FiberPrinting, con applicazioni in robotica, aerospazio e settore medicale.
Un utente mostra come ha installato due RTX 3090 in un case aperto stampando in 3D un supporto per il radiatore. L’assemblaggio, oltre all’effetto scenico, permette di eseguire in locale modelli come Qwen 27B. Per chi valuta deployment on-premise, è un campanello su quanto siano percorribili soluzioni self-hosted potenti e a costi contenuti, tra limiti fisici da aggirare e la necessità di gestire 48 GB di VRAM per l’inference di LLM di fascia media.
La fonderia coreana anticipa la roadmap a 2 nm mentre la domanda di chip per l'AI cresce. Un passaggio che promette transistor gate-all-around, maggiore efficienza energetica e densità, cruciali per le prossime generazioni di silicon dedicato a training e inference, con riflessi diretti sul calcolo on-premise.
Il produttore taiwanese diversifica nei rack per server sfruttando il ciclo nordamericano delle powersport e la transizione EV in Vietnam. L’ingresso in un mercato chiave per l’infrastruttura AI potrebbe incidere sulle catene di fornitura e sui costi dell’hardware per deployment on-premise.
Un’inchiesta di Digitimes rivela la trasformazione in corso nell’industria taiwanese delle motherboard, che dal settore consumer si sta spostando verso i server AI. Una migrazione che offre nuove piattaforme per chi valuta deployment on-premise di LLM, con riflessi su TCO e sovranità dei dati.
Socionext annuncia lo sviluppo di un chiplet sulla futura piattaforma A14 di TSMC, pensato per system-on-chip destinati ai data center AI. La mossa segna un altro passo nell’adozione dei design modulari a 1,4 nm e pone le basi per un hardware più efficiente, con potenziali ricadute sui deployment on-premise che puntano a sovranità dei dati e controllo dell’inference.
Il produttore taiwanese di LED per il settore auto, EOI, prepara un’espansione in Messico per entrare nei comparti dei robot umanoidi e della fotonica del silicio. Due ambiti con ricadute dirette sull’infrastruttura di calcolo per l’intelligenza artificiale self-hosted.
I produttori cinesi di chip di potenza alzano i listini, segnalando un restringimento dell’offerta sui nodi maturi indispensabili per i server AI. Un campanello d’allarme per chi pianifica infrastrutture on-premise, dove i costi di componenti apparentemente minori possono erodere il TCO.
La sfida tra Qualcomm e MediaTek per l'AI on-device si sposta sull'inference locale: Dragonfly punta a portare gli LLM sull'edge, mentre MediaTek sfrutta TPU e ASIC personalizzati. Per chi valuta deployment on-premise, si aprono scenari di privacy, latenza e TCO che vale la pena decifrare.
L'eccezionale ondata di caldo europea accelera la domanda di condizionatori, trainando il mercato dei semiconduttori di potenza. Un effetto a catena che tocca anche l'efficienza dei data center e le scelte hardware per chi valuta deployment on-premise di AI.
La crescita robusta delle consegne di server per carichi di lavoro generali, alimentata anche dalla diffusione di LLM self-hosted, sta trainando i fornitori di componenti critici come i connettori. Un segnale che conferma il consolidamento di un’infrastruttura on-premise diffusa, al di là del cloud. AI-RADAR analizza i riflessi su supply chain e scelte architetturali per chi progetta stack locali.
Il WSJ: SpaceX avrebbe mostrato un dispositivo AI più sottile di un iPhone, con OS proprietario, tecnicie xAI e chip Snapdragon. Musk lo definisce «completamente falso». La notizia riaccende il dibattito sull’hardware AI e le strategie di Musk.
Prima del debutto in Borsa, SpaceX avrebbe mostrato agli investitori un prototipo di dispositivo AI con forma simile a uno smartphone. Un segnale che potrebbe anticipare un’espansione nel wireless di consumo, con implicazioni profonde per l’inference locale, la sovranità dei dati e l’architettura delle reti satellitari.
Dopo mesi di attesa, un professionista IT riceve le attese schede grafiche per l’AI on-premise. Nessun collega sembra condividere l’entusiasmo, eppure dietro quei componenti c’è molto più di un semplice upgrade hardware: c’è la scelta di portare calcolo e dati sotto il proprio controllo, abbracciando la sovranità digitale.
L'ultima iterazione dei patch Linux per l'istruzione RMPOPT prepara il terreno ai futuri processori EPYC "Venice". L'ottimizzazione riduce il carico della Reverse Map Table nelle macchine virtuali protette da SEV-SNP, migliorando le prestazioni dei carichi confidenziali. Un tassello chiave per chi adotta calcolo riservato in ambienti on-premise, dove ogni ciclo di CPU conta.
L’ingegnere di Valve Timur Kristóf prosegue il lavoro di manutenzione e miglioramento dei driver open source per le vecchie schede grafiche AMD basate su architettura GCN 1.0 e 1.1. Un’attività che, nell’ottica di AI-RADAR, riapre il dibattito sull’uso di hardware datato per carichi di inference on-premise in contesti a basso costo e alta sovranità dei dati.
Un utente valuta l'acquisto di quattro GPU Ascend GX10 per eseguire modelli open-source con finestre di contesto a 128k token. I test con GLM5.2 mostrano circa 15 tok/s in output, sufficienti con quantization, e consumo di 1000W. Una scelta che riaccende il dibattito su hardware on-premise per LLM: quanto conta la velocità rispetto al controllo dei dati?
NVIDIA sta sviluppando un formato binario TLV per i firmware GPU, pensato per semplificare il parsing nel driver open source Nova basato su Rust. Un segnale concreto per chi valuta trasparenza e controllo nelle infrastrutture AI on-premise.
L’acquisizione del controllo del board di Anpec Electronics da parte del chairman di Yageo segna un consolidamento nella componentistica per alimentazione. Per i carichi di lavoro basati su LLM, dove stabilità e power management sono critici, la mossa potrebbe influenzare la disponibilità di semiconduttori per data center e deployment self-hosted.
Vertiv ha aperto il primo stabilimento produttivo nel Sud-est asiatico a Johor per sistemi di raffreddamento a liquido e alimentazione per rack AI ad alta densità. La produzione locale risponde a densità di potenza verso i 100 kW, riducendo tempi di consegna e rischi. Mentre Johor diventa più selettiva nei nuovi data center, la domanda per infrastrutture AI resta robusta.