Questa sezione Hardware segue il lato pratico dell'infrastruttura AI locale: GPU, NPU, mini PC, acceleratori edge, banda memoria e compromessi energetici che incidono direttamente sulle prestazioni in inferenza. Privilegiamo aggiornamenti con benchmark e note operative utili a decisioni reali, dal laboratorio domestico ai cluster pilota in azienda. Qui puoi confrontare costo totale, vincoli termici e scenari modello-hardware, poi approfondire con la guida pillar hardware e la copertura LLM collegata.
Un utente ordina una GPU da 700 dollari e riceve un masterizzatore DVD e una scheda logica di un amplificatore anni 2000. Un campanello d’allarme per chi costruisce infrastrutture AI locali, dove la catena di fornitura può diventare il tallone d’Achille.
Un carico costante di 475-500W per training diffusion e inference LLM ha quasi compromesso una RTX 5090 MSI, salvata solo da un controllo casuale. La vicenda mette in guardia chi spinge al limite l'hardware on-premise.
I produttori taiwanesi di LED stanno espandendo la loro tecnicia oltre l'illuminazione verso la comunicazione ottica applicata all'intelligenza artificiale. Una mossa che potrebbe ridefinire le infrastrutture di calcolo on-premise, promettendo interconnessioni a bassa latenza e maggiore efficienza energetica negli impianti di inference.
L'ascesa degli agenti AI sta spingendo la domanda di server CPU ad alta densità, capaci di gestire sia i carichi di lavoro legacy sia l'orchestrazione di tool e modelli leggeri. Un'analisi delle implicazioni per chi sceglie il self-hosting.
Dopo le proteste degli utenti, AMD fa marcia indietro e riattiverà il TSME sui Ryzen 9000 con un aggiornamento BIOS a luglio. Una decisione che rafforza il valore della crittografia trasparente della memoria, aspetto cruciale per chi gestisce dati sensibili in locale, inclusi carichi AI on-premise.
Un patch AMD annunciato in lista driver segna l’inizio del supporto Linux per le schede Barco MXRT, finora Windows-only. Per il settore medicale, dove la sovranità dei dati è imprescindibile, la notizia apre scenari di inference AI on-premise senza vincoli di vendor. AI-RADAR ne analizza le implicazioni hardware e di deployment.
Imec, ASML e TSMC hanno realizzato transistor complementari in materiali 2D con un passo di 50 nm su wafer da 300 mm, superando uno dei colli di bottiglia per il superamento del silicio. Una svolta che potrebbe ridisegnare la roadmap dei semiconduttori e aprire la strada a chip più densi ed efficienti per l’AI del futuro.
Intel ha reclutato Seok-Hee Lee, ex capo di SK hynix, per dirigere il business del packaging avanzato all'interno di Intel Foundry. La mossa segnala l'importanza strategica di tecnicie come EMIB e Foveros per i chip AI di prossima generazione, e potrebbe accelerare lo sviluppo di acceleratori più potenti per l'inference locale di LLM, riducendo il TCO e migliorando la sovranità dei dati per le aziende che puntano su deployment on-premise.
Con quasi mille patch lato SoC, il kernel Linux 7.2 accoglie cinque nuovi System-on-Chip. Tra questi spicca il supporto ad Apple M3, atteso da circa tre anni: ora è possibile avviare Linux in modo stabile sui recenti Mac. Una novità che interessa chi sviluppa stack locali per LLM e ricerca infrastrutture basate su hardware Apple per l’inference on-premise.
Un finto RTX 4090 con die in plastica, assenza di VRAM e un’etichetta di produzione datata 2030 è stato venduto in Cina a 222 dollari. La truffa mette in luce i rischi del mercato secondario per le GPU utilizzate in ambienti on-premise per LLM. AI-RADAR analizza le implicazioni per chi costruisce infrastrutture di inference locali, dove l’affidabilità hardware e la trasparenza della filiera sono essenziali per il TCO.
Samsung produrrà chip di gestione energetica per data center AI progettati da Claros, segnale dell’accelerazione sulla componentistica di supporto agli LLM. Per chi valuta deployment on-premise, l’efficienza energetica si traduce in TCO e scalabilità.
L'atteso driver ISP4 di AMD per il sottosistema media è stato integrato nella finestra di merge del kernel Linux 7.2. La modifica sblocca le webcam sullo ZBook Ultra G1a e sui futuri portatili professionisti con Ryzen, segnando un passo avanti per l'hardware aperto su piattaforme Linux, sempre più centrali per chi sviluppa e opera carichi AI in locale.
Un professionista IT scopre un server con 8 GPU Framework RTX 6000 quasi sempre fermo. La domanda al capo: possiamo usarlo per far girare modelli linguistici di grandi dimensioni in locale? AI-RADAR analizza le potenzialità tecniche e gli aspetti strategici di un progetto di inference on-premise su hardware esistente.
Un test indipendente mette a confronto la nuova CPU NVIDIA Vera con l’Ampere Altra Max, opzione ARM più diffusa tra gli appassionati di server autocostruiti. I risultati delineano i progressi dell’architettura ARM per i server Linux e offrono spunti a chi valuta l’hardware per inference on-premise con modelli LLM leggeri, tra efficienza energetica e disponibilità sul mercato.
La startup di Palo Alto Architect Labs ha annunciato un round di finanziamento seed da 24 milioni di dollari, uscendo dalla modalità stealth. L'azienda mira a rivoluzionare la progettazione di chip AI, un processo notoriamente complesso e costoso, rendendolo accessibile a un numero maggiore di aziende attraverso l'uso dell'intelligenza artificiale. Questo potrebbe avere implicazioni significative per le strategie di deployment on-premise e la sovranità tecnicica.
Una ricerca innovativa svela il potenziale delle onde sonore per rivoluzionare i chip neuromorfici. Questa tecnicia promette di emulare il cervello con maggiore efficienza energetica e velocità, superando le limitazioni delle architetture attuali. Con un consumo di potenza fino a dieci volte inferiore rispetto all'hardware neuromorfico elettronico, apre nuove prospettive per il deployment di carichi di lavoro AI e Large Language Models (LLM) in ambienti on-premise, offrendo soluzioni più compatte e performanti per il riconoscimento di pattern e l'analisi dei dati.
Midjourney, nota per i suoi strumenti di generazione di immagini da testo, ha annunciato il suo ingresso nel settore hardware con "The Midjourney Scanner". Si tratta di un dispositivo medico per la scansione corporea completa, un'iniziativa inedita per l'azienda. Il fondatore David Holz ha presentato il progetto a San Francisco, evidenziando una nuova direzione strategica e la creazione di una divisione dedicata. L'azienda sostiene che il nuovo scanner superi le prestazioni della risonanza magnetica.
La startup svizzera Minysa ha ricevuto 163.000 euro da Venture Kick per accelerare lo sviluppo dei suoi chip di controllo in nitruro di gallio (GaN). Questi circuiti integrati mirano a migliorare sicurezza, efficienza e compattezza dei dispositivi di potenza GaN, riducendo la complessità di integrazione. L'obiettivo è supportare sistemi più piccoli, affidabili e con minore dissipazione di calore, particolarmente nel settore spaziale europeo, dove sovranità tecnicica e affidabilità sono cruciali.
Un imprenditore digitale ha sviluppato un peculiare "minting device" fisico per NFT, combinando un Raspberry Pi con un modello addestrato su un MacBook M3. Il progetto, dal tono umoristico, mira a esplorare l'idea di una "macchina per soldi infinita" e dimostra la capacità di generare un NFT in soli tre secondi. Sebbene l'iniziativa abbia finora generato una singola vendita per quasi dieci dollari, evidenzia l'uso creativo di hardware compatto per applicazioni AI a bassa latenza, seppur con finalità ludiche.
L'attività nel compilatore LLVM e nello stack di driver Linux open source di AMD suggerisce che le nuove architetture GFX1250 e GFX1251, parte della serie GFX12, siano destinate ad acceleratori AI/HPC. Sebbene si speculi su un legame con RDNA4, gli indizi più forti puntano a un deployment in ambito enterprise, potenzialmente come parte della futura serie Instinct MI400. La presenza di GFX1251 come APU aggiunge un ulteriore elemento di interesse per le soluzioni on-premise.