Una ricerca innovativa ha dimostrato come i core Ray Tracing (RT Cores) delle GPU consumer, solitamente inattivi durante l'inference LLM, possano essere riutilizzati per accelerare il routing degli esperti nei modelli Mixture-of-Experts (MoE). Questo approccio ha permesso di ottenere un aumento di velocità di 218 volte e una riduzione di 731 volte della VRAM necessaria per il routing, rendendo l'inference MoE più efficiente su singole GPU locali come la RTX 5070 Ti da 16GB.
Intel si prepara a introdurre la tecnicia di packaging EMIB-T nei suoi stabilimenti quest'anno. Questa mossa arriva in un contesto di capacità limitata per le soluzioni CoWoS di TSMC e mira a supportare la progettazione di acceleratori AI avanzati. La tecnicia EMIB-T potrebbe offrire nuove opzioni per l'integrazione di componenti critici nei chip dedicati all'intelligenza artificiale, un fattore chiave per i deployment on-premise.
SiFive, fornitore di IP per processori RISC-V, ha annunciato un round di finanziamento di Serie G da 400 milioni di dollari. L'investimento mira a rafforzare la sua leadership nello sviluppo di soluzioni RISC-V ad alte prestazioni, specificamente progettate per le esigenze dei moderni data center, con un'enfasi sulla sovranità dei dati e l'efficienza energetica.
Elan, azienda attiva nel settore dei semiconduttori, prevede una crescita significativa per l'inizio del 2026, trainata principalmente dall'innovazione nei touchpad aptici e nello sviluppo di chip per la visione basati su intelligenza artificiale. Queste tecnicie rappresentano pilastri strategici per l'espansione dell'azienda in mercati chiave, con implicazioni per i deployment on-premise e la sovranità dei dati.
Jarllytec, azienda nota per la produzione di cerniere, sta diversificando le proprie attività. L'espansione strategica mira al settore delle comunicazioni ottiche, con un focus specifico sulla crescente domanda generata dai server dedicati all'intelligenza artificiale. Questa mossa riflette l'evoluzione del mercato e la necessità di infrastrutture ad alta velocità per i carichi di lavoro AI, evidenziando l'importanza della connettività per i deployment on-premise.
Aspeed e ASMedia hanno raggiunto posizioni di rilievo nel settore della progettazione di circuiti integrati. Questa ascesa sottolinea l'importanza crescente del "silicio" specializzato per l'intelligenza artificiale e i Large Language Models. Per le aziende che valutano deployment on-premise, la scelta di hardware efficiente e performante, frutto di un'avanzata progettazione di IC, è cruciale per ottimizzare il TCO e garantire la sovranità dei dati.
Chenbro Micom rileva un'impennata nella domanda di hardware dedicato all'intelligenza artificiale, un trend che sta rafforzando i deployment nei data center a livello mondiale. Questa tendenza sottolinea la crescente necessità di infrastrutture robuste e specializzate per supportare i carichi di lavoro degli LLM, con implicazioni significative per le strategie di deployment on-premise e ibride.
Al GTC 2026 di NVIDIA, è stato avvistato il rack NVIDIA Vera Rubin NVL72 presso lo stand di Pegatron. Questa soluzione integrata, che include CPU, GPU, networking e storage, sottolinea la crescente enfasi sui sistemi completi per carichi di lavoro AI su larga scala. Il suo debutto evidenzia la direzione futura verso infrastrutture on-premise robuste, essenziali per le aziende che cercano controllo, sovranità dei dati e ottimizzazione del TCO per i loro deployment di Large Language Models.
Corning si sta muovendo nel settore dei componenti per server AI, una transizione che potrebbe ridefinire il consumo energetico dei data center e le dinamiche della supply chain. Questa mossa è rilevante per le aziende che valutano deployment on-premise, influenzando il Total Cost of Ownership (TCO) e la resilienza infrastrutturale.
ChipX, guidata dal CEO Chinmoy Baruah, si sta posizionando nel mercato dei data center dedicati all'intelligenza artificiale. L'azienda intende offrire chip fotonici e di gestione dell'alimentazione, elementi cruciali per l'efficienza e le prestazioni delle infrastrutture AI. Questi sviluppi precedono la costruzione di un nuovo impianto di produzione in Malesia, sottolineando l'impegno di ChipX nel settore hardware per l'AI.
MetaOptics ha dichiarato di aver accumulato un vantaggio di tre anni nello sviluppo di micro-ottiche avanzate. Questa affermazione, riportata da DIGITIMES, sottolinea l'importanza dell'innovazione in un settore cruciale per il futuro dell'elettronica e, potenzialmente, per l'evoluzione dell'hardware destinato ai carichi di lavoro AI, inclusi i deployment on-premise. Le micro-ottiche sono fondamentali per migliorare efficienza e performance in diversi ambiti tecnicici, influenzando le decisioni strategiche per l'infrastruttura AI.
La partnership tra Intel e Terafab evidenzia il potenziale del processo produttivo 18A per la manifattura di chip AI avanzati. Questa collaborazione sottolinea l'importanza di tecnicie di silicio all'avanguardia per supportare i carichi di lavoro dei Large Language Models e le infrastrutture AI on-premise, influenzando direttamente performance, efficienza energetica e TCO per le aziende che cercano sovranità dei dati e controllo.
Shanghai GTA Semiconductor e Infineon hanno annunciato una collaborazione per lo sviluppo e l'integrazione di memorie SONOS destinate ai chip per il settore automobilistico. Questa partnership mira a rafforzare l'offerta di componenti affidabili e ad alte prestazioni, essenziali per le crescenti esigenze tecniciche dei veicoli moderni, dalla sicurezza ai sistemi di assistenza alla guida avanzata (ADAS).
Intel e SambaNova Systems hanno annunciato una collaborazione strategica per sviluppare una piattaforma di Inference AI eterogenea. L'iniziativa mira a ottimizzare i carichi di lavoro di intelligenza artificiale, distribuendoli su hardware diversi per massimizzare l'efficienza e le performance. Questo approccio risponde alla crescente domanda di soluzioni AI flessibili e performanti, specialmente in contesti che richiedono controllo e ottimizzazione delle risorse.
La roadmap di PCI Express punta a raggiungere 1 TB/s con la versione 8.0, un traguardo cruciale per i carichi di lavoro ad alta intensità di dati. Questa evoluzione impatta profondamente la progettazione delle schede madri, come la ASRock X870 Taichi Creator, evidenziando la necessità di un'integrazione robusta per supportare componenti di nuova generazione e applicazioni esigenti, inclusi i Large Language Models (LLM) in ambienti on-premise.
Il ruolo di Intel nell'ambiziosa iniziativa di Elon Musk per la produzione di chip rimane avvolto nel mistero. La collaborazione solleva interrogativi cruciali sulla sua reale portata e sulla fattibilità tecnica, con implicazioni significative per il futuro dell'hardware AI e i deployment on-premise.
Intel ha presentato la scheda grafica Arc Pro B70, dotata di 32GB di VRAM GDDR6 e 32 Xe core. Questa GPU di fascia alta, parte della serie Battlemage, mostra un potenziale significativo per carichi di lavoro LLM/AI e compute generico, specialmente in configurazioni multi-GPU. I primi test su Linux evidenziano le sue prestazioni iniziali con OpenVINO e Llama.cpp, oltre a benchmark OpenCL, OpenGL e Vulkan, operando su uno stack di driver open source.
Intel si unisce a Terafab, la joint venture da 25 miliardi di dollari di Elon Musk (Tesla, SpaceX, xAI), come partner principale per la produzione di chip. L'obiettivo è generare un terawatt di potenza di calcolo AI all'anno, segnando un'importante acquisizione per la strategia foundry-first di Intel e delineando scenari futuri per l'infrastruttura AI su larga scala.
Un'analisi di DIGITIMES esplora l'evoluzione di Siri e le tendenze degli agenti AI, contestualizzando l'impatto della produzione di silicio a 2nm di Samsung. Questi sviluppi sono cruciali per il futuro dell'AI on-device e per le capacità di calcolo necessarie per i deployment on-premise, influenzando efficienza e performance dei futuri acceleratori AI. Per i decision-maker, comprendere queste dinamiche è fondamentale per le strategie infrastrutturali.
L'introduzione di strumenti di personalizzazione per componenti hardware, come il configuratore per il case Corsair Frame 4000D, evidenzia l'importanza della modularità. Questo principio è cruciale per le infrastrutture dedicate ai Large Language Models (LLM) in ambienti on-premise, dove la flessibilità nella configurazione hardware incide su performance, scalabilità e TCO, permettendo di ottimizzare le risorse per carichi di lavoro specifici.