📁 Hardware

Alphabet starebbe lavorando a un chip personalizzato per migliorare l’efficienza di Gemini. La mossa segnala un’accelerazione verso hardware dedicato, con potenziali ripercussioni su consumi, costi operativi e strategie di deployment on-premise. L’analisi di AI-RADAR sulle implicazioni strutturali.

NInfer, un inference engine open source scritto da zero in C++/CUDA, raggiunge 543 token al secondo su Qwen3.6-35B-A3B con un prompt da 65mila token, tutto su una singola RTX 5090. Quantization su misura e ottimizzazioni hardware spingono le prestazioni molto oltre i motori generici, segnando un punto a favore del self-hosting su GPU consumer per carichi di lavoro che richiedono bassa latenza e sovranità sui dati.

AMD svela Helios, un rack con 72 acceleratori Instinct MI455X e 31 terabyte di memoria HBM4, capace di 2,9 exaflops in FP4. È il primo sistema AI su scala rack di AMD, diretto concorrente del Nvidia Vera Rubin NVL72. Un segnale di come il mercato si orienti verso super-computer on-premise con enormi dotazioni di memoria, cruciali per LLM self-hosted e sovranità dei dati.

Secondo diverse fonti, Google sta sviluppando un chip dove il modello Gemini è impresso direttamente nell'hardware, senza bisogno di essere caricato. Il nome informale "Frozen v2" suggerisce un design congelato e immutabile. L'approccio ASIC model-specific potrebbe abbattere i costi di inference, ma sacrifica ogni flessibilità. Quali scenari di deployment si aprono?

Un messaggio criptico di un esperto ML alimenta l’attesa per un punto di svolta nell’inference locale. La spinta congiunta di TCO, sovranità dei dati e maturità degli stack prefigura uno scenario post-cloud per i LLM.

I test preliminari del kernel Linux 7.2 mostrano prestazioni grafiche Xe3 migliorate sui processori Intel Core Ultra Series 3. Un segnale di maturità dei driver open source che interessa chi valuta hardware Intel per inference on-premise, dove controllo e sovranità dei dati contano.

AMD segue Intel nell'integrare in GCC le estensioni AVX10_V2_AUX, progettate per accelerare carichi AI su CPU x86. Un passo che avvicina l'inference on-premise senza GPU, con vantaggi per sovranità dei dati e TCO.

La riassegnazione delle fabbriche globali di Intel segnala una scommessa forte sui processi Angstrom e sul packaging avanzato per conquistare commesse nell’hardware AI. Cosa significa per chi sviluppa e distribuisce modelli in locale.

La mossa di Samsung conferma che la domanda di memoria per l'AI non è un picco ma un riassetto strutturale del mercato hardware, con impatti diretti su chi valuta il deployment on-premise di LLM.

La domanda di infrastrutture AI mette sotto pressione la catena di fornitura elettronica. I tempi di consegna per circuiti stampati e componenti passivi si allungano in modo strutturale, con ripercussioni per chi investe in hardware on-premise.

Mentre esplodono gli investimenti nei chip, un white paper formalizza la collaborazione Taiwan-Stati Uniti sulla manifattura di semiconduttori. Una mossa che allenta le strozzature produttive e apre scenari concreti per chi vuole portare inference e training di LLM nei propri data center.

Silicon photonics, memoria ad alta larghezza di banda e nuove fab per memorie delineano una nuova fase della competizione hardware per l’AI, con ricadute profonde su chi deve decidere tra cloud e on-premise.

L’annuncio di Huahsu segnala una risposta concreta alle strozzature nella filiera dei chip AI. Mentre le GPU restano difficili da reperire, l’espansione del packaging avanzato rivela dinamiche strutturali: chi controlla l’assemblaggio 3D e l’integrazione HBM tiene in mano il rubinetto dell’inference on-premise e del training distribuito.

Il drone Phantom Twist raggiunge velocità di rotazione tali da apparire quasi invisibile, aggiungendo motion blur alla realtà. Un effetto che interroga le capacità di elaborazione edge e il ruolo dell'inference on-device per la sovranità dei dati.

Uno studente trasforma il fastidioso ronzio delle bobine in musica. Il progetto svela la fisica dei carichi AI su GPU e VRM, e solleva domande sul rumore per chi gestisce inference on-premise tra silicio e decibel.

Le patch per il kernel Linux destinate al Lenovo Legion Y700 Gen4, tablet Android con Snapdragon 8 Elite, puntano a un supporto mainline. Per chi opera con LLM in locale, l’apertura a Linux su un dispositivo compatto e potente segna un passo verso inference privata, offline e a basso consumo, riducendo la dipendenza dal cloud.

L'annuncio del nuovo modello Qwen3.8, ancora senza dettagli ufficiali, mette in guardia gli appassionati di LLM on-premise: la richiesta di memoria video potrebbe essere significativa. La scelta di Alibaba di spingere su una taglia intermedia riapre il dibattito su hardware e quantization per chi vuole mantenere il controllo totale dei dati senza passare per il cloud.

Il team specializzato in inference per LLM si unisce ad AMD, puntando a ridurre il divario con NVIDIA negli scenari on-premise. La mossa ha implicazioni dirette per chi valuta hardware alternativo per deployment locale di modelli linguistici.

Uno studioso coreano indica nel modello foundry la via per superare i limiti della memoria nell’inference AI. La separazione tra progettazione e produzione consentirebbe chip di memoria specializzati, riducendo latenze e costi. Un cambio strutturale che avvantaggerebbe i deployment on-premise, dove il controllo sullo stack hardware è totale.

Il produttore cinese di sensori CMOS prevede un primo semestre 2026 in forte crescita, trainato dalle applicazioni di intelligenza artificiale. La notizia mette in luce la diffusione dell’inference locale nei sistemi di visione, spinta da latenza, banda e sovranità dei dati.