L'analisi dei costi per i sistemi AI di Nvidia rivela un'impennata del 485% per la memoria, che ora rappresenta un quarto del costo totale. I sistemi più recenti raggiungono i7,8 milioni di dollari, con le singole GPU Rubin quotate a 50.000 dollari. Questo scenario impatta significativamente le strategie di deployment on-premise, spingendo le aziende a riconsiderare il Total Cost of Ownership.
La CEO di AMD, Lisa Su, ha incontrato il CEO di TSMC, C.C. Wei, a Taiwan per discutere la produzione di chip. L'incontro si inserisce nel contesto dell'espansione della capacità produttiva di AMD negli Stati Uniti, evidenziando l'importanza strategica della supply chain dei semiconduttori e le implicazioni per i deployment on-premise di Large Language Models (LLM) e altre applicazioni AI, in un'ottica di sovranità tecnicica e resilienza.
Gli ingegneri AMD stanno continuando lo sviluppo del driver AMDXDNA per le NPU Ryzen AI su Linux. L'ultima novità riguarda l'introduzione del supporto per un heap espandibile, una funzionalità cruciale per ottimizzare la gestione della memoria e migliorare le prestazioni dei carichi di lavoro di intelligenza artificiale. Questo aggiornamento, previsto per il kernel Linux 7.2, sottolinea l'impegno di AMD nel rafforzare il proprio ecosistema hardware e software per l'AI on-premise.
Meta sta investendo nello sviluppo di MTIA, il suo ASIC personalizzato per l'intelligenza artificiale. Questa mossa strategica, comune tra i grandi operatori, mira a ottimizzare le performance per carichi di lavoro specifici come i Large Language Models, riducendo il TCO e garantendo maggiore controllo sull'intera pipeline hardware-software. L'iniziativa evidenzia i complessi trade-off per le aziende che valutano deployment AI on-premise.
AMD ha avviato la produzione in serie del processore EPYC Venice, un chip HPC da 256 core realizzato con tecnicia a 2 nanometri. Questa nuova architettura promette un significativo incremento prestazionale, posizionandosi come una soluzione chiave per i carichi di lavoro più esigenti in ambito data center e intelligenza artificiale on-premise. L'innovazione mira a migliorare l'efficienza e la densità computazionale per le infrastrutture self-hosted.
AMD ha annunciato la disponibilità delle sue nuove piattaforme Ryzen AI Halo Developer e dei processori Ryzen AI Max PRO 400 Series. Queste soluzioni mirano a supportare i "computer agenti" di prossima generazione, spostando l'elaborazione AI verso l'edge. Per le aziende che valutano deployment on-premise, l'introduzione di hardware dedicato per l'inference locale rappresenta un'opzione strategica per la sovranità dei dati e il controllo dei costi.
Il nuovo Flipper One si presenta come un multitool computazionale tascabile, basato su architettura Arm Linux completamente open source. Dotato di connettività di rete, interfacce GPIO e slot M.2, questo dispositivo apre nuove prospettive per lo sviluppo di soluzioni self-hosted e per l'elaborazione dati all'edge, offrendo flessibilità e controllo per scenari che richiedono sovranità dei dati e costi operativi contenuti.
Intel sta sviluppando una nuova GPU AI, nome in codice "Crescent Island", che si distingue per l'adozione di memoria LPDDR5X anziché HBM. Questa scelta strategica, rivelata da immagini trapelate, mira a mitigare l'impatto della carenza globale di HBM e a contenere i costi. La GPU integrerà un core Xe3P di grandi dimensioni e offrirà ben 160GB di memoria, posizionandosi come una soluzione interessante per carichi di lavoro AI che richiedono capacità di memoria elevate, con un occhio al TCO per i deployment on-premise.
AMD sta finalizzando una serie di aggiornamenti per i driver AMDKFD e AMDGPU, destinati alla prossima finestra di merge del kernel Linux 7.2. Questi miglioramenti mirano a ottimizzare le prestazioni e la stabilità delle GPU AMD, un aspetto fondamentale per i deployment on-premise e i carichi di lavoro computazionali intensivi, specialmente nell'ambito dell'intelligenza artificiale e dei Large Language Models.
AMD ha annunciato un investimento pluriennale di oltre 10 miliardi di dollari nell'ecosistema dei semiconduttori di Taiwan. L'iniziativa mira a rafforzare le partnership strategiche e a espandere la produzione di packaging avanzato per l'infrastruttura AI di prossima generazione, inclusa la piattaforma rack-scale Helios, con un deployment previsto per la seconda metà del 2026.
Il panorama competitivo dei Co-Packaged Optics (CPO) sta subendo una trasformazione, con FII che emerge come sfidante per giganti del settore come Broadcom e Nvidia. La competizione si sposta sempre più verso l'integrazione di sistema, un fattore cruciale per l'efficienza e la scalabilità delle infrastrutture AI, in particolare per i deployment on-premise. Questa evoluzione sottolinea l'importanza di soluzioni olistiche per ottimizzare le performance e il TCO nei data center moderni.
AMD introduce una nuova serie di chip Ryzen AI Max PRO 400, progettati per sistemi AI. Questi processori si distinguono per il supporto fino a 192GB di memoria, un fattore cruciale per l'esecuzione di Large Language Models (LLM) di dimensioni maggiori direttamente su infrastrutture locali. L'iniziativa di AMD risponde alla crescente domanda di capacità computazionali per deployment on-premise, offrendo maggiore controllo e sovranità dei dati.
AMD presenta il Ryzen AI Max 400 'Gorgon Halo', un'APU rinnovata che integra architetture Zen 5 e RDNA 3.5. Questo chip è progettato per carichi di lavoro AI, offrendo fino a 192GB di memoria unificata e una frequenza operativa fino a 5.2 GHz. La sua architettura lo rende particolarmente interessante per scenari di deployment on-premise ed edge, dove il controllo dei dati e l'efficienza sono prioritari per CTO e architetti infrastrutturali.
Il kernel Linux 7.2 si prepara ad accogliere il supporto per il Cache Aware Scheduling, una funzionalità attesa che promette di ottimizzare le prestazioni sui processori dotati di multiple cache di ultimo livello. Questa integrazione, prevista prima dell'apertura della finestra di merge, rappresenta un passo significativo per l'efficienza dei sistemi Linux, in particolare per i carichi di lavoro che richiedono un'attenta gestione delle risorse hardware on-premise.
Team Group ha raggiunto un accordo da 1,1 milioni di dollari in una causa per pubblicità ingannevole. La controversia riguarda le memorie T-Force Xtreem ARGB DDR4-3600 CL14, le cui velocità pubblicizzate richiedevano modifiche al BIOS e impostazioni di overclocking per essere raggiunte. Questo episodio solleva questioni sulla trasparenza delle specifiche hardware, un aspetto cruciale per i decision-maker che valutano infrastrutture on-premise per carichi di lavoro AI/LLM.
SpacemiT ha rilasciato i primi benchmark del suo SoC K3, basato su core RISC-V X100 e conforme allo standard RVA23. Questa piattaforma, disponibile anche in formato Pico-ITX, rappresenta una delle prime soluzioni RISC-V RVA23 pronte per l'uso con sistemi operativi come Ubuntu 26.04 LTS. L'introduzione di hardware RISC-V come il K3 è rilevante per le aziende che esplorano alternative on-premise per carichi di lavoro AI, offrendo nuove opzioni per il controllo e la sovranità dei dati.
AMD si prepara a lanciare il suo Ryzen AI Halo PC, un sistema desktop con 128GB di memoria di sistema e un prezzo di 3999 dollari. Questa configurazione mira a supportare carichi di lavoro AI e LLM in locale, offrendo una soluzione per le aziende che cercano maggiore controllo sui dati e latenza ridotta rispetto alle opzioni cloud.
Neurosoft Bioelectronics ha chiuso un round di finanziamento seed da 7,5 milioni di dollari, portando il totale a oltre 20 milioni. L'azienda svizzera sviluppa interfacce cervello-computer (BCI) minimamente invasive con elettrodi morbidi e scalabili. L'obiettivo è creare una piattaforma di dati neurali per modelli fondamentali della corteccia umana, migliorando le prestazioni delle BCI. I fondi supporteranno l'avanzamento clinico e la commercializzazione negli Stati Uniti.
Un'analisi approfondita delle prestazioni dei Large Language Models Qwen3.6 su una GPU RTX 5080 da 16GB rivela risultati sorprendenti. Il benchmark, focalizzato su scenari di deployment on-premise, evidenzia come il modello 35B MoE raggiunga 56 token/secondo con un contesto di 128k. Contrariamente alle aspettative, la funzionalità Multi-Token Prediction (MTP) di llama.cpp non offre vantaggi significativi in questo scenario, suggerendo ottimizzazioni diverse per massimizzare l'efficienza su hardware locale.
Alibaba ha presentato il processore AI Zhenwu M890, una roadmap pluriennale per il silicio e il nuovo LLM Qwen 3.7-Max. Questa mossa strategica mira a costruire uno stack AI integrato, focalizzato sugli AI agenti e sulla sovranità tecnicica, riducendo la dipendenza da fornitori esterni. L'investimento massiccio e l'esperienza di deployment preesistente evidenziano un impegno a lungo termine nel settore.