Eric Biggers di Google ha proposto una revisione dell'implementazione AVX-512 per la funzione `xor_gen()` del kernel Linux. Questa funzione è cruciale per la gestione dei blocchi di parità in configurazioni RAID5 e RAID6. Dopo un primo rilascio che ha migliorato le performance fino al 41%, la nuova versione promette ulteriori ottimizzazioni, consolidando l'efficienza delle operazioni di storage su sistemi Linux. Un passo importante per le infrastrutture on-premise che richiedono alta affidabilità e performance.
L'interrogativo sulla VRAM necessaria per eseguire LLM come Qwen su configurazioni hardware personalizzate è centrale per chi valuta deployment on-premise. Analizziamo una configurazione specifica (11x RTX 3090, 1x RTX 5090, 1x RTX 5060 Ti) e le implicazioni della memoria video per l'Inference e il Fine-tuning, evidenziando i trade-off tra capacità e costi in ambienti self-hosted. La scelta hardware impatta direttamente sovranità dei dati e TCO.
L'emergere di soluzioni hardware desktop come Strix Halo suggerisce un potenziale interesse a competere con i sistemi AI enterprise, come le piattaforme NVIDIA DGX. Questa dinamica solleva interrogativi cruciali per le aziende che valutano il deployment on-premise di Large Language Models, in particolare riguardo al Total Cost of Ownership, alla sovranità dei dati e alle capacità di inference.
AMD introduce il Ryzen AI Halo, un sistema desktop con 128GB di memoria unificata e supporto Windows 11, posizionandosi come alternativa competitiva al DGX Spark di Nvidia. Con un prezzo di 3.999 dollari, questo sistema mira a offrire una soluzione più accessibile per lo sviluppo e l'inference di Large Language Models (LLM) in ambienti on-premise, enfatizzando il controllo sui dati e l'ottimizzazione del Total Cost of Ownership (TCO).
Intel starebbe pianificando un inatteso ritorno ai sistemi DDR4 con la piattaforma 'Raptor Lake Next', prevista per la prima metà del 2027. Questa mossa, che riprende una strategia già vista in AMD, mira a estendere la longevità delle piattaforme economiche basate su socket LGA 1700. La decisione potrebbe offrire maggiore flessibilità e controllo sui costi per le aziende che gestiscono infrastrutture on-premise, bilanciando performance e investimenti a lungo termine.
Il sistema operativo open source Haiku, erede di BeOS, ha recentemente introdotto il supporto per le istruzioni AVX-512 su processori Intel e AMD compatibili. Questi aggiornamenti, insieme a una serie di miglioramenti ai driver hardware, mirano a ottimizzare l'utilizzo delle CPU moderne, un fattore chiave per l'efficienza e le performance in contesti di deployment on-premise, dove ogni ciclo di clock conta.
Linkotech sta registrando un'adozione precoce per il suo FOPLP (Fan-Out Panel-Level Packaging), una tecnicia di packaging avanzata. Questo sviluppo, riportato da DIGITIMES, suggerisce un potenziale impatto sulla produzione di chip e, di conseguenza, sulla disponibilità e sulle performance dell'hardware cruciale per i deployment di Large Language Models (LLM) on-premise. L'efficienza e i costi sono fattori determinanti per CTO e architetti di sistema che valutano soluzioni self-hosted.
La Cina ha aperto a Shanghai il suo primo laboratorio dedicato al calcolo fotonico, segnalando un investimento strategico nei chip basati sulla luce. L'iniziativa mira a sviluppare alternative ai semiconduttori convenzionali, aggirando le restrizioni all'esportazione imposte da Washington e rafforzando l'autonomia tecnicica del paese.
AMD ha avviato i pre-ordini per la sua piattaforma di sviluppo Ryzen AI Halo. Questo "petite PC" è equipaggiato con il processore Ryzen AI Max+ "Strix Halo" ed è progettato per supportare sia Windows che Linux. La disponibilità di una soluzione compatta e versatile per lo sviluppo di applicazioni AI locali sottolinea l'attenzione di AMD verso l'ecosistema on-premise e l'edge computing, offrendo agli sviluppatori uno strumento dedicato per testare e implementare carichi di lavoro AI direttamente sul dispositivo.
La prossima versione del kernel Linux, la 7.2, si prepara ad accogliere importanti novità. Tra le funzionalità attese spiccano il supporto per i chip Apple M3, l'implementazione iniziale di HDMI 2.1 FRL per le GPU AMD e l'introduzione di USB4STREAM. Queste integrazioni, previste nelle prossime settimane, promettono di migliorare l'esperienza utente e le capacità hardware, con implicazioni significative per gli sviluppatori e gli architetti di sistemi che operano in ambienti on-premise.
Eric Biggers di Google ha introdotto nuove ottimizzazioni AVX-512 per il codice RAID software del kernel Linux. Questi miglioramenti, che si basano su precedenti lavori nel sottosistema crittografico, promettono un incremento prestazionale fino al 41% su processori come l'AMD Ryzen 9 9950X, offrendo vantaggi significativi per le infrastrutture on-premise e la gestione efficiente dello storage.
Infineon Technologies si prepara ad aprire a Dresda il suo più grande investimento singolo: una fabbrica di semiconduttori da 5 miliardi di euro. L'impianto, sostenuto da circa 1 miliardo di euro di sussidi EU Chips Act, produrrà semiconduttori di potenza essenziali per i data center AI, i veicoli elettrici e le energie rinnovabili, segnando un passo cruciale per la sovranità tecnicica europea.
La catena di fornitura di server AI di Taiwan sta vivendo una fase di significativa espansione, con i fornitori di rack che registrano una crescita superiore rispetto ad altri attori del settore. Questa dinamica evidenzia la crescente domanda globale di infrastrutture dedicate all'intelligenza artificiale e le implicazioni per le aziende che valutano deployment on-premise, dove la disponibilità e l'affidabilità dell'hardware sono cruciali per la sovranità dei dati e il controllo operativo.
Ennoconn ha rafforzato la sua partecipazione in Kontron, un'operazione strategica volta a consolidare la propria posizione nel crescente segmento dell'intelligenza artificiale "fisica". Questa mossa sottolinea l'importanza crescente dei deployment AI direttamente integrati in dispositivi e sistemi del mondo reale, spostando l'attenzione verso soluzioni on-premise e edge per applicazioni industriali e IoT.
L'efficienza dei semiconduttori di potenza è cruciale per la gestione termica delle GPU, componenti fondamentali per l'AI. La riduzione della resistenza in questi dispositivi si traduce in un raffreddamento più efficace, con impatti diretti su TCO, densità e affidabilità delle infrastrutture AI on-premise. Un fattore chiave per chi valuta deployment self-hosted di Large Language Models.
Durante SuperAI Singapore, Arm e Cerebras hanno evidenziato l'importanza di ottimizzazioni a livello di sistema per superare i colli di bottiglia nell'inference AI. Questo approccio mira a migliorare l'efficienza e le performance dei carichi di lavoro di intelligenza artificiale, un aspetto cruciale per le aziende che valutano deployment on-premise di Large Language Models e altre applicazioni AI.
Mesa 26.2 sta integrando il supporto per la futura architettura grafica AMD GFX1156, basata su RDNA 3.5 e successiva a Strix Halo. Questo include l'introduzione del supporto per il blocco IP GFX 11.5.6 nel kernel Linux 7.2 e per i driver user-space RadeonSI Gallium3D e RADV Vulkan. L'iniziativa segnala l'avanzamento nello sviluppo di nuove soluzioni hardware e software per l'ecosistema AMD.
La scarsità di memoria video sta inducendo i produttori di GPU a reintrodurre sul mercato asiatico schede grafiche del 2020, come le GeForce RTX 3060 e 3050. Questa dinamica di mercato solleva interrogativi per le aziende che pianificano deployment di Large Language Models (LLM) on-premise, influenzando le scelte hardware e il Total Cost of Ownership (TCO) in un contesto di crescente domanda di capacità di calcolo.
Il kernel Linux 7.2 si arricchisce di un nuovo driver per il PHY Gigabit Ethernet Airoha AN8801R. Questa integrazione è cruciale per garantire il supporto hardware e la stabilità delle infrastrutture di rete, un aspetto fondamentale per i deployment on-premise di carichi di lavoro AI/LLM che richiedono connettività affidabile e performante, influenzando direttamente il TCO e la sovranità dei dati.
Intel ha rilasciato Open Image Denoise 2.5, un aggiornamento significativo per la sua libreria open source di denoising ad alte prestazioni. Progettata per il ray-tracing e ampiamente utilizzata in applicazioni creative come Blender, la nuova versione introduce notevoli miglioramenti prestazionali specificamente ottimizzati per le GPU Intel, rafforzando la loro posizione nei flussi di lavoro di rendering professionali e on-premise.