La domanda di infrastrutture AI robuste sta guidando l'innovazione nella tecnicia GPU, nel networking dei data center e nel computing eterogeneo. Le discussioni sui vincoli della VRAM per finestre di contesto ampie e il mercato dei supercomputer AI usati evidenziano gli intensi requisiti di risorse.
Un tool open-source via USB rimuove il limite software che dimezza le prestazioni AI delle GPU Nvidia su Windows. La notizia riapre il dibattito sulla segmentazione artificiale dell'hardware consumer e sulle scelte di chi valuta deployment on-prem pe...
Un test su M4 Max con Qwen3.8 27B e contesto a 164k token mostra che cache e KV costano quanto i pesi. Il vecchio consiglio sui 64 GB va rivisto.
Con i primi esemplari in produzione, NVIDIA rivede alcuni parametri delle piattaforme GPU Rubin. Il momento segnala il passaggio dalla validazione alla fornitura e obbliga i progettisti di infrastrutture AI a rivedere piani di integrazione, alimentaz...
PsiQuantum ha realizzato un prototipo di switch ottico 8x8 per le reti GPU dei data center AI. L'azienda sfrutta le competenze fotoniche e dichiara perdite di luce inferiori rispetto alle soluzioni rivali, con piani per dispositivi più grandi. Il pro...
Il primo Loom SDK v0.1 di AMD inaugura la roadmap Hyperloom annunciata ad Advancing AI. L'obiettivo: ottimizzare carichi agentici su CPU, GPU e NPU. Per i deployment locali, il segnale è duplice: AMD punta a unificare l'ecosistema ROCm, ma la maturit...
La pull request in qwen-code segnala che Qwen4 punta a una finestra da un milione di token. Per chi fa inference self-hosted il costo non è teorico: la cache chiave-valore cresce con i token e satura la VRAM insieme ai pesi. Qwen4-27B rende probabili...
Alibaba porta Qwen4 a un milione di token di contesto. La notizia emerge da una pull request in qwen-code: Qwen4-27B atteso domani all'evento Apsara nei Paesi Bassi, Qwen4-max datato 1° novembre con possibile placeholder al 1° ottobre. L'analisi si c...
Un vendor IT ha pubblicato su eBay un supercomputer AI usato da 60 milioni di dollari: 9.600 GPU Nvidia A100, 4.200 CPU AMD EPYC e 300 rack dismessi, spedizione inclusa. L'annuncio mostra come il ciclo di vita dell'hardware AI stia alimentando un mer...
