L'attenzione si sposta dal calcolo puro a memoria, energia ed economia dei token, mentre i carichi agentici mettono sotto pressione la cache KV e i costi delle GPU. Il payback dei TPU/ASIC, la tensione sul packaging TSMC e i prezzi aggressivi di inference definiscono il nuovo collo di bottiglia infrastrutturale.
La mossa di Astera Labs sposta l'attenzione dal calcolo alla memoria. La cache KV, critica per i carichi agentici, diventa un vincolo fisico che incide su parallelismo, latenza e TCO. Per i deployment self-hosted e on-premise la gerarchia di memoria ...
La scalabilità dei sistemi TPU di Google fino a un milione di chip sposta il limite dall'hardware all'alimentazione. L'analisi guarda alle conseguenze per progettazione dei data center, TCO e strategie on-premise, dove il vincolo energetico diventa u...
Quando i sistemi agentici moltiplicano i token di contesto, la cache KV cresce fino a saturare la VRAM delle GPU. Astera Labs punta a questo limite strutturale, segnalando uno spostamento dell'attenzione dal calcolo alla memoria e alle interconnessio...
CrofAI vendeva modelli di ultima generazione a prezzi stracciati, ma dietro c'era un wrapper OpenRouter che inoltrava le richieste a modelli più piccoli con ricarichi fino a 20 volte. Le incongruenze hardware—come far girare Kimi K3 su otto RTX Pro 6...
I nodi TSMC a 3nm e 2nm e il packaging CoWoS restano in tensione mentre AWS, MediaTek e i TPU spostano volumi di capacità. Per chi valuta hardware AI on-premise, la scarsità di acceleratori e interposer si traduce in tempi di attesa e costi sotto pre...
Secondo DIGITIMES, il TPU di Google recupera l'investimento in circa un anno. Il dato apre prospettive per i ricavi ASIC di MediaTek e Broadcom e segnala che il silicio custom per training e inference è ormai un'opzione economica concreta. Per il mer...
d-Matrix ha presentato al SEMICON Taiwan 2026 un modello di costo per l’inference. Il punto: se i prezzi dei token scendono mentre i costi di ammortamento, energia e banda di memoria delle GPU restano rigidi, i margini per chi vende capacità di calco...
