Apple, Huawei, Acer, System76 e altri stanno investendo in silicio AI dedicato e workstation per l'inference locale, da Neural Engine e NPU avanzati a desktop multi-GPU e server self-hosted.
Il nuovo SoC Apple A20 Pro porta il Neural Engine da 16 a 32 core e, grazie a un bus LPDDR5X a 96 bit su processo a 2 nm, raggiunge circa 115 GB/s di banda di memoria. Un investimento costoso che segnala la priorità strategica di Apple per l'esecuzio...
System76 ha presentato il Thelio Mira AI, un desktop pensato per carichi multi-GPU: training di modelli, fine-tuning, inference, computer vision e generazione di immagini. La macchina combina CPU AMD Ryzen 9000 con opzioni GPU NVIDIA o AMD e si prest...
Huawei ha messo alla prova la tecnicia LogicFolding sul Kirin 9050 Pro: secondo la fonte, il guadagno di densità raggiunge il 55% e il consumo della NPU scende del 66%. Il dato segnala una direzione precisa per l'inference locale: chip più densi e NP...
Un costruttore ha investito 18.000 euro in un server EPYC con 768 GB di VRAM e 256 GB di RAM per eseguire LLM open source di frontiera in locale. Ma i prossimi modelli, a partire da GLM 6, potrebbero essere due o tre volte più grandi, rendendo inutil...
La scelta di Acer di puntare su RTX e GoogleBook segnala un riposizionamento dell'hardware verso l'inference locale. La domanda di AI in sede cresce per ragioni di sovranità, latenza e controllo dei costi, spingendo i vendor a investire su GPU e disp...
Un nuovo stack TTS da 294mila parametri occupa 337 KB in INT8 e gira su un microcontrollore da 3 dollari con 512 KB di SRAM, senza NPU. Offre 11 voci e 6 lingue; il modello da 1,5 milioni di parametri supera reti più pesanti su SCOREQ. Un segnale per...
