Una crescente tendenza consente a utenti e aziende di eseguire modelli linguistici di grandi dimensioni in locale, sfruttando modelli open-weight e hardware specializzato, riducendo la dipendenza dal cloud.
Il round da 65 milioni di dollari con Benchmark sancisce la maturità del tool open source per eseguire modelli AI sul proprio PC. Un traguardo che riflette un cambiamento strutturale: l'inference locale non è più un hobby, ma una scommessa concreta s...
Mentre promuove le prestazioni single-thread della CPU Vera con core Olympus, NVIDIA ha confermato alcuni dettagli sulla futura Rosa e sul suo core Rigel. L'azienda compie un passo decisivo verso una CPU proprietaria, con implicazioni profonde per ch...
NVIDIA mette a disposizione Audex-30B-A3B, un LLM a mistura di esperti da 30 miliardi di parametri che estende Nemotron-Cascade-2 all'audio senza regredire nelle capacità testuali. Il modello supporta recognition, traduzione, sintesi vocale e generaz...
AMD inizia a spedire il Ryzen AI Halo, un mini PC basato su Strix Halo con stack software completamente open source. Un passo concreto per chi cerca deployment on-premise di LLM senza vincoli proprietari.
