Phison accelera l'inferenza AI su PC

Phison ha svelato aiDAPTIV+, una combinazione di hardware e software progettata per incrementare significativamente le prestazioni nell'inferenza di modelli di intelligenza artificiale (AI) su PC consumer. La soluzione permette di eseguire modelli AI di dimensioni maggiori, aprendo nuove possibilità per l'utilizzo dell'AI direttamente sui dispositivi client.

aiDAPTIV+ e i modelli AI

La tecnicia aiDAPTIV+ di Phison è pensata per gestire modelli AI complessi, come i Mixture of Experts, e carichi di lavoro AI agentici, anche su sistemi con capacità di memoria limitata. Durante le dimostrazioni, sono stati utilizzati sistemi di Nvidia, AMD, MSI e Acer per mettere in mostra le potenzialità di aiDAPTIV+.

L'inferenza AI è un campo in rapida evoluzione, con un crescente interesse verso l'esecuzione di modelli complessi direttamente sui dispositivi degli utenti, anziché affidarsi a server remoti. Questo approccio offre vantaggi in termini di latenza, privacy e costi. Soluzioni come aiDAPTIV+ mirano a rendere questa visione una realtà, portando le capacità dell'AI avanzata a un pubblico più ampio.