Sarvam punta all'AI edge con modelli compatti

Sarvam, una società indiana specializzata in intelligenza artificiale, sta lavorando a modelli di AI di dimensioni estremamente ridotte, progettati per essere eseguiti su dispositivi con risorse limitate. L'obiettivo è portare l'AI su feature phone, automobili e smart glasses, aprendo nuove possibilità per l'utilizzo dell'intelligenza artificiale in contesti diversi.

Modelli leggeri per dispositivi a bassa potenza

La caratteristica principale di questi modelli è la loro dimensione: occupano solo pochi megabyte di spazio. Questo li rende adatti a dispositivi con capacità di memoria limitata e potenza di calcolo ridotta. Inoltre, i modelli sono progettati per funzionare offline, eliminando la necessità di una connessione internet costante. Questo è particolarmente utile in aree con scarsa connettività o per applicazioni che richiedono privacy e sicurezza dei dati.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.