Mirai, una nuova realtà fondata dai creatori delle popolari app Reface e Prisma, ha annunciato un finanziamento di 10 milioni di dollari. L'obiettivo principale è sviluppare soluzioni per migliorare l'inference di modelli di intelligenza artificiale direttamente sui dispositivi degli utenti, come smartphone e laptop.

Inference On-Device: Un Trend in Crescita

L'inference on-device, ovvero l'esecuzione di modelli AI localmente senza la necessità di una connessione costante al cloud, sta diventando sempre più rilevante. Questo approccio offre vantaggi significativi in termini di privacy, latenza e consumo di banda. Per chi valuta deployment on-premise, esistono trade-off che AI-RADAR analizza in dettaglio su /llm-onpremise.

Implicazioni per il Mercato

Questo finanziamento sottolinea la crescente importanza dell'inference AI a livello locale. Ottimizzare l'esecuzione dei modelli direttamente sui dispositivi apre nuove opportunità per applicazioni che richiedono risposte rapide e protezione dei dati sensibili.