Cohere presenta un modello vocale open-source per trascrizione

Cohere ha annunciato il rilascio di un modello vocale open-source specificamente progettato per la trascrizione. Con soli 2 miliardi di parametri, il modello è pensato per essere eseguito su GPU di fascia consumer, rendendo più accessibile l'implementazione self-hosted.

Il modello supporta attualmente 14 lingue, ampliando le possibilità di utilizzo in diversi contesti geografici e linguistici. La scelta di un modello relativamente leggero in termini di parametri suggerisce un focus sull'efficienza e sulla riduzione dei costi di calcolo, un aspetto cruciale per chi desidera gestire l'inference on-premise.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.