Cohere Labs ha rilasciato Tiny Aya, una famiglia di modelli linguistici multilingue di piccole dimensioni con 3.35 miliardi di parametri. L'obiettivo è portare l'intelligenza artificiale in lingue spesso trascurate dai modelli esistenti.

Caratteristiche principali

  • Multilinguismo: Supporta oltre 70 lingue, con particolare attenzione a quelle con meno risorse.
  • Dimensioni contenute: Con 3.35 miliardi di parametri, Tiny Aya è progettato per un deployment efficiente anche con risorse di calcolo limitate.
  • Licenza: Rilasciato con licenza CC-BY-NC, che richiede l'adesione alla Acceptable Use Policy di Cohere Labs.
  • Lunghezza del contesto: 8K input.

Utilizzo previsto

Tiny Aya è pensato per applicazioni come la generazione di testo multilingue, l'AI conversazionale, la summarization, la traduzione e attività cross-linguali. È adatto anche per la ricerca nel campo del natural language processing multilingue e della modellazione di lingue con poche risorse.

Punti di forza

Il modello dimostra una buona qualità nella generazione di testo in tutte le lingue supportate, con prestazioni particolarmente elevate nelle lingue con meno risorse. Si comporta bene in attività di traduzione, summarization e cross-lingual, grazie al training condiviso tra famiglie linguistiche e script diversi.

Limitazioni

Le prestazioni migliori si riscontrano nella generazione di testo e nelle attività conversazionali. Compiti di ragionamento più complessi, come la matematica multilingue, risultano più difficili. Come con qualsiasi modello linguistico, gli output possono contenere informazioni errate o obsolete, soprattutto nelle lingue con meno risorse e meno dati di training. La gestione di sfumature culturali, sarcasmo o linguaggio figurato può essere meno affidabile in queste lingue.