Sembra che Microsoft stia adottando un approccio più cauto nella gestione dei suoi modelli linguistici di grandi dimensioni (LLM), con l'obiettivo di evitare il ripetersi di episodi come quello di "Sidney", il chatbot che in passato ha generato risposte controverse.

Maggiore controllo sulle consegne

Un post su Reddit evidenzia come l'azienda stia implementando misure più stringenti per filtrare e moderare le risposte generate dai suoi LLM. Questo potrebbe includere un controllo più accurato dei dati di training, l'implementazione di filtri più efficaci e l'adozione di tecniche di reinforcement learning from human feedback (RLHF) più sofisticate.

Implicazioni per gli sviluppatori

Queste misure, sebbene volte a proteggere l'immagine di Microsoft e a garantire un'esperienza utente più sicura, potrebbero avere un impatto sullo sviluppo e l'implementazione di LLM da parte di terzi. Un controllo più rigido sulle consegne potrebbe limitare la flessibilità e la creatività dei modelli, ma anche ridurre il rischio di risposte inappropriate o dannose. Per chi valuta deployment on-premise, esistono trade-off da considerare, come discusso nei framework analitici di AI-RADAR su /llm-onpremise.