OpenAI ha annunciato l'implementazione di nuove misure di sicurezza per ChatGPT, progettate per proteggere le organizzazioni da minacce emergenti come gli attacchi di prompt injection e l'esfiltrazione di dati automatizzata.

Lockdown Mode

La nuova modalità Lockdown Mode restringe le capacità del modello, limitando le interazioni e riducendo la superficie di attacco potenziale. Questa modalità è pensata per scenari in cui la sicurezza dei dati è prioritaria.

Etichette di rischio elevato

Le etichette di rischio elevato segnalano potenziali vulnerabilità o comportamenti sospetti, consentendo agli utenti di identificare e mitigare i rischi in modo proattivo. Queste etichette forniscono un ulteriore livello di protezione contro attacchi sofisticati.

Queste misure rappresentano un passo avanti nella protezione dei dati e nella prevenzione dell'uso improprio dei modelli di linguaggio. Per chi valuta deployment on-premise, esistono trade-off da considerare; AI-RADAR offre framework analitici su /llm-onpremise per valutare queste opzioni.