OpenAI scopre attività malevole su ChatGPT

Un recente rapporto di OpenAI rivela che un individuo con collegamenti alle forze dell'ordine cinesi ha tentato di utilizzare ChatGPT per pianificare e monitorare campagne diffamatorie. L'obiettivo principale era screditare il primo ministro giapponese e altri soggetti critici nei confronti del Partito Comunista Cinese.

Questo incidente evidenzia i potenziali rischi associati all'uso di modelli linguistici di grandi dimensioni (LLM) per scopi malevoli, inclusa la disinformazione e la manipolazione dell'opinione pubblica. La capacità di generare testi verosimili rende questi strumenti particolarmente adatti a tali attività.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.