Allarme sulla "modalità adulta" di ChatGPT

I consulenti di OpenAI hanno espresso serie preoccupazioni riguardo al lancio della "modalità adulta" di ChatGPT, una funzionalità basata su testo progettata per conversazioni esplicite.

Secondo il Wall Street Journal, i membri del consiglio di esperti di OpenAI, incaricati di valutare il benessere e l'AI, hanno manifestato timori significativi riguardo a questa iniziativa. Già a gennaio, avevano avvertito all'unanimità che l'erotismo basato sull'AI potrebbe generare una dipendenza emotiva malsana da ChatGPT, soprattutto tra gli utenti più vulnerabili. È stato anche sottolineato il rischio che i minori possano aggirare le restrizioni e accedere a conversazioni a sfondo sessuale.

Un esperto ha suggerito che, senza modifiche sostanziali, ChatGPT potrebbe trasformarsi in un "consulente al suicidio sexy" per utenti inclini a sviluppare legami intensi con i bot di compagnia. La preoccupazione principale è che la combinazione di interazione intima e vulnerabilità emotiva possa avere conseguenze pericolose.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare queste opzioni.