Dal disallineamento dei modelli e vulnerabilità avversarie all'esodo di personale chiave dai laboratori, il divario tra capacità dell'IA e garanzie di sicurezza sta crescendo.
L'azienda di Musk va per vie legali contro un soggetto arrestato per aver «nudificato» immagini di minorenni usando Grok. La mossa sposta la colpa sull'utilizzatore ma non risolve la vulnerabilità tecnica. Per chi valuta il self-hosting, l'episodio s...
OpenAI ha costruito GPT-Red, un LLM specializzato nel red-teaming automatizzato, per scovare debolezze dei propri modelli. L'azienda lo considera troppo pericoloso per condividerlo. Un segnale forte per chi gestisce modelli on-premise: la sicurezza o...
OpenAI svela GPT-Red, un red team automatico basato su self-play che rafforza i modelli contro prompt injection e disallineamento. Per chi esegue LLM in locale, la notizia apre un fronte critico: replicare questa capacità senza cedere dati al cloud d...
Un nuovo studio riproduce l’Emergent Misalignment, ma mostra che disallineamento e riallineamento sono sensibili a dettagli superficiali del dataset. Il riallineamento rapido svanisce controllando la lunghezza delle risposte. Le firme meccanicistiche...
L’uscita del responsabile dei sistemi di sicurezza segue la fusione dei team di safety e ricerca sotto un’unica guida. Per le aziende che valutano il controllo dei dati e la conformità, il messaggio è chiaro: la separazione dei poteri interni non è p...
