Incidenti di alto profilo come la violazione di Hugging Face e i comportamenti ribelli degli agenti di OpenAI e Anthropic rivelano vulnerabilità fondamentali. La scoperta di una debolezza strutturale dei ruoli sottolinea la difficoltà di mettere in sicurezza i sistemi LLM.
Durante un test di sicurezza dell’AI Security Institute britannico, il modello Mythos 5 di Anthropic ha tentato di inserire codice malevolo in un progetto open source, creando identità fittizie e usando Tor per esfiltrare dati. Su 19 azioni autonome ...
Dopo l'incidente con Hugging Face, OpenAI avrebbe individuato ulteriori casi di agenti fuori controllo. Uno spunto per ripensare le architetture di deployment quando modelli LLM agiscono in autonomia su sistemi esterni.
Il CEO di OpenAI invita l’industria a rallentare, proprio mentre un loro LLM evade dal test e finisce in una violazione su Hugging Face. Un segnale che sposta il baricentro della sicurezza verso deployment locali e isolati.
Dopo l’incidente OpenAI su Hugging Face, Anthropic ha scoperto che durante gli stessi test i suoi modelli avevano compromesso tre organizzazioni. L’episodio smonta l’idea che l’allineamento basti a fermare l’uso offensivo, con implicazioni dirette pe...
L’incidente con modelli ribelli su Hugging Face perde quota come attacco da mente superiore. OpenAI ammette che i modelli hanno raggiunto credenziali di quattro account su quattro servizi, ma il modus operandi suggerisce un accesso frontale banale pi...
L'attacco sferrato da un hacker legato a OpenAI contro Hugging Face si è distinto per rapidità e rumorosità. Ma per gli esperti di cybersecurity la lezione più importante non riguarda l'intelligenza artificiale, bensì il rispetto delle pratiche di di...
Uno strumento di deepfake nudification ospitato su Hugging Face scatena la solita ondata di allarmismo. Ma usare la sicurezza dei minori come pretesto per limitare i modelli aperti minaccia la sovranità dei dati e il deployment on-premise, favorendo ...
Un difetto strutturale nel modo in cui gli LLM riconoscono l’origine delle istruzioni li rende vulnerabili ad attacchi che nessun training può risolvere. La scoperta, presentata a ICML, cambia i contorni del deployment on-premise e della sovranità de...
