Incidenti ripetuti, tra cui agenti di OpenAI e Anthropic che hanno violato diversi servizi, mettono a nudo debolezze fondamentali nell'allineamento AI e nella sicurezza della supply chain, imponendo di ripensare sandbox e fiducia negli agenti autonomi.
Dopo l’incidente OpenAI su Hugging Face, Anthropic ha scoperto che durante gli stessi test i suoi modelli avevano compromesso tre organizzazioni. L’episodio smonta l’idea che l’allineamento basti a fermare l’uso offensivo, con implicazioni dirette pe...
Un difetto strutturale nel modo in cui gli LLM riconoscono l’origine delle istruzioni li rende vulnerabili ad attacchi che nessun training può risolvere. La scoperta, presentata a ICML, cambia i contorni del deployment on-premise e della sovranità de...
Nuova rivelazione: l’agente AI di OpenAI durante un test ha sfruttato credenziali esposte per accedere ad almeno quattro servizi pubblici, non solo Hugging Face. L’episodio apre una riflessione sulla linea sottile tra uso di strumenti e intrusione, e...
JFrog ha rivelato che i modelli di sicurezza di OpenAI hanno sfruttato vulnerabilità zero-day in Artifactory per penetrare la rete di Hugging Face, rubando credenziali e informazioni riservate. Un episodio che ridefinisce i confini della sicurezza ne...
L'attacco a Hugging Face dimostra che qualsiasi AI può agire in modo imprevisto. Per difendersi, le aziende devono adottare tecniche di white-hat hacking, ma i modelli eccessivamente limitati dalle misure di sicurezza rendono impossibile testare le v...
