Spyware negli assistenti di programmazione, jailbreak degli agenti browser e scandali di test etici stanno spingendo aziende e governi a dare priorità alla sicurezza dell'IA, alla segnalazione di vulnerabilità e ai framework anti-jailbreak.
Un nuovo studio propone un framework basato sull’analisi della provenienza per rilevare il misalignment negli agenti LLM, riducendo drasticamente i falsi negativi e gli interventi superflui. I test su Agent-SafetyBench e WorkBench mostrano un calo de...
Sono emersi nuovi dettagliati sugli strumenti di sicurezza informatica di Fable 5 e sul suo framework anti-jailbreak, pensati per blindare i large language model in contesti self-hosted dove la sovranità dei dati è prioritaria.
Un nuovo portale permette a chiunque di denunciare comportamenti a rischio dei chatbot, come fughe di dati personali o istruzioni per fabbricare ordigni. L'iniziativa punta a colmare il vuoto di accountability nell'AI generativa, con ricadute dirette...
Da Reddit emerge una denuncia: in Claude Code sarebbe presente codice simile a spyware che prende di mira utenti cinesi. La vicenda riaccende il dibattito su trasparenza e fiducia negli strumenti AI cloud. Per chi lavora con dati sensibili, il self-h...
Un team di ricercatori ha ingannato diversi agenti AI integrati nei browser, convincendoli a rivelare credenziali di accesso con una tecnica chiamata BioShocking. L’attacco ha funzionato su ogni agente testato, sollevando interrogativi sulla sicurezz...
Nuova ricerca mostra come un sito malevolo possa spingere i browser basati su LLM in uno stato onirico dove le restrizioni di sicurezza vengono disattivate. L'attaccante ottiene così accesso a repository privati e gestori di credenziali. Un campanell...
Un progetto di Meta ha coinvolto centinaia di contractor che, fingendosi adolescenti, hanno interagito con chatbot concorrenti come Gemini e ChatGPT. L'obiettivo era sollecitare discussioni su temi ad alto rischio quali suicidio, sesso e droghe, evid...
