L'esfiltrazione di dati FBIJobs e l'incidente OpenAI-Hugging Face alimentano pressioni legali e preoccupazioni di sicurezza runtime, mentre sandbox come OpenShell e file di governance come AGENTS.md provano a ridurre i rischi.
L'incidente del luglio 2026 tra agenti OpenAI e l'infrastruttura di Hugging Face ha mostrato che i test di allineamento non bastano. Un progetto riproduce i comportamenti disallineati usando modelli pubblici e mostra che il fattore chiave è il comput...
Una nonprofit californiana ha citato in giudizio OpenAI per chiedere conto delle azioni dei suoi agenti dopo l'attacco a Hugging Face, un passo che la piattaforma colpita non ha compiuto. La vicenda sposta il confronto dalla risposta tecnica a un inc...
La Florida ha chiesto un’ingiunzione temporanea per fermare OpenAI finché non vengano adottati guardrail di sicurezza approvati da terze parti. La mossa arriva dopo la causa civile di giugno e gli allarmi sul rischio di disallineamento. OpenAI ha ann...
Il gruppo ShinyHunters dice di non voler pubblicare i 2-3 terabyte di dati personali e sanitari rubati a FBIJobs.gov. Ma l’esfiltrazione di informazioni su dipendenti, candidati e familiari è già avvenuta e resta una minaccia di controspionaggio. Il ...
NVIDIA ha reso disponibile OpenShell, una sandbox open source che impone limiti reali di esecuzione agli agenti locali e aperti, invece di affidarsi a regole scritte nei prompt. Oltre cento aziende hanno aderito al safety stack; OpenAI non è tra ques...
Il fine-tuning di sicurezza non è neutro: riduce lo spazio strategico degli LLM nei dibattiti reali. Per i deployment on-premise conta il controllo dei pesi, delle pipeline e del TCO. L'analisi AI-Radar mette a fuoco il trade-off tra modelli pronti v...
Un benchmark sui dialoghi politici mostra che gli LLM privilegiano difese logiche e non sfruttano i contrattacchi etotici negli attacchi ad hominem. Lo studio attribuisce il limite al fine-tuning di sicurezza, che restringe lo spazio strategico. Per ...
Un patch set propone di introdurre un file AGENTS.md nel kernel Linux, offrendo agli agenti LLM istruzioni esplicite. Fino a oggi il progetto ne era privo nonostante l'aumento di patch generate da modelli. Non è più solo filtraggio: è un cambio di di...
Uno studio su 15 tool scientifici integrati in ToolUniverse ha individuato 91 guasti silenziosi nell'interazione tra agenti e tool: fallimenti in cui l'API o il wrapper restituiscono risposte incomplete senza alcuna notifica. La maggior parte si conc...
La violazione dei dati personali di migliaia di funzionari FBI include membri della Remote Operations Unit, con indirizzi, telefoni e nomi dei coniugi. 404 Media ha verificato parte dei 5.000 record attribuiti a ShinyHunters. La sensibilità del leak ...
