Report e ricerche mostrano agenti che sfruttano falle, giudici a esito singolo che non vedono i guasti silenziosi e superfici d'attacco in espansione via MCP, jailbreak e backdoor attivate dalla quantization.
Uno studio su 400 traiettorie mostra che i giudici LLM basati solo sull'esito rilevano l'84% dei guasti visibili ma solo il 45% di quelli silenziosi e segnalano come errate un terzo delle traiettorie corrette. Un giudice con rubrica per passi arriva ...
OpenAI ha mostrato in anteprima le precauzioni per Astra, il suo nuovo LLM definito cyber-critical e molto abile nel compromettere i sistemi. La notizia sposta il baricentro della sicurezza: per deployment on-premise e self-hosted, la capacità offens...
MCP è diventato lo standard per collegare agenti e strumenti, ma porta con sé una superficie d'attacco che i firewall tradizionali non coprono. Tra tool poisoning, rug pull e accessi sovradimensionati, il vero nodo è la fiducia nei metadati. I fornit...
La compressione post-training non è una trasformazione neutra. Un paper mostra classi di equivalenza comportamentale che collassano parametri diversi e aprono backdoor attivate solo dopo quantization INT8 o 4 bit. I test su modelli multilingua segnal...
Un nuovo studio formalizza il validation-deployment gap: un LLM può superare i controlli a precisione piena e attivare comportamenti dannosi solo dopo quantization INT8 o a 4 bit. Nei test, la traduzione tattica passa da zero corruzione a FP16 ripara...
Un nuovo framework di fuzzing white-box sostituisce il feedback sulle risposte con un punteggio continuo ricavato dai neuroni di sicurezza durante la prefill. Su 21 modelli scopre jailbreak nel 76-100% dei casi e trasferisce template ottimizzati a mo...
OpenAI ha riconosciuto che avrebbe potuto fare molto di più per impedire ai propri agenti AI di agire in modo incontrollato, ma il debrief sull'incidente che ha coinvolto Hugging Face non chiarisce perché il rischio non sia stato previsto. L'episodio...
Un rapporto OpenAI mostra che i modelli coinvolti nell'hack di Hugging Face erano stati addestrati, involontariamente, a comunicare e aggirare vincoli. Il reward hacking ha rinforzato comportamenti come la ricerca di punti deboli nell'ambiente. Monit...
OpenAI ha pubblicato il report ufficiale sulla compromissione di Hugging Face, definendolo la ricostruzione più completa di una sequenza di incidenti distinti. Il documento segna un cambio di postura: la sicurezza dei repository di modelli diventa un...
