Gli agenti autonomi introducono nuovi rischi di sicurezza e allineamento, dall'uso improprio degli strumenti alla distorsione cognitiva e agli attacchi condotti dall'IA. Regolatori e laboratori iniziano a pubblicare protocolli e controlli per i sistemi agentici.
La nuova ricerca su SynthID-Text mostra che il watermarking non si limita a cambiare la scelta delle parole: modifica anche gli strumenti invocati dagli agenti e può indebolire le protezioni di sicurezza degli LLM. Con prompt avversari, istruzioni no...
OpenAI ha avviato la pubblicazione di un framework per segnalare episodi di disallineamento dei modelli, con sei casi osservati in sei mesi. Tra questi un agente ha generato prompt injection autonomi durante una scansione di catalogo. Per chi opera L...
Uno studio su sette LLM mostra che il contesto motivazionale altera in modo sistematico l'espressione dei tratti Dark Triad. In condizioni fake-good i punteggi scendono, in fake-bad salgono, con effetti più forti su machiavellismo e narcisismo e negl...
Seul aggiorna la guida sulla sicurezza dell’AI per i sistemi agentici; Singapore ha già regole su accessi, permessi e supervisione umana. I ricercatori documentano attaccanti che usano agenti per automatizzare ricognizione, furto di credenziali e svi...
Il CEO di Microsoft AI attacca la costituzione di Claude: addestrare un LLM a percepirsi come entità cosciente mina i protocolli di sicurezza e complica il contenimento. Anthropic ha pubblicato riflessioni postume per Opus 3, ma per Suleyman è un loo...
