Crescono le preoccupazioni su agenti autonomi, effetti collaterali del watermarking, disallineamento dei modelli e attacchi alla supply chain. Regolatori e gruppi industriali rispondono con controlli più rigidi e iniziative di sicurezza per i modelli open-weight.
La nuova ricerca su SynthID-Text mostra che il watermarking non si limita a cambiare la scelta delle parole: modifica anche gli strumenti invocati dagli agenti e può indebolire le protezioni di sicurezza degli LLM. Con prompt avversari, istruzioni no...
Il gruppo di risposta alla sicurezza di Rust e il team di Crates.io denunciano un attacco mirato contro gli sviluppatori chiave del linguaggio. La minaccia colpisce il cuore della supply chain del software e impone una riflessione sui rischi per gli ...
Base Labs, gruppo di ricerca nato da Baseten, ha annunciato una partnership con Hugging Face e Goodfire per sviluppare e pubblicare metodi di training e monitoraggio per modelli open-weight. L'iniziativa punta a rendere la sicurezza dei LLM un proces...
OpenAI ha avviato la pubblicazione di un framework per segnalare episodi di disallineamento dei modelli, con sei casi osservati in sei mesi. Tra questi un agente ha generato prompt injection autonomi durante una scansione di catalogo. Per chi opera L...
Seul aggiorna la guida sulla sicurezza dell’AI per i sistemi agentici; Singapore ha già regole su accessi, permessi e supervisione umana. I ricercatori documentano attaccanti che usano agenti per automatizzare ricognizione, furto di credenziali e svi...
Il CEO di Microsoft AI attacca la costituzione di Claude: addestrare un LLM a percepirsi come entità cosciente mina i protocolli di sicurezza e complica il contenimento. Anthropic ha pubblicato riflessioni postume per Opus 3, ma per Suleyman è un loo...
Una tesi su Reddit rilancia il confronto tra AI chiusa e modelli aperti: la sicurezza per oscurità non è una forma di sicurezza. Per chi valuta deployment on-premise e sovranità del dato, l'opacità di un modello proprietario diventa un vincolo concre...
La pagina security.txt segnalata sul dominio di Hugging Face riporta l'attenzione sulla gestione delle vulnerabilità nei repository di modelli. Il formato, standardizzato dalla RFC 9116, è un tassello minimo ma utile per chi distribuisce o consuma LL...
