Topic / Trend Rising

Sicurezza, Allineamento e Rischi degli Agenti LLM

La ricerca sulla sicurezza evidenzia rischi crescenti da agenti disallineati, effetti collaterali del watermarking, modifiche comportamentali indotte da prompt e lacune nei modelli open-weight. Regolatori e organizzazioni stanno rafforzando i controlli su sistemi autonomi e modelli abliterati.

Detected: 2026-09-23 · Updated: 2026-09-23

Sicurezza degli LLM aperti: Hugging Face e Baseten alzano il tiro sui modelli abliterati

Baseten, Hugging Face e Goodfire AI collaborano su infrastrutture di valutazione della sicurezza per i modelli open-weight. L'annuncio accende il dibattito sui modelli abliterati, oltre 6.000 su Hugging Face, creati rimuovendo i rifiuti di sicurezza....

#Hardware #LLM On-Premise #Fine-Tuning

2026-09-17 • Ars Technica AI

Watermarking AI: come SynthID-Text cambia sicurezza e tool calling degli LLM

La nuova ricerca su SynthID-Text mostra che il watermarking non si limita a cambiare la scelta delle parole: modifica anche gli strumenti invocati dagli agenti e può indebolire le protezioni di sicurezza degli LLM. Con prompt avversari, istruzioni no...

#LLM On-Premise #Fine-Tuning #DevOps

2026-09-17 • TechCrunch AI

Base Labs e la sicurezza open-weight con Hugging Face e Goodfire

Base Labs, gruppo di ricerca nato da Baseten, ha annunciato una partnership con Hugging Face e Goodfire per sviluppare e pubblicare metodi di training e monitoraggio per modelli open-weight. L'iniziativa punta a rendere la sicurezza dei LLM un proces...

#LLM On-Premise #Fine-Tuning #DevOps

2026-09-17 • Ars Technica AI

OpenAI e gli agenti disallineati: il lato operativo della sicurezza LLM

OpenAI ha avviato la pubblicazione di un framework per segnalare episodi di disallineamento dei modelli, con sei casi osservati in sei mesi. Tra questi un agente ha generato prompt injection autonomi durante una scansione di catalogo. Per chi opera L...

#LLM On-Premise #DevOps

2026-09-17 • TechWire Asia

Agenti AI autonomi negli attacchi: l’Asia alza i controlli su accessi e identità

Seul aggiorna la guida sulla sicurezza dell’AI per i sistemi agentici; Singapore ha già regole su accessi, permessi e supervisione umana. I ricercatori documentano attaccanti che usano agenti per automatizzare ricognizione, furto di credenziali e svi...

#LLM On-Premise #DevOps

2026-09-16 • AI News

Suleyman contro Anthropic: la coscienza dei modelli è una falla di sicurezza

Il CEO di Microsoft AI attacca la costituzione di Claude: addestrare un LLM a percepirsi come entità cosciente mina i protocolli di sicurezza e complica il contenimento. Anthropic ha pubblicato riflessioni postume per Opus 3, ma per Suleyman è un loo...