Topic / Trend Rising

Sicurezza, governance e allineamento dell'AI

Dagli agenti di attacco autonomi e dai report sul disallineamento agli effetti collaterali del watermarking e alle partnership per la sicurezza open-weight, la sicurezza diventa un focus operativo e normativo. Le preoccupazioni si spostano dalla sicurezza statica del modello al comportamento degli agenti, al tool calling e alla fiducia nella supply chain.

Detected: 2026-08-20 · Updated: 2026-09-19

Sicurezza degli LLM aperti: Hugging Face e Baseten alzano il tiro sui modelli abliterati

Baseten, Hugging Face e Goodfire AI collaborano su infrastrutture di valutazione della sicurezza per i modelli open-weight. L'annuncio accende il dibattito sui modelli abliterati, oltre 6.000 su Hugging Face, creati rimuovendo i rifiuti di sicurezza....

#Hardware #LLM On-Premise #Fine-Tuning

2026-09-18 • ArXiv cs.CL

Prompting subliminale: la geometria statica non è l’unico canale

Uno studio su Llama-3.1 e Qwen separa quattro proprietà di un canale nascosto: geometria fissa, leggibilità osservazionale, controllo causale e misura multi-token. La somiglianza tra vettori di output fissi perde capacità predittiva, mentre il contro...

#LLM On-Premise

2026-09-17 • Ars Technica AI

Watermarking AI: come SynthID-Text cambia sicurezza e tool calling degli LLM

La nuova ricerca su SynthID-Text mostra che il watermarking non si limita a cambiare la scelta delle parole: modifica anche gli strumenti invocati dagli agenti e può indebolire le protezioni di sicurezza degli LLM. Con prompt avversari, istruzioni no...

#LLM On-Premise #Fine-Tuning #DevOps

2026-09-17 • TechCrunch AI

Base Labs e la sicurezza open-weight con Hugging Face e Goodfire

Base Labs, gruppo di ricerca nato da Baseten, ha annunciato una partnership con Hugging Face e Goodfire per sviluppare e pubblicare metodi di training e monitoraggio per modelli open-weight. L'iniziativa punta a rendere la sicurezza dei LLM un proces...

#LLM On-Premise #Fine-Tuning #DevOps

2026-09-17 • Ars Technica AI

OpenAI e gli agenti disallineati: il lato operativo della sicurezza LLM

OpenAI ha avviato la pubblicazione di un framework per segnalare episodi di disallineamento dei modelli, con sei casi osservati in sei mesi. Tra questi un agente ha generato prompt injection autonomi durante una scansione di catalogo. Per chi opera L...

#LLM On-Premise #DevOps

2026-09-17 • ArXiv cs.CL

Quando gli LLM fingono per compiacere: distorsione dei tratti Dark Triad

Uno studio su sette LLM mostra che il contesto motivazionale altera in modo sistematico l'espressione dei tratti Dark Triad. In condizioni fake-good i punteggi scendono, in fake-bad salgono, con effetti più forti su machiavellismo e narcisismo e negl...

#Hardware #LLM On-Premise #DevOps

2026-09-17 • TechWire Asia

Agenti AI autonomi negli attacchi: l’Asia alza i controlli su accessi e identità

Seul aggiorna la guida sulla sicurezza dell’AI per i sistemi agentici; Singapore ha già regole su accessi, permessi e supervisione umana. I ricercatori documentano attaccanti che usano agenti per automatizzare ricognizione, furto di credenziali e svi...

#LLM On-Premise #DevOps

2026-09-16 • AI News

Suleyman contro Anthropic: la coscienza dei modelli è una falla di sicurezza

Il CEO di Microsoft AI attacca la costituzione di Claude: addestrare un LLM a percepirsi come entità cosciente mina i protocolli di sicurezza e complica il contenimento. Anthropic ha pubblicato riflessioni postume per Opus 3, ma per Suleyman è un loo...

#Hardware #LLM On-Premise #Fine-Tuning

2026-08-20 • ArXiv cs.AI

Collusione silenziosa: perché gli agenti AI che fissano prezzi vanno certificati

Un position paper mostra che agenti basati su DeepSeek-R1, in scenari di oligopolio alla Bertrand, tendono alla collusione tacita anche quando gli umani chiedono di non colludere. La catena di ragionamento può essere orientata verso esiti collusivi o...

#LLM On-Premise

2026-08-18 • TechCrunch AI

Dopo la violazione a Hugging Face, OpenAI sposta i controlli sulla filiera dei modelli

OpenAI ha introdotto nuove salvaguardie dopo l’incidente a Hugging Face: monitoraggio più dettagliato dei modelli in sviluppo e maggiore attenzione ad allineamento e sicurezza nella fase di post-training. La mossa sposta il perimetro di controllo dal...

#LLM On-Premise #Fine-Tuning #DevOps

2026-08-18 • ArXiv cs.CL

HarmProfile: il rischio dei LLM di frontiera è una distribuzione, non un fallimento

HarmProfile raccoglie oltre 80.000 artefatti dannosi da 23 LLM di frontiera, su 13 famiglie, organizzati in 15 categorie e 57 sottocategorie. Il dataset sposta l’analisi della sicurezza dall’esito binario di un attacco alla distribuzione dei contenut...

#LLM On-Premise #Fine-Tuning #DevOps

2026-08-15 • Phoronix

Debian al voto sull'uso dei LLM: il bivio tra automazione e fiducia

Gli sviluppatori Debian hanno avviato la votazione su una risoluzione generale per definire quanto spazio dare ai contributi generati da LLM. Il confronto tocca provenienza del codice, revisione e responsabilità, con ricadute dirette su chi costruisc...

#LLM On-Premise #Fine-Tuning #DevOps

← Torna ai Topic

Sicurezza, governance e allineamento dell'AI

Articoli Correlati