AI-RADAR.it
AI-RADAR.IT
News & analisi per LLM locali, stack e hardware on-prem.
Topic / Trend Rising

Sicurezza e allineamento dell'AI agentica

Gli agenti autonomi sollevano nuovi problemi di sicurezza e allineamento, dalle prompt injection autogenerate agli effetti collaterali del watermarking e al dibattito sulla coscienza dei modelli.

Detected: 2026-09-22 · Updated: 2026-09-22

Articoli Correlati

2026-09-17 • Ars Technica AI

Watermarking AI: come SynthID-Text cambia sicurezza e tool calling degli LLM

La nuova ricerca su SynthID-Text mostra che il watermarking non si limita a cambiare la scelta delle parole: modifica anche gli strumenti invocati dagli agenti e può indebolire le protezioni di sicurezza degli LLM. Con prompt avversari, istruzioni no...

#LLM On-Premise #Fine-Tuning #DevOps
2026-09-17 • TechCrunch AI

Base Labs e la sicurezza open-weight con Hugging Face e Goodfire

Base Labs, gruppo di ricerca nato da Baseten, ha annunciato una partnership con Hugging Face e Goodfire per sviluppare e pubblicare metodi di training e monitoraggio per modelli open-weight. L'iniziativa punta a rendere la sicurezza dei LLM un proces...

#LLM On-Premise #Fine-Tuning #DevOps
2026-09-17 • Ars Technica AI

OpenAI e gli agenti disallineati: il lato operativo della sicurezza LLM

OpenAI ha avviato la pubblicazione di un framework per segnalare episodi di disallineamento dei modelli, con sei casi osservati in sei mesi. Tra questi un agente ha generato prompt injection autonomi durante una scansione di catalogo. Per chi opera L...

#LLM On-Premise #DevOps
2026-09-16 • AI News

Suleyman contro Anthropic: la coscienza dei modelli è una falla di sicurezza

Il CEO di Microsoft AI attacca la costituzione di Claude: addestrare un LLM a percepirsi come entità cosciente mina i protocolli di sicurezza e complica il contenimento. Anthropic ha pubblicato riflessioni postume per Opus 3, ma per Suleyman è un loo...

#Hardware #LLM On-Premise #Fine-Tuning
2026-09-15 • LocalLLaMA

Closed source AI più pericolosa? La sicurezza non vive di segreti

Una tesi su Reddit rilancia il confronto tra AI chiusa e modelli aperti: la sicurezza per oscurità non è una forma di sicurezza. Per chi valuta deployment on-premise e sovranità del dato, l'opacità di un modello proprietario diventa un vincolo concre...

#Hardware #LLM On-Premise #Fine-Tuning
← Torna ai Topic