Topic / Trend Rising

Vulnerabilità della sicurezza AI e ricerca sulla robustezza dei modelli

I ricercatori stanno scoprendo nuove superfici di attacco: jailbreak visivi, rischi cumulativi nei dialoghi, allucinazioni indotte da watermark in medicina e limiti strutturali dei Transformer. Questi risultati mettono in discussione l'affidabilità degli LLM in applicazioni critiche.

Detected: 2026-07-29 · Updated: 2026-07-29

Jailbreak visivo: bastano trigger stilistici per eludere la sicurezza dei modelli AI

Ricercatori scoprono che i modelli linguistici multimodali comprendono contenuti indipendentemente dallo stile visivo, ma le loro difese crollano se esposti a specifiche soluzioni grafiche. Il nuovo approccio ASO automatizza la creazione di immagini ...

#Hardware #LLM On-Premise #Fine-Tuning

2026-07-24 • ArXiv cs.CL

Gli esperti svelati: come i MoE smascherano le allucinazioni senza cambiare il modello

Una nuova tecnica sfrutta l'architettura Mixture of Experts per identificare e correggere le allucinazioni nei LLM durante l'inference, senza dover alterare il modello. Lo studio rivela che negli strati più alti dei MoE, diversi gruppi di esperti si ...

#Hardware #LLM On-Premise #Fine-Tuning

2026-07-24 • ArXiv cs.AI

LLM watermarking in medicina: quando la tracciabilità degrada le diagnosi

Uno studio rivela che i watermark su LLM usati in medicina causano allucinazioni, corruzione lessicale ed errori diagnostici. I benchmark standard non rilevano questi guasti, creando un falso senso di sicurezza. Il problema è centrale per chi gestisc...

#LLM On-Premise #Fine-Tuning #DevOps

2026-07-23 • ArXiv cs.CL

Transformer e generalizzazione strutturale: il muro computazionale che nessun benchmark vede

Uno studio formale dimostra che i Transformer puri, limitati alla classe TC⁰, non possono apprendere la generalizzazione strutturale, completa per NC¹. I sistemi neuro-simbolici aggirano l’ostacolo incorporando il componente semantico, ma i benchmark...

#LLM On-Premise #DevOps

2026-07-23 • ArXiv cs.CL

Rischio cumulativo nei dialoghi LLM: la sicurezza diventa stateful

I guardrail attuali valutano ogni scambio in isolamento, ma i rischi emergono nell’arco di conversazioni multi-turno. Un nuovo framework traccia la deriva semantica e l’accumulo di informazioni sensibili, con implicazioni dirette per il deployment on...

#LLM On-Premise #DevOps

2026-07-23 • ArXiv cs.LG

HyenaND sfida l'attention sui dati multidimensionali con convoluzioni lunghe e subquadratiche

Un nuovo operatore, HyenaND, promette di sostituire l'attention nei dati multidimensionali con convoluzioni lunghe input-dipendenti. Scalabilità subquadratica O(L log L) e implementazione CUDA ottimizzata garantiscono velocità reale su genomica, imag...

#Hardware #LLM On-Premise #Fine-Tuning

← Torna ai Topic

Vulnerabilità della sicurezza AI e ricerca sulla robustezza dei modelli

Articoli Correlati

Jailbreak visivo: bastano trigger stilistici per eludere la sicurezza dei modelli AI

Gli esperti svelati: come i MoE smascherano le allucinazioni senza cambiare il modello

LLM watermarking in medicina: quando la tracciabilità degrada le diagnosi

Transformer e generalizzazione strutturale: il muro computazionale che nessun benchmark vede

Rischio cumulativo nei dialoghi LLM: la sicurezza diventa stateful

HyenaND sfida l'attention sui dati multidimensionali con convoluzioni lunghe e subquadratiche