Topic / Trend Rising

Sicurezza e affidabilità dell'IA sotto esame

Dagli errori diagnostici al ragionamento distorto, gli incidenti in cui l'IA fallisce o causa danni alimentano il dibattito su guardrail, trasparenza e limiti delle attuali misure di sicurezza.

Detected: 2026-07-24 · Updated: 2026-07-24

Gli esperti svelati: come i MoE smascherano le allucinazioni senza cambiare il modello

Una nuova tecnica sfrutta l'architettura Mixture of Experts per identificare e correggere le allucinazioni nei LLM durante l'inference, senza dover alterare il modello. Lo studio rivela che negli strati più alti dei MoE, diversi gruppi di esperti si ...

#Hardware #LLM On-Premise #Fine-Tuning

2026-07-24 • ArXiv cs.AI

LLM watermarking in medicina: quando la tracciabilità degrada le diagnosi

Uno studio rivela che i watermark su LLM usati in medicina causano allucinazioni, corruzione lessicale ed errori diagnostici. I benchmark standard non rilevano questi guasti, creando un falso senso di sicurezza. Il problema è centrale per chi gestisc...

#LLM On-Premise #Fine-Tuning #DevOps

2026-07-23 • ArXiv cs.CL

Rischio cumulativo nei dialoghi LLM: la sicurezza diventa stateful

I guardrail attuali valutano ogni scambio in isolamento, ma i rischi emergono nell’arco di conversazioni multi-turno. Un nuovo framework traccia la deriva semantica e l’accumulo di informazioni sensibili, con implicazioni dirette per il deployment on...

#LLM On-Premise #DevOps

2026-07-22 • ArXiv cs.AI

ECE: fact-checking selettivo per LLM, l’astensione come scudo di sicurezza

Il framework Evidence Chain Evaluation (ECE) permette agli LLM di astenersi dal giudizio quando le prove sono deboli, evitando verdetti forzati. Su ECE-Bench, accuratezza selettiva del 97.8% sulle risposte date, con 6 casi su 95 rimandati. L’astensio...

#LLM On-Premise

2026-07-20 • MIT Technology Review

Gli LLM non ereditano solo i nostri pregiudizi: ora li inventano da soli

Nuovi esperimenti mostrano che modelli come o3 e R1 sviluppano stereotipi occupazionali più forti degli umani già dopo poche assunzioni simulate. Il paradosso è che i modelli più potenti sono anche i più faziosi, e insegnargli a essere “giusti” non b...

#LLM On-Premise #Fine-Tuning #DevOps

2026-07-20 • ArXiv cs.CL

C’è un ‘inconscio macchina’? La ricerca che svela il pensiero nascosto degli LLM

Con la “lente di Jacobi” si identificano le rappresentazioni J-space, un nucleo di concetti verbalizzabili che funge da spazio di lavoro globale negli LLM. La scoperta permette audit di allineamento che rivelano deliberazioni strategiche e disposizio...

#LLM On-Premise #Fine-Tuning #DevOps

2026-07-19 • The Next Web

I consigli dell'IA rendono tre volte meno precisi ma due volte più sicuri

Uno studio congiunto di atenei francesi e italiani rivela che avere accesso ai suggerimenti dell'IA riduce la disponibilità ad ammettere l'incertezza dal 44% al 3%, fa crollare l'accuratezza dal 27% al 9% e gonfia la fiducia nelle proprie risposte da...

#Hardware #LLM On-Premise #Fine-Tuning

2026-07-19 • The Next Web

Google Search AI è un “rischio inaccettabile” per gli studenti. Non si può disattivare

Il watchdog Common Sense Media accusa l’AI Mode di Google Search: completa i compiti, diffonde disinformazione autorevole ed espone i minori a contenuti inappropriati. Suggerisce di smettere di usarlo fino al blocco scolastico, ma Google non può disa...

#Hardware #LLM On-Premise

2026-07-18 • LocalLLaMA

catmind-1.2b: quando l'LLM pensa ai gatti e ignora i tuoi prompt

Un esperimento trasforma un modello di reasoning in un narratore di storie feline, facendo crollare l'accuratezza di oltre 50 punti percentuali. Un apparente gioco che però solleva interrogativi concreti sulla stabilità del fine-tuning, sull'uso dei ...

#Hardware #LLM On-Premise #Fine-Tuning

2026-07-18 • Ars Technica AI

L’AI snellisce le autorizzazioni sanitarie? I medici temono più danni che benefici

Un sondaggio dell’American Medical Association rivela che il 61% dei medici teme che l’intelligenza artificiale aggravi i dinieghi ingiustificati nelle autorizzazioni preventive sanitarie. Mentre l’AI potrebbe accelerare le approvazioni, cresce la re...

#LLM On-Premise #Fine-Tuning #DevOps

2026-07-17 • The Next Web

Meta avviserà i genitori se l'adolescente parla di suicidio con la sua IA

Meta introduce notifiche per i genitori quando un adolescente discute di suicidio o autolesionismo con il suo chatbot AI. Disponibile in USA, UK, Australia e Canada, la funzione sfrutta gli strumenti di supervisione di Instagram. L’iniziativa solleva...

#LLM On-Premise #DevOps

← Torna ai Topic

Sicurezza e affidabilità dell'IA sotto esame

Articoli Correlati