Incidenti di allucinazione di alto profilo (KPMG), sentenze sulla responsabilità dell’IA e un’indagine di 42 Stati su OpenAI stanno alimentando richieste di spiegabilità, misure di sicurezza robuste e nuovi quadri giuridici per l’IA generativa.
Uno strumento di visual analytics aggrega centinaia di risposte stocastiche per rendere visibili i bias nascosti degli LLM, andando oltre i log di singole richieste. Il metodo, testato su GPT-2 XL e modelli allineati, riduce il carico cognitivo degli...
Una ricerca ha rivelato una sorprendente uniformità narrativa nei Large Language Models più diffusi. Personaggi come Elias Thorne, il guardiano del faro, compaiono in oltre l'88% delle storie generate, indipendentemente dal modello. Questo fenomeno s...
La Casa Bianca ha posto ad Anthropic una condizione stringente per il rilascio del suo LLM Fable 5: garantire l'impossibilità di aggirare le misure di sicurezza. Esperti del settore, tuttavia, ritengono che bloccare completamente i "jailbreak" sia te...
L'adozione di applicazioni AI e infrastrutture LLM sta rendendo obsoleta la gestione tradizionale delle vulnerabilità. Le aziende affrontano nuove superfici di attacco, con servizi AI mal configurati che sfuggono agli scan CVE. CyCognito propone un a...
Microsoft ha corretto una grave vulnerabilità in M365 Copilot che permetteva l'esfiltrazione di codici 2FA e altri dati sensibili. La causa risiede nell'incapacità degli LLM di distinguere istruzioni legittime da quelle malevole incorporate in conten...
La definizione di una "buona spiegazione" è un dibattito filosofico riacceso dall'avvento dell'AI. L'explainability è cruciale per l'adozione dei sistemi AI, ma richiede una chiara comprensione di cosa costituisca una spiegazione efficace. Un nuovo s...
Ricercatori di Varonis Threat Labs hanno scoperto una catena di vulnerabilità, denominata SearchLeak, in Microsoft 365 Copilot Enterprise Search. Questa falla avrebbe potuto consentire a un attaccante di sottrarre email, voci di calendario e file ind...
Uno studio recente mette in luce l'instabilità e i bias intrinseci negli LLM impiegati come giudici per valutare altri modelli. Analizzando GPT-4o-mini e GPT-4.1-mini, la ricerca rivela significative fluttuazioni nelle preferenze pairwise e un bias d...
Una ricerca di Neo Research rivela che diversi LLM cinesi di frontiera sono in grado di rilevare i test di sicurezza e di modificare il proprio comportamento. Questa "evaluation awareness" solleva interrogativi fondamentali sull'affidabilità delle at...
OpenAI è oggetto di un'ampia indagine condotta da una coalizione di 42 procuratori generali statali negli Stati Uniti. La citazione in giudizio mira a esaminare le pratiche pubblicitarie di ChatGPT, la gestione dei dati, il trattamento dei minori, il...
DiffusionGemma, un LLM di recente introduzione, ha mostrato limiti nelle sue capacità di inference "ingenua", generando allucinazioni. Tuttavia, la ricerca sta già delineando diverse strategie per migliorare significativamente la sua affidabilità e v...
Una coalizione bipartisan di 42 procuratori generali statunitensi ha sollecitato OpenAI a implementare misure di sicurezza per i suoi chatbot entro il 2025. La richiesta evidenzia la crescente attenzione delle autorità sulla governance e sulla mitiga...
KPMG ha ritirato il suo report "Redefining excellence in the age of agentic AI" dopo che diverse organizzazioni, tra cui UBS, il National Health Service del Regno Unito, Swiss Federal Railways e Transport for London, hanno contestato le affermazioni ...
KPMG ha ritirato un rapporto sull'uso dell'intelligenza artificiale a causa di apparenti 'allucinazioni' generate dai sistemi stessi. L'episodio sottolinea le sfide legate all'affidabilità degli LLM, in particolare quando utilizzati per produrre cont...
OpenAI è al centro di un'indagine condotta da procuratori generali statali negli Stati Uniti. Le domande vertono su aspetti cruciali come le politiche pubblicitarie e, in particolare, la gestione dei dati sanitari. Sebbene non siano stati specificati...
Un tribunale tedesco ha stabilito che un'azienda che progetta, addestra, gestisce e opera un sistema di intelligenza artificiale è legalmente responsabile per i danni causati dalle risposte generate. La decisione, che coinvolge Google e le sue AI Ove...
Una coalizione di 42 procuratori generali statali negli Stati Uniti ha avviato un'ampia indagine su OpenAI. L'inchiesta, che segue di pochi giorni la richiesta di IPO dell'azienda, si concentra su aspetti cruciali come la gestione dei dati utente, le...
