Attacchi alla supply chain, obblighi di filigrana, rilevatori IA ed estrazione del ragionamento stanno aumentando l'attenzione su provenienza dei modelli e integrità dei contenuti. La ricerca mostra che valutazione e sicurezza devono superare i benchmark statici per testare il comportamento reale.
Uno studio controllato mostra che i rilevatori commerciali di testo AI non distinguono l’editing assistito da una bozza interamente generata. Le modifiche leggere, conformi a molte linee guida, vengono segnalate nel 64-80% dei casi, mentre gli origin...
Un attacco alla catena di fornitura ha compromesso versioni di LiteLLM su PyPI per 40 minuti a marzo, esponendo chiavi cloud, token repository, segreti Kubernetes e credenziali AI provider di oltre 2.500 organizzazioni, tra cui Microsoft, Amazon, Cis...
All'evento Ai4, Geoffrey Hinton, Fei-Fei Li e Andrew Ng hanno discusso regolamentazione, accesso open source e capacità americana di competere mentre la Cina avanza. Il dibattito rivela un nodo strutturale: l'apertura non è solo ricerca, ma presuppos...
Un paper svela come estrarre tutti i token di reasoning dai modelli Claude e GPT. Emergono overthinking diffuso, benchmark contaminati dalla memoria e l’uso del gap da parte della Cina per distillare modelli. La chiusura della falla ridefinisce il ve...
Anthropic, OpenAI, Google, Meta, Microsoft e Mistral hanno firmato il Codice di Condotta UE sulla trasparenza dei contenuti AI. L’obbligo si estende ai modelli locali e open source, imponendo watermark per testo e codice. Per chi fa deployment on-pre...
L’intelligenza artificiale accelera sia gli attacchi sia le correzioni, ma il vantaggio competitivo si sposta da chi ha i migliori rilevatori a chi conosce esattamente cosa esegue nei propri container. La trasparenza della supply chain e le distinte ...
Un nuovo framework di valutazione combina un benchmark a tassonomia unificata con un fuzzing multi-modale auto-adattivo (SAMF) e mostra che i migliori MLLM degradano sotto stress, rivelando uno scollamento tra ragionamento e ancoraggio ai fatti. L’al...
Un team di ricerca sfrutta l’activation engineering per estrarre una direzione della menzogna nello spazio latente dei transformer. Senza fine-tuning né recupero di prove esterne, la proiezione dell’ultimo token alimenta un classificatore MLP. Il met...
