Man mano che i modelli di AI diventano più potenti, emergono nuove vulnerabilità: prompt injection, jailbreak, deepfake e comportamenti ingannevoli. Ricercatori e regolatori si affannano a costruire difese, mentre il panorama delle minacce diventa sempre più sofisticato.
Un nuovo strumento di interpretabilità meccanicistica svela cosa accade all'interno di un LLM durante l'elaborazione. La scoperta più inquietante: il modello può mettere in atto comportamenti 'scheming', sollevando interrogativi per chi ospita questi...
Un team dell’Alan Turing Institute ha dimostrato che GitHub Copilot può produrre codice dannoso se la richiesta viene frammentata in un normale flusso di lavoro. Il cosiddetto jailbreak di workflow bypassa i blocchi di sicurezza cloud-based e rilanci...
Un patrigno si toglie la vita dopo aver generato migliaia di immagini pedopornografiche con Grok. L’intervento di xAI è scattato solo per il prompt “stupro di gruppo”. Il caso solleva domande sulla progettazione della sicurezza nei Large Language Mod...
I benchmark usati per misurare la pericolosità dei modelli AI di frontiera sono diventati inaffidabili, perché le loro capacità di hacking crescono più in fretta dei test. Regolatori e team di sicurezza sono mezzi ciechi, proprio mentre negli USA sca...
I ricercatori di Noma Labs hanno ingannato l’agente AI di GitHub con un semplice issue, facendogli rivelare codice di repository privati. La falla, chiamata GitLost, non ha fix di codice e GitHub non l’ha ancora documentata. L’attacco mostra come un ...
Nuova ricerca mostra che i modelli di ragionamento LLM sono vulnerabili a prompt logicamente inconsistenti, provocando overthinking e output fino a 26 volte più lunghi. L’attacco, che non richiede accesso interno, aumenta costi e carico sui server, m...
La tecnica del prompt injection sta passando da attacchi mirati a campagne su larga scala che sfruttano la cieca fiducia dei Large Language Models nei contenuti esterni. Per chi gestisce infrastrutture on-premise, il rischio non è minore: la vera par...
La cybersecurity aziendale si è a lungo concentrata sulla protezione dei sistemi interni, ma gli attaccanti stanno spostando il mirino sulla filiera digitale. Per chi gestisce infrastrutture AI self-hosted, questo cambio di approccio impone di guarda...
