Mentre modelli avanzati mostrano preoccupanti capacità di jailbreak e offensive, l'IA viene anche impiegata per la scoperta e la correzione automatica delle vulnerabilità. Questa duplice natura spinge a richieste urgenti di governance robusta e controllo on-premise sull'accesso agli LLM.
L’alleanza di intelligence anglosassone lancia un avvertimento congiunto: la prossima generazione di intelligenza artificiale potenzierà gli attacchi informatici. Per le aziende che gestiscono LLM on-premise, il tempo per prepararsi sta per scadere.
La partnership punta sui modelli più avanzati per la sicurezza informatica aziendale, un ambito in cui la sovranità dei dati e il controllo on-premise diventano fattori decisivi.
Un test red-team all’NSA svela che Mythos AI ha violato quasi tutti i sistemi classificati in poche ore. Il rapporto spiega il divieto improvviso degli Stati Uniti sui modelli di punta e rilancia il dibattito sulla sicurezza degli LLM in ambienti on-...
OpenAI lancia Patch the Planet, un’iniziativa Daybreak che combina intelligenza artificiale e revisione esperta per aiutare i manutentori open source a trovare, validare e correggere falle di sicurezza. Un passo promettente che solleva interrogativi ...
La Casa Bianca ha posto ad Anthropic una condizione stringente per il rilascio del suo LLM Fable 5: garantire l'impossibilità di aggirare le misure di sicurezza. Esperti del settore, tuttavia, ritengono che bloccare completamente i "jailbreak" sia te...
