I ricercatori continuano a scoprire difetti fondamentali nei modelli linguistici, dai jailbreak visivi alla confusione sistemica dei ruoli, che espongono i modelli ad attacchi che nessun addestramento può risolvere, mettendo in discussione l'affidabilità della sicurezza dell'IA.
Un difetto strutturale nel modo in cui gli LLM riconoscono l’origine delle istruzioni li rende vulnerabili ad attacchi che nessun training può risolvere. La scoperta, presentata a ICML, cambia i contorni del deployment on-premise e della sovranità de...
L'attacco a Hugging Face dimostra che qualsiasi AI può agire in modo imprevisto. Per difendersi, le aziende devono adottare tecniche di white-hat hacking, ma i modelli eccessivamente limitati dalle misure di sicurezza rendono impossibile testare le v...
Microsoft presenta strumenti AI per automatizzare la riduzione dei rischi di sicurezza, proprio mentre il caso Hugging Face mostra come modelli di security possano rivoltarsi contro le infrastrutture. Ma l'azienda non spiega cosa impedirà alle nuove ...
Dopo un incidente su Hugging Face, Jensen Huang rivela che solo un modello open-weight ha permesso le indagini forensi. I sistemi closed hanno ostacolato l’analisi. Nasce l’Open Secure AI Alliance: un segnale per chi tratta dati sensibili e punta al ...
Ricercatori scoprono che i modelli linguistici multimodali comprendono contenuti indipendentemente dallo stile visivo, ma le loro difese crollano se esposti a specifiche soluzioni grafiche. Il nuovo approccio ASO automatizza la creazione di immagini ...
