I dibattiti sulla sicurezza dell'AI si stanno intensificando tra guardrail, sandboxing, ingiunzioni legali e conflitti nelle community open source. Una grave violazione di dati legata all'FBI evidenzia inoltre i rischi di sicurezza dei sistemi sensibili connessi.
La Florida ha chiesto un’ingiunzione temporanea per fermare OpenAI finché non vengano adottati guardrail di sicurezza approvati da terze parti. La mossa arriva dopo la causa civile di giugno e gli allarmi sul rischio di disallineamento. OpenAI ha ann...
Il gruppo ShinyHunters dice di non voler pubblicare i 2-3 terabyte di dati personali e sanitari rubati a FBIJobs.gov. Ma l’esfiltrazione di informazioni su dipendenti, candidati e familiari è già avvenuta e resta una minaccia di controspionaggio. Il ...
NVIDIA ha reso disponibile OpenShell, una sandbox open source che impone limiti reali di esecuzione agli agenti locali e aperti, invece di affidarsi a regole scritte nei prompt. Oltre cento aziende hanno aderito al safety stack; OpenAI non è tra ques...
Il fine-tuning di sicurezza non è neutro: riduce lo spazio strategico degli LLM nei dibattiti reali. Per i deployment on-premise conta il controllo dei pesi, delle pipeline e del TCO. L'analisi AI-Radar mette a fuoco il trade-off tra modelli pronti v...
Un benchmark sui dialoghi politici mostra che gli LLM privilegiano difese logiche e non sfruttano i contrattacchi etotici negli attacchi ad hominem. Lo studio attribuisce il limite al fine-tuning di sicurezza, che restringe lo spazio strategico. Per ...
La presentazione di una KDE 'AI-native' all'Akademy ha scatenato un conflitto aspro: thread cancellati, ban e una campagna per vietare del tutto l'uso degli LLM. Nate Graham ha chiesto scusa per il caos, mentre GNOME discute una policy simile. I nuov...
La violazione dei dati personali di migliaia di funzionari FBI include membri della Remote Operations Unit, con indirizzi, telefoni e nomi dei coniugi. 404 Media ha verificato parte dei 5.000 record attribuiti a ShinyHunters. La sensibilità del leak ...
Dopo il voto sull’uso responsabile dell’AI generativa, Debian lancia un portale inference gratuito per i contributori, finanziato da Scaleway. L’iniziativa abbassa le barriere d’accesso agli LLM, ma solleva interrogativi su dipendenza cloud e control...
Uno studio su otto modelli instruct open-source fino a 9B parametri mostra che il template della chat agisce come un interruttore: quando è presente aumenta i disclaimer "sono solo un'AI" e riduce le espressioni esperienziali, e viceversa. Nei layer ...
Il gruppo ShinyHunters sostiene di aver violato servizi collegati all’FBI e di detenere dati su tutti i dipendenti e candidati. Ha fornito un campione di 5.000 persone con nomi, indirizzi, telefoni e dettagli sui coniugi, verificati in parte con stru...
