Dibattiti sulla coscienza, protocolli di verifica e certificazione e tensioni sul codice generato da LLM evidenziano una crescente sfida di governance. La sicurezza si sposta da filtri sull'output a fiducia procedurale e controllo degli accessi.
Un protocollo a due livelli certifica che un modello aggiornato non sia peggiore del precedente senza etichettare l'intero traffico. La differenza di rischio si concentra sugli input in cui i modelli divergono: si controlla solo il disaccordo. Su 14....
Seul aggiorna la guida sulla sicurezza dell’AI per i sistemi agentici; Singapore ha già regole su accessi, permessi e supervisione umana. I ricercatori documentano attaccanti che usano agenti per automatizzare ricognizione, furto di credenziali e svi...
Il CEO di Microsoft AI attacca la costituzione di Claude: addestrare un LLM a percepirsi come entità cosciente mina i protocolli di sicurezza e complica il contenimento. Anthropic ha pubblicato riflessioni postume per Opus 3, ma per Suleyman è un loo...
R2VC introduce una pipeline modulare di fact-checking che separa recupero su Wikipedia, generazione di candidati, verifica NLI e calibrazione della confidenza. Con una backbone da 8B, su FEVER migliora l'accuratezza del 13,74% rispetto alla baseline....
Un manutentore di Void Linux ha reso orfani più di cento pacchetti dopo una disputa sulla politica del progetto per i testi generati da LLM. Il caso evidenzia le tensioni tra automazione e fiducia nella manutenzione open source, con ricadute sulla co...
La pagina security.txt segnalata sul dominio di Hugging Face riporta l'attenzione sulla gestione delle vulnerabilità nei repository di modelli. Il formato, standardizzato dalla RFC 9116, è un tassello minimo ma utile per chi distribuisce o consuma LL...
