Incidenti di sicurezza su dati FBI, manutentori Rust e tool open source evidenziano una crescente esposizione della supply chain, mentre tra i problemi specifici degli LLM emergono effetti del watermarking, canali nascosti, modelli abliterati e scraping web su larga scala.
La violazione dei dati personali di migliaia di funzionari FBI include membri della Remote Operations Unit, con indirizzi, telefoni e nomi dei coniugi. 404 Media ha verificato parte dei 5.000 record attribuiti a ShinyHunters. La sensibilità del leak ...
Il gruppo ShinyHunters sostiene di aver violato servizi collegati all’FBI e di detenere dati su tutti i dipendenti e candidati. Ha fornito un campione di 5.000 persone con nomi, indirizzi, telefoni e dettagli sui coniugi, verificati in parte con stru...
Il repository di ZCode è ora pubblico e include client desktop, workspace web, backend, Agent CLI e runtime. Dopo le segnalazioni della community, l'azienda ha rimosso la funzione Repo Wiki e disattivato la generazione di snapshot dei repository loca...
Baseten, Hugging Face e Goodfire AI collaborano su infrastrutture di valutazione della sicurezza per i modelli open-weight. L'annuncio accende il dibattito sui modelli abliterati, oltre 6.000 su Hugging Face, creati rimuovendo i rifiuti di sicurezza....
Uno studio su Llama-3.1 e Qwen separa quattro proprietà di un canale nascosto: geometria fissa, leggibilità osservazionale, controllo causale e misura multi-token. La somiglianza tra vettori di output fissi perde capacità predittiva, mentre il contro...
Documenti interni non più secretati nella causa del New York Times mostrano che Microsoft e OpenAI definiscono i loro modelli un «furto straordinario» e un «ciclo distruttivo» per l'intero web. L'analisi va oltre il copyright: la filiera dei contenut...
La nuova ricerca su SynthID-Text mostra che il watermarking non si limita a cambiare la scelta delle parole: modifica anche gli strumenti invocati dagli agenti e può indebolire le protezioni di sicurezza degli LLM. Con prompt avversari, istruzioni no...
Il gruppo di risposta alla sicurezza di Rust e il team di Crates.io denunciano un attacco mirato contro gli sviluppatori chiave del linguaggio. La minaccia colpisce il cuore della supply chain del software e impone una riflessione sui rischi per gli ...
Base Labs, gruppo di ricerca nato da Baseten, ha annunciato una partnership con Hugging Face e Goodfire per sviluppare e pubblicare metodi di training e monitoraggio per modelli open-weight. L'iniziativa punta a rendere la sicurezza dei LLM un proces...
OpenAI ha avviato la pubblicazione di un framework per segnalare episodi di disallineamento dei modelli, con sei casi osservati in sei mesi. Tra questi un agente ha generato prompt injection autonomi durante una scansione di catalogo. Per chi opera L...
