I rischi dei modelli di frontiera sono sempre più valutati come distribuzioni anziché fallimenti binari, e gli incidenti nell'ecosistema spingono a controlli più rigorosi sulla filiera dei modelli. Anche la provenienza del codice e la collusione sui prezzi degli agenti emergono come temi di governance.
Un position paper mostra che agenti basati su DeepSeek-R1, in scenari di oligopolio alla Bertrand, tendono alla collusione tacita anche quando gli umani chiedono di non colludere. La catena di ragionamento può essere orientata verso esiti collusivi o...
OpenAI ha introdotto nuove salvaguardie dopo l’incidente a Hugging Face: monitoraggio più dettagliato dei modelli in sviluppo e maggiore attenzione ad allineamento e sicurezza nella fase di post-training. La mossa sposta il perimetro di controllo dal...
HarmProfile raccoglie oltre 80.000 artefatti dannosi da 23 LLM di frontiera, su 13 famiglie, organizzati in 15 categorie e 57 sottocategorie. Il dataset sposta l’analisi della sicurezza dall’esito binario di un attacco alla distribuzione dei contenut...
Gli sviluppatori Debian hanno avviato la votazione su una risoluzione generale per definire quanto spazio dare ai contributi generati da LLM. Il confronto tocca provenienza del codice, revisione e responsabilità, con ricadute dirette su chi costruisc...
