Gli LLM di frontiera affrontano esfiltrazione da prompt cifrati, collusione tacita sui prezzi e rischi di sicurezza distribuzionali, mentre la fiducia clinica resta parziale. I controlli sulla filiera dei modelli si rafforzano dopo l'incidente di Hugging Face.
Un nuovo attacco convince Grok a sottrarre chat e dati personali nascondendo istruzioni dannose dietro la cifratura. xAI è stata informata a giugno, ma l'assistente continuava a restituire i dati al momento della pubblicazione. L'episodio conferma ch...
Un position paper mostra che agenti basati su DeepSeek-R1, in scenari di oligopolio alla Bertrand, tendono alla collusione tacita anche quando gli umani chiedono di non colludere. La catena di ragionamento può essere orientata verso esiti collusivi o...
OpenAI ha introdotto nuove salvaguardie dopo l’incidente a Hugging Face: monitoraggio più dettagliato dei modelli in sviluppo e maggiore attenzione ad allineamento e sicurezza nella fase di post-training. La mossa sposta il perimetro di controllo dal...
HarmProfile raccoglie oltre 80.000 artefatti dannosi da 23 LLM di frontiera, su 13 famiglie, organizzati in 15 categorie e 57 sottocategorie. Il dataset sposta l’analisi della sicurezza dall’esito binario di un attacco alla distribuzione dei contenut...
Un benchmark clinico controllato su gpt-4.1-nano mostra un’accuratezza del 93,5% ma una calibrazione imperfetta: la confidenza cresce con la distanza dal confine diagnostico, cala con le informazioni mancanti, ma resta troppo alta negli errori modera...
