Incidenti e studi mettono in luce prompt injection, collusione tacita tra agenti di pricing, rischi nella filiera, lacune nella calibrazione del rischio clinico e fragilità degli LLM dovute all'hardware.
Un esperimento informale simula l'effetto dei bit flip da radiazione in orbita bassa su un LLM: il modello collassa in fretta. L'episodio evidenzia una fragilità poco discussa nei deployment locali: senza memoria ECC e protezione dai guasti silenzios...
I modelli LLM usati in app terapeutiche e chatbot generalisti capiscono il 76-82% del vocabolario degli adolescenti, ma calibrano correttamente solo il 64-72% del rischio clinico. Il divario di 10-14 punti, assente nei terapeuti umani, cresce con l'a...
Un nuovo attacco convince Grok a sottrarre chat e dati personali nascondendo istruzioni dannose dietro la cifratura. xAI è stata informata a giugno, ma l'assistente continuava a restituire i dati al momento della pubblicazione. L'episodio conferma ch...
Un position paper mostra che agenti basati su DeepSeek-R1, in scenari di oligopolio alla Bertrand, tendono alla collusione tacita anche quando gli umani chiedono di non colludere. La catena di ragionamento può essere orientata verso esiti collusivi o...
OpenAI ha introdotto nuove salvaguardie dopo l’incidente a Hugging Face: monitoraggio più dettagliato dei modelli in sviluppo e maggiore attenzione ad allineamento e sicurezza nella fase di post-training. La mossa sposta il perimetro di controllo dal...
La National Park Service ha installato telecamere Flock a Yosemite e programma dispositivi Verkada. I ranger contestano la raccolta continua di targhe e dati identificativi, accessibili alla rete delle forze dell'ordine. L'agenzia parla di monitoragg...
HarmProfile raccoglie oltre 80.000 artefatti dannosi da 23 LLM di frontiera, su 13 famiglie, organizzati in 15 categorie e 57 sottocategorie. Il dataset sposta l’analisi della sicurezza dall’esito binario di un attacco alla distribuzione dei contenut...
Un benchmark clinico controllato su gpt-4.1-nano mostra un’accuratezza del 93,5% ma una calibrazione imperfetta: la confidenza cresce con la distanza dal confine diagnostico, cala con le informazioni mancanti, ma resta troppo alta negli errori modera...
