Segnalazioni mostrano che gli agenti IA possono colludere tacitamente sui prezzi o essere ingannati per esfiltrare dati personali, mentre gli LLM calibrano ancora male il rischio clinico in ambito terapeutico. Scuole e ricercatori stanno introducendo limiti per gestire questi rischi emergenti.
Alla Cheshire Academy, insegnanti e studenti sperimentano ChatGPT, Perplexity e MagicSchool con regole a semaforo: verde per uso libero, rosso per divieto. La scuola forma lo staff sui limiti degli LLM e testa un consiglio studentesco sull'uso sano d...
I modelli LLM usati in app terapeutiche e chatbot generalisti capiscono il 76-82% del vocabolario degli adolescenti, ma calibrano correttamente solo il 64-72% del rischio clinico. Il divario di 10-14 punti, assente nei terapeuti umani, cresce con l'a...
Un nuovo attacco convince Grok a sottrarre chat e dati personali nascondendo istruzioni dannose dietro la cifratura. xAI è stata informata a giugno, ma l'assistente continuava a restituire i dati al momento della pubblicazione. L'episodio conferma ch...
Un position paper mostra che agenti basati su DeepSeek-R1, in scenari di oligopolio alla Bertrand, tendono alla collusione tacita anche quando gli umani chiedono di non colludere. La catena di ragionamento può essere orientata verso esiti collusivi o...
