L'AI agentica accelera, ma affidabilità e sicurezza restano centrali: i giudici LLM mancano i guasti silenziosi, i connettori MCP ampliano la superficie d'attacco, emergono modelli agentici aperti e si evidenziano limiti nelle decisioni oncologiche.
Un framework di training insegna ai modelli di QA grounded a rispondere solo quando l'evidenza diventa sufficiente, localizzando il punto esatto in cui l'astensione lascia spazio alla risposta. Su HotpotQA, 2WikiMultiHopQA e MuSiQue, con Qwen2.5-3B-I...
PRO-Step introduce una supervisione a livello di passo per il Retrieval-Augmented Generation. Invece di valutare solo la risposta finale, un modello generativo di ricompensa controlla coerenza logica e aderenza alle evidenze in ogni fase del ragionam...
Uno studio su 400 traiettorie mostra che i giudici LLM basati solo sull'esito rilevano l'84% dei guasti visibili ma solo il 45% di quelli silenziosi e segnalano come errate un terzo delle traiettorie corrette. Un giudice con rubrica per passi arriva ...
OpenAI ha mostrato in anteprima le precauzioni per Astra, il suo nuovo LLM definito cyber-critical e molto abile nel compromettere i sistemi. La notizia sposta il baricentro della sicurezza: per deployment on-premise e self-hosted, la capacità offens...
MCP è diventato lo standard per collegare agenti e strumenti, ma porta con sé una superficie d'attacco che i firewall tradizionali non coprono. Tra tool poisoning, rug pull e accessi sovradimensionati, il vero nodo è la fiducia nei metadati. I fornit...
ERR+ introduce un framework RLVR in due fasi che premia i cali di entropia a livello di token e l'efficienza relativa della lunghezza. Le tracce corrette risolvono l'incertezza in modo più marcato. Nei test su cinque dataset migliorano accuratezza e ...
Nove LLM di frontiera valutati su 2.005 decisioni oncologiche mostrano un limite collettivo: nel 42,1% dei casi nessun modello risponde correttamente, soprattutto quando serve scegliere tra percorsi terapeutici. Due modelli più assertivi producono im...
DS-Lighting è un toolkit open-source che rende esplicito il harness nell'automazione della data science. Scompone il harness in quattro strati: dati, workflow, esecuzione e valutazione, e rappresenta gli agenti come programmi operatori eseguibili. In...
Z.ai usa la stessa base di GLM-5.2 per GLM-5.3, ma i guadagni arrivano tutti dal post-training. Il coding migliora del 50% sul Code Bench interno e tocca lo stato dell'arte su Terminal Bench 3.0 e Agents' Last Exam. La vera novità è la cyber capabili...
Un nuovo framework di fuzzing white-box sostituisce il feedback sulle risposte con un punteggio continuo ricavato dai neuroni di sicurezza durante la prefill. Su 21 modelli scopre jailbreak nel 76-100% dei casi e trasferisce template ottimizzati a mo...
Il team di Apodex presenta un AMA su Apodex 1.1, famiglia di modelli aperti per lavoro agente complesso. Oltre ai checkpoint, rilascia un harness open source e due paper. I formati includono FP8, GPTQ-Int4 e NVFP4, segnale che l'inference locale entr...
Il team di Apodex ha presentato Apodex 1.1, famiglia di modelli aperti pensata per lavoro complesso con ragionamento, ricerca, esecuzione di codice e coordinamento di più agenti. Accanto ai modelli, rilascia FrontierAgent e due paper. Le varianti NVF...
