ProvenanceGuard: tracciare la provenienza per mettere in sicurezza gli agenti LLM
Un nuovo studio propone un framework basato sull’analisi della provenienza per rilevare il misalignment negli agenti LLM, riducendo drasticamente i falsi negativi e gli interventi superflui. I test su Agent-SafetyBench e WorkBench mostrano un calo del tasso di errore dal 42,9% all’1,8% e una riduzione degli interventi su azioni corrette dal 30,5% al 12,8%, senza bloccare più del necessario le chiamate strumentali legittime. Un passo avanti per chi gestisce deployment self-hosted e cerca auditability.