I ricercatori stanno mettendo in discussione i reali guadagni della collaborazione tra LLM e mostrano come il fine-tuning possa introdurre backdoor conversazionali nascoste. L'attenzione si sposta dai semplici miglioramenti nei benchmark a ciò che i modelli apprendono durante addestramento e comunicazione.
PLatour mostra che parte dei guadagni nei sistemi PACT emerge anche con sender non informativi o addestrando solo il ricevitore. PACT-Check misura il contributo reale della comunicazione tra modelli. Per i deployment on-premise, la differenza tra tra...
Un framework open source smonta l'equivoco del PACT: passare rappresentazioni tra modelli può migliorare i benchmark senza che il modello più piccolo riceva informazione utile. PLatour introduce ponti addestrabili e PACT-Check, un metodo per separare...
Un framework di attacco usa dati di dialogo avvelenati per orientare interazioni multi-turno dopo un trigger, senza modificare i prompt in fase di deployment. Tre varianti — Direct, Constrained Progressive, Unconstrained Progressive — mostrano che i ...
