Generazione di dati sintetici per tool calling multi-turn

La generazione di dati sintetici si è dimostrata una risorsa preziosa per ottimizzare modelli linguistici più piccoli ed economici, al fine di gestire le complessità delle conversazioni multi-turn di tool calling. Un nuovo studio introduce DiGiT-TC, un metodo di generazione dati progettato per produrre conversazioni di tool calling con caratteristiche simili a quelle generate in ambienti stateful.

Ambienti stateful vs. stateless

Molti framework esistenti presumono che le interazioni di tool calling avvengano in un ambiente di esecuzione che mantiene lo stato. Questo approccio facilita la convalida delle interazioni, verificando se lo stato dell'ambiente di esecuzione corrisponde a un obiettivo predefinito. Tuttavia, in contesti reali come ambienti enterprise con stringenti requisiti di sicurezza dei dati o quando le specifiche degli strumenti sono sintetizzate da più fonti, tale approccio non è sempre applicabile.

DiGiT-TC: un nuovo approccio

DiGiT-TC affronta questa problematica attraverso un pattern di generazione che permette di rappresentare implicitamente determinate chiamate agli strumenti nella richiesta dell'utente. La validazione su benchmark standard di tool calling dimostra che questo approccio porta a significativi guadagni di performance, anche in contesti stateful.