Il problema dei prompt nei modelli grafo pre-addestrati non è il numero di parametri, ma la loro inizializzazione. TPGC, proposto da un team di ricerca, affronta il disallineamento tra spazio dei prompt, obiettivi di pre-training e caratteristiche strutturali del grafo. La soluzione è una doppia priorità: task prior e structural prior.

I framework multi-task per grafi, di solito, generano prompt casuali. Questo indebolisce la pertinenza al compito, la consapevolezza strutturale e la trasferibilità delle rappresentazioni. TPGC introduce invece due moduli. Il Task-Prior Injection Module esegue un breve pre-training multi-task omologo su un grafo ausiliario: i prompt ereditano le preferenze di ottimizzazione dei compiti pretestuali. Poi, il Structure-Prior Injection Module estrae contesto strutturale globale trasferibile dallo stesso grafo ausiliario e lo converte in vettori di prompt layer-wise, aggregando embedding di nodi strutturalmente informativi.

Sui sei benchmark considerati, per classificazione di nodi e di grafi, TPGC ottiene risultati migliori in few-shot rispetto alle baseline, con meno parametri tunabili per il downstream e runtime più basso.

Perché questo interessa chi valuta deployment on-premise? Il nesso non è immediato, ma è il punto. La riduzione dei parametri tunabili non è una comodità: è una variabile di costo. Meno parametri da aggiornare significano meno memoria occupata, minore traffico tra CPU e GPU e una pipeline di fine-tuning più leggera. In contesti self-hosted, dove le risorse hardware sono vincolate e la sovranità dei dati impedisce di spostare i dataset sul cloud, inizializzare i prompt con priorità strutturali già estratte da un grafo ausiliario può fare la differenza tra un adattamento possibile e uno proibitivo. Non serve riaddestrare il modello da zero, né mantenere tutti i pesi in VRAM per il fine-tuning: si aggiorna solo una parte ridotta del modello.

C'è un segnale strutturale da cogliere. L'idea di usare un contesto globale per preparare i prompt non è limitata ai grafi. Nei modelli linguistici, le tecniche parameter-efficient hanno già mostrato che si può adattare un modello grande senza toccare ogni peso. TPGC estende questo principio al dominio dei grafi, spostando l'attenzione dall'architettura alla strategia di inizializzazione. Questo apre spazi per chi sviluppa modelli su dati locali, spesso non etichettati a sufficienza, dove il few-shot è una condizione strutturale, non un benchmark artificiale.

Chi perde? Chi investe in pipeline di fine-tuning completo su grafi, dove il costo di aggiornare tutti i parametri è giustificato solo da grandi moli di dati etichettati. Ma l'indicazione è chiara: la direzione è l'efficienza parametrica, anche per i grafi.