Ottimizzazione combinatoria e LLM: il framework DASH

L'utilizzo di modelli linguistici di grandi dimensioni (LLM) sta rivoluzionando il campo dell'ottimizzazione combinatoria, consentendo la generazione automatizzata di euristiche. Questo approccio, noto come LLM-Driven Heuristic Design (LHD), permette di sviluppare e migliorare iterativamente i risolutori per ottenere prestazioni elevate.

Tuttavia, i framework LHD esistenti presentano delle limitazioni. In particolare, la valutazione dei risolutori si basa unicamente sulla qualità finale della soluzione, ignorando il processo di convergenza e l'efficienza di esecuzione. Inoltre, l'adattamento a nuovi gruppi di istanze può risultare costoso.

Per superare queste limitazioni, è stato proposto Dynamics-Aware Solver Heuristics (DASH), un framework che co-ottimizza i meccanismi di ricerca dei risolutori e le pianificazioni di runtime, guidato da una metrica sensibile alla convergenza. DASH identifica in questo modo risolutori efficienti e ad alte prestazioni. Inoltre, per ridurre i costi di ri-adattamento, DASH incorpora Profiled Library Retrieval (PLR), che archivia in modo efficiente risolutori specializzati durante il processo evolutivo, consentendo warm-start convenienti per distribuzioni eterogenee.

I risultati sperimentali su quattro problemi di ottimizzazione combinatoria dimostrano che DASH migliora l'efficienza di esecuzione di oltre 3 volte, superando al contempo la qualità della soluzione delle migliori soluzioni esistenti su diverse scale di problemi. Inoltre, grazie all'abilitazione di warm start basati su profili, DASH mantiene una precisione superiore in diverse distribuzioni, riducendo i costi di adattamento degli LLM di oltre il 90%.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.