Quando un agente LLM non genera una risposta una sola volta, ma continua a correggerla in fase di inference, il valore non sta più soltanto nei parametri del modello. Sta anche nella capacità di usare il tempo di calcolo per iterare. AREX-2 è un progetto che porta questa intuizione sul terreno dei compiti riflessivi a lungo orizzonte: i ricercatori hanno costruito traiettorie sintetiche di miglioramento partendo da problemi di machine learning e programmazione algoritmica, due ambiti in cui il feedback è verificabile e premia l'iterazione. L'agente, costruito su Qwen3.8-27B, impara da questi percorsi a riflettere sulla soluzione corrente per produrne una migliore.

I risultati pubblicati danno sostanza al metodo: 81.8 su MLE-bench Lite, 70.7 su Frontier-CS e, nel trasferimento verso compiti di ricerca approfondita, 84.0 su BrowseComp, 52.6 su HLE, 92.2 su GAIA e 93.8 su DeepSearchQA. Non sono solo punteggi isolati: il dato che conta è che l'agente continua a migliorare quando aumenta il budget di round. È qui che la notizia smette di essere una classifica e diventa una questione di architettura e costi.

Il costo nascosto dei round riflessivi

In un deployment statico, il costo dominante è caricare il modello e servire i token in un colpo solo. Con un agente riflessivo, il costo si sposta sul numero di iterazioni: ogni round aggiuntivo può richiamare il modello, rileggere il contesto e rielaborare la soluzione. Per chi gestisce infrastruttura locale questo non è neutrale. Un modello da 27 miliardi di parametri è relativamente contenuto rispetto ai modelli generalisti di fascia alta e, con le tecniche di quantization ormai consolidate, può entrare in budget hardware più bassi; ma il vero oggetto da governare diventa l'orchestrazione dei round. Servono pipeline che limitino il consumo, mantengano la memoria di contesto e interrompano l'iterazione quando i ritorni calano. AREX-2 suggerisce che, se i dati di addestramento sintetici riescono a insegnare una riflessione efficiente, il guadagno non deriva solo da un modello più grande, ma da un uso più intelligente del calcolo disponibile.

C'è un'implicazione di secondo ordine per chi sviluppa o acquista sistemi self-hosted. I benchmark di ricerca mostrano un trasferimento da domini con feedback verificabile a compiti di ricerca aperti: BrowseComp, HLE e GAIA non sono task da laboratorio, ma proxy di lavoro analitico reale. Se un modello compatto, addestrato su traiettorie sintetiche, raggiunge quei livelli con un budget di round crescente, la barriera per creare assistenti autonomi interni si abbassa. Le organizzazioni che non vogliono inviare dati sensibili a servizi cloud potrebbero valutare loop riflessivi locali, a patto di accettare costi di orchestrazione e monitoraggio più alti. Non è una soluzione magica: ogni round consuma risorse e introduce latenza, e il benchmark non dice nulla sul costo complessivo di un sistema in produzione. Ma il segnale è chiaro: l'automiglioramento in fase di inference sta diventando una leva di progettazione, non un effetto collaterale. Per chi valuta il deployment on-premise, il nodo non è solo quale modello scegliere, ma come orchestrare i cicli di riflessione senza far lievitare il TCO; AI-RADAR raccoglie framework analitici su /llm-onpremise per chi vuole valutare questi trade-off.