Tendenze dalla conferenza ICLR 2026

Un'analisi dei paper accettati alla conferenza ICLR 2026 evidenzia alcune tendenze chiave nel mondo della ricerca sull'intelligenza artificiale, con implicazioni dirette per chi si occupa di training e fine-tuning di modelli localmente.

  • Allineamento: GRPO (Group Relative Policy Optimization) sembra aver superato DPO (Direct Preference Optimization) come metodo preferito per l'allineamento dei modelli.
  • RLVR vs RLHF: La ricerca si concentra sempre più su Reinforcement Learning with Verifiable Rewards (RLVR), specialmente in domini dove la correttezza può essere verificata programmaticamente (matematica, codice, logica), riducendo la necessità di costose annotazioni umane.
  • Efficienza dei dati: Un paper, "Nait", dimostra che il training su un sottoinsieme di dati Alpaca-GPT4, selezionato in base all'attivazione dei neuroni, può superare il training sull'intero dataset. Questo suggerisce che gran parte dei dati di instruction tuning sono ridondanti.
  • Inference: Cresce l'interesse per tecniche di training e adattamento durante la fase di test (test-time training/adaptation/scaling), con implicazioni per l'ottimizzazione dell'inference su hardware locale.
  • Architetture: Mamba e gli State Space Models (SSM) rimangono un'area di ricerca attiva, potenzialmente offrendo alternative all'attenzione che funzionano meglio su hardware consumer.
  • Sicurezza: Modelli con migliori capacità di seguire le istruzioni sono risultati più vulnerabili ad attacchi di prompt injection tramite gli output degli strumenti.
  • Allucinazioni: La riduzione delle allucinazioni e il miglioramento della fattualità rimangono sfide aperte, con un approccio interessante che le considera un problema di retrieval grounding piuttosto che di generazione.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per supportare queste valutazioni.