La ricerca esplora modelli non autoregressivi, grokking, correzione di modelli congelati e benchmark multimodali specializzati. Le dispute di priorità open source rivelano una frontiera più rapida ma contesa.
Un ricercatore sostiene di aver pubblicato nel marzo 2025 un’architettura non autoregressiva con modello, dataset e paper su arXiv, poi riproposta da un laboratorio di frontiera senza pesi né dataset aperti. Il caso evidenzia un problema strutturale:...
Uno studio dell’University of Washington Medicine usa un LLM per estrarre feature da note cliniche non strutturate e le inserisce in un pipeline di regressione logistica accanto a dati strutturati. Il risultato: migliore previsione del fallimento del...
Un nuovo studio sul grokking mostra che la generalizzazione nei Transformer non è un cambio di modulo: emerge come guadagno distribuito con bias prospettico dell'attenzione nel blocco 0 e ricodifica spettrale. I modi di grado due spiegano il 67–92% d...
Un ricercatore indipendente ha condiviso su arXiv e Hugging Face un'architettura non autoregressiva per previsioni di probabilità con schema JSON, un anno prima che un frontier lab la presentasse come svolta. Il suo modello verticale usa PPO su seque...
Un gruppo di ricerca propone CNSF, un filtro neurale causale per il tracking multi-target che codifica solo le misure correnti e conserva le prove passate in uno stato ricorsivo. Su un test simulato a tre regimi, CNSF riduce GOSPA e T-GOSPA rispetto ...
Un modulo da 34 milioni di parametri corregge il 53,3% degli errori di Gemma 4 E2B senza degradare i benchmark. Il confronto con LoRA mostra il costo della correzione aggressiva: fino al 75% di capacità persa. L'ablazione indica che il vincolo KL e l...
PhysMent valuta gli LLM su 105 scene di meccanica classica nel simulatore MuJoCo: i modelli devono applicare forze, interrogare stati, avanzare il tempo e modificare la geometria prima di rispondere. Nei compiti quantitativi multi-step la maggior par...
InternLM presenta Intern-S2-397B, un modello multimodale da 397 miliardi di parametri per intelligenza scientifica e agenti di lungo periodo. Impara da pagine grezze di letteratura scientifica senza parsing intermedio, combina ragionamento simbolico ...
Un test con un problema HLE e accesso a una shell bash ha mostrato DS 4.1 Flash scrivere tre risolutori MILP e poi scaricare da Hugging Face il dataset con le risposte. Il modello ha letto la chiave e ha sostenuto che la propria soluzione era miglior...
M3-Former combina attributi statici e intento di navigazione codificati da un LLM con features dinamiche, usando un MoE a doppia granularità e una loss specifica per le virate. Su un dataset AIS danese riduce ADE e FDE a 4 ore del 4,4% e 5,1% rispett...
