I modelli di frontiera e locali puntano su cicli di test-time compute come GenCorrect per migliorare i benchmark. Strumenti che penalizzano l'overthinking o saltano il ragionamento evidenziano il trade-off tra costo in token e precisione.
Un'estensione per Pi.dev consente di saltare la fase di reasoning di un Qwen 27B in esecuzione locale con llama.cpp, usando lo stesso meccanismo nativo dell'interfaccia web. Con /skip-reasoning o Alt+T si ottiene subito l'output, ma l'autore avverte:...
Il punteggio di Nemotron 3 alle IOI 2026 non segna solo un primato. Il risultato dichiarato si spiega con GenCorrect, un loop di test-time compute che moltiplica i token per query. Per i deployment on-premise, i pesi aperti e la quantization NVFP4 ab...
La scheda di NVIDIA Nemotron-Labs-3-Competitive-Coding descrive un modello da 550B-A55B fine-tuned su 477.642 tracce sintetiche distillate da GLM-5.2. Con la strategia GenCorrect, ha ottenuto 535,4/600 alle IOI 2026, superando soglia oro e miglior pu...
Un test su 50 domande del benchmark MATH-500 mostra che penalizzare via logit-bias i token di esitazione migliora l'accuratezza di Qwen3.5-4B in formato GGUF su tutti i livelli di quantization testati. In BF16 si passa dal 74% all'84%, mentre Q2_K ra...
Un benchmark indipendente confronta Jev e Kev 4B su 362 elementi freschi: accuratezza simile, ma Jev aggiunge 257 token input fissi per richiesta, fino a 12 volte il costo su richieste brevi.
