📁 LLM
AI generated
ℹ️ LocalLLaMA
Deletion Tuning: azzerare lo 0,05% dei pesi eguaglia il full fine-tuning
Un nuovo studio mostra che azzerare meno dello 0,05% dei pesi di un LLM pre-addestrato, senza altre modifiche, eguaglia il full fine-tuning in tre regimi post-training: reinforcement learning con reward verificabili, fine-tuning supervisionato e distillazione on-policy. Il metodo Deletion Tuning apprende una maschera binaria sulla proiezione gate dei blocchi transformer. La maschera è centinaia o migliaia di volte più piccola di un checkpoint FFT e dimentica molto meno il task precedente.
