From AR to Diffusion: Efficiently Adapting Large Language Models with Strictly Causal and Elastic Horizons
📄 Статья
Рубрика - гуру эффектного сравнения.
Берешь более новую AR модельку с высокими скорами на бенчах, адаптируешь ее типа под диффузию теряя 30% качества, но зато дешево.
С ней не сравниваешься, а только с моделями позапрошлого поколения, бьешь их.
Stonks!
📄 Статья
Рубрика - гуру эффектного сравнения.
Берешь более новую AR модельку с высокими скорами на бенчах, адаптируешь ее типа под диффузию теряя 30% качества, но зато дешево.
С ней не сравниваешься, а только с моделями позапрошлого поколения, бьешь их.
Stonks!