Smooth maximum
В последнее время YouTube я смотрю больше, чем читаю книги. Поэтому иногда буду и тут рассказывать о чем-то интересном, что узнал оттуда. А смотрю я не только шортс!
Например, из ролика на ютубе я узнал, как построить «гладкий максимум» двух чисел. Оказывается, max(x,y) = 0.5*(x+y) + 0.5*|x-y| - среднее между ними плюс половина расстояния. Дальше модуль (а это причина негладкости) заменяют на квадратный корень из квадрата и добавляют eps для регуляризации/гладкости.
Итог - smoothMax(x,y) = 0.5*(x+y) + 0.5*sqrt((x-y)^2 + eps). На мой взгляд, очень красиво!
https://youtu.be/6Qb6QtC6QMs?is=hB9EwHp8Rg70f50f
#youtube
Подписаться на канал https://t.me/rybasharp
В последнее время YouTube я смотрю больше, чем читаю книги. Поэтому иногда буду и тут рассказывать о чем-то интересном, что узнал оттуда. А смотрю я не только шортс!
Например, из ролика на ютубе я узнал, как построить «гладкий максимум» двух чисел. Оказывается, max(x,y) = 0.5*(x+y) + 0.5*|x-y| - среднее между ними плюс половина расстояния. Дальше модуль (а это причина негладкости) заменяют на квадратный корень из квадрата и добавляют eps для регуляризации/гладкости.
Итог - smoothMax(x,y) = 0.5*(x+y) + 0.5*sqrt((x-y)^2 + eps). На мой взгляд, очень красиво!
https://youtu.be/6Qb6QtC6QMs?is=hB9EwHp8Rg70f50f
#youtube
Подписаться на канал https://t.me/rybasharp