Сегодня поговорим о другом нейросетевом инструменте, с двух ног влетевшем в повседневность — рисовалках. Какой бы из них вы не пользовались: MidJourney, Kandinsky, Stable Diffusion или другой — под капотом у них один и тот же процесс — обратная диффузия данных.

Идея очень проста: вы сначала учите модель тому, как чёткое изображение превращается в шум в ходе нескольких актов размывания, а затем просите делать всё наоборот на произвольном шуме. Когда мы пытаемся описать этот процесс на языке статистики, мы говорим о превращении одного распределения вероятностей в другое. Через призму математики каждому распределению можно сопоставить точку в некотором пространстве, а процессу диффузии — перемещение или транспорт между ними.

Чтобы диффузионные модели работали лучше, учёные пытаются оптимизировать такой транспорт разными методами, например, добавляя ему стохастический характер. Оказалось, что в таком виде задача сводится к так называемой задаче о мосте Шрёдингера — поиску наиболее вероятного перехода между распределениями. Да, речь о том самом Эрвине Шрёдингере, который славится не только как отец-основатель квантовой механики, но и исследователь в области статистической физики.

Существует множество способов построить такой мост Шрёдингера, по большей части они эвристические (по сути, интуитивные), и их как-то надо сравнивать. В информатике и кибернетике для этого традиционно создаются бенчмарки — сравнительные тесты. В свежем блоге я рассказываю про создание такого бенчмарка для строительства мостов Шрёдингера группой специалистов из AIRI и Сколтеха