➡️ Разница: Autoencoders и Variational Autoencoders
Autoencoders и Variational Autoencoders на схемах выглядят почти одинаково: encoder → latent space → decoder.
⏺️ Но различие между ними решает, просто ли модель сжимает данные или действительно может генерировать новое.
Обычный autoencoder работает детерминированно: одно изображение всегда превращается в один и тот же латентный вектор и восстанавливается обратно в одну и ту же реконструкцию.
✳️Модель обучается быть максимально точной, поэтому отлично подходит для сжатия, удаления шума, выделения признаков и поиска аномалий.
Проблема появляется при попытке семплирования.
Autoencoder не обязан делать latent space гладким и непрерывным. Близкие точки могут давать совершенно разные изображения, а случайная точка чаще всего превращается в шум. Это не ошибка — модель просто не училась быть генеративной.
VAE меняет ключевую идею: вместо одной точки он кодирует изображение в распределение (среднее и разброс), из которого затем семплируется латентный вектор.
✳️ Пространство дополнительно регуляризуется, чтобы быть гладким и структурированным. В результате рядом — значит похоже, между точками можно интерполировать, а случайные сэмплы начинают выглядеть правдоподобно.
⏺️ Поэтому autoencoders — это про представления и сжатие, а VAEs — про генерацию. И именно из этой идеи выросли современные вероятностные подходы к генерации изображений.
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста
#буст
Autoencoders и Variational Autoencoders на схемах выглядят почти одинаково: encoder → latent space → decoder.
⏺️ Но различие между ними решает, просто ли модель сжимает данные или действительно может генерировать новое.
Обычный autoencoder работает детерминированно: одно изображение всегда превращается в один и тот же латентный вектор и восстанавливается обратно в одну и ту же реконструкцию.
✳️Модель обучается быть максимально точной, поэтому отлично подходит для сжатия, удаления шума, выделения признаков и поиска аномалий.
Латентное пространство здесь — это удобный код для реконструкции, а не пространство для творчества.
Проблема появляется при попытке семплирования.
Autoencoder не обязан делать latent space гладким и непрерывным. Близкие точки могут давать совершенно разные изображения, а случайная точка чаще всего превращается в шум. Это не ошибка — модель просто не училась быть генеративной.
VAE меняет ключевую идею: вместо одной точки он кодирует изображение в распределение (среднее и разброс), из которого затем семплируется латентный вектор.
✳️ Пространство дополнительно регуляризуется, чтобы быть гладким и структурированным. В результате рядом — значит похоже, между точками можно интерполировать, а случайные сэмплы начинают выглядеть правдоподобно.
VAE немного теряет в чёткости реконструкции, зато получает осмысленное генеративное пространство.
⏺️ Поэтому autoencoders — это про представления и сжатие, а VAEs — про генерацию. И именно из этой идеи выросли современные вероятностные подходы к генерации изображений.
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста
#буст