Квантовый энкодер📝
Сидел я в новогодние праздники и подумал, что нужно как-то применить квантовую механику в ML и вот что получилось:
Расскажу про текстовый энкодер, это модель, которая кодирует текст с помощью так называемых эмбеддингов (векторов по сути) и из этого вектора следует, что где-то в плоскости этот текст точечно находится "здесь", однако смыслов может быть много 🤔
Я попробовал сделать на выходе квантовый модуль, и теперь результат модели имеет суперпозицию, то есть облако смыслов для входного текста, где разные варианты переплетаются и влияют друг на друга, а не точка в пространстве
Работает на библиотеке PennyLane, которая симулирует кубиты (это, как обычный биты, только у нас не 0 или 1, а 0 и 1 одновременно, просто они распределены по вероятности), есть и другие симуляторы, но они не поддерживают обратный процесс для параметров, поэтому для квантового ML чаще юзается эта библиотека
Итог 🤔
Получилось что-то интересное с чем можно много поиграться, улучшать и смотреть красивые визуализации, которые доступны только с комплексными числами и квантовыми состояниями. Считаю, что перспектива у квантового ML очень велика и этот термин будет проникать все больше, и больше, тк квантовые компы уже на пороге
На GitHub-е находится код с более подробными объяснениями и графиками, можете глянуть и поставить звездочку 💥
На пути R&D: 1443
@RnDLabs | #квантмех@rndlabs #research@rndlabs
Сидел я в новогодние праздники и подумал, что нужно как-то применить квантовую механику в ML и вот что получилось:
Расскажу про текстовый энкодер, это модель, которая кодирует текст с помощью так называемых эмбеддингов (векторов по сути) и из этого вектора следует, что где-то в плоскости этот текст точечно находится "здесь", однако смыслов может быть много 🤔
Я попробовал сделать на выходе квантовый модуль, и теперь результат модели имеет суперпозицию, то есть облако смыслов для входного текста, где разные варианты переплетаются и влияют друг на друга, а не точка в пространстве
Работает на библиотеке PennyLane, которая симулирует кубиты (это, как обычный биты, только у нас не 0 или 1, а 0 и 1 одновременно, просто они распределены по вероятности), есть и другие симуляторы, но они не поддерживают обратный процесс для параметров, поэтому для квантового ML чаще юзается эта библиотека
Итог 🤔
Получилось что-то интересное с чем можно много поиграться, улучшать и смотреть красивые визуализации, которые доступны только с комплексными числами и квантовыми состояниями. Считаю, что перспектива у квантового ML очень велика и этот термин будет проникать все больше, и больше, тк квантовые компы уже на пороге
На GitHub-е находится код с более подробными объяснениями и графиками, можете глянуть и поставить звездочку 💥
На пути R&D: 1443
@RnDLabs | #квантмех@rndlabs #research@rndlabs