Мнимая идея📝
Пока изучал комплексные числа, пришла идея расширить возможности нейросетей путем добавления комплексного пространства. Это может дать все возможные и невозможные действия с числами, например, извлечения корней из отрицательных чисел и большую гибкость с данными. Спросил у perplexity про идею, оказалось, такое уже есть, называются они: "Комплекснозначимые Нейронные Сети" (КНС)…
Как они работают и чем отличаются от обычных?
⚫️КНС оперируют с комплексными числами, в которых есть действительная и мнимая части. Все данные в КНС — комплексные числа: входные данные, весовые коэффициенты и функции активации.
⚫️Нейроны в КНС мощнее, чем в обычных нейросетях, так как работают сразу с двумя измерениями признаков — действительной и мнимой частью.
👀Где их можно использовать?
Они хорошо применимы, где идет работа с фазами или амплитудами, с помощью таких сложных штук, как преобразование Фурье, можно разложить звуковую дорожку на амплитуды, колебания, фазы и работать с этим, однако в современных решениях не находил, чтобы такой вид нейросетей применялся, но может быть скоро их где-то увидим :)
На пути R&D: 1298
@RnDLabs | #funfact@rndlabs
Пока изучал комплексные числа, пришла идея расширить возможности нейросетей путем добавления комплексного пространства. Это может дать все возможные и невозможные действия с числами, например, извлечения корней из отрицательных чисел и большую гибкость с данными. Спросил у perplexity про идею, оказалось, такое уже есть, называются они: "Комплекснозначимые Нейронные Сети" (КНС)…
Как они работают и чем отличаются от обычных?
⚫️КНС оперируют с комплексными числами, в которых есть действительная и мнимая части. Все данные в КНС — комплексные числа: входные данные, весовые коэффициенты и функции активации.
⚫️Нейроны в КНС мощнее, чем в обычных нейросетях, так как работают сразу с двумя измерениями признаков — действительной и мнимой частью.
👀Где их можно использовать?
Они хорошо применимы, где идет работа с фазами или амплитудами, с помощью таких сложных штук, как преобразование Фурье, можно разложить звуковую дорожку на амплитуды, колебания, фазы и работать с этим, однако в современных решениях не находил, чтобы такой вид нейросетей применялся, но может быть скоро их где-то увидим :)
На пути R&D: 1298
@RnDLabs | #funfact@rndlabs