Video oldindan ko‘rish uchun mavjud emas
Telegram'da ko‘rish
было бы круто найти способ переводить векторизацию внутреннего представления между моделями, сохраняя при этом meaning
в теории это могло бы работать так: берём два распределения над representation manifolds (те пространства векторов, которые выучивают модели) и ищем transport map, который минимизирует discrepancy по какому-то feature family (переносим массу из семантической геометрии одной модели в другую, не теряя структуру, которая и делает это чем-то осмысленным)
это все звучит довольно theory-heavy, так что я скоро пошерю еще технические базовые объяснения для основы всего этого
если вдруг знаете тех, кто этим занимается, напишите пожалуйста в комментах или в личку ("этим" = optimal transport для representation alignment, cross-model semantic transfer, или любая другая связанная математика) 🙂
@aimalysheva
в теории это могло бы работать так: берём два распределения над representation manifolds (те пространства векторов, которые выучивают модели) и ищем transport map, который минимизирует discrepancy по какому-то feature family (переносим массу из семантической геометрии одной модели в другую, не теряя структуру, которая и делает это чем-то осмысленным)
это все звучит довольно theory-heavy, так что я скоро пошерю еще технические базовые объяснения для основы всего этого
если вдруг знаете тех, кто этим занимается, напишите пожалуйста в комментах или в личку ("этим" = optimal transport для representation alignment, cross-model semantic transfer, или любая другая связанная математика) 🙂
@aimalysheva