Свежая пачка моделей System One: Jev и Contrastive Language Model (CLM)
Пилишь свои harness-системы? Тогда не проходи мимо новой волны моделей System One. Сначала был Jev. Теперь вот Contrastive Language Model (CLM). И шустрит он в 9 раз бодрее Jev. Выглядит так, что с ролью верификатора CLM справляется лучше — особенно когда задача растянута на длинный горизонт выполнения.
А в чём, собственно, разница между Jev и CLM? CLM учится контрастно, Jev — через Reinforcement Learning for Calibrated Decisions (RLCD). Jev на входе получает ситуацию вместе с заранее определёнными вопросами, а на выходе отдаёт типизированные решения с вероятностями. CLM работает иначе: кодирует ситуацию и возможные действия в эмбеддинги, сравнивает их сходство, после чего ранжирует или выбирает наиболее подходящий вариант.
Соль в том, что решить эту задачу можно несколькими путями, и это правда занятно. Код и веса выложены под Apache 2.0.
👉 Node.JS [ru]
Пилишь свои harness-системы? Тогда не проходи мимо новой волны моделей System One. Сначала был Jev. Теперь вот Contrastive Language Model (CLM). И шустрит он в 9 раз бодрее Jev. Выглядит так, что с ролью верификатора CLM справляется лучше — особенно когда задача растянута на длинный горизонт выполнения.
А в чём, собственно, разница между Jev и CLM? CLM учится контрастно, Jev — через Reinforcement Learning for Calibrated Decisions (RLCD). Jev на входе получает ситуацию вместе с заранее определёнными вопросами, а на выходе отдаёт типизированные решения с вероятностями. CLM работает иначе: кодирует ситуацию и возможные действия в эмбеддинги, сравнивает их сходство, после чего ранжирует или выбирает наиболее подходящий вариант.
Соль в том, что решить эту задачу можно несколькими путями, и это правда занятно. Код и веса выложены под Apache 2.0.
👉 Node.JS [ru]