На прошлой неделе я написал огроомный обзор на Jev, основанный на двух часах интервью их СЕО и изучении их же кукбука.
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/