Кому нужна нейросеть, которая не умеет писать?
Вчера первое место в трендах Hugging Face заняла Clef – открытая модель решений от Cloudflare. Всего же в первой тридцатке шесть таких моделей: две версии Clef, Laya, Julia-1 и две модели лаборатории AutoTrust. Их главная работа – не писать текст, а выбирать. Тогда откуда такая популярность?
Про модели решений я уже писал, когда рассказывал, как GPT-6 проходила Дракона Края в Minecraft в паре с Jev – закрытой нейросетью, с которой мода на такие штуки и началась. GPT-6 тогда планировала прохождение, а Jev отвечала за “рефлексы” – быстро выбирала следующее действие по ее критериям.
В этом и есть сила моделей решений: они ничего не сочиняют. Обычная нейросеть пишет ответ слово за словом, и чем он длиннее, тем дольше ждать. Модели решений на входе получают ситуацию и готовый список вариантов. Например, письмо и три папки: “срочно”, “подождет”, “спам”. Она читает все один раз и сразу расставляет проценты: “срочно – 92%, подождет – 6%, спам – 2%”. Отсюда скорость: ответ приходит за доли секунды. И отсюда же предсказуемость: четвертую папку модель не придумает, потому что выбирать может только из списка.
Моду задал стартап TypeSafe: в середине сентября он одновременно показал Jev и объявил о $40 млн инвестиций (и, по слухам, уже ведет переговоры о миллиарде). Jev закрытая и работает только в облаке стартапа, поэтому энтузиасты почти сразу собрали открытые аналоги – с тем же форматом запросов, но на общедоступных нейросетях. OpenAI в конце месяца представила сервис Decisions API – пока для избранных клиентов. Cloudflare, в отличие от OpenAI, выложила Clef целиком. Громкое имя плюс открытые веса и завоевали Clef первое место в трендах.
У Cloudflare для такой модели есть работа и внутри компании. Ее команде по киберугрозам нужно быстро понимать, что за сайт перед ней: обычный магазин или ловушка, которая ворует пароли. Clef открывает страницу и разом примеряет к ней весь список категорий: “мода – 95%, интернет-магазин – 85%, фишинг – меньше 1%”. На все уходит 2,2 секунды. Обычной нейросети в той же цепочке понадобилось 4,7, и назвала она только две категории.
Модель вышла в двух версиях, большой и быстрой, понимает картинки, чего Jev не умеет, и принимает запросы в ее формате. По замерам самой Cloudflare, сортирует Clef лучше Jev. Зато на экзаменах по сложной науке, где верный ответ надо выбрать из четырех, Jev впереди с большим отрывом: 78 баллов против 48. А в облаке большая Clef еще и почти в шесть раз дороже.
Скачать веса можно даром, но сама компания проверяла их на серверной видеокарте, каких дома не держат.
Я установил и проверил Clef на своей игровой системе с RTX 3090. Ну как я – я просто дал команду Codex: он подобрал вариант модели, скачал, установил и прогнал тесты. Мне подошла большая версия, сжатая почти втрое: она заняла 19,5 из 24 ГБ видеопамяти и отвечает менее чем за секунду.
А вот с тестами была проблема: установив Clef, я понял, что у меня просто нет для нее задач. В итоге мы с Codex придумали полусинтетический тест, в котором Clef быстро сортировала поводы для ТГ-канала: новый, повтор, обновление, мало данных. Модель справилась хорошо, но вообще такая задача может пригодиться для большого информагентства, но не для блогера с 1–2 постами в день. Думал над другими вариантами – разбор почты, тасков в Jira – но везде приходил к выводу, что секундная экономия не стоит установки отдельной модели.
Впрочем, не все так плохо.
Модели решений нужны двум категориям пользователей: компаниям с потоком однотипных задач, как у Cloudflare, и ИИ-агентам – в том числе, нашим с вами. Схема та же, что в Minecraft: большая нейросеть планирует, быстрая по ее критериям выбирает – внутри Codex или Claude Code такая пара должна работать и быстрее, и дешевле. Ждать, похоже, недолго: поставить и проверить модель решений Codex уже умеет сам, осталось начать ей пользоваться. Так что выбирать такую нейросеть будете не вы, а ваш агент.
—
Кстати, у меня есть большой лонгрид, как выбрать и установить открытую модель. Глава про эксперименты с Clef в него уже добавлена.
Вчера первое место в трендах Hugging Face заняла Clef – открытая модель решений от Cloudflare. Всего же в первой тридцатке шесть таких моделей: две версии Clef, Laya, Julia-1 и две модели лаборатории AutoTrust. Их главная работа – не писать текст, а выбирать. Тогда откуда такая популярность?
Про модели решений я уже писал, когда рассказывал, как GPT-6 проходила Дракона Края в Minecraft в паре с Jev – закрытой нейросетью, с которой мода на такие штуки и началась. GPT-6 тогда планировала прохождение, а Jev отвечала за “рефлексы” – быстро выбирала следующее действие по ее критериям.
В этом и есть сила моделей решений: они ничего не сочиняют. Обычная нейросеть пишет ответ слово за словом, и чем он длиннее, тем дольше ждать. Модели решений на входе получают ситуацию и готовый список вариантов. Например, письмо и три папки: “срочно”, “подождет”, “спам”. Она читает все один раз и сразу расставляет проценты: “срочно – 92%, подождет – 6%, спам – 2%”. Отсюда скорость: ответ приходит за доли секунды. И отсюда же предсказуемость: четвертую папку модель не придумает, потому что выбирать может только из списка.
Моду задал стартап TypeSafe: в середине сентября он одновременно показал Jev и объявил о $40 млн инвестиций (и, по слухам, уже ведет переговоры о миллиарде). Jev закрытая и работает только в облаке стартапа, поэтому энтузиасты почти сразу собрали открытые аналоги – с тем же форматом запросов, но на общедоступных нейросетях. OpenAI в конце месяца представила сервис Decisions API – пока для избранных клиентов. Cloudflare, в отличие от OpenAI, выложила Clef целиком. Громкое имя плюс открытые веса и завоевали Clef первое место в трендах.
У Cloudflare для такой модели есть работа и внутри компании. Ее команде по киберугрозам нужно быстро понимать, что за сайт перед ней: обычный магазин или ловушка, которая ворует пароли. Clef открывает страницу и разом примеряет к ней весь список категорий: “мода – 95%, интернет-магазин – 85%, фишинг – меньше 1%”. На все уходит 2,2 секунды. Обычной нейросети в той же цепочке понадобилось 4,7, и назвала она только две категории.
Модель вышла в двух версиях, большой и быстрой, понимает картинки, чего Jev не умеет, и принимает запросы в ее формате. По замерам самой Cloudflare, сортирует Clef лучше Jev. Зато на экзаменах по сложной науке, где верный ответ надо выбрать из четырех, Jev впереди с большим отрывом: 78 баллов против 48. А в облаке большая Clef еще и почти в шесть раз дороже.
Скачать веса можно даром, но сама компания проверяла их на серверной видеокарте, каких дома не держат.
Я установил и проверил Clef на своей игровой системе с RTX 3090. Ну как я – я просто дал команду Codex: он подобрал вариант модели, скачал, установил и прогнал тесты. Мне подошла большая версия, сжатая почти втрое: она заняла 19,5 из 24 ГБ видеопамяти и отвечает менее чем за секунду.
А вот с тестами была проблема: установив Clef, я понял, что у меня просто нет для нее задач. В итоге мы с Codex придумали полусинтетический тест, в котором Clef быстро сортировала поводы для ТГ-канала: новый, повтор, обновление, мало данных. Модель справилась хорошо, но вообще такая задача может пригодиться для большого информагентства, но не для блогера с 1–2 постами в день. Думал над другими вариантами – разбор почты, тасков в Jira – но везде приходил к выводу, что секундная экономия не стоит установки отдельной модели.
Впрочем, не все так плохо.
Модели решений нужны двум категориям пользователей: компаниям с потоком однотипных задач, как у Cloudflare, и ИИ-агентам – в том числе, нашим с вами. Схема та же, что в Minecraft: большая нейросеть планирует, быстрая по ее критериям выбирает – внутри Codex или Claude Code такая пара должна работать и быстрее, и дешевле. Ждать, похоже, недолго: поставить и проверить модель решений Codex уже умеет сам, осталось начать ей пользоваться. Так что выбирать такую нейросеть будете не вы, а ваш агент.
—
Кстати, у меня есть большой лонгрид, как выбрать и установить открытую модель. Глава про эксперименты с Clef в него уже добавлена.