Мал, да удал 🕸
Приходит понимание, что не всегда нужно использовать большие модели для многих задач. И дело тут не только в цене. Небольшие модели могут быть не только good enough для вашей задачи, а даже сильнее фронтирной. Как например на Ai Arena в агентном рейтинге DeepSeek v4 Flash тусуется в компании гиганстких моделей других производителей. Тут важно понимать, что малые модели работают быстрее, а значит во время обучения они могут сожрать больше обучающих примеров. Это дает возможность заточиться на некоторые способности лучше большой фронтирной сетки.
🔺Пример 1: я генерую код сервисов (бэкенд, фронтенд) в основном на DeepSeek v4 Flash. Тут не нужен супермен Клод. Большой объем такого кода обычен и стандартен, там редко попадаются сложные моменты, поэтому такие малые модели на него хорошо заточены.
🔺Пример 2: в экспериментальном проекте по генерации парсеров пашет тоже Флэшка. И во многих запусках она работает лучше, чем Pro версия!
Вывод тут простой: в некоторых ситуациях малые модели могут быть сильнее, и они будут 100% дешевле.
Приходит понимание, что не всегда нужно использовать большие модели для многих задач. И дело тут не только в цене. Небольшие модели могут быть не только good enough для вашей задачи, а даже сильнее фронтирной. Как например на Ai Arena в агентном рейтинге DeepSeek v4 Flash тусуется в компании гиганстких моделей других производителей. Тут важно понимать, что малые модели работают быстрее, а значит во время обучения они могут сожрать больше обучающих примеров. Это дает возможность заточиться на некоторые способности лучше большой фронтирной сетки.
🔺Пример 1: я генерую код сервисов (бэкенд, фронтенд) в основном на DeepSeek v4 Flash. Тут не нужен супермен Клод. Большой объем такого кода обычен и стандартен, там редко попадаются сложные моменты, поэтому такие малые модели на него хорошо заточены.
🔺Пример 2: в экспериментальном проекте по генерации парсеров пашет тоже Флэшка. И во многих запусках она работает лучше, чем Pro версия!
Вывод тут простой: в некоторых ситуациях малые модели могут быть сильнее, и они будут 100% дешевле.