Мы обучили Qwen 235B так, что на наших задачах модель работает на уровне GPT-4.1, при этом существенно снижая затраты компании.

В докладе расскажу, как мы готовим и фильтруем данные для обучения inhouse LLM, какие пайплайны используем на разных этапах и какие ошибки успели собрать по пути. В результате слушатели получат практический рецепт, который поможет дообучить open-source LLM под свою задачу с упором на главное — качественные данные.

Мы долго работали над улучшением ретривы: тестирование различных архитектур, построение бенчмарков, поиск и создание качественных данных.

Теперь готов рассказать, почему ретривы со временем перестают работать, как правильно измерять их качество и какие подходы реально улучшают выдачу без усложнения пайплайна. Это будет разбор нашего кейса из продакшена с минимумом теории — так поймёте, что стоит делать, а что не имеет смысла.