Ember-1 сейчас активно обсуждают на Hacker News: 465 очков и больше двухсот комментариев
Fireworks Research дообучила Kimi K3 рассуждать короче. Модель учили на реальных задачах по коду отличать рассуждения, которые меняют ответ, от хождения по кругу. В итоге она тратит примерно на 40% меньше токенов.
Тесты против K3:
1) Terminal Bench 2.1: 82% против 80,9%
2) SWE-bench Verified: 92,2% против 93,2%
3) DeepSWE 1.1: 75,2% против 66,4%
На живом трафике по коду рассуждений стало на 71% меньше при той же доле решённых задач. Для агентного программирования Fireworks оценивает расход примерно вдвое ниже.
Но это исследовательская версия, в API Fireworks её открыли на две недели. Ember-1 уже есть в Cline, в том числе в новом десктопном приложении.
Передовую модель необязательно обучать с нуля. Бюджет можно вложить в дообучение сильной модели, которая уже существует.
https://fireworks.ai/blog/ember-1
Fireworks Research дообучила Kimi K3 рассуждать короче. Модель учили на реальных задачах по коду отличать рассуждения, которые меняют ответ, от хождения по кругу. В итоге она тратит примерно на 40% меньше токенов.
Тесты против K3:
1) Terminal Bench 2.1: 82% против 80,9%
2) SWE-bench Verified: 92,2% против 93,2%
3) DeepSWE 1.1: 75,2% против 66,4%
На живом трафике по коду рассуждений стало на 71% меньше при той же доле решённых задач. Для агентного программирования Fireworks оценивает расход примерно вдвое ниже.
Но это исследовательская версия, в API Fireworks её открыли на две недели. Ember-1 уже есть в Cline, в том числе в новом десктопном приложении.
Передовую модель необязательно обучать с нуля. Бюджет можно вложить в дообучение сильной модели, которая уже существует.
https://fireworks.ai/blog/ember-1