Альберт
Мне кажется тут можно подумать в сторону продуктового применения внутри каких-нибудь компаний.
Допустим есть два проекта:
- внутренний ассистент по докам/jira/confluense/stash (тут скорее нужен reasoning)
- какой-то ассистент на внешних пользователей , хз например автоответы по описанию обьявлений, если ты маркетплейс (тут ризониг не нужен)
но рпс у обоих сервисов не высокий, поэтому вместо двух отдельных инстансов модели (ризонинг и инстракт) которые недоутилизируют компьют, можно поднять один с гибридом
Допустим есть два проекта:
- внутренний ассистент по докам/jira/confluense/stash (тут скорее нужен reasoning)
- какой-то ассистент на внешних пользователей , хз например автоответы по описанию обьявлений, если ты маркетплейс (тут ризониг не нужен)
но рпс у обоих сервисов не высокий, поэтому вместо двух отдельных инстансов модели (ризонинг и инстракт) которые недоутилизируют компьют, можно поднять один с гибридом