многие продукты сегодня рассчитаны на AI pricing, который вероятно не будет таким же низким всегда
и у части стартапов вообще нет плана Б, если экономика поменяется
вот основное, что может помочь в таких случаях:
(1) opensource модели,
(2) модели поменьше и подешевле,
(3) более умный model routing
на практике это значит:
• начинать использовать OSS уже сейчас, даже если он похуже
• для простых задач использовать маленькие модели
• для сложных использовать constellation of models
@aimalysheva
и у части стартапов вообще нет плана Б, если экономика поменяется
вот основное, что может помочь в таких случаях:
(1) opensource модели,
(2) модели поменьше и подешевле,
(3) более умный model routing
на практике это значит:
• начинать использовать OSS уже сейчас, даже если он похуже
• для простых задач использовать маленькие модели
• для сложных использовать constellation of models
@aimalysheva