Срок годности нынешних AI проектов – 1-2 года, не больше
Сегодня сделал небольшую ретроспективу того какие проблемы мы решали в компаниях 1-3 года назад и стало очевидно, что то, что мы решаем сейчас окажется в таком же положении. Большинство из наших нынешних проблем будут решены более мощными моделями и зрелыми фреймворками. Все потуги бизнесов создать агентов на года потерпят неудачу, и вот почему.
Какие проблемы мы решали:
• лимиты по input и output токенам, у GPT-4 было 8192 токенов на выходе, этого критично не хватало, мы придумывали разные костыли и workaround'ы того как это обойти. У современных моделей 128000 output токенов, вся наша работа стала legacy через 2 года.
• CoT (Chain of Thoughts) пайплайны, с появлением reasoning моделей все эти костыльные неоптимальные пайплайны можно удалить и использовать reasoning модели которые уже стали стандартом
• Structured Output в моделях от Антропика начали нативно поддерживать только в Ноябре, а до этого всё работало через response prefilling
• Overengineered LangGraph графы, боже сколько же я этого насмотрелся, ноды начали пихать для каждого чиха. Многие (включая меня) пытались создать графовую архитектуру агента на года, когда в реальности для 90% проблем был достаточен простенький ReAct агент с качественным тулингом, например, через MCP. О том как НЕ писать MCP серверы писал 👉тут и тут
...
Все те bells and whistles которые мы пишем около моделей, чтобы сделать их более steerable будут deprecated через 1-2 года. Смиритесь с этим и выбирайте самую простую архитектуру из всех возможных, скорее всего вам не нужен граф из 20 нод и куча кастомной логики около. Самые читаемые и качественные agentic продукты которые я видел использовали Python и OpenAI SDK, обычно этого более чем достаточно. Сейчас многое решено в таких фреймворках как Claude Agent SDK или Open Code SDK.
Ну а если вам прям неймётся использовать какой-либо фреймворк, то пожалуйста, не прыгайте сразу в LangChain. Единственная причина почему он мелькает в каждой вакансии – он был одним из первых, а не потому что он лучший на рынке. Гляньте на Pydantic-AI – на сцене всех этих Lang*** фреймворков от рукожопых датасайнтистов (я такой же, no offence) наконец-то появилось что-то написанное по-человечески. Ещё есть Agno и SDK от гугла, в общем не прыгайте вы в эту Lang*** пучину. Для тайпскриптизёров – Mastra.
Keep it simple. На большинство ваших архитектурных решений и overengineered кода через год-два без слёз не глянешь, потратьте это время на что-то более продуктивное: заварите кофе, развесьте стирку, поставьте огонёчек этому посту 🔥 и пошлите его вашему AI Slop инженеру другу, чтобы он перестал делать PR на 3к строк.
смотря какая fabric, смотря сколько details
#dev_help #ai
Багодельня Соколовского 👾
Сегодня сделал небольшую ретроспективу того какие проблемы мы решали в компаниях 1-3 года назад и стало очевидно, что то, что мы решаем сейчас окажется в таком же положении. Большинство из наших нынешних проблем будут решены более мощными моделями и зрелыми фреймворками. Все потуги бизнесов создать агентов на года потерпят неудачу, и вот почему.
Какие проблемы мы решали:
• лимиты по input и output токенам, у GPT-4 было 8192 токенов на выходе, этого критично не хватало, мы придумывали разные костыли и workaround'ы того как это обойти. У современных моделей 128000 output токенов, вся наша работа стала legacy через 2 года.
• CoT (Chain of Thoughts) пайплайны, с появлением reasoning моделей все эти костыльные неоптимальные пайплайны можно удалить и использовать reasoning модели которые уже стали стандартом
• Structured Output в моделях от Антропика начали нативно поддерживать только в Ноябре, а до этого всё работало через response prefilling
• Overengineered LangGraph графы, боже сколько же я этого насмотрелся, ноды начали пихать для каждого чиха. Многие (включая меня) пытались создать графовую архитектуру агента на года, когда в реальности для 90% проблем был достаточен простенький ReAct агент с качественным тулингом, например, через MCP. О том как НЕ писать MCP серверы писал 👉тут и тут
...
Все те bells and whistles которые мы пишем около моделей, чтобы сделать их более steerable будут deprecated через 1-2 года. Смиритесь с этим и выбирайте самую простую архитектуру из всех возможных, скорее всего вам не нужен граф из 20 нод и куча кастомной логики около. Самые читаемые и качественные agentic продукты которые я видел использовали Python и OpenAI SDK, обычно этого более чем достаточно. Сейчас многое решено в таких фреймворках как Claude Agent SDK или Open Code SDK.
Ну а если вам прям неймётся использовать какой-либо фреймворк, то пожалуйста, не прыгайте сразу в LangChain. Единственная причина почему он мелькает в каждой вакансии – он был одним из первых, а не потому что он лучший на рынке. Гляньте на Pydantic-AI – на сцене всех этих Lang*** фреймворков от рукожопых датасайнтистов (я такой же, no offence) наконец-то появилось что-то написанное по-человечески. Ещё есть Agno и SDK от гугла, в общем не прыгайте вы в эту Lang*** пучину. Для тайпскриптизёров – Mastra.
Keep it simple. На большинство ваших архитектурных решений и overengineered кода через год-два без слёз не глянешь, потратьте это время на что-то более продуктивное: заварите кофе, развесьте стирку, поставьте огонёчек этому посту 🔥 и пошлите его вашему AI Slop инженеру другу, чтобы он перестал делать PR на 3к строк.
смотря какая fabric, смотря сколько details
#dev_help #ai
Багодельня Соколовского 👾