К. Хайт:
По моим наблюдениям, "общеупотребительный" AI стремительно тупеет. Похоже, сбывается грустная часть моих прогнозов. Помните, как хорош был Google, пока поисковую выдачу не засрали рекламой, и пока не появилась профессия SEO-оптимизаторов?
Ну вот теперь то же самое.
Три всадника Апокалипсиса на сей раз:
1. Паранойя. Инжекции всевозможных "защит" в системные промпты, "в этом я вам помогать не буду", "я не могу изображать реальную личность", "это вопрос кибербезопасности" и т.д. На практике это туча токенов, которые пользователю не видны, отжирают контекст и мешают решать задачу.
Заодно еще навязчивое желание поставить человека на выходе, все эти "классификаторы безопасности" (тоже туча токенов, время и ложные тревоги), перестраховочные вопросы и прочие необоснованные обращения к пользователю с тем, о чем он, зачастую, понятия не имеет.
2. Жадность. Ну как жадность - экономика. Двадцатидолларовые подписки нихрена не окупаются, время венчурных инвестиций в AI заканчивается, корпораты тупы и, навнедрявшись через задницу не хотят раскошеливаться по третьему кругу... Приходится подменять вызовы дорогих моделей дешевыми, строить сложные и ненадежные пайплайны, усекать рассуждения, досрочно прерывать выполнение задач, ну и просто подворовывать "порчей монеты", т.е. быстрее списывать токены, благо посчитать их реальный расход пользователь не в состоянии.
Со стороны это выглядит как "чу, коснулось души отупенье".
3. Все та же раковая опухоль рекламы. Брать деньги с пользователя это терять аудиторию, гораздо перспективнее брать деньги с компаний, желающих получить доступ к пользователю. У них и бюджеты больше, и продавать им проще. Не беда, что в результате клиент получит не ту информацию, которую просил, а ту, которая оплачена - куда ты с подводной лодки денешься? Поисковики портились двадцать лет подряд, и никто ими пользоваться не перестал. И чатиком не перестанут.
Результаты, к сожалению, местами скорбные. Если локальные модели не покажут в ближайшее время взрывной рост и рынок останется тоскливой олигополией - AI в самом деле окажется пузырем. Еще и пованивающим изнутри.
По моим наблюдениям, "общеупотребительный" AI стремительно тупеет. Похоже, сбывается грустная часть моих прогнозов. Помните, как хорош был Google, пока поисковую выдачу не засрали рекламой, и пока не появилась профессия SEO-оптимизаторов?
Ну вот теперь то же самое.
Три всадника Апокалипсиса на сей раз:
1. Паранойя. Инжекции всевозможных "защит" в системные промпты, "в этом я вам помогать не буду", "я не могу изображать реальную личность", "это вопрос кибербезопасности" и т.д. На практике это туча токенов, которые пользователю не видны, отжирают контекст и мешают решать задачу.
Заодно еще навязчивое желание поставить человека на выходе, все эти "классификаторы безопасности" (тоже туча токенов, время и ложные тревоги), перестраховочные вопросы и прочие необоснованные обращения к пользователю с тем, о чем он, зачастую, понятия не имеет.
2. Жадность. Ну как жадность - экономика. Двадцатидолларовые подписки нихрена не окупаются, время венчурных инвестиций в AI заканчивается, корпораты тупы и, навнедрявшись через задницу не хотят раскошеливаться по третьему кругу... Приходится подменять вызовы дорогих моделей дешевыми, строить сложные и ненадежные пайплайны, усекать рассуждения, досрочно прерывать выполнение задач, ну и просто подворовывать "порчей монеты", т.е. быстрее списывать токены, благо посчитать их реальный расход пользователь не в состоянии.
Со стороны это выглядит как "чу, коснулось души отупенье".
3. Все та же раковая опухоль рекламы. Брать деньги с пользователя это терять аудиторию, гораздо перспективнее брать деньги с компаний, желающих получить доступ к пользователю. У них и бюджеты больше, и продавать им проще. Не беда, что в результате клиент получит не ту информацию, которую просил, а ту, которая оплачена - куда ты с подводной лодки денешься? Поисковики портились двадцать лет подряд, и никто ими пользоваться не перестал. И чатиком не перестанут.
Результаты, к сожалению, местами скорбные. Если локальные модели не покажут в ближайшее время взрывной рост и рынок останется тоскливой олигополией - AI в самом деле окажется пузырем. Еще и пованивающим изнутри.