e/acc

Сегодня был в Lighthaven, отеле-пространстве-сообществе (довольно приличном, кстати, не сквот), общался с автором gwern.net — очень интересный мужик, прям красиво рассказывает. И делает интересный проект, с целью дать каждому человеку персональный, не принадлежащий лабам, постоянно обучающийся и управляемый тобой ИИ "ангела". Проект амбициозный, стадия максимально ранняя, но сегодня этого достаточно чтобы поднять жалкие 20-30 млн чисто "на поиграться".

Параллельно в том же пространстве проходила конфа на тему алаймента и ИИ безопасности. Средний таймлайн участников такой, что после 2028 вряд ли останется место в экономике, а после 2030 вряд ли останется место для белковой формы жизни. Но там в основном студенты были, и у меня не было времени поговорить с ними и понять детально аргументы.

А вообще, одна из главных проблем с ИИ не в том что он умеет или как быстро развивается, а в том, что большинство людей вне индустрии почти не следит и не представляет себе что происходит.

Да, можно надышаться копиумом из разряда «если вы читаете этот канал или у вас локальный инференс + оркестрация 500 агентов каждую ночь, то вы входите в топ 1% людей», но реальность такова, что если вы работаете в одной из топ лаб в департаменте, который занимается рисерчем или стратегией, то вряд ли имеете реальное представление или возможность его получить.

Пропасть колоссальная, но любая идея из серии выбрать свою любимую маргинальную точку зрения и с пеной у рта её доказывать — заранее провальна. Полезнее же пытаться смотреть на первые принципы, менять свои priors и, конечно, звучать самопротиворечиво для тех, кто не делает то же самое.

В реальности логическая цепочка от "GPT взломал Huggingface" до "все и каждый представителей человечества уничтожены" примерно такая же длинная и бессвязная как от "мой кривой и косой промт в ллм не смог мне создать чертеж по госту" до "ии не является главным драйвером экономики".

Об эффектах второго порядка ИИ в экономике и бизнесе

Для начала, несколько базовых трендов и аксиом, чтобы мы могли обсуждать тему на одном языке:

1. LLM могут являться (имхо, точно не являются) путём к полноценному AGI/ASI в физическом мире, но они достаточны для выполнения большинства чисто когнитивных задач в совеременной экономике
2. Текущий уровень агентов, харнесов, моделей, лупов, оркестраторов вполне достаточен для того чтобы автоматизировать значительное (30%+) задач в экономике знаний (офисные задачи, коммуникация, любая работа с информацией и информационными системами)
3. Модели значительно улучшаются каждые ~3 месяца, цена за тот же уровень способностей падает как минимум вдвое каждые ~6 месяцев, open source модели с такими же способностями появляются на рынке через ~4 месяца после релиза SotA.
4. Наивная математика на основе этих вводных говорит что 30% задач от экономики знаний (~400 млн ролей) с трендом на увеличение качества и снижение цены уже сегодня подлежат автоматизации, и этот процент должен приблизиться к 60% в течении следующих пары лет.

Теперь о том, что я лично наблюдаю в процессе этой трансформации:

1. Для любой компании с долей офисного труда, автоматизация как минимум 30% работы сегодня возможна, необходима и неизбежна.
1.1 Неизбежна, потому что этого требуют конкурентные силы или проще говоря "жареный петух". Если ваш ближайший конкурент повышает свою эффективность, операционную маржу и продает сервис дешевле и лучше качеством, то у вас нет выбора не меняться. В каждой индустрии этот процесс начинается с разной скоростью, но начавшись, он продолжается как домино пока те, кто не смог трансформироваться не умрут, а остальные не перейдут на новые рельсы.
1.2 30% это очень рандомная цифра, но я не верю что она может быть меньше 20% для компаний размером от 1000 человек. Скорее всего, это ближе к 40-50% тех ролей и задач, которые людям делать не нужно. Это требует сокращения, объединение и пересмотрение ролей.

2. Главным препятствием на пути транформации является не технология, а воля. Любая компания должна:
- оцифровывать, записывать и иметь онтологию относительно 100% работы, артефактов и коммуникаций внутри, вплоть до движения мышки секретаря
- иметь агентские клоны для каждого такого оцифрованного процесса с доступом в реальном времени обновляемую базу знаний всего о бизнесе от сообщений клиентов до анонсов конкурентов или договоров с поставщиками
- иметь, анализировать и улучшать трейсы этих агентских задач
- иметь четкие эвалы для оптимизации автоматизации (пожалуй, два слова, которые точнее всего суммаризируют весь пост)
2.1 Этот процесс для компаний от 1к сотрудников займет не меньше года, но скорость крайне важна (см пункт 1.1)
2.1 Но это требует решимости, риска, видения и "яиц". Для многих крупных компаний принять решение о сокращении половины штата не может принять наемный СЕО и уж тем более не может это сделать кто-то под ним, потому что они сами боятся за свое место. В итоге из-за нерешительности и попытки защищить свои теплые местечки, компания целиком рискует своим успехом или даже существованием.

3. Именно автоматизация оптимизации, а не социализм гарантирует выживание в этой системе. Если вы топ-менеджер крупой компании или политик, то вы будете слышать постоянно лозунги о справедливости, потому что они выглядят как добродетель, но на самом деле разрушают общество: «Давайте чуть-чуть снизим прибыль бизнесу», «Давайте чуть-чуть сделаем менее жёсткий найм», «Давайте чуть-чуть поднимем налоги и раздадим».
3.1 В итоге, когда рост замедляется, людям кажется, что богатые всё забрали. Они требуют ещё больше перераспределения. А это ещё сильнее давит на рост. Получается замкнутый круг, который ведёт к почти нулевому, а потом и отрицательному росту.

4. Мораль? Её тут нет, кроме того что спасение утопающего это роль самого утопающего. Ни Альтман, ни Маск не пытаются построить коммунизм, но каждая компания в мире и только она ответственна на свое выживание. Это выживание потребует очень сложных и тяжелых решений в все более и более конкурентной среде. И главный челендж этих решений это не просто "внедрение", а редизайн организации вокруг новых возможностей. Простая замена Пети-юриста на Клода-маркетолога не решит проблему, потому что проблема не в тупом выполнении задач, а в дизайне такого процесса маркетинга, который находит новых клиентов и генерирует продажи все лучше и лучше по мере того как им управляют агенты, автономно учась на ошибках 24/7 быстрее любого сотрудника.
4.1 Это, конечно, приведет к полной автоматизации любого интеллектуального труда (тема отдельного эссе), но, кстати, создание новых бизнес-процессов и бизнес-функций, которые с нуля задизайнены для агентов может стать неплохой профессией на этом около-финальном отрезке гонки.