Разговор с футурологом

Очередные откровения моей любимой бизнес-школы.

Кстати, то мое пророчество 2023 года сбылось неоднократно. Программу-то запустили и не одну, только пока все еще не туда.

@yusufovruslan

Мы много говорим о человеческой лени и замене нашей собственной думалки внешним ИИ-мозгом.

Консультанты по всему миру уже массово превратились в генераторов материалов для клиентов — я это вижу и в докладах, и в отчетах, и в очных презентациях, и в научных разборах.

А вот еще один слой: эксперты. На картинках несколько примеров из разных российских отчетов с экспертным мнением.

Ничего не замечаете? 🧐

Вот то-то же. Человек принимает финальное решение, ага.

И получается такой вот цикл: эксперт сгенерировал ответ на вопрос в своей области экспертизы, мнения экспертов проанализировали с помощью ИИ и выдали за консолидированное экспертное знание уже сами консультанты.

Что тут скажешь? Консультанты (и внешние, и внутренние) доезжают к полустанку на последних дрожжах, человеческое мнение и экспертиза будут стремительно девальвироваться, а потом наступит очень болезненная эпоха поглощений с дисконтом бигтехами с уже практически неизбежным технологическим феодализмом.

@yusufovruslan

Поле битвы будущего — человеческая субъектность

Я часто говорю о человеческой субъектности как о поле битвы XXI века — о способности самому формулировать намерение, принимать решения, отвечать за них и узнавать себя в результате собственного труда.

Я вижу, что это болит не только у меня — Интернет вообще все чаще напоминает сеанс групповой терапии. Где-нибудь на Reddit сотни анонимных инженеров, дизайнеров, исследователей и консультантов рассказывают друг другу, как они перестали понимать, зачем работают. Жалобы иногда слезливые, иногда смешные, иногда откровенно истерические.

Один разработчик описывает крупную компанию, где спецификации, код, тесты, тикеты и отчеты делает Claude Code. Люди работают по 12–13 часов, но их задача фактически свелась к тому, чтобы нажимать Enter и отправлять результат дальше. Читать сгенерированное некогда: руководство увидело, что код теперь можно производить быстрее, и решило, что весь цикл разработки должен ускориться пропорционально.

Но если код можно сгенерировать за минуты, то вот понять его, проверить и встроить в живую систему за минуты уже не получится, потому что человеческое внимание осталось на прежней скорости. И вместо того чтобы признать предел человеческого осмысления, компании предлагают проверять ИИ-код другим ИИ.

Возникает странная конструкция. Человек все меньше контролирует результат, но по-прежнему отвечает за последствия, такая вот прокладка между моделью и продакшеном — теплое тело, чье имя можно поставить в поле «ответственный», когда что-нибудь сломается.

Отсюда одна из самых болезненных тем мясных творцов: исчезновение чувства победы. Раньше сложная задача могла мучить несколько дней, зато после решения оставалось ощущение, что ты вырос, чему-то научился, сделал вещь, которой до тебя не было. Теперь результат появляется почти сразу, но переживания авторства не возникает, да и все окружающие думают, что ты там лениво навайбкодил за ванильным латте.

Параллельно разрушается коллективное мышление. Один сотрудник генерирует требования, другой отдает их своему ИИ, тот предлагает правки, которые читает следующая модель; ИИ пишет письма, резюме встреч, отчеты и даже похвалу коллегам — фактически люди все реже разговаривают друг с другом и все хуже понимают, что именно происходит.

Особенно тяжело новичкам. Раньше профессия передавалась через небольшие задачи, вопросы, совместную отладку и ревью старших. Теперь универсальный совет звучит так: «Спроси Claude Code». Джуниор может за день внести изменения, до которых самостоятельно дорастал бы месяцами, но скорость выполнения больше не превращается в навык (если не считать навыком нажимание Enter).

Опытные же сотрудники еще способны заметить плохое решение, но объем машинного выпуска быстро превосходит их возможности. Pull request на десятки тысяч строк можно создать за день, а полноценно проверить — только за много дней, но когда инженер говорит об этом, ему советуют использовать ИИ для ревью.

И вот в такой новой логике созидания люди производят больше, понимают меньшую долю произведенного и испытывают более тяжелую когнитивную нагрузку. В компаниях, где главным показателем остается скорость поставки, ИИ формирует машину, производящую последствия быстрее, чем организация успевает их осознать.

Если эта траектория сохранится, нас ждет экономика видимой производительности: документы будут писать модели для моделей, код — генерироваться агентами и проверяться другими агентами, а решения — проходить через людей, которые не успели их понять. Мы получим организации без авторов: огромные, быстрые, убедительные системы, в которых все что-то согласовали, но никто ничего не решил.

Так возникнет новый разрыв: между людьми, которые управляют моделями из собственной позиции, и людьми, чья позиция постепенно собрана моделями. И особо ценными будут те, кто сохраняет собственную картину происходящего, способен сказать «нет», объяснить причинность и взять ответственность только за то, что действительно понимает.

@yusufovruslan

Очень хорошо получилось — поговорили и про ИИ, и про императоров человечества, и про пробирки в ООН 😉

@yusufovruslan

Был вчера на Forbes Club в вышке и передавал смыслы прямо в молодое поколение.

@yusufovruslan

Еду с РБК, читаю новость: британский король Карл III встретится с руководителями Nvidia, OpenAI, Google DeepMind и Anthropic, тема — как разрабатывать и внедрять искусственный интеллект «на благо человечества».

Ой, не могу. Еще одно заседание совета директоров человечества — на этот раз под королевским патронажем и во дворце.

Сегодняшних эфир про ИИ и судьбы мира здесь: https://tv.rbc.ru/archive/den/6aa7b4d62ae596434f7ceefb

@yusufovruslan

Лейтмотив лирики Лермонтова лидеров крупнейших ИИ-бигтехов: пожалуйста, умоляем вас, остановите развитие ИИ, надо срочно замедляться, — щедро посыпаемый новостями об увольнениях из лабораторий исследователей по причине «я больше морально не могу тут работать» даже с заявлениями «я бы отдал все свои акции, если бы смог это остановить!» и сдабриваемый прогнозами об уничтожении человечества с вероятностью больше 10%.

Разумеется, им никто не верит, и на поверхности здесь комбинация нескольких стимулов: это пиар — «наши модели такие мощные, что мы сами их боимся»; разгон нарратива под привлечение новых денег — «наши модели такие страшные, что финансирование нужно увеличить»; и подстилание соломки под будущие бунты плебеев с вилами против головных офисов — «это не мы плохие, мы пытались предупредить весь мир об опасности».

Пока продвинутая часть этого мира обменивается письмами в поддержку замедления ИИ, которые от лидеров ИИ-разработки выглядят как странная мольба «пожалуйста, остановите нас», а наблюдатели на реддите недоумевают, к кому именно эти техношаманы обращаются, параллельно выходят новости об использовании ИИ «хорошими» военными из США, «плохими» rebels из неугодных режимов — и русскими, разумеется, для шпионажа и пропаганды.

Добровольно тормозить невыгодно никому. Если Anthropic остановится, OpenAI, Google, китайские лаборатории или военные программы могут продолжить движение. Возникает классическая дилемма заключенного: всем вместе снизить риски выгодно, но каждому отдельно выгоднее ускоряться. Так что настоящий смысл призывов к «замедлению» — это попытка сделать замедление управляемым, причем желательно так, чтобы правила одновременно соблюдали все конкуренты.

А так как конкуренты соблюдать правила не будут, или чего хуже, придумают собственные правила — как Китай для БРИКС+, то дальше появляется замечательный повод для «принуждения к миру» в рамках демократических бомбардировок во имя спасения человечества, тут даже пробирку в ООН приносить не надо, достаточно пресс-релиза — этот сценарий уже описан в моей книге.

Получится замедлить — выиграют очков в глазах общественности и спасут человечество от самих себя. Не получится — соберут денег на ускорение прогресса, чтобы обгонять китайцев и останавливать русских. А выживание человечества — это, знаете ли, не айтишная тема, мы старались, как могли — вот письма даже есть. Можно этими письмами будет обложиться и погибать достойно, высокоморальным человеком.

@yusufovruslan

Мы спорим не о купальниках. Или все же о купальниках?

В публичном поле снова обсуждают учителей, которые выкладывают фотографии в купальниках.

Одна позиция: учитель — это наставник, и его публичный образ должен соответствовать высоким моральным требованиям. Вторая: учитель имеет право на личную жизнь, и фото с пляжа само по себе ничего не говорит о качестве преподавания, нравственности или способности быть примером для детей.

Если залезть под купальник чуть глубже, то мы можем предположить, что настоящий спор — он о границах между личной жизнью и профессиональной ролью, о свободе и ответственности, о моральном авторитете и внешней демонстрации приличия, о защите детей и контроле над взрослыми, наконец, о балансе между общественным доверием и праве на индивидуальность.

Обе стороны призывают ценностям: для одной важны воспитание, моральный пример, духовность и единая культурная рамка; для второй — достоинство, свобода, автономия и оценка человека по его реальным поступкам, а не по внешнему образу.

Поэтому спор быстро заходит в тупик: каждая сторона защищает важное благо, но обсуждает его через крайний пример. В результате разговор превращается в соревнование личных вкусов: что считать «откровенным», что считать «приличным», какой образ жизни считать правильным.

Как решать подобные стратегические вопросы?

Первый шаг — отделить факт от оценки и понять благо, которому причиняется вред. При этом моральное раздражение еще не доказывает общественного вреда.

1️⃣ Факт: учитель разместил фотографию в купальнике.

2️⃣ Оценка: это неприлично, безнравственно или несовместимо с профессией.

3️⃣ Гипотеза: такая публикация может подрывать доверие к учителю или причинять вред детям.

Любое решение возможно только после проверки последней гипотезы.

Если мы хотим думать за пределами пиара и популизма и сформировать устойчивое правило, придется подумать глубже внешней формы купальника. Реально важный вопрос звучит так:

Как общество должно защищать детей, профессиональные границы и доверие к институту образования, не превращая моральную оценку в произвольный контроль личной жизни?

Кейс про купальники — частный, но он заставляет нас идти дальше и думать об основаниях критериев «желаемого» будущего: достаточно ли просто фиксировать общественный запрос, если сам этот запрос может быть результатом деградации среды?

В пророческом фильме «Идиократия» общество смотрит фильм про задницу не потому, что оно осознанно выбрало такую культуру, а потому что постепенно разучилось хотеть и воспринимать что-то другое. Общественное мнение необходимо учитывать, но оно не может автоматически становиться проектом будущего. Приведу другой пример: общество может хотеть ничего не делать и бесплатно получать деньги, но это не означает, что именно так и следует строить будущее.

Наконец, в кейсе про купальники важен вопрос о качестве самого общества.

Способно ли оно различать факт и интерпретацию? Отличать вред от раздражения? Сохранять доверие без требования единого образа жизни? Защищать детей без лишения взрослых достоинства и автономии?

Будущее потребует именно этой способности, потому что частная жизнь будет становиться еще более видимой — а значит, нужно научиться различать реальное нарушение границ и несогласие с чужим образом жизни. Иначе мы будем вынуждены запрещать людям быть разными.

Моральному авторитету института образования придется опираться на компетентность, честность, ответственность, уважение к детям и способность отвечать за реальные последствия своих действий.

Ох, как это сложно. Возвращаемся к первоначальной посылке: давайте лучше обсудим форму купальников!

@yusufovruslan

Самый дорогой экранный час — в годовалом возрасте

Исследователи наблюдали за детьми с 1 года до 10,5 лет. Самая сильная связь обнаружилась в самом раннем возрасте: каждый дополнительный час перед экраном в возрасте одного года был связан с результатом учебного теста в девять лет примерно на 1,5 балла ниже.

Я сначала напрягся и подумал, что ученики с пятерки скатились аж до четверки с минусом, но все не так страшно: речь идет о стандартизированном тесте, где средний результат — 100 баллов.

Тем не менее негативная связь есть, причем она сохранялась даже после поправок на семейные и социальные факторы. Конечно, это не доказывает, что экран сам по себе отнимает баллы: он может быть маркером другой среды — меньше разговоров со взрослыми, сна, движения и самостоятельной игры.

Но именно поэтому результат интересен. Мы готовимся дать детям персональных ИИ-репетиторов, говорящие игрушки и бесконечно адаптивный контент. Исследование напоминает: значение имеет возраст, в котором появляется цифровой продукт, а еще — что именно он вытесняет.

@yusufovruslan