Репост из: Refat Talks: Tech & AI
Чем умнее агенты, тем дороже ваша поверхностность
Замечаю вокруг тревожный паттерн: сильные инженеры, которые раньше вникали в суть и тащили, все чаще перекладывают решения на AI-агента и скользят по поверхности. Например, вместо нормального рисерча приносят ответ агента, едва понимая, что в нем написано. И обходится это куда дороже, чем кажется.
Снаружи все выглядит норм (и даже продуктивно): код пишется, 5 тасок закрыто, еще 5 фич сделано по дороге (изи же). Но ощущение ложное - все это круто, только пока суть под контролем. А часто человек не понимает даже, какую проблему решает, - что уж говорить про само решение. То есть формально у нас AI-assisted engineering (harness и AI-кодинг инфра развиваются, строятся целые системы вокруг этого), а фактически - тихий съезд в вайб-кодинг, хотя это принципиально разные способы делать софт.
И модели сейчас настолько продвинутые, что легко поддаться иллюзии: агент разбирается лучше меня, пусть он и решает. Отсюда один шаг до "ну это Codex так нарешал, вопросы к нему". Так вот нет. Когда вы поручаете работу агенту, может казаться, что это теперь его работа. На самом деле это ваша работа и ваша ответственность. А агент - ваш инструмент. Иначе эта задача не попала бы к вам в руки! Эти железяки - потрясающая вещь и могут сделать вас кратно продуктивнее, но без понимания - это просто множитель когнитивного долга.
Теперь про парадокс из заголовка. У агентов есть рычаг: раньше он был небольшим, но сейчас агенты часами крутятся в фоне и производят больше кода, больше инфраструктурных изменений, больше лишних фич (привет loop engineering). Раньше сгенерированное хотя бы чаще проходило через глаза, осознанность чередовалась с автоматикой. И да, может я скажу базу, но поднять кучу агентов одновременно легко, но ваша когнитивная пропускная способность так не параллелится. Это еще называют налогом на оркестрацию.
Что со всем этим делать, до конца не знает никто - мы все еще учимся жить и работать в этой эпохе. Но я тут не призываю просто к тому, чтобы вы сдерживались и использовали AI как можно меньше. Этот совет исходил бы из компромисса "либо понимание, либо делегирование" - а по моему опыту все ровно наоборот: чем глубже вникаю, тем больше делегирую. Поэтому в трех вещах я уверен.
Первое: глубоко вникать до делегирования - кстати, я уже писал об этом в марте. Понимание - множитель делегирования: видишь, какие куски безопасно отдать, и можешь дешево проверить результат. Тонут в выводе агентов те, кто отдал территорию без карты в голове. У кого карта есть - видит проблему раньше, чем всю эту работу придется выкинуть. Агент как бы работает в задаче, а твое место - над задачей: что делаем, зачем, и как поймем, что готово.
Второе: строить эту карту помогает тот же самый AI, если развернуть его от производства к пониманию: задавать вопросы, просить челленджить твои выводы, сжимать сложное до принципов. Безопасно делегировать можно только то, что смог понять и способен сжать. И объяснимость обязана лежать в основе проектирования наших систем.
Третье: не верить ощущению "да все понял". Всю карьеру усилие было датчиком обучения: тяжело - значит растешь. AI убрал трение, а вместе с ним и этот датчик - потерю понимания теперь просто не чувствуешь. Ощущения врут, поэтому нужны внешние проверки:
- Тест на ошибку: если бы агент здесь ошибся - я бы заметил?
- Тест на пересказ: объяснить решение коллеге или резиновой уточке, не заглядывая в чат.
- Чистый лист: сначала набросать свою версию, и только потом открывать чат. AI тут - твой оппонент, а не твой автор.
А вы замечаете это скольжение по поверхности (за коллегами или за собой)? И как с этим боретесь?
🔥 ➕ 🔁 @nobilix
Замечаю вокруг тревожный паттерн: сильные инженеры, которые раньше вникали в суть и тащили, все чаще перекладывают решения на AI-агента и скользят по поверхности. Например, вместо нормального рисерча приносят ответ агента, едва понимая, что в нем написано. И обходится это куда дороже, чем кажется.
Снаружи все выглядит норм (и даже продуктивно): код пишется, 5 тасок закрыто, еще 5 фич сделано по дороге (изи же). Но ощущение ложное - все это круто, только пока суть под контролем. А часто человек не понимает даже, какую проблему решает, - что уж говорить про само решение. То есть формально у нас AI-assisted engineering (harness и AI-кодинг инфра развиваются, строятся целые системы вокруг этого), а фактически - тихий съезд в вайб-кодинг, хотя это принципиально разные способы делать софт.
И модели сейчас настолько продвинутые, что легко поддаться иллюзии: агент разбирается лучше меня, пусть он и решает. Отсюда один шаг до "ну это Codex так нарешал, вопросы к нему". Так вот нет. Когда вы поручаете работу агенту, может казаться, что это теперь его работа. На самом деле это ваша работа и ваша ответственность. А агент - ваш инструмент. Иначе эта задача не попала бы к вам в руки! Эти железяки - потрясающая вещь и могут сделать вас кратно продуктивнее, но без понимания - это просто множитель когнитивного долга.
Теперь про парадокс из заголовка. У агентов есть рычаг: раньше он был небольшим, но сейчас агенты часами крутятся в фоне и производят больше кода, больше инфраструктурных изменений, больше лишних фич (привет loop engineering). Раньше сгенерированное хотя бы чаще проходило через глаза, осознанность чередовалась с автоматикой. И да, может я скажу базу, но поднять кучу агентов одновременно легко, но ваша когнитивная пропускная способность так не параллелится. Это еще называют налогом на оркестрацию.
Что со всем этим делать, до конца не знает никто - мы все еще учимся жить и работать в этой эпохе. Но я тут не призываю просто к тому, чтобы вы сдерживались и использовали AI как можно меньше. Этот совет исходил бы из компромисса "либо понимание, либо делегирование" - а по моему опыту все ровно наоборот: чем глубже вникаю, тем больше делегирую. Поэтому в трех вещах я уверен.
Первое: глубоко вникать до делегирования - кстати, я уже писал об этом в марте. Понимание - множитель делегирования: видишь, какие куски безопасно отдать, и можешь дешево проверить результат. Тонут в выводе агентов те, кто отдал территорию без карты в голове. У кого карта есть - видит проблему раньше, чем всю эту работу придется выкинуть. Агент как бы работает в задаче, а твое место - над задачей: что делаем, зачем, и как поймем, что готово.
Второе: строить эту карту помогает тот же самый AI, если развернуть его от производства к пониманию: задавать вопросы, просить челленджить твои выводы, сжимать сложное до принципов. Безопасно делегировать можно только то, что смог понять и способен сжать. И объяснимость обязана лежать в основе проектирования наших систем.
Третье: не верить ощущению "да все понял". Всю карьеру усилие было датчиком обучения: тяжело - значит растешь. AI убрал трение, а вместе с ним и этот датчик - потерю понимания теперь просто не чувствуешь. Ощущения врут, поэтому нужны внешние проверки:
- Тест на ошибку: если бы агент здесь ошибся - я бы заметил?
- Тест на пересказ: объяснить решение коллеге или резиновой уточке, не заглядывая в чат.
- Чистый лист: сначала набросать свою версию, и только потом открывать чат. AI тут - твой оппонент, а не твой автор.
А вы замечаете это скольжение по поверхности (за коллегами или за собой)? И как с этим боретесь?
🔥 ➕ 🔁 @nobilix