Интересная 100+ страничная работа про экономику AGI. Один из больших выводов — в эпоху дешёвой генерации узким местом становится человеческая валидация. Это очень чувствуется уже сейчас — клод код легко нагенерит за час столько кодов, тестов и документации, что внятно разбирать ты это будешь потом несколько дней. А не разбирая, отправлять в прод стремновато, разные забавные вещи порой обнаруживаются.
Кроме этого есть много других интересных мыслей — про будущее джунов и сеньоров, про синтетическую практику, про фирму как AI-сендвич и прочее.
Some Simple Economics of AGI
Christian Catalini, Xiang Hui, Jane Wu
Статья: https://arxiv.org/abs/2602.20946
Ревью: https://arxiviq.substack.com/p/some-simple-economics-of-agi
# TL;DR
ЧТО сделали: Авторы предлагают макроэкономический фреймворк, который моделирует переход к AGI не просто как линейный рост вычислительных мощностей, а как столкновение двух кривых: экспоненциально падающей стоимости автоматизации задач и биологически ограниченной стоимости человеческой верификации. Разделяя экономику по оси «измеримости», исследователи формализуют структурную эрозию человеческого контроля через такие механизмы, как «парадокс пропавшего джуна» (Missing Junior Loop) и «проклятие кодификатора» (Codifier’s Curse).
ПОЧЕМУ это важно: Работа смещает устоявшийся нарратив с технологического прогресса, смещённого в сторону навыков (skill-biased), на прогресс, смещённый в сторону измеримости (measurability-biased). Авторы математически доказывают, что когда автономное выполнение задач масштабируется быстрее, чем наша способность их проверять, экономика накапливает колоссальный скрытый системный риск. Главный вывод: настоящим боттлнеком для извлечения пользы из AGI является не сам интеллект, а масштабируемая и гарантированная верификация результатов.
Сингулярность где-то тут: https://t.me/gonzo_ML_podcasts/2603
Кроме этого есть много других интересных мыслей — про будущее джунов и сеньоров, про синтетическую практику, про фирму как AI-сендвич и прочее.
Some Simple Economics of AGI
Christian Catalini, Xiang Hui, Jane Wu
Статья: https://arxiv.org/abs/2602.20946
Ревью: https://arxiviq.substack.com/p/some-simple-economics-of-agi
# TL;DR
ЧТО сделали: Авторы предлагают макроэкономический фреймворк, который моделирует переход к AGI не просто как линейный рост вычислительных мощностей, а как столкновение двух кривых: экспоненциально падающей стоимости автоматизации задач и биологически ограниченной стоимости человеческой верификации. Разделяя экономику по оси «измеримости», исследователи формализуют структурную эрозию человеческого контроля через такие механизмы, как «парадокс пропавшего джуна» (Missing Junior Loop) и «проклятие кодификатора» (Codifier’s Curse).
ПОЧЕМУ это важно: Работа смещает устоявшийся нарратив с технологического прогресса, смещённого в сторону навыков (skill-biased), на прогресс, смещённый в сторону измеримости (measurability-biased). Авторы математически доказывают, что когда автономное выполнение задач масштабируется быстрее, чем наша способность их проверять, экономика накапливает колоссальный скрытый системный риск. Главный вывод: настоящим боттлнеком для извлечения пользы из AGI является не сам интеллект, а масштабируемая и гарантированная верификация результатов.
Сингулярность где-то тут: https://t.me/gonzo_ML_podcasts/2603