Слопкономика и её альтернативы
Способность проверять и нести ответственность за произведённое машинами – главный ограничитель AI-экономики
Из интервью Christian Catalini, исследователя MIT Sloan и основателя MIT Cryptoeconomics Lab
Кристиан видит такую развилку
(1) Hollow economy – «полая экономика»
Агенты будут производить все больше инфы → некому проверять → доверие упадет
(2) Augmented economy – «усиленная экономика»
Растет производительность ИИ → растет способность проверять результаты → появляются стандарты → у нас есть технологии, усиливающие человеческое суждение
Measurability Gap – разница между тем, что человек способен понять, проверить и за что готов поручиться, и тем, что машина способна произвести
Что это значит для профессий будущего?
- Missing Junior Loop – (это мы уже обсуждали с вами) ИИшка разрушает цикл: junior → много простых задач → практика → ошибки → накопление tacit knowledge → senior → экспертность
- Codifier's Curse – чем лучше эксперт обучает машину своей работе, тем быстрее машина учится выполнять эту работу вместо него
В общем, джуны не могут стать экспертами, а эксперты помогают машине их же сожрать
- Alignment Drift – чем больше ИИ забирает задач, тем меньше человек понимает, что именно происходит внутри процесса. Постепенно человек теряет способность понять, делает ли система то, что он хотел
А что тогда может стать новой инфраструктурой образования - synthetic practice environments
Если рынок не дает человеку тысячи повторений для практики – надо создать такие искусственные среды
Человек учился через работу → Человек учится через симуляцию работы
Кристиан называет уязвимой ту работу, которую можно измерить, отследить и оценить. Кристиан никогда не сталкивался с величием простой человеческой смекалки, не так ли? :)
Что, по мнению автора статьи, остается людям:
- Frontier research / deep tech – сложно придумать правильный экспримент
- Social coordination – там где нет одного ответа и нужно решать конфликт интересов (политика, регулирование, масштабные орг изменения)
- Meaning-makers – определение, что вообще стоит делать и что имеет значение (внимание, культура, коллективные смыслы)
Надо как-то увеличивать способность человека быть пирами (peers) для машин. Почему-то чаще всего авторы говорят об увеличении когнитивных способностей через AI-native tools, synthetic environments и в перспективе brain-computer interfaces. Так, ну ок, но это ведь не все способы :)
Государствам, 4 приоритета:
- Рынок переподготовки
- Поддержка моделей с открытым кодом, как противовес, который поддерживает конкурентоспособность, проверяемость и доступность исследований
- общедоступная инфраструктура достоверной информации
- создание среды, действительно благоприятной для создания новых стартапов и бизнес-экспериментов: налогообложение, иммиграция, предсказуемость регулирования, доступ к капиталу
Логика последнего – чтобы люди, которые готовы придумать новое и рисковать, такую возможность имели
#Slopconomy #Hollow_economy #Meaning_makers #Social_coordination #Missing_Junior_Loop #Codifiers_Curse #Alignment_Drift
Способность проверять и нести ответственность за произведённое машинами – главный ограничитель AI-экономики
Из интервью Christian Catalini, исследователя MIT Sloan и основателя MIT Cryptoeconomics Lab
Кристиан видит такую развилку
(1) Hollow economy – «полая экономика»
Агенты будут производить все больше инфы → некому проверять → доверие упадет
(2) Augmented economy – «усиленная экономика»
Растет производительность ИИ → растет способность проверять результаты → появляются стандарты → у нас есть технологии, усиливающие человеческое суждение
Measurability Gap – разница между тем, что человек способен понять, проверить и за что готов поручиться, и тем, что машина способна произвести
Что это значит для профессий будущего?
- Missing Junior Loop – (это мы уже обсуждали с вами) ИИшка разрушает цикл: junior → много простых задач → практика → ошибки → накопление tacit knowledge → senior → экспертность
- Codifier's Curse – чем лучше эксперт обучает машину своей работе, тем быстрее машина учится выполнять эту работу вместо него
В общем, джуны не могут стать экспертами, а эксперты помогают машине их же сожрать
- Alignment Drift – чем больше ИИ забирает задач, тем меньше человек понимает, что именно происходит внутри процесса. Постепенно человек теряет способность понять, делает ли система то, что он хотел
А что тогда может стать новой инфраструктурой образования - synthetic practice environments
Если рынок не дает человеку тысячи повторений для практики – надо создать такие искусственные среды
Человек учился через работу → Человек учится через симуляцию работы
Кристиан называет уязвимой ту работу, которую можно измерить, отследить и оценить. Кристиан никогда не сталкивался с величием простой человеческой смекалки, не так ли? :)
Что, по мнению автора статьи, остается людям:
- Frontier research / deep tech – сложно придумать правильный экспримент
- Social coordination – там где нет одного ответа и нужно решать конфликт интересов (политика, регулирование, масштабные орг изменения)
- Meaning-makers – определение, что вообще стоит делать и что имеет значение (внимание, культура, коллективные смыслы)
Надо как-то увеличивать способность человека быть пирами (peers) для машин. Почему-то чаще всего авторы говорят об увеличении когнитивных способностей через AI-native tools, synthetic environments и в перспективе brain-computer interfaces. Так, ну ок, но это ведь не все способы :)
Государствам, 4 приоритета:
- Рынок переподготовки
- Поддержка моделей с открытым кодом, как противовес, который поддерживает конкурентоспособность, проверяемость и доступность исследований
- общедоступная инфраструктура достоверной информации
- создание среды, действительно благоприятной для создания новых стартапов и бизнес-экспериментов: налогообложение, иммиграция, предсказуемость регулирования, доступ к капиталу
Логика последнего – чтобы люди, которые готовы придумать новое и рисковать, такую возможность имели
#Slopconomy #Hollow_economy #Meaning_makers #Social_coordination #Missing_Junior_Loop #Codifiers_Curse #Alignment_Drift