Forward from: Кримсон Дайджест
На инфографике вы, дорогие коллеги, можете увидеть наше светлое будущее. График составлен (через Off The Charts от The Economist) на базе скандального свежего китайского исследования 27 000 школьников (7-12 класс) — «The Generative AI Learning Penalty: Evidence from Chinese Secondary Education».
Суть исследования: школьники, которые не использовали ИИ, составили контрольную группу, а китайские исследователи наблюдали за результатами тех, кто ИИ начал использовать в процессе обучения. Результат: школьники, которые использовали ИИ, стали выполнять домашние задания заметно быстрее (на 30%) и получать за него гораздо более высокие оценки (на 18%), но их результаты на вступительных экзаменах стали заметно хуже (минус 18-24%). Об этом написали ведущие СМИ планеты. Но вашего покорного слугу в этих результатах заинтересовал не этот (кмк, абсолютно самоочевидный чисто из базовых знаний о человеческой психике и природе) вывод, а заинтересовал противоположный («правый») хвост распределения результатов.
Посмотрите: у «пользователей ИИ» количество тех, кто справился с экзаменами очень-очень сильно лучше среднего, не увеличилось, а если брать только «лучше среднего» (без самых топовых результатов), то уменьшилось. Любимый многими тезис о том, что «дурак с ИИ потупеет, но зато умный поумнеет вообще невероятным образом», оказался экспериментально опровергнут на огромной выборке очень мотивированных (это же Китай!) умников (это же Китай!) с хорошей генетикой (это же Китай!) и с максимальным социокультурным давлением в плане достижения высоких академических результатов.
Получается, что ИИ, помимо массового отупения (т.е. любую работу в будущем будут делать быстрее, но хуже), может дать «самым умным» некоторое количество «объёма» (больше продакшена на единицу времени), но не больше качества — но даже это в самом лучшем и топовом случае. Человечество ближайшего будущего будет намного тупее, а потом (ещё и в силу демографических проблем) — намного малочисленнее. Это плохая новость. Хорошая новость — редко в человеческой истории социальные лифты для умных/волевых работали так хорошо — перед нами вероятный цифровой эквивалент Великой Чумы, только вместо того, чтобы выкосить четверть-треть населения, она сделает им перманентный «штраф к когниции» за привычку к ИИ.
Кстати, абсолютно уверен, что в реальности результаты будут хуже, чем в китайском исследовании: вне КНР культура самопринуждения намного менее развитая, плюс это всё-таки были китайские дети 7-12 класса, а что будет с поколениями, которые с ИИ-шками всё решают ещё до обучения чтению и письму (голосом) — страшно себе представить.
P.S.: Ваш покорный слуга продолжает экспериментировать с «должностными инструкциями» для типовых (которые обычно поручаются интернам) задач, используя self-hosted модели ИИ (сейчас на моём Nvidia Spark работают или турбированный и децензурированный Qwen 3.8, или перепиленная Thomson Reuters версия Qwen 3.6 или Gemma 4), заодно сравнивая результаты (у меня есть базовый «бенчмарк-стек» разных аналитических задач) с перформансом топовых западных моделей. Чем дальше, тем сильнее убеждаюсь в том, что «должностная инструкция» (не промпт, именно инструкция — «как сделать, что учитывать, на что обращать внимание») легко и с большим запасом перекрывает (т.е. не компенсирует, а «догнать и перегнать и обогнать на круг») разницу между китайскими «open weight» и американскими фронтир-моделями (для аналитических задач из реального мира, это не про кодинг). При этом пока их работа не дотягивает даже до уровня умного (пускай умно-ленивого) интерна, т.е. сделано старательно, но тупо. Стохастические попугаи думать не умеют, но их можно использовать (при нужной тренировке) как аналог поисковика.
ИИ — это не «цифровой бог», это аналог станка Гутенберга. На длинной дистанции важна не эффективность ротационной машины, расход чернил или красота офсетной печати, а смысл самого текста. Со смыслом у человечества будут сложности. Как с генерацией, так и с восприятием.
Суть исследования: школьники, которые не использовали ИИ, составили контрольную группу, а китайские исследователи наблюдали за результатами тех, кто ИИ начал использовать в процессе обучения. Результат: школьники, которые использовали ИИ, стали выполнять домашние задания заметно быстрее (на 30%) и получать за него гораздо более высокие оценки (на 18%), но их результаты на вступительных экзаменах стали заметно хуже (минус 18-24%). Об этом написали ведущие СМИ планеты. Но вашего покорного слугу в этих результатах заинтересовал не этот (кмк, абсолютно самоочевидный чисто из базовых знаний о человеческой психике и природе) вывод, а заинтересовал противоположный («правый») хвост распределения результатов.
Посмотрите: у «пользователей ИИ» количество тех, кто справился с экзаменами очень-очень сильно лучше среднего, не увеличилось, а если брать только «лучше среднего» (без самых топовых результатов), то уменьшилось. Любимый многими тезис о том, что «дурак с ИИ потупеет, но зато умный поумнеет вообще невероятным образом», оказался экспериментально опровергнут на огромной выборке очень мотивированных (это же Китай!) умников (это же Китай!) с хорошей генетикой (это же Китай!) и с максимальным социокультурным давлением в плане достижения высоких академических результатов.
Получается, что ИИ, помимо массового отупения (т.е. любую работу в будущем будут делать быстрее, но хуже), может дать «самым умным» некоторое количество «объёма» (больше продакшена на единицу времени), но не больше качества — но даже это в самом лучшем и топовом случае. Человечество ближайшего будущего будет намного тупее, а потом (ещё и в силу демографических проблем) — намного малочисленнее. Это плохая новость. Хорошая новость — редко в человеческой истории социальные лифты для умных/волевых работали так хорошо — перед нами вероятный цифровой эквивалент Великой Чумы, только вместо того, чтобы выкосить четверть-треть населения, она сделает им перманентный «штраф к когниции» за привычку к ИИ.
Кстати, абсолютно уверен, что в реальности результаты будут хуже, чем в китайском исследовании: вне КНР культура самопринуждения намного менее развитая, плюс это всё-таки были китайские дети 7-12 класса, а что будет с поколениями, которые с ИИ-шками всё решают ещё до обучения чтению и письму (голосом) — страшно себе представить.
P.S.: Ваш покорный слуга продолжает экспериментировать с «должностными инструкциями» для типовых (которые обычно поручаются интернам) задач, используя self-hosted модели ИИ (сейчас на моём Nvidia Spark работают или турбированный и децензурированный Qwen 3.8, или перепиленная Thomson Reuters версия Qwen 3.6 или Gemma 4), заодно сравнивая результаты (у меня есть базовый «бенчмарк-стек» разных аналитических задач) с перформансом топовых западных моделей. Чем дальше, тем сильнее убеждаюсь в том, что «должностная инструкция» (не промпт, именно инструкция — «как сделать, что учитывать, на что обращать внимание») легко и с большим запасом перекрывает (т.е. не компенсирует, а «догнать и перегнать и обогнать на круг») разницу между китайскими «open weight» и американскими фронтир-моделями (для аналитических задач из реального мира, это не про кодинг). При этом пока их работа не дотягивает даже до уровня умного (пускай умно-ленивого) интерна, т.е. сделано старательно, но тупо. Стохастические попугаи думать не умеют, но их можно использовать (при нужной тренировке) как аналог поисковика.
ИИ — это не «цифровой бог», это аналог станка Гутенберга. На длинной дистанции важна не эффективность ротационной машины, расход чернил или красота офсетной печати, а смысл самого текста. Со смыслом у человечества будут сложности. Как с генерацией, так и с восприятием.