Petr Krivokhizhin
Научно-техническая стратегия государства dan repost
ИИ сделает людей тупее? Да. И одновременно умнее, чем они когда-либо были
В критике ИИ как «вечной шпаргалки» есть серьёзная правда. Если ребёнок при первом затруднении спрашивает модель, получает готовое решение и идёт дальше, обучения не происходит. Он получает результат, минуя деятельность, которая должна была изменить его собственный мозг.
Но отсюда совершенно не следует неизбежность массового отупения.
Ту же ошибку делали в начале индустриальной эпохи. Когда машины избавили человека от необходимости постоянно таскать тяжести, копать землю, ходить пешком и работать руками, футурологи пророчили физическое вырождение человечества.
Однако индустриализация одновременно дала человеку дешёвую пищу, белок, тепло, медицину и возможность тренировать тело не случайной каторжной работой, а целенаправленно.
У Ма Цяньцзу есть хороший образ: "индустриализация - это когда есть мясо". Промышленный синтез аммиака превратил атмосферный азот в удобрения и позволил кормить миллиарды людей. Человек стал меньше махать мотыгой, но получил гораздо больше белка и возможностей физического развития.
Современный спортсмен становится сильным, не бегая впроголодь по джунглям. Он пользуется научно рассчитанными тренажерами, нагрузкой, медициной, питанием и восстановлением.
С интеллектом будет то же самое.
ИИ действительно позволяет ленивому стать ещё ленивее. Можно поручить ИИ письмо, отчёт, код, диплом, всю свою жизнь и постепенно вообще перестать понимать, что происходит.
Но ИИ позволяет построить и прямо противоположную систему.
Представьте ребёнка, у которого, вместо одного замордованного учителя на тридцать человек - персональный институт разработчиков учебных программ, методистов, наставников.
Они знают всю историю его успехов и ошибок, все его особенности его когнитивного аппарата и направляют его развитие с колыбели. Один объясняет физику. Другой ставит эксперимент. Третий спорит. Чераертый специально даёт убедительный неправильный ответ. Пятый знает главное: когда нельзя подсказывать.
На вопрос «как решить?» такой ИИ не обязан отвечать решением.
Он может спросить: что ты уже попробовал?
Потребовать три гипотезы.
Дать половину подсказки.
Изменить условия задачи и проверить, понял ли человек принцип.
Через неделю дать похожую задачу без помощи.
Через месяц - совершенно другую, но на ту же причинную структуру.
ИИ способен не уничтожить продуктивную фрустрацию, а дозировать её намного точнее, чем современная массовая школа.
И тут возникает неудобный вопрос: а разве нынешняя школа действительно массово выращивает творческое мышление?
Ребёнку сообщают правило, показывают тип задачи, дают двадцать похожих упражнений, ставят оценку, и через полгода значительная часть материала забыта.
Где здесь самостоятельное открытие? Где длительная борьба с неизвестным?
Абсолютное большинство людей и до ИИ не переоткрывало самостоятельно математику и физику. Им выдавали готовые знания: медленно, скучно и одинаково.
Поэтому выбор на самом деле не между мышлением и ИИ.
Напротив, ИИ даёт возможности, которых раньше почти ни у кого не было.
Он может в реальном времени подобрать задачу ровно на границе возможностей, в самой зоне ближайшего развития конкретного ребёнка. Может видеть слабые места. Может часами вести сократический диалог. Может подключить симуляцию, лабораторию, робота, станок. Может отличить «я прочитал и мне всё понятно» от настоящего понимания простым способом: хорошо, теперь реши новую задачу самостоятельно.
Особенно важно, что такая система образования впервые может оказаться в руках семьи.
Государственная школа по самой своей конструкции производит результат, ориентированный на то, чтобы "не портить отчетность по успеваемости" - то есть, на отстающих. А с завершением индустриализации у государств (особенно попавших в колониальную зависимость и разрушивших свою промышленность и амбиции) пропала сама цель готовить созидателей, и осталась лишь цель готовить послушное тупое стадо.
Семья может поставить совсем другую задачу:
"Мы не хотим, чтобы ИИ думал вместо ребёнка или накачивал его официальной пропагандой. Мы хотим, чтобы ИИ сделал нашего ребёнка сильнее нас".
И настроить образование именно на это.
Не давать ответ до самостоятельной попытки. Тренировать рабочую память. Заставлять удерживать длинные причинные цепочки. Регулярно работать без ИИ. Учить спорить с моделью. Ставить реальные эксперименты. Повышать интеллектуальную нагрузку так же, как тренер повышает вес на штанге.
Поэтому я думаю, что ИИ не уравняет людей по уровню интеллекта.
Он, наоборот, резко раздвинет вилку. Ленивый сможет стать тупее, чем когда-либо раньше, потому что машина позволит ему десятилетиями успешно имитировать компетентность, да и вообще выпасть из жизни. А тот, кто действительно хочет развиваться, получит интеллектуальную инфраструктуру, которой прежде не было даже у самых богатых людей: персональных учителей, оппонентов, лаборатории, тренажёры и программу развития, непрерывно подстраиваемую именно под него.
Индустрия уничтожила необходимость быть физически сильным и одновременно дала лучшие в истории средства стать сильным. ИИ уничтожит необходимость быть умным для выполнения огромного количества повседневных задач. И одновременно даст лучшие в истории средства стать умным.
Поэтому главный вопрос не в том, будет ли ИИ думать вместо человека. Главный вопрос: кто будет управлять ИИ, который формирует самого человека.
И серьёзный ответ заключается не в облачных, а в верифицированных локальных автономных ИИ, передаваемых из поколения в поколение. Но это уже совсем другая история.
@ntstg
В критике ИИ как «вечной шпаргалки» есть серьёзная правда. Если ребёнок при первом затруднении спрашивает модель, получает готовое решение и идёт дальше, обучения не происходит. Он получает результат, минуя деятельность, которая должна была изменить его собственный мозг.
Но отсюда совершенно не следует неизбежность массового отупения.
Ту же ошибку делали в начале индустриальной эпохи. Когда машины избавили человека от необходимости постоянно таскать тяжести, копать землю, ходить пешком и работать руками, футурологи пророчили физическое вырождение человечества.
Однако индустриализация одновременно дала человеку дешёвую пищу, белок, тепло, медицину и возможность тренировать тело не случайной каторжной работой, а целенаправленно.
У Ма Цяньцзу есть хороший образ: "индустриализация - это когда есть мясо". Промышленный синтез аммиака превратил атмосферный азот в удобрения и позволил кормить миллиарды людей. Человек стал меньше махать мотыгой, но получил гораздо больше белка и возможностей физического развития.
Современный спортсмен становится сильным, не бегая впроголодь по джунглям. Он пользуется научно рассчитанными тренажерами, нагрузкой, медициной, питанием и восстановлением.
С интеллектом будет то же самое.
ИИ действительно позволяет ленивому стать ещё ленивее. Можно поручить ИИ письмо, отчёт, код, диплом, всю свою жизнь и постепенно вообще перестать понимать, что происходит.
Но ИИ позволяет построить и прямо противоположную систему.
Представьте ребёнка, у которого, вместо одного замордованного учителя на тридцать человек - персональный институт разработчиков учебных программ, методистов, наставников.
Они знают всю историю его успехов и ошибок, все его особенности его когнитивного аппарата и направляют его развитие с колыбели. Один объясняет физику. Другой ставит эксперимент. Третий спорит. Чераертый специально даёт убедительный неправильный ответ. Пятый знает главное: когда нельзя подсказывать.
На вопрос «как решить?» такой ИИ не обязан отвечать решением.
Он может спросить: что ты уже попробовал?
Потребовать три гипотезы.
Дать половину подсказки.
Изменить условия задачи и проверить, понял ли человек принцип.
Через неделю дать похожую задачу без помощи.
Через месяц - совершенно другую, но на ту же причинную структуру.
ИИ способен не уничтожить продуктивную фрустрацию, а дозировать её намного точнее, чем современная массовая школа.
И тут возникает неудобный вопрос: а разве нынешняя школа действительно массово выращивает творческое мышление?
Ребёнку сообщают правило, показывают тип задачи, дают двадцать похожих упражнений, ставят оценку, и через полгода значительная часть материала забыта.
Где здесь самостоятельное открытие? Где длительная борьба с неизвестным?
Абсолютное большинство людей и до ИИ не переоткрывало самостоятельно математику и физику. Им выдавали готовые знания: медленно, скучно и одинаково.
Поэтому выбор на самом деле не между мышлением и ИИ.
Напротив, ИИ даёт возможности, которых раньше почти ни у кого не было.
Он может в реальном времени подобрать задачу ровно на границе возможностей, в самой зоне ближайшего развития конкретного ребёнка. Может видеть слабые места. Может часами вести сократический диалог. Может подключить симуляцию, лабораторию, робота, станок. Может отличить «я прочитал и мне всё понятно» от настоящего понимания простым способом: хорошо, теперь реши новую задачу самостоятельно.
Особенно важно, что такая система образования впервые может оказаться в руках семьи.
Государственная школа по самой своей конструкции производит результат, ориентированный на то, чтобы "не портить отчетность по успеваемости" - то есть, на отстающих. А с завершением индустриализации у государств (особенно попавших в колониальную зависимость и разрушивших свою промышленность и амбиции) пропала сама цель готовить созидателей, и осталась лишь цель готовить послушное тупое стадо.
Семья может поставить совсем другую задачу:
"Мы не хотим, чтобы ИИ думал вместо ребёнка или накачивал его официальной пропагандой. Мы хотим, чтобы ИИ сделал нашего ребёнка сильнее нас".
И настроить образование именно на это.
Не давать ответ до самостоятельной попытки. Тренировать рабочую память. Заставлять удерживать длинные причинные цепочки. Регулярно работать без ИИ. Учить спорить с моделью. Ставить реальные эксперименты. Повышать интеллектуальную нагрузку так же, как тренер повышает вес на штанге.
Поэтому я думаю, что ИИ не уравняет людей по уровню интеллекта.
Он, наоборот, резко раздвинет вилку. Ленивый сможет стать тупее, чем когда-либо раньше, потому что машина позволит ему десятилетиями успешно имитировать компетентность, да и вообще выпасть из жизни. А тот, кто действительно хочет развиваться, получит интеллектуальную инфраструктуру, которой прежде не было даже у самых богатых людей: персональных учителей, оппонентов, лаборатории, тренажёры и программу развития, непрерывно подстраиваемую именно под него.
Индустрия уничтожила необходимость быть физически сильным и одновременно дала лучшие в истории средства стать сильным. ИИ уничтожит необходимость быть умным для выполнения огромного количества повседневных задач. И одновременно даст лучшие в истории средства стать умным.
Поэтому главный вопрос не в том, будет ли ИИ думать вместо человека. Главный вопрос: кто будет управлять ИИ, который формирует самого человека.
И серьёзный ответ заключается не в облачных, а в верифицированных локальных автономных ИИ, передаваемых из поколения в поколение. Но это уже совсем другая история.
@ntstg