Филдсовский лауреат Теренс Тао, один из сильнейших живущих математиков, опубликовал доклад Mathematics in the Age of AI. Оригинал по ссылке выше, я же дал Opus 5 задачу пересказать главные тезисы и оформить HTML-страницей. Вот она:
Вот она, кстати
(У страницы два режима сложности под разных читателей, интерактив и даже размышления переводчика «на полях» — вот какой я молодец Opus молодец)
Интересного в докладе много, но вот что я выделил для себя. Доклад вроде бы про математику – а на деле про всю нашу жизнь во времена ИИ. То, с чем столкнулись Тао и коллеги, уже происходит в самых разных областях.
Примером Тао взял одну из составляющих работы математика – решение задач. Оно раскладывается на этапы:
Решить. Как ни странно, “решить как можно больше” – плохая цель: математиков и раньше заваливало неверными доказательствами знаменитых теорем, а теперь правдоподобное доказательство генерируется за вечер.
Проверить. Есть пруверы – Rocq, HOL, Lean – и автоформализация: перевод доказательств на их язык, все чаще силами ИИ. Но тут ловушка, о ней ниже.
Объяснить. Профессионал в одной области может не понимать тему коллеги из соседнего кабинета. Переложить результат на язык тысяч профессионалов – большая работа; для людей вне профессии – еще больше.
Добиться принятия. Медленный человеческий процесс, держащийся на труде рецензентов, которые скажут: “это действительно важно”.
Важное правило Тао:
Не можешь прочитать доклад по своему результату – не публикуешь.
Довести до канона. Связать с другими областями и внести в учебники – чтобы с этим работали следующие поколения.
Попробуйте применить эту “лестницу” к своей сфере – и у вас наверняка получится, пусть и с некоторыми изменениями. Тот же самый кризис проверки ИИ-результатов сейчас происходит почти во всех областях – я и сам не раз писал о том, как с этим столкнулся код.
Дальше – моя экстраполяция. Уже сейчас ИИ решает задачи, понятные нескольким сотням человек в мире. А что будет, когда он впервые выдаст решение, которое не поймёт вообще никто? Его проверят и подправят другие модели – человеку понятнее оно не станет.
А если в решении будет ошибка, которую все пропустят? Она попадет в канон, который выучат новые модели – и только усилят эту ошибку, построив на ней уже свои решения. В ИИ это называется model collapse – и проблема касается не только математики, но и любой области.
Тао честно признает, что у него нет готового решения описанных вещей – и это звучит как вызов обществу, что проблемы пора решать вместе. Полагаю, первые попытки решения мы видим прямо сейчас (затормозка разработки в OpenAI и Anthropic), а в следующие годы все станет еще интереснее.
И еще один момент, который выделю в тексте Тао. Он рассказывает о вещи, которой почти нет в машинных решениях, но которая встречается в почти всех человеческих. Это – “трение” в тексте. По доказательству, написанному человеком, сразу видно, где он нервничал, где “извиняется” за слишком сложную формулировку, а где абзац и вовсе несколько раз переписывался.
Это трение любой человек считывает моментально. И оно информативно, так как выделяет места, реально важные для автора – а значит, на них нужно обратить внимание и при чтении.
У машинного текста этого трения нет: модели одинаково хорошо пишут о важных и второстепенных вещах. И это опять выходит далеко за пределы математики. Причина ИИ-слопа не в том, что он сделан плохо, а в том, что в нем нет трения.
Первой моей мыслью, когда я это понял, было написать промпт, чтобы ИИ делал тексты с “трением” (кстати, в HTML Опуса так и сделано). Но возможно стоит поступить иначе: оставить трение людям, а в случае с ИИ-контентом… просто привыкнуть, что он иной.
—
Кстати, HTML-объяснение я сделал по “правилам Андрея Карпати”, одного из самых узнаваемых людей в ИИ-сообществе. Хотите делать такие же и научиться другим трюкам из аресанала Карпати – читайте мой лонгрид:
К черту правила: как работает с ИИ легендарный Андрей Карпати
Вот она, кстати
(У страницы два режима сложности под разных читателей, интерактив и даже размышления переводчика «на полях» — вот какой я молодец Opus молодец)
Интересного в докладе много, но вот что я выделил для себя. Доклад вроде бы про математику – а на деле про всю нашу жизнь во времена ИИ. То, с чем столкнулись Тао и коллеги, уже происходит в самых разных областях.
Примером Тао взял одну из составляющих работы математика – решение задач. Оно раскладывается на этапы:
Решить. Как ни странно, “решить как можно больше” – плохая цель: математиков и раньше заваливало неверными доказательствами знаменитых теорем, а теперь правдоподобное доказательство генерируется за вечер.
Проверить. Есть пруверы – Rocq, HOL, Lean – и автоформализация: перевод доказательств на их язык, все чаще силами ИИ. Но тут ловушка, о ней ниже.
Объяснить. Профессионал в одной области может не понимать тему коллеги из соседнего кабинета. Переложить результат на язык тысяч профессионалов – большая работа; для людей вне профессии – еще больше.
Добиться принятия. Медленный человеческий процесс, держащийся на труде рецензентов, которые скажут: “это действительно важно”.
Важное правило Тао:
Не можешь прочитать доклад по своему результату – не публикуешь.
Довести до канона. Связать с другими областями и внести в учебники – чтобы с этим работали следующие поколения.
Попробуйте применить эту “лестницу” к своей сфере – и у вас наверняка получится, пусть и с некоторыми изменениями. Тот же самый кризис проверки ИИ-результатов сейчас происходит почти во всех областях – я и сам не раз писал о том, как с этим столкнулся код.
Дальше – моя экстраполяция. Уже сейчас ИИ решает задачи, понятные нескольким сотням человек в мире. А что будет, когда он впервые выдаст решение, которое не поймёт вообще никто? Его проверят и подправят другие модели – человеку понятнее оно не станет.
А если в решении будет ошибка, которую все пропустят? Она попадет в канон, который выучат новые модели – и только усилят эту ошибку, построив на ней уже свои решения. В ИИ это называется model collapse – и проблема касается не только математики, но и любой области.
Тао честно признает, что у него нет готового решения описанных вещей – и это звучит как вызов обществу, что проблемы пора решать вместе. Полагаю, первые попытки решения мы видим прямо сейчас (затормозка разработки в OpenAI и Anthropic), а в следующие годы все станет еще интереснее.
И еще один момент, который выделю в тексте Тао. Он рассказывает о вещи, которой почти нет в машинных решениях, но которая встречается в почти всех человеческих. Это – “трение” в тексте. По доказательству, написанному человеком, сразу видно, где он нервничал, где “извиняется” за слишком сложную формулировку, а где абзац и вовсе несколько раз переписывался.
Это трение любой человек считывает моментально. И оно информативно, так как выделяет места, реально важные для автора – а значит, на них нужно обратить внимание и при чтении.
У машинного текста этого трения нет: модели одинаково хорошо пишут о важных и второстепенных вещах. И это опять выходит далеко за пределы математики. Причина ИИ-слопа не в том, что он сделан плохо, а в том, что в нем нет трения.
Первой моей мыслью, когда я это понял, было написать промпт, чтобы ИИ делал тексты с “трением” (кстати, в HTML Опуса так и сделано). Но возможно стоит поступить иначе: оставить трение людям, а в случае с ИИ-контентом… просто привыкнуть, что он иной.
—
Кстати, HTML-объяснение я сделал по “правилам Андрея Карпати”, одного из самых узнаваемых людей в ИИ-сообществе. Хотите делать такие же и научиться другим трюкам из аресанала Карпати – читайте мой лонгрид:
К черту правила: как работает с ИИ легендарный Андрей Карпати