Ведущие математики заявляют об опасностях нейросетей. Двадцать пять лауреатов медали Филдса (высшая международная награда для математиков) опубликовали открытое письмо о том, что цели разработчиков LLM сильно расходятся с целями научного сообщества.
За последние несколько месяцев математические возможности больших языковых моделей резко возросли. Но, как говорится в письме, стремление ИИ-компаний решать математические задачи наносит вред науке и научному сообществу. Без математиков, которые должны позаботиться об интеграции идей в математический канон, идеи от нейросетей никогда не станут «полностью живыми». При этом может разрушиться важнейшая человеческая цепочка передачи между математиками. Авторы подчеркивают, что с похожими проблемами сейчас сталкиваются другие отрасли науки и творческие профессии.
Одной из причин появления письма стали громкие заявления OpenAI о том, что их нейросеть решила проблему существования и гладкости решений уравнений Навье—Стокса. Однако вскоре профессор математики Нью-Йоркского университета Тристан Бакмастер заподозрил компанию в недобросовестном использовании наработок его совместного с математиком Anthropic Левентом Алпёге проекта. Одна из ключевых претензий к предложенному решению — помимо авторства и необходимости перепроверки — в том, что оно опиралось в том числе на механический перебор человеку недоступный.
«Решение задач — только инструмент и показатель достижения основной цели, которой являются концептуальное понимание и новые идеи» — указывают авторы письма.
Наверное, настало время вспомнить, почему в науке (да и в творческих профессиях) ценятся не только результаты, но и подходы, и методы.
ИИ обещает мгновенные решения и результаты, и масштабные изменения во многих областях, включая математику. Но, как пишут авторы:
«Принесут ли эти изменения пользу данной области или окажут на неё разрушительное воздействие, во многом будет зависеть от решений людей, управляющих этой новой технологией»
За последние несколько месяцев математические возможности больших языковых моделей резко возросли. Но, как говорится в письме, стремление ИИ-компаний решать математические задачи наносит вред науке и научному сообществу. Без математиков, которые должны позаботиться об интеграции идей в математический канон, идеи от нейросетей никогда не станут «полностью живыми». При этом может разрушиться важнейшая человеческая цепочка передачи между математиками. Авторы подчеркивают, что с похожими проблемами сейчас сталкиваются другие отрасли науки и творческие профессии.
Одной из причин появления письма стали громкие заявления OpenAI о том, что их нейросеть решила проблему существования и гладкости решений уравнений Навье—Стокса. Однако вскоре профессор математики Нью-Йоркского университета Тристан Бакмастер заподозрил компанию в недобросовестном использовании наработок его совместного с математиком Anthropic Левентом Алпёге проекта. Одна из ключевых претензий к предложенному решению — помимо авторства и необходимости перепроверки — в том, что оно опиралось в том числе на механический перебор человеку недоступный.
«Решение задач — только инструмент и показатель достижения основной цели, которой являются концептуальное понимание и новые идеи» — указывают авторы письма.
Наверное, настало время вспомнить, почему в науке (да и в творческих профессиях) ценятся не только результаты, но и подходы, и методы.
ИИ обещает мгновенные решения и результаты, и масштабные изменения во многих областях, включая математику. Но, как пишут авторы:
«Принесут ли эти изменения пользу данной области или окажут на неё разрушительное воздействие, во многом будет зависеть от решений людей, управляющих этой новой технологией»