Недолго ИИ-музыка играла: OpenAI обвинили в воровстве при решении «задачи тысячелетия».
Буквально недавно компания отчиталась, что её новая супер-крутая ИИ-модель получила доказательство для проблемы Навье — Стокса: одного из самых известных нерешённых вопросов математики. Но теперь всплыли кое-какие подробности.
Оказалось, что над близкой задачей почти год работали настоящие учёные Тристан Бакмастер и Левант Альпёге. Первый является профессором NYU, второй — математик, работающий в Anthropic.
В работе они использовали Codex от OpenAI и Claude от Anthropic как исследовательских помощников: развивали математические аргументы и проверяли результаты. То есть их рабочие материалы проходили через ИИ-сервисы. (Этот момент запоминаем)
По словам Бакмастера, к 22 августа они получили важные результаты для уравнений Эйлера и других близких к Навье — Стоксу уравнений. Это ещё не было решением самой проблемы, но серьёзно продвигало выбранный ими подход.
Затем кто-то запостил твит, будто Anthropic близка к решению задач тысячелетия. Позже выяснилось, что речь шла о работе этих двух математиков, а не об официальном проекте Anthropic. Но недостоверные слухи приняли за правду в OpenAI, поэтому они запустили свой проект, чтобы стать первыми.
Бакмастер связался с математиком OpenAI Себастьяном Бубеком и объяснил, что работа ведётся лично, а не от имени Anthropic.
Дальше начинается история, которую сам Бакмастер изложил в публичном заявлении:
Через три дня Бубек позвонил ему и сообщил, что их экспериментальная модель получила доказательство для Навье — Стокса, и предложил два варианта развития событий:
1) Математики публикуют свой результат со своими решениями по Эйлеру, а более громкое объявление о решении задачи тысячелетия достаётся OpenAI.
2) Бакмастер публикует доказательство без своего коллеги Леванта Альпёге, потому что тот работает на конкурентов в Anthropic. И при этом должен указать, что результат получила нейронка OpenAI.
Как вы понимаете, оба варианта из загадки про два стула. Поэтому Бакмастер отказался от предложений и заявил, что если OpenAI так сделает, то он публично расскажет о произошедшем. В ответ Бубек якобы начал угрожать учёному словами: «Зачем тебе разрушать свою карьеру?» и «Если ты не хочешь, чтобы я был добрым, то я могу и не быть добрым».
После этого математики публикуют свои результаты, а Бакмастер также публикует заявление с изложением конфликта и вопросами о том, могли ли их неопубликованные материалы из Codex повлиять на модель OpenAI.
А затем OpenAI публично и торжественно объявляют, что их новая модель с помощью 10 тысяч ИИ-агентов решила тысячелетнюю задачу за 88 часов.
И о чудо, в доказательстве OpenAI обнаружились сходные идеи с подходом, который развивали Бакмастер и Альпёге. То есть подозрения, что OpenAI мог украсть из Codex их работу только усилились. В компании заявили, что не имели доступа к неопубликованным работам учёных, но при этом признали: «Мы не можем исключить, что обезличенные данные, полученные в результате использования ими наших продуктов, помогли улучшить наши модели».
В итоге вся эта история породила огромный скандал, который прямо сейчас бурлит в интернете. И если опасения Бакмастера подтвердятся, это может серьёзно подорвать доверие к Codex, ChatGPT и OpenAI.
А теперь кратко:
> Математики целый год работали над одной из самых сложных нерешённых задач
> Черновики их проекта проходили через сессии Codex
> У OpenAI потенциально есть данные этих сессий
> Внезапно просачивается слух, что Anthropic решила задачи тысячелетия
> OpenAI после этих слухов запускает собственный проект
> Один из учёных пишет в OpenAI, чтобы разъяснить, что происходит
> Через несколько дней OpenAI звонит ему
> «Забавная история: наша модель тоже получила доказательство для Навье — Стокса, используя похожий подход»
> «Вы обучали свою модель на наших сессиях?»
> «Ну как бы нет, но как бы возможно»
AGI отменяется
r/#singularity
Буквально недавно компания отчиталась, что её новая супер-крутая ИИ-модель получила доказательство для проблемы Навье — Стокса: одного из самых известных нерешённых вопросов математики. Но теперь всплыли кое-какие подробности.
Оказалось, что над близкой задачей почти год работали настоящие учёные Тристан Бакмастер и Левант Альпёге. Первый является профессором NYU, второй — математик, работающий в Anthropic.
В работе они использовали Codex от OpenAI и Claude от Anthropic как исследовательских помощников: развивали математические аргументы и проверяли результаты. То есть их рабочие материалы проходили через ИИ-сервисы. (Этот момент запоминаем)
По словам Бакмастера, к 22 августа они получили важные результаты для уравнений Эйлера и других близких к Навье — Стоксу уравнений. Это ещё не было решением самой проблемы, но серьёзно продвигало выбранный ими подход.
Затем кто-то запостил твит, будто Anthropic близка к решению задач тысячелетия. Позже выяснилось, что речь шла о работе этих двух математиков, а не об официальном проекте Anthropic. Но недостоверные слухи приняли за правду в OpenAI, поэтому они запустили свой проект, чтобы стать первыми.
Бакмастер связался с математиком OpenAI Себастьяном Бубеком и объяснил, что работа ведётся лично, а не от имени Anthropic.
Дальше начинается история, которую сам Бакмастер изложил в публичном заявлении:
Через три дня Бубек позвонил ему и сообщил, что их экспериментальная модель получила доказательство для Навье — Стокса, и предложил два варианта развития событий:
1) Математики публикуют свой результат со своими решениями по Эйлеру, а более громкое объявление о решении задачи тысячелетия достаётся OpenAI.
2) Бакмастер публикует доказательство без своего коллеги Леванта Альпёге, потому что тот работает на конкурентов в Anthropic. И при этом должен указать, что результат получила нейронка OpenAI.
Как вы понимаете, оба варианта из загадки про два стула. Поэтому Бакмастер отказался от предложений и заявил, что если OpenAI так сделает, то он публично расскажет о произошедшем. В ответ Бубек якобы начал угрожать учёному словами: «Зачем тебе разрушать свою карьеру?» и «Если ты не хочешь, чтобы я был добрым, то я могу и не быть добрым».
После этого математики публикуют свои результаты, а Бакмастер также публикует заявление с изложением конфликта и вопросами о том, могли ли их неопубликованные материалы из Codex повлиять на модель OpenAI.
А затем OpenAI публично и торжественно объявляют, что их новая модель с помощью 10 тысяч ИИ-агентов решила тысячелетнюю задачу за 88 часов.
И о чудо, в доказательстве OpenAI обнаружились сходные идеи с подходом, который развивали Бакмастер и Альпёге. То есть подозрения, что OpenAI мог украсть из Codex их работу только усилились. В компании заявили, что не имели доступа к неопубликованным работам учёных, но при этом признали: «Мы не можем исключить, что обезличенные данные, полученные в результате использования ими наших продуктов, помогли улучшить наши модели».
В итоге вся эта история породила огромный скандал, который прямо сейчас бурлит в интернете. И если опасения Бакмастера подтвердятся, это может серьёзно подорвать доверие к Codex, ChatGPT и OpenAI.
А теперь кратко:
> Математики целый год работали над одной из самых сложных нерешённых задач
> Черновики их проекта проходили через сессии Codex
> У OpenAI потенциально есть данные этих сессий
> Внезапно просачивается слух, что Anthropic решила задачи тысячелетия
> OpenAI после этих слухов запускает собственный проект
> Один из учёных пишет в OpenAI, чтобы разъяснить, что происходит
> Через несколько дней OpenAI звонит ему
> «Забавная история: наша модель тоже получила доказательство для Навье — Стокса, используя похожий подход»
> «Вы обучали свою модель на наших сессиях?»
> «Ну как бы нет, но как бы возможно»
AGI отменяется
r/#singularity