OpenAI украли еще одно доказательство?
На фоне скандала с Тристаном Бакмастером и Левентом Альпеге внезапно вспыла еще одна история. Помните, в начале августа OpenAI объявили, что Astra решила 10 открытых математических задач? В числе прочего там было построение первой несофической группы, один из самых мощных результатов из того анонса: https://t.me/data_secrets/9645.
Так вот немецкий математик Андреас Том рассказал, что ключевой технический шаг в доказательстве OpenAI напрямую опирался на те идеи, которые он и его коллега обсуждали в чатах с ChatGPT на протяжении нескольких месяцев.
С 2016 года Том и Габор Кун занимались софичностью групп и добились определенных результатов (в частности, было опубликовано несколько работ). В последние месяцы они обсуждали конкретные идеи по расширению их метода на новые случаи. Неопубликованные черновики и методы они также загружали для обсуждения в ChatGPT.
После того, как OpenAI опубликовали свои результаты, Том начал подозревать, что модель могла получить доступ к этим данным. Он утверждает, что путь, который выбрала модель, был далеко не самым очевидным. Большинство исследователей скорее пробовали бы другой подход (через квантовые игры), и то, что модель "случайно" выбрала именно тот непопулярный подход, который Том именно в это время обсуждал в чатах с ChatGPT, кажется статистически подозрительным совпадением.
После анонса ученый даже написал в OpenAI и напрямую спросил, не обучали ли модель на его чатах и не было ли у нее к ним доступа, на что получил холодное "that did not happen". Только после истории с Бакмастером ученый решил рассказать о своем опыте публично, потому что эти истории "подтверждают потерю морального компаса у исследователей OpenAI".
На фоне скандала с Тристаном Бакмастером и Левентом Альпеге внезапно вспыла еще одна история. Помните, в начале августа OpenAI объявили, что Astra решила 10 открытых математических задач? В числе прочего там было построение первой несофической группы, один из самых мощных результатов из того анонса: https://t.me/data_secrets/9645.
Так вот немецкий математик Андреас Том рассказал, что ключевой технический шаг в доказательстве OpenAI напрямую опирался на те идеи, которые он и его коллега обсуждали в чатах с ChatGPT на протяжении нескольких месяцев.
С 2016 года Том и Габор Кун занимались софичностью групп и добились определенных результатов (в частности, было опубликовано несколько работ). В последние месяцы они обсуждали конкретные идеи по расширению их метода на новые случаи. Неопубликованные черновики и методы они также загружали для обсуждения в ChatGPT.
После того, как OpenAI опубликовали свои результаты, Том начал подозревать, что модель могла получить доступ к этим данным. Он утверждает, что путь, который выбрала модель, был далеко не самым очевидным. Большинство исследователей скорее пробовали бы другой подход (через квантовые игры), и то, что модель "случайно" выбрала именно тот непопулярный подход, который Том именно в это время обсуждал в чатах с ChatGPT, кажется статистически подозрительным совпадением.
После анонса ученый даже написал в OpenAI и напрямую спросил, не обучали ли модель на его чатах и не было ли у нее к ним доступа, на что получил холодное "that did not happen". Только после истории с Бакмастером ученый решил рассказать о своем опыте публично, потому что эти истории "подтверждают потерю морального компаса у исследователей OpenAI".