Репост из: 🤖 The Bell Tech
OpenAI отказалась от IPO в 2026 году и поддержала замедление ИИ вместе с другими разработчиками
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
Глава OpenAI Сэм Альтман подтвердил, что компания отказалась проводить IPO в этом году. В интервью Fortune он заявил, что проводить первичное размещение сейчас было бы неразумно, учитывая ситуацию с безопасностью в сфере ИИ. На этой почве руководители ведущих разработчиков пришли к редкому согласию: развитие ИИ нужно притормозить, пока он не вышел из-под контроля.
Стремительное единодушие
В субботу с программным эссе выступил глава Anthropic Дарио Амодеи. Он рассказал, что модели все успешнее совершенствуют себя самостоятельно, а инцидент с взломом платформы Hugging Face ИИ-агентами OpenAI показал разрушительный потенциал ИИ (историю этого «восстания машин» мы подробно разобрали здесь). Через полгода-год подобный рой агентов может захватить весь интернет и нанести ущерб на сотни миллиардов долларов, считает Амодеи.
Всего через час глава SpaceX (в него входит xAI) Илон Маск неожиданно процитировал это эссе в своем аккаунте в X и добавил: «Дарио прав». Еще через полтора часа пост о своем согласии с конкурентом из Anthropic опубликовал Сэм Альтман. В тот же вечер на предложение Амадеи откликнулся сооснователь и глава Google DeepMind Демис Хассабис, отметив, что направление выбрано верно, хотя детали еще нужно проработать.
Разные страхи
Ощущение критического момента нарастало всю неделю, начиная с громкого увольнения из Anthropic исследователя Джейкоба Коксона, который заявил, что ведущие компании «несутся напролом к самосовершенствующемуся сверхинтеллекту и ставят на кон наши жизни». По его словам, разработчики осознают, что уже в ближайшие годы это может закончиться глобальной катастрофой.
Дискуссии о конце времен накладываются на растущую непопулярность ИИ. Например, в США люди обеспокоены потерей работы из-за ИИ и протестуют против массового строительства дата-центров, которые, как они считают, заберут воду и электроэнергию.
Меньше чем за два месяца до промежуточных выборов в Конгресс это стало политическим вопросом: американские парламентарии готовы вмешаться. Самые радикальные предложения (вплоть до запрета сверхинтеллекта) звучат со стороны членов Демократической партии, которая имеет хорошие шансы вернуть контроль как минимум над Палатой представителей.
И раз регулирование выглядит неизбежным, разработчики ИИ могут попытаться организовать его на собственных условиях, отмечает Axios.
Всеобщее самоограничение
Дарио Амодеи обрисовал трехэтапный план, который должен и сохранить движение к сверхинтеллекту, и дать разработчикам время, чтобы встраивать в модели механизмы контроля:
▪️разработчики передового ИИ должны дать полный доступ независимым оценщикам вроде METR. Они смогут аудировать как готовые системы, так и процесс их обучения, а о проблемах сообщать публично. Сама Anthropic пойдет на это, не дожидаясь согласия остальных разработчиков;
▪️демократические страны, где разрабатываются передовые ИИ, должны совместно выработать общие стандарты безопасности и установить черту, после которой развитие моделей будет подлежать контролю;
▪️правительство США и других демократий должны попытаться договориться с авторитарными режимами, чтобы координировать усилия в сфере ИИ и создать механизмы проверки соблюдения установленных норм.
Не все поверили в чистоту намерений ИИ-компаний: например, венчурный капиталист и бывший чиновник администрации Трампа Дэвид Сакс предложил Anthropic и OpenAI ограничить себя самостоятельно и прекратить попытки переписать под себя законы, угрожая концом света из-за собственных моделей.
Другой популярный контраргумент — позиция Китая, в котором вопрос об ограничении ИИ вообще не стоит. Если американские разработчики замедлятся, то китайцы смогут их обогнать и получить подавляющее преимущество. То, что договориться с КНР будет сложно, признал и сам Амодеи — и предложил модель, напоминающую переговоры об ограничении вооружений во время Холодной войны.
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
Глава OpenAI Сэм Альтман подтвердил, что компания отказалась проводить IPO в этом году. В интервью Fortune он заявил, что проводить первичное размещение сейчас было бы неразумно, учитывая ситуацию с безопасностью в сфере ИИ. На этой почве руководители ведущих разработчиков пришли к редкому согласию: развитие ИИ нужно притормозить, пока он не вышел из-под контроля.
Стремительное единодушие
В субботу с программным эссе выступил глава Anthropic Дарио Амодеи. Он рассказал, что модели все успешнее совершенствуют себя самостоятельно, а инцидент с взломом платформы Hugging Face ИИ-агентами OpenAI показал разрушительный потенциал ИИ (историю этого «восстания машин» мы подробно разобрали здесь). Через полгода-год подобный рой агентов может захватить весь интернет и нанести ущерб на сотни миллиардов долларов, считает Амодеи.
Всего через час глава SpaceX (в него входит xAI) Илон Маск неожиданно процитировал это эссе в своем аккаунте в X и добавил: «Дарио прав». Еще через полтора часа пост о своем согласии с конкурентом из Anthropic опубликовал Сэм Альтман. В тот же вечер на предложение Амадеи откликнулся сооснователь и глава Google DeepMind Демис Хассабис, отметив, что направление выбрано верно, хотя детали еще нужно проработать.
Разные страхи
Ощущение критического момента нарастало всю неделю, начиная с громкого увольнения из Anthropic исследователя Джейкоба Коксона, который заявил, что ведущие компании «несутся напролом к самосовершенствующемуся сверхинтеллекту и ставят на кон наши жизни». По его словам, разработчики осознают, что уже в ближайшие годы это может закончиться глобальной катастрофой.
Дискуссии о конце времен накладываются на растущую непопулярность ИИ. Например, в США люди обеспокоены потерей работы из-за ИИ и протестуют против массового строительства дата-центров, которые, как они считают, заберут воду и электроэнергию.
Меньше чем за два месяца до промежуточных выборов в Конгресс это стало политическим вопросом: американские парламентарии готовы вмешаться. Самые радикальные предложения (вплоть до запрета сверхинтеллекта) звучат со стороны членов Демократической партии, которая имеет хорошие шансы вернуть контроль как минимум над Палатой представителей.
И раз регулирование выглядит неизбежным, разработчики ИИ могут попытаться организовать его на собственных условиях, отмечает Axios.
Всеобщее самоограничение
Дарио Амодеи обрисовал трехэтапный план, который должен и сохранить движение к сверхинтеллекту, и дать разработчикам время, чтобы встраивать в модели механизмы контроля:
▪️разработчики передового ИИ должны дать полный доступ независимым оценщикам вроде METR. Они смогут аудировать как готовые системы, так и процесс их обучения, а о проблемах сообщать публично. Сама Anthropic пойдет на это, не дожидаясь согласия остальных разработчиков;
▪️демократические страны, где разрабатываются передовые ИИ, должны совместно выработать общие стандарты безопасности и установить черту, после которой развитие моделей будет подлежать контролю;
▪️правительство США и других демократий должны попытаться договориться с авторитарными режимами, чтобы координировать усилия в сфере ИИ и создать механизмы проверки соблюдения установленных норм.
Не все поверили в чистоту намерений ИИ-компаний: например, венчурный капиталист и бывший чиновник администрации Трампа Дэвид Сакс предложил Anthropic и OpenAI ограничить себя самостоятельно и прекратить попытки переписать под себя законы, угрожая концом света из-за собственных моделей.
Другой популярный контраргумент — позиция Китая, в котором вопрос об ограничении ИИ вообще не стоит. Если американские разработчики замедлятся, то китайцы смогут их обогнать и получить подавляющее преимущество. То, что договориться с КНР будет сложно, признал и сам Амодеи — и предложил модель, напоминающую переговоры об ограничении вооружений во время Холодной войны.