Главный AI-«папа римский» Кремниевой долины, главный сторонник замедления развития AI и «отец Claude» Dario Amodei сегодня оказался на лужайке перед Белым домом, рядом с Трампом и спикером Палаты представителей, и лично произнёс фразу, которая потрясла весь технологический мир:
«Президент помог мне избавиться от тревоги по поводу сверхинтеллекта… если мы будем сотрудничать, мы сможем безопасно победить!»
Человек, который раньше постоянно призывал: «AI развивается слишком быстро, он может уничтожить человечество, всем нужно немного сбавить темп», сегодня наконец самостоятельно заменил тормозные колодки на руль.
Я разберу простыми словами, какой разворот власти и нарратива стоит за этой сценой у Белого дома 👇
1｜Почему заявление Dario стало главным контрастом дня?
Если вы знакомы с противостоянием различных лагерей внутри AI-индустрии, то понимаете, кто такой Dario Amodei.
Когда-то он покинул OpenAI именно потому, что считал: компания недостаточно серьёзно относится к безопасности и слишком быстро движется в сторону коммерциализации. После этого он вместе с ключевыми коллегами основал Anthropic — компанию, стоящую за Claude.
Последние два года он был одним из самых заметных представителей лагеря AI safety и так называемых «думеров».
Всего две недели назад он публично призывал передовые AI-модели «сбавить темп» и предупреждал, что способность AI к самоулучшению может выйти из-под контроля.
Он даже не присутствовал на предыдущем государственном ужине и вступал в публичную перепалку с советником Трампа по вопросам AI.
Но в воскресенье вечером Трамп встретился с ним на закрытом ужине.
А уже во вторник Amodei вместе с крупнейшими представителями Кремниевой долины оказался на лужайке перед Белым домом.
Он не просто поставил подпись под документом, но и публично выразил поддержку позиции Трампа.
2｜Что на самом деле произошло на лужайке Белого дома?
Состав участников выглядел как полноценная «сборная США» в сфере AI: Дженсен Хуанг, Илон Маск, Сундар Пичаи, Марк Цукерберг, Грег Брокман, Джефф Безос, Сьюзи Су и другие.
Они совместно подписали документ под названием White House Accord on Superintelligence — «Соглашение Белого дома о сверхинтеллекте».
В нём можно выделить три ключевых изменения.
① Изменился язык.
В официальной коммуникации больше не акцентируются обычные «чат-боты». Главная тема теперь — SI, то есть Superintelligence, сверхинтеллект.
② Изменился подход к правилам.
Вместо жёсткого государственного контроля делается ставка на добровольные обязательства индустрии: компании сами отвечают за безопасность своих технологий, а государство не должно создавать барьеры, способные остановить развитие AI.
③ Изменилась цель.
В центре находится идея технологического лидерства США в гонке за сверхинтеллект.
3｜Что означает изменение позиции Dario?
Многие спрашивают: Dario «сдался»?
Более точная интерпретация заключается в том, что перед лицом национальной конкуренции чистый академический идеализм сталкивается с геополитической реальностью.
Логика лагеря AI safety раньше выглядела примерно так:
«Если мы будем развиваться слишком быстро и потеряем контроль, значит, всем нужно замедлиться».
Но реальность ставит перед этой логикой сложный вопрос:
Если ты замедлишься, другие не обязательно сделают то же самое. Если ты не будешь создавать сверхинтеллект, это может сделать кто-то другой.
Когда технологическая конкуренция превращается в вопрос национальной стратегии, единственным способом сохранить безопасность может стать не торможение, а попытка обеспечить, чтобы лидирующая машина была оснащена максимально надёжными системами безопасности.
Фраза Dario «We can win safely» — «Мы можем победить безопасно» поэтому выглядит особенно символично.
Она показывает возможный переход нарратива AI safety от идеи «предотвратить катастрофу» к идее «обеспечить безопасное лидерство».
4｜Но немного холодного душа
Так называемое «Соглашение о сверхинтеллекте» по сути является добровольной инициативой саморегулирования и не обладает полноценной юридической обязательной силой.
«Президент помог мне избавиться от тревоги по поводу сверхинтеллекта… если мы будем сотрудничать, мы сможем безопасно победить!»
Человек, который раньше постоянно призывал: «AI развивается слишком быстро, он может уничтожить человечество, всем нужно немного сбавить темп», сегодня наконец самостоятельно заменил тормозные колодки на руль.
Я разберу простыми словами, какой разворот власти и нарратива стоит за этой сценой у Белого дома 👇
1｜Почему заявление Dario стало главным контрастом дня?
Если вы знакомы с противостоянием различных лагерей внутри AI-индустрии, то понимаете, кто такой Dario Amodei.
Когда-то он покинул OpenAI именно потому, что считал: компания недостаточно серьёзно относится к безопасности и слишком быстро движется в сторону коммерциализации. После этого он вместе с ключевыми коллегами основал Anthropic — компанию, стоящую за Claude.
Последние два года он был одним из самых заметных представителей лагеря AI safety и так называемых «думеров».
Всего две недели назад он публично призывал передовые AI-модели «сбавить темп» и предупреждал, что способность AI к самоулучшению может выйти из-под контроля.
Он даже не присутствовал на предыдущем государственном ужине и вступал в публичную перепалку с советником Трампа по вопросам AI.
Но в воскресенье вечером Трамп встретился с ним на закрытом ужине.
А уже во вторник Amodei вместе с крупнейшими представителями Кремниевой долины оказался на лужайке перед Белым домом.
Он не просто поставил подпись под документом, но и публично выразил поддержку позиции Трампа.
2｜Что на самом деле произошло на лужайке Белого дома?
Состав участников выглядел как полноценная «сборная США» в сфере AI: Дженсен Хуанг, Илон Маск, Сундар Пичаи, Марк Цукерберг, Грег Брокман, Джефф Безос, Сьюзи Су и другие.
Они совместно подписали документ под названием White House Accord on Superintelligence — «Соглашение Белого дома о сверхинтеллекте».
В нём можно выделить три ключевых изменения.
① Изменился язык.
В официальной коммуникации больше не акцентируются обычные «чат-боты». Главная тема теперь — SI, то есть Superintelligence, сверхинтеллект.
② Изменился подход к правилам.
Вместо жёсткого государственного контроля делается ставка на добровольные обязательства индустрии: компании сами отвечают за безопасность своих технологий, а государство не должно создавать барьеры, способные остановить развитие AI.
③ Изменилась цель.
В центре находится идея технологического лидерства США в гонке за сверхинтеллект.
3｜Что означает изменение позиции Dario?
Многие спрашивают: Dario «сдался»?
Более точная интерпретация заключается в том, что перед лицом национальной конкуренции чистый академический идеализм сталкивается с геополитической реальностью.
Логика лагеря AI safety раньше выглядела примерно так:
«Если мы будем развиваться слишком быстро и потеряем контроль, значит, всем нужно замедлиться».
Но реальность ставит перед этой логикой сложный вопрос:
Если ты замедлишься, другие не обязательно сделают то же самое. Если ты не будешь создавать сверхинтеллект, это может сделать кто-то другой.
Когда технологическая конкуренция превращается в вопрос национальной стратегии, единственным способом сохранить безопасность может стать не торможение, а попытка обеспечить, чтобы лидирующая машина была оснащена максимально надёжными системами безопасности.
Фраза Dario «We can win safely» — «Мы можем победить безопасно» поэтому выглядит особенно символично.
Она показывает возможный переход нарратива AI safety от идеи «предотвратить катастрофу» к идее «обеспечить безопасное лидерство».
4｜Но немного холодного душа
Так называемое «Соглашение о сверхинтеллекте» по сути является добровольной инициативой саморегулирования и не обладает полноценной юридической обязательной силой.