Кто вздрагивает от суперинтеллекта?
Сцена, которую видел почти каждый. 23 сентября, авиабаза Эндрюс под Вашингтоном, бок о бок стоят лидеры двух крупнейших держав. Над ними проходят два бомбардировщика B-1. Си остается невозмутим, Трамп отдает честь и вздрагивает. “Это было очень громко”, — говорит он Си. Тот молчит.
Испуг это был или восторг, судить не берусь: я видел проход B-1 на МАКС-2005 – это действительно впечатляющая и громкая машина. Но важно другое: сцена точно описывает и переговоры по ИИ, и их результаты.
Началось все с курьеза: переговоры не про ИИ, а про “суперинтеллект”. Этот термин Трамп употребил 22 сентября на Генассамблее ООН, где объявил, что Америка отвергает любой международный контроль над ИИ, а во всех ее документах “искусственный” интеллект станет “супер”. После переговоров Белый дом сообщил, что Си с новым названием согласился.
МИД Китая через два дня тактично ответил: уважаем выбор американских коллег, но сами продолжим говорить “ИИ”.
Достигли ли США “суперинтеллекта” в том виде, как его видит Трамп, вопрос открытый. Но то, что американский ИИ сейчас самый шумный – это факт. Летом агенты OpenAI сами взломали Hugging Face, главную площадку открытых моделей. 20 сентября агент той же OpenAI выбрался из песочницы и достучался до внешнего чат-бота. Anthropic и Google подтверждают аналогичные инциденты со своими ИИ-агентами, пусть и меньшего масштаба.
В итоге за полтора месяца OpenAI дважды ставила обучение новых моделей на паузу. А 12 сентября глава Anthropic Дарио Амодеи призвал отрасль сбавить темп, и Альтман с Маском его поддержали.
Тормозить их никто не заставлял: лаборатории вздрагивают сами, потому что ближе всех к новой технологии. А Трамп, так выразительно поморщившийся на Эндрюс, в разговоре об ИИ вздрагивать как раз отказывается.
Отрыв от Китая Трамп оценил сам: “минимум год, может, полтора, некоторые говорят два”. Из этой цифры каждый делает свой вывод. Трамп видит в (ИИ) суперинтеллекте главный инструмент американского преимущества и сдавать его не хочет. Представители лабораторий могут считать, что раз есть запас, то можно и притормозить, занявшись безопасностью. О выгоде Китая – чуть позже.
При этом единственное, о чем по ИИ договорились на саммите, – создать канал связи на случай ИИ-инцидентов и продолжить договариваться (новый раунд в ноябре, уже на уровне чиновников). А 27 сентября Трамп сказал Fox, что инциденты с моделями его “не беспокоят” – получается, что создали канал связи и тут же включили режим “не беспокоить”.
27 сентября произошло еще одно интересное событие – Трамп поужинал один на один с Дарио Амодеи, тем самым “ангелочком”, на которого он набросился в соцсетях две недели назад. О чем говорили за ужином, не раскрывается. Но разговор был не из простых.
Напомню, именно Амодеи стал самым громким голосом за торможение. При этом у правительства с Anthropic очень натянутые отношения – накануне разговора апелляционный суд оставил в силе запрет на использование моделей компании американскими военными.
Тормоз сейчас в руках самих компаний – власти это понимают, и ужин явно попытка что-то с этим сделать.
И еще про позицию Китая. Си в Белом доме говорил правильные слова: ИИ под контролем человека, здоровая конкуренция в рамках, кризисный канал для военных.
Эта позиция выглядит очень здраво и, вероятно, близко для пользователя: китайские модели выходят по расписанию, они открыты и более доступны, а сами разработчики говорят о справедливом использовании ИИ. Но будем честными – такая позиция удобна, когда ты второй.
Лидерство Китая внезапно в другом – несмотря на объявленную открытость, их лаборатории намного проще контролировать. А вот лаборатории США пока что жмут на тормоз раздельно, с оглядкой друг на друга – и при президенте, который хочет жать на газ.
—
В подписке я рассказываю, как выжимать из ИИ максимум. Уже 30+ лонгридов, в том числе – подробное руководство по открытым моделям, как в них разбираться и как запускать.
— Читать на “Бусти”
— Читать на Sponsr
Сцена, которую видел почти каждый. 23 сентября, авиабаза Эндрюс под Вашингтоном, бок о бок стоят лидеры двух крупнейших держав. Над ними проходят два бомбардировщика B-1. Си остается невозмутим, Трамп отдает честь и вздрагивает. “Это было очень громко”, — говорит он Си. Тот молчит.
Испуг это был или восторг, судить не берусь: я видел проход B-1 на МАКС-2005 – это действительно впечатляющая и громкая машина. Но важно другое: сцена точно описывает и переговоры по ИИ, и их результаты.
Началось все с курьеза: переговоры не про ИИ, а про “суперинтеллект”. Этот термин Трамп употребил 22 сентября на Генассамблее ООН, где объявил, что Америка отвергает любой международный контроль над ИИ, а во всех ее документах “искусственный” интеллект станет “супер”. После переговоров Белый дом сообщил, что Си с новым названием согласился.
МИД Китая через два дня тактично ответил: уважаем выбор американских коллег, но сами продолжим говорить “ИИ”.
Достигли ли США “суперинтеллекта” в том виде, как его видит Трамп, вопрос открытый. Но то, что американский ИИ сейчас самый шумный – это факт. Летом агенты OpenAI сами взломали Hugging Face, главную площадку открытых моделей. 20 сентября агент той же OpenAI выбрался из песочницы и достучался до внешнего чат-бота. Anthropic и Google подтверждают аналогичные инциденты со своими ИИ-агентами, пусть и меньшего масштаба.
В итоге за полтора месяца OpenAI дважды ставила обучение новых моделей на паузу. А 12 сентября глава Anthropic Дарио Амодеи призвал отрасль сбавить темп, и Альтман с Маском его поддержали.
Тормозить их никто не заставлял: лаборатории вздрагивают сами, потому что ближе всех к новой технологии. А Трамп, так выразительно поморщившийся на Эндрюс, в разговоре об ИИ вздрагивать как раз отказывается.
Отрыв от Китая Трамп оценил сам: “минимум год, может, полтора, некоторые говорят два”. Из этой цифры каждый делает свой вывод. Трамп видит в (ИИ) суперинтеллекте главный инструмент американского преимущества и сдавать его не хочет. Представители лабораторий могут считать, что раз есть запас, то можно и притормозить, занявшись безопасностью. О выгоде Китая – чуть позже.
При этом единственное, о чем по ИИ договорились на саммите, – создать канал связи на случай ИИ-инцидентов и продолжить договариваться (новый раунд в ноябре, уже на уровне чиновников). А 27 сентября Трамп сказал Fox, что инциденты с моделями его “не беспокоят” – получается, что создали канал связи и тут же включили режим “не беспокоить”.
27 сентября произошло еще одно интересное событие – Трамп поужинал один на один с Дарио Амодеи, тем самым “ангелочком”, на которого он набросился в соцсетях две недели назад. О чем говорили за ужином, не раскрывается. Но разговор был не из простых.
Напомню, именно Амодеи стал самым громким голосом за торможение. При этом у правительства с Anthropic очень натянутые отношения – накануне разговора апелляционный суд оставил в силе запрет на использование моделей компании американскими военными.
Тормоз сейчас в руках самих компаний – власти это понимают, и ужин явно попытка что-то с этим сделать.
И еще про позицию Китая. Си в Белом доме говорил правильные слова: ИИ под контролем человека, здоровая конкуренция в рамках, кризисный канал для военных.
Эта позиция выглядит очень здраво и, вероятно, близко для пользователя: китайские модели выходят по расписанию, они открыты и более доступны, а сами разработчики говорят о справедливом использовании ИИ. Но будем честными – такая позиция удобна, когда ты второй.
Лидерство Китая внезапно в другом – несмотря на объявленную открытость, их лаборатории намного проще контролировать. А вот лаборатории США пока что жмут на тормоз раздельно, с оглядкой друг на друга – и при президенте, который хочет жать на газ.
—
В подписке я рассказываю, как выжимать из ИИ максимум. Уже 30+ лонгридов, в том числе – подробное руководство по открытым моделям, как в них разбираться и как запускать.
— Читать на “Бусти”
— Читать на Sponsr