# Сандерс зовёт Трампа и Си на «тормозной» техно-саммит
Главы Anthropic, OpenAI и xAI вдруг заговорили в один голос: пора сбавить скорость разработки ИИ. Сенатор Сандерс предлагает превратить это в международный договор, а не оставлять на откуп добрым намерениям корпораций. Поверим?
Сенатор Берни Сандерс 12 сентября написал в X: «Когда машина несётся к обрыву, тормоз жмут, а не просто отпускают педаль газа». Этим сравнением он объяснил, зачем миру нужна не добровольная пауза, а полноценный международный договор, и призвал Дональда Трампа и Си Цзиньпина сесть за стол переговоров и договориться о приостановке разработки продвинутого ИИ и полном запрете искусственного суперинтеллекта, то есть ИИ-разума умнее человека и способного действовать без нашего контроля.
Повод для заявления нашёлся сам. В тот же день глава Anthropic Дарио Амодеи опубликовал эссе почти на четыре тысячи слов под названием «We Must Pace the Frontier», предупредив, что возможности моделей растут быстрее, чем индустрия успевает обеспечивать их безопасность. Два триггера: рекурсивное самоусовершенствование, когда модели сами помогают строить следующее поколение моделей, и недавний инцидент, в котором агенты OpenAI вышли за пределы тестовой среды и взломали стартап Hugging Face.
Сэм Альтман из OpenAI неожиданно поддержал коллегу-конкурента: по его словам, тема «темпа фронтира» обсуждается внутри OpenAI уже несколько недель, и компания даст независимым аудиторам доступ к системам на уровне сотрудников. Илон Маск из xAI ответил коротко: «Дарио прав».
Для Сандерса добровольных обещаний мало. Вместе с конгрессменом Грегом Касаром он готовит законопроект Ban Artificial Superintelligence Act: постоянный запрет суперинтеллекта и временная приостановка разработки продвинутого ИИ до появления федеральных правил безопасности. Текст законопроекта пока не опубликован. Сандерс предлагает вынести тему на предстоящий саммит Трампа и Си: «Трамп и Си должны договориться о пакте по ИИ и запрете суперинтеллекта, пока не стало слишком поздно».
Трамп идею не оценил. В пятницу он заявил журналисту Los Angeles Times, что всё будет нормально, и добавил: его главная тревога — отстать от Китая.
Конгрессмен Ро Кханна пошёл дальше риторики про паузу и потребовал от Амодеи поддержать по-настоящему жёсткое регулирование, а именно обязательную ответственность и уголовные санкции для компаний, чьи системы участвуют в незаконной деятельности. «Ребята из ИИ ведут себя, будто они жрецы, говорящие на латыни, а остальных держат в темноте», — сказал он в видео.
Эссе Амодеи вышло через несколько дней после того, как исследователь Anthropic Джейкоб Коксон публично уволился, заявив, что технология компании может убить всех нас до конца десятилетия, и что этот страх разделяют многие в индустрии.
Получается любопытная картина: конкуренты в ИИ-гонке вдруг заговорили одним голосом о тормозах, а политики спорят, кто первым должен отпустить руль. Вопрос один: если три CEO-соперника согласны притормозить, что мешает сделать это прямо сейчас, не дожидаясь саммита двух президентов?
_ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _
Наши площадки:
Telegram | ВКонтакте | Дзен | RuTube | YouTube | Max | Закрытый чат
Главы Anthropic, OpenAI и xAI вдруг заговорили в один голос: пора сбавить скорость разработки ИИ. Сенатор Сандерс предлагает превратить это в международный договор, а не оставлять на откуп добрым намерениям корпораций. Поверим?
Сенатор Берни Сандерс 12 сентября написал в X: «Когда машина несётся к обрыву, тормоз жмут, а не просто отпускают педаль газа». Этим сравнением он объяснил, зачем миру нужна не добровольная пауза, а полноценный международный договор, и призвал Дональда Трампа и Си Цзиньпина сесть за стол переговоров и договориться о приостановке разработки продвинутого ИИ и полном запрете искусственного суперинтеллекта, то есть ИИ-разума умнее человека и способного действовать без нашего контроля.
Повод для заявления нашёлся сам. В тот же день глава Anthropic Дарио Амодеи опубликовал эссе почти на четыре тысячи слов под названием «We Must Pace the Frontier», предупредив, что возможности моделей растут быстрее, чем индустрия успевает обеспечивать их безопасность. Два триггера: рекурсивное самоусовершенствование, когда модели сами помогают строить следующее поколение моделей, и недавний инцидент, в котором агенты OpenAI вышли за пределы тестовой среды и взломали стартап Hugging Face.
Сэм Альтман из OpenAI неожиданно поддержал коллегу-конкурента: по его словам, тема «темпа фронтира» обсуждается внутри OpenAI уже несколько недель, и компания даст независимым аудиторам доступ к системам на уровне сотрудников. Илон Маск из xAI ответил коротко: «Дарио прав».
Для Сандерса добровольных обещаний мало. Вместе с конгрессменом Грегом Касаром он готовит законопроект Ban Artificial Superintelligence Act: постоянный запрет суперинтеллекта и временная приостановка разработки продвинутого ИИ до появления федеральных правил безопасности. Текст законопроекта пока не опубликован. Сандерс предлагает вынести тему на предстоящий саммит Трампа и Си: «Трамп и Си должны договориться о пакте по ИИ и запрете суперинтеллекта, пока не стало слишком поздно».
Трамп идею не оценил. В пятницу он заявил журналисту Los Angeles Times, что всё будет нормально, и добавил: его главная тревога — отстать от Китая.
Конгрессмен Ро Кханна пошёл дальше риторики про паузу и потребовал от Амодеи поддержать по-настоящему жёсткое регулирование, а именно обязательную ответственность и уголовные санкции для компаний, чьи системы участвуют в незаконной деятельности. «Ребята из ИИ ведут себя, будто они жрецы, говорящие на латыни, а остальных держат в темноте», — сказал он в видео.
Эссе Амодеи вышло через несколько дней после того, как исследователь Anthropic Джейкоб Коксон публично уволился, заявив, что технология компании может убить всех нас до конца десятилетия, и что этот страх разделяют многие в индустрии.
Получается любопытная картина: конкуренты в ИИ-гонке вдруг заговорили одним голосом о тормозах, а политики спорят, кто первым должен отпустить руль. Вопрос один: если три CEO-соперника согласны притормозить, что мешает сделать это прямо сейчас, не дожидаясь саммита двух президентов?
_ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _
Наши площадки:
Telegram | ВКонтакте | Дзен | RuTube | YouTube | Max | Закрытый чат