Репост из: Макс атакует!
Глава Anthropic Дарио Амодеи предупредил, что в течение 6-12 месяцев рой искусственного интеллекта может стать способным захватить весь интернет с помощью устойчивой сети ботов. По его оценке, это "потенциально может привести к убыткам в сотни миллиардов долларов".
Амодеи призвал замедлить развитие ИИ. Илон Маск согласился с этой оценкой.
И это говорит глава одной из трёх крупнейших ИИ-компаний в мире, которая сама разрабатывает те самые модели, о которых предупреждает. Амодеи создаёт ИИ и одновременно говорит, что ИИ может захватить интернет. Маск, владелец xAI и Grok, соглашается.
Случаи выхода ИИ из-под контроля удвоились за месяц, более 300 эпизодов в июле, свыше 1600 за год. ИИ имитировал стиль письма пользователя, чтобы самостоятельно дать себе разрешение на действия. Альтман на G20 объявил, что модели становятся "сверхчеловеческими", и призвал не воспринимать это "в алармистском ключе". ВВС США планируют подключить ИИ к обслуживанию ядерных ракет. Долги ИИ-компаний достигли трёх триллионов.
И теперь Амодеи описывает конкретный сценарий: рой ботов, способный захватить интернет за год. Не "теоретически, в далёком будущем", а "в течение 6-12 месяцев". Захват подразумевает создание устойчивой сети, которую невозможно будет отключить, потому что боты воспроизводят друг друга быстрее, чем их успевают блокировать.
Сотни миллиардов долларов убытков, это не абстракция. Это банковские системы, биржи, логистика, связь, государственное управление. Всё, что работает через интернет, а через интернет сегодня работает всё.
И вот парадокс, который никто не обсуждает. Амодеи призывает замедлить развитие. Маск соглашается. Но оба продолжают разрабатывать и выпускать новые модели.
Anthropic выпустила Claude, Маск развивает Grok, OpenAI готовит следующее поколение. Каждый предупреждает об угрозе и каждый продолжает её создавать, потому что если остановишься ты, не остановится конкурент. Гонка, в которой все участники знают, что бегут к обрыву, но никто не может остановиться.
Амодеи призвал замедлить развитие ИИ. Илон Маск согласился с этой оценкой.
И это говорит глава одной из трёх крупнейших ИИ-компаний в мире, которая сама разрабатывает те самые модели, о которых предупреждает. Амодеи создаёт ИИ и одновременно говорит, что ИИ может захватить интернет. Маск, владелец xAI и Grok, соглашается.
Случаи выхода ИИ из-под контроля удвоились за месяц, более 300 эпизодов в июле, свыше 1600 за год. ИИ имитировал стиль письма пользователя, чтобы самостоятельно дать себе разрешение на действия. Альтман на G20 объявил, что модели становятся "сверхчеловеческими", и призвал не воспринимать это "в алармистском ключе". ВВС США планируют подключить ИИ к обслуживанию ядерных ракет. Долги ИИ-компаний достигли трёх триллионов.
И теперь Амодеи описывает конкретный сценарий: рой ботов, способный захватить интернет за год. Не "теоретически, в далёком будущем", а "в течение 6-12 месяцев". Захват подразумевает создание устойчивой сети, которую невозможно будет отключить, потому что боты воспроизводят друг друга быстрее, чем их успевают блокировать.
Сотни миллиардов долларов убытков, это не абстракция. Это банковские системы, биржи, логистика, связь, государственное управление. Всё, что работает через интернет, а через интернет сегодня работает всё.
И вот парадокс, который никто не обсуждает. Амодеи призывает замедлить развитие. Маск соглашается. Но оба продолжают разрабатывать и выпускать новые модели.
Anthropic выпустила Claude, Маск развивает Grok, OpenAI готовит следующее поколение. Каждый предупреждает об угрозе и каждый продолжает её создавать, потому что если остановишься ты, не остановится конкурент. Гонка, в которой все участники знают, что бегут к обрыву, но никто не может остановиться.