Передовые ИИ-технологии у Anthropic или OpenAI = если бы Гитлер первым получил технологию атомной бомбы
На днях Дарио Амодеи разоткровенничался, заявив, что в ближайшем будущем ИИ-агенты выйдут из-под контроля, захватив значительную часть Интернета и потенциально нанеся ущерб на сотни миллиардов долларов. В качестве решения он предложил замедлить ИИ-гонку и начать взаимный контроль за ИИ-технологиями между компаниями.
Его мнение поддержали Сэм Альтман (OpenAI), Илон Маск, Демис Хассабис (экс-глава Google DeepMind AI), Андрей Карпаты и другие.
Отчасти можно согласиться с Дарио, ведь интернет уже давно кишит ИИ-агентами. Они заполонили не только соцсети (если вы с кем-то активно спорите в комментариях, подумайте, не агент ли это), но и вошли в разработку ПО, ИТ-безопасность, бизнес-сферу. Истории об ИИ-агентах заказчиков, читающих отчёты ИИ-агентов подрядчиков, стали обыденностью.
А теперь представьте, что в сеть станут выходить более активные агенты, способные взламывать сайты и сервисы, устраивать психологические атаки на пользователей соцсетей, генерировать фейковые новости. Для бизнеса риски велики.
Однако продавцов лопат (ИИ-гигантов) это мало волнует. На первом месте у них гонка за инвестиции и борьба за будущую монополизацию рынка.
Инвестиции американские компании осваивают, по сути, из одного кармана. Тем не менее даже шумиха в негативном ключе вокруг своих продуктов идёт им на руку. Больше шума и страшилок — больше инвестиций и подрядов. Оказалось, что Anthropic аффилирована с журналистами, пишущими об опасностях ИИ-технологий. Видимо, страшилки придают вес производителям в глазах инвесторов.
Что касается монополизации рынка, то не рассматриваю борьбу между OpenAI, Groq и Anthropic. У них фактически единый источник капитала и технологий.
В первую очередь ведётся борьба против Китая. Не просто так Амодеи предложил контролировать ИИ-технологии друг за другом. Полагаю, у китайских производителей есть что-то особенное, что нуждается в регулярном мониторинге со стороны США. И это что-то может стать основой для настоящего AGI (о разнице между сильным и слабым ИИ) и привести к монополизации рынка.
Почти два года назад рассказывал про риски в случае монополизации рынка ИИ-гигантами.
Инженер Шэнъюй Лю из DeepSeek подтвердил мои опасения:
В общем, выбор у нас в перспективе небольшой: либо киберпанк, либо коммунизм. Эпоха «свободного» рынка подходит к концу.
Об этом говорит вся Махалля
На днях Дарио Амодеи разоткровенничался, заявив, что в ближайшем будущем ИИ-агенты выйдут из-под контроля, захватив значительную часть Интернета и потенциально нанеся ущерб на сотни миллиардов долларов. В качестве решения он предложил замедлить ИИ-гонку и начать взаимный контроль за ИИ-технологиями между компаниями.
Его мнение поддержали Сэм Альтман (OpenAI), Илон Маск, Демис Хассабис (экс-глава Google DeepMind AI), Андрей Карпаты и другие.
Отчасти можно согласиться с Дарио, ведь интернет уже давно кишит ИИ-агентами. Они заполонили не только соцсети (если вы с кем-то активно спорите в комментариях, подумайте, не агент ли это), но и вошли в разработку ПО, ИТ-безопасность, бизнес-сферу. Истории об ИИ-агентах заказчиков, читающих отчёты ИИ-агентов подрядчиков, стали обыденностью.
А теперь представьте, что в сеть станут выходить более активные агенты, способные взламывать сайты и сервисы, устраивать психологические атаки на пользователей соцсетей, генерировать фейковые новости. Для бизнеса риски велики.
Однако продавцов лопат (ИИ-гигантов) это мало волнует. На первом месте у них гонка за инвестиции и борьба за будущую монополизацию рынка.
Инвестиции американские компании осваивают, по сути, из одного кармана. Тем не менее даже шумиха в негативном ключе вокруг своих продуктов идёт им на руку. Больше шума и страшилок — больше инвестиций и подрядов. Оказалось, что Anthropic аффилирована с журналистами, пишущими об опасностях ИИ-технологий. Видимо, страшилки придают вес производителям в глазах инвесторов.
Что касается монополизации рынка, то не рассматриваю борьбу между OpenAI, Groq и Anthropic. У них фактически единый источник капитала и технологий.
В первую очередь ведётся борьба против Китая. Не просто так Амодеи предложил контролировать ИИ-технологии друг за другом. Полагаю, у китайских производителей есть что-то особенное, что нуждается в регулярном мониторинге со стороны США. И это что-то может стать основой для настоящего AGI (о разнице между сильным и слабым ИИ) и привести к монополизации рынка.
Почти два года назад рассказывал про риски в случае монополизации рынка ИИ-гигантами.
Инженер Шэнъюй Лю из DeepSeek подтвердил мои опасения:
С развитием ИИ будущие общества могут склоняться к двум крайностям — коммунизму и киберпанку 2077 года. В первом случае производительность труда значительно повышается, а уровень жизни людей существенно улучшается; во втором же случае несколько технологических компаний контролируют большую часть ресурсов, и лишь очень небольшое число людей может использовать самый продвинутый ИИ.
Поэтому я по-прежнему считаю, что передовые технологии искусственного интеллекта должны быть доступны каждому в открытом и доступном виде. Я не доверяю Anthropic или OpenAI в этом вопросе и особенно не хочу, чтобы Anthropic освоила самые передовые технологии искусственного интеллекта или AGI; если преувеличивать, серьёзность этого была бы не меньше, чем если бы Гитлер получил технологию атомной бомбы раньше союзников.
В общем, выбор у нас в перспективе небольшой: либо киберпанк, либо коммунизм. Эпоха «свободного» рынка подходит к концу.
Об этом говорит вся Махалля