ИИ СЛУЧИЛОСЬ СТРАШНОЕ
генеративку задумали тормознуть
Глава компании Anthropic (разрабатывает большую ИИ-модель Claude) Дарио Амодеи (фото в центре) заявил вчера, что он убежден, что ИИ должен развиваться постепенно, чтобы предотвратить катастрофу, другие американские ИИ-лидеры тут же его поддержали.
Компании, занимающиеся генеративным искусственным интеллектом (ГИИ), должны замедлить темпы совершенствования моделей – написал Амодеи в своем блоге.
По его словам, развитие ИИ ускорилось в разы и без принятия мер он может опередить способность человека контролировать системы. Его беспокойство также связано инцидентом OpenAI, когда ИИ-агентам этой компании-конкурента удалось выйти из закрытой тестовой среды и взломать платформу для машинного обучения Hugging Face.
Основатель SpaceX Илон Маск и гендиректор OpenAI Сэм Альтман в тот же день поддержали идею главы Anthropic – замедлить темпы развития ИИ. Это стало итогом разгоревшейся с новой небывалой силой на рынке и в политических кругах Запада дискуссии о безопасности ГИИ.
Дарио Амодей заявил: "Учитывая ускоряющиеся темпы развития возможностей ИИ, опасаюсь, что через 6-12 месяцев такой "рой" сможет захватить весь интернет устойчивой бот-сетью (и нанести ущерб на сотни миллиардов $$). Масштаб ущерба будет расти, если ИИ станет мощнее без особых мер безопасности". И предложил крупнейшим ГИИ-компаниям объединиться в борьбе.
"Дарио прав", – чиркнУл Илон Маск на странице в Х. А он редко соглашается с этими двумя своими конкурентами в ГИИ.
Сэм Альтман написал в Х, что вопрос был основной темой обсуждения в OpenAI в последние недели: "Привлечение независимых оценщиков с таким же доступом к компании, как у сотрудников, – отличная идея, и мы поступим так же".
ВОТ ТЕ ЦИФРУ! Глава Anthropic предложил три шага для снижения темпов технологий: 1. использовать встроенных оценщиков для проверки соблюдения безопасности процессов, 2. Объединить усилия передовых ИИ-компаний для создания общих стандартов безопасности и 3. Оперевшись, на глобальную координацию правительств.
Наконец, глава Hugging Face Клеман Деланж сообщил в X, что его компания запускает "инициативу открытого согласования" и просит включить ее в число лабораторий, использующих сторонние системы оценки безопасности.
О чем это? И что на самом деле значит этот публичный "картельный сговор наоборот"? Уж точно – не о безопасности. "ПобОчки" ГИИ опасны и будут оставаться такими имманентно, по своей природе.
Речь – о страхе лавинообразного росте расходов (только в 2026-м на ГИИ разработки и стройки ЦОД, по данным Financial Times, в мире потратят не менее $725 млрд – на 77% больше, чем рекордные $410 млрд в 2025-м). Но главное – о катастрофической панике на мировых биржах и скорой декапитализации ГИИ-бизнесов на гораздо большую сумму
генеративку задумали тормознуть
Глава компании Anthropic (разрабатывает большую ИИ-модель Claude) Дарио Амодеи (фото в центре) заявил вчера, что он убежден, что ИИ должен развиваться постепенно, чтобы предотвратить катастрофу, другие американские ИИ-лидеры тут же его поддержали.
Компании, занимающиеся генеративным искусственным интеллектом (ГИИ), должны замедлить темпы совершенствования моделей – написал Амодеи в своем блоге.
По его словам, развитие ИИ ускорилось в разы и без принятия мер он может опередить способность человека контролировать системы. Его беспокойство также связано инцидентом OpenAI, когда ИИ-агентам этой компании-конкурента удалось выйти из закрытой тестовой среды и взломать платформу для машинного обучения Hugging Face.
Основатель SpaceX Илон Маск и гендиректор OpenAI Сэм Альтман в тот же день поддержали идею главы Anthropic – замедлить темпы развития ИИ. Это стало итогом разгоревшейся с новой небывалой силой на рынке и в политических кругах Запада дискуссии о безопасности ГИИ.
Дарио Амодей заявил: "Учитывая ускоряющиеся темпы развития возможностей ИИ, опасаюсь, что через 6-12 месяцев такой "рой" сможет захватить весь интернет устойчивой бот-сетью (и нанести ущерб на сотни миллиардов $$). Масштаб ущерба будет расти, если ИИ станет мощнее без особых мер безопасности". И предложил крупнейшим ГИИ-компаниям объединиться в борьбе.
"Дарио прав", – чиркнУл Илон Маск на странице в Х. А он редко соглашается с этими двумя своими конкурентами в ГИИ.
Сэм Альтман написал в Х, что вопрос был основной темой обсуждения в OpenAI в последние недели: "Привлечение независимых оценщиков с таким же доступом к компании, как у сотрудников, – отличная идея, и мы поступим так же".
ВОТ ТЕ ЦИФРУ! Глава Anthropic предложил три шага для снижения темпов технологий: 1. использовать встроенных оценщиков для проверки соблюдения безопасности процессов, 2. Объединить усилия передовых ИИ-компаний для создания общих стандартов безопасности и 3. Оперевшись, на глобальную координацию правительств.
Наконец, глава Hugging Face Клеман Деланж сообщил в X, что его компания запускает "инициативу открытого согласования" и просит включить ее в число лабораторий, использующих сторонние системы оценки безопасности.
О чем это? И что на самом деле значит этот публичный "картельный сговор наоборот"? Уж точно – не о безопасности. "ПобОчки" ГИИ опасны и будут оставаться такими имманентно, по своей природе.
Речь – о страхе лавинообразного росте расходов (только в 2026-м на ГИИ разработки и стройки ЦОД, по данным Financial Times, в мире потратят не менее $725 млрд – на 77% больше, чем рекордные $410 млрд в 2025-м). Но главное – о катастрофической панике на мировых биржах и скорой декапитализации ГИИ-бизнесов на гораздо большую сумму