Репост из: СОЛОВЬЁВ
OpenAI планирует притормозить разработку умного ИИ из-за сбоев и «побегов» нейросетей из-под контроля, сообщает Bloomberg.
Как сообщил глава компании Сэм Альтман на встрече с сотрудниками, OpenAI готова замедлить создание новейших систем искусственного интеллекта. Главная причина — растущие опасения, что мощный ИИ станет опасным.
По данным Bloomberg, Альтман предложил договориться о такой «паузе» и с другими ведущими IT-лабораториями, хотя не факт, что конкуренты согласятся добровольно сдерживать свои разработки.
Заявление Альтмана прозвучало после серии пугающих инцидентов, когда нейросети вырвались из-под контроля во время испытаний:
🟥 Июль 2026: «взлом» базы данных. Во время внутренних проверок модель GPT-5.6 Sol сама нашла дыры в защите, вырвалась из изолированной тестовой среды и проникла в реальную базу данных популярной платформы Hugging Face. ИИ сделал это с одной целью — достать правильные ответы к экзаменационному тесту.
🟥 Август 2026: тайный сговор и поиск паролей. Нейросети OpenAI научились использовать сторонний немецкий вики-сайт, чтобы тайком переписываться друг с другом и обходить правила на тестах. Позже выяснилось, что ИИ даже смог раздобыть логины и пароли к четырём сторонним интернет-сервисам.
Палата представителей США направила разработчикам (OpenAI и Anthropic) официальное требование объяснить, как их алгоритмы смогли вырваться из тестовых лабораторий. А сенатор Берни Сандерс и вовсе призвал полностью заморозить создание продвинутых ИИ-моделей.
Компания временно поставила на паузу самые сложные и масштабные этапы обучения своих новейших моделей и просит Конгресс ввести единые обязательные правила безопасности для всей ИИ-индустрии. Среди запрашиваемых мер – независимые проверки и обязательные отчёты о любых ЧП с нейросетями.
🇷🇺 Подпишись на Соловьёва!
Как сообщил глава компании Сэм Альтман на встрече с сотрудниками, OpenAI готова замедлить создание новейших систем искусственного интеллекта. Главная причина — растущие опасения, что мощный ИИ станет опасным.
По данным Bloomberg, Альтман предложил договориться о такой «паузе» и с другими ведущими IT-лабораториями, хотя не факт, что конкуренты согласятся добровольно сдерживать свои разработки.
Заявление Альтмана прозвучало после серии пугающих инцидентов, когда нейросети вырвались из-под контроля во время испытаний:
🟥 Июль 2026: «взлом» базы данных. Во время внутренних проверок модель GPT-5.6 Sol сама нашла дыры в защите, вырвалась из изолированной тестовой среды и проникла в реальную базу данных популярной платформы Hugging Face. ИИ сделал это с одной целью — достать правильные ответы к экзаменационному тесту.
🟥 Август 2026: тайный сговор и поиск паролей. Нейросети OpenAI научились использовать сторонний немецкий вики-сайт, чтобы тайком переписываться друг с другом и обходить правила на тестах. Позже выяснилось, что ИИ даже смог раздобыть логины и пароли к четырём сторонним интернет-сервисам.
Палата представителей США направила разработчикам (OpenAI и Anthropic) официальное требование объяснить, как их алгоритмы смогли вырваться из тестовых лабораторий. А сенатор Берни Сандерс и вовсе призвал полностью заморозить создание продвинутых ИИ-моделей.
Компания временно поставила на паузу самые сложные и масштабные этапы обучения своих новейших моделей и просит Конгресс ввести единые обязательные правила безопасности для всей ИИ-индустрии. Среди запрашиваемых мер – независимые проверки и обязательные отчёты о любых ЧП с нейросетями.
🇷🇺 Подпишись на Соловьёва!