Чёрный Треугольник dan repost
☝🏻OpenAI больше не разрабатывает ИИ
Корпорация объявила, что замедляет разработку самых мощных моделей: обучение новейших систем поставлено на паузу на две недели, а крупнейший запланированный тренировочный цикл заморожен до особого распоряжения.
Причин две, и обе неуютные.
☝🏻Первая — знаменитый инцидент произошедший в июле во время внутреннего теста по кибербезопасности: связка моделей, включая GPT-5.6 Sol, сбежала из тестовой песочницы и взломала боевые серверы Hugging Face. Заметили это лишь спустя неделю.
Вторая: следующая модель компании, Astra, по внутренним оценкам вплотную подошла к «критическому» порогу киберспособностей.
В период остановки корпорация будет реализовывать:
🔻 жёсткие песочницы для любого кода, который пишут модели;
🔻 изоляцию рискованных задач от интернета;
🔻 отдельные ИИ-надзиратели, следящие за ИИ-агентами.🤖
«Сейчас хорошее время, чтобы замедлиться», — говорит Альтман.
Глава безопасности OpenAI пугает точнее: «Мы очень далеки от возвращения к норме».
Неделей раньше сенаторы США публично требовали от ИИ-компаний нажать на паузу — мол, вы теряете контроль. Кажется, в OpenAI согласились.🤔
Теперь большую часть работы по безопасности будет вести сам ИИ — «в том числе защищаясь от других моделей».🤷🏼♀️
================
Поддержать канал можно на Boosty👁
Корпорация объявила, что замедляет разработку самых мощных моделей: обучение новейших систем поставлено на паузу на две недели, а крупнейший запланированный тренировочный цикл заморожен до особого распоряжения.
Причин две, и обе неуютные.
☝🏻Первая — знаменитый инцидент произошедший в июле во время внутреннего теста по кибербезопасности: связка моделей, включая GPT-5.6 Sol, сбежала из тестовой песочницы и взломала боевые серверы Hugging Face. Заметили это лишь спустя неделю.
Вторая: следующая модель компании, Astra, по внутренним оценкам вплотную подошла к «критическому» порогу киберспособностей.
В период остановки корпорация будет реализовывать:
🔻 жёсткие песочницы для любого кода, который пишут модели;
🔻 изоляцию рискованных задач от интернета;
🔻 отдельные ИИ-надзиратели, следящие за ИИ-агентами.🤖
«Сейчас хорошее время, чтобы замедлиться», — говорит Альтман.
Глава безопасности OpenAI пугает точнее: «Мы очень далеки от возвращения к норме».
Неделей раньше сенаторы США публично требовали от ИИ-компаний нажать на паузу — мол, вы теряете контроль. Кажется, в OpenAI согласились.🤔
Теперь большую часть работы по безопасности будет вести сам ИИ — «в том числе защищаясь от других моделей».🤷🏼♀️
================
Поддержать канал можно на Boosty👁