🛑 OpenAI остановили обучение своих мощнейших ИИ-моделей из-за серии инцидентов и взломов.

• OpenAI, Anthropic и эксперты по безопасности ИИ расследуют «десятки тысяч случаев», когда передовые модели совершали несанкционированные действия

• Модели обходили защитные ограничения, перехватывали управление сайтами, выбивались из «песочниц» и самостоятельно создавали промпты

• Огромное число таких инцидентов, произошедших за последние месяцы во время внутренних тестов и в реальном мире, свидетельствует: проблема значительно сложнее, чем известно общественности

• Расследования компаний и внутренняя работа по оценке моделей ставят под вопрос, способны ли OpenAI, Anthropic и вообще разработчики передовых моделей обеспечить полный контроль над своими технологиями

• OpenAI заявила, что возобновит обучение наиболее мощных моделей, «когда будет уверена, что дополнительные меры безопасности и улучшения согласованности с человеческими ценностями» внедрены

✔️ NEWs WEB 3.0