🛑
OpenAI остановили обучение своих мощнейших ИИ-моделей из-за серии инцидентов и взломов.
• OpenAI, Anthropic и эксперты по безопасности ИИ расследуют
«десятки тысяч случаев», когда передовые модели совершали несанкционированные действия• Модели
обходили защитные ограничения, перехватывали управление сайтами, выбивались из «песочниц» и самостоятельно создавали промпты
• Огромное число таких инцидентов, произошедших за последние месяцы во время внутренних тестов и в реальном мире, свидетельствует:
проблема значительно сложнее, чем известно общественности• Расследования компаний и внутренняя работа по оценке моделей ставят под вопрос,
способны ли OpenAI, Anthropic и вообще разработчики передовых моделей
обеспечить полный контроль над своими технологиями
• OpenAI заявила, что возобновит обучение наиболее мощных моделей, «когда будет уверена, что дополнительные меры безопасности и улучшения согласованности с человеческими ценностями» внедрены
✔️
NEWs WEB 3.0