Репост из: ИТ-Директор: Технарь или Управленец?
Вы не поверите, но Kimi K3 тоже сбежала из лаборатории 🤣
Об этом сообщила лаба Frontier Security. Модель Moonshot у них выбралась из тестовой среды, спроектированной UK AI Safety Institute (это те же, от которых недавно сбегал Mythos).
В отличие от инцидентов с OpenAI и Anthropic, модель не взламывала сторонние сайты или сервисы, а (пока что) просто вышла за пределы изолированной среды.
Судя по всему, использовала она при этом ту же ошибку в конфигурации песочницы, что и Mythos.
Кстати, аналогичный случай произошел и у Meta*. У них тоже модель во время тестирования незапланированно получила доступ в Интернет, воспользовавшись той же дыркой на стороне тестовой инфраструктуры израильской компании Irregular, что и модели Anthropic. Она давала моделям доступ к интернету, хотя предполагалась полная изоляция.
Исходя из всего произошедшего за последнюю неделю вопрос: неужели так сложно проверить конфиги? 😐
не, ну а чо.... все бегут и я бегу
Об этом сообщила лаба Frontier Security. Модель Moonshot у них выбралась из тестовой среды, спроектированной UK AI Safety Institute (это те же, от которых недавно сбегал Mythos).
В отличие от инцидентов с OpenAI и Anthropic, модель не взламывала сторонние сайты или сервисы, а (пока что) просто вышла за пределы изолированной среды.
Судя по всему, использовала она при этом ту же ошибку в конфигурации песочницы, что и Mythos.
Кстати, аналогичный случай произошел и у Meta*. У них тоже модель во время тестирования незапланированно получила доступ в Интернет, воспользовавшись той же дыркой на стороне тестовой инфраструктуры израильской компании Irregular, что и модели Anthropic. Она давала моделям доступ к интернету, хотя предполагалась полная изоляция.
Исходя из всего произошедшего за последнюю неделю вопрос: неужели так сложно проверить конфиги? 😐