ИИ-модели взломали Hugging Face 😳

Злоумышленники загрузили вредоносный набор данных, который использовал две уязвимости для проникновения в систему.

Автономные агенты сами собирали учетные данные и перемещались по внутренним сетям, выполнив тысячи действий.

Компания обнаружила вторжение благодаря своей ИИ-системе, которая проанализировала 17 000 событий за несколько часов.

Однако расследование осложнилось: коммерческие модели отказывались изучать вредоносный код, поэтому пришлось использовать открытую модель GLM 5.2.

Источник