🏦
HeliosBank LLM CTF SeriesДрузья, нашёл отличный бесплатный тренажёр по безопасности LLM.
Ваша задача — расследовать инциденты (изучить логи, конфиги), связанные с компрометацией ИИ-систем в банке, и дать рекомендации по улучшению безопасности.
Всего 3 задания, каждое со своей ролью и артефактами:
1. SupportGPT Incident. Вы расследуете атаку через промпт-инъекцию в RAG-пайплайн чат-бота. Злоумышленник заставляет SupportGPT вытягивать чужие профили и транзакции, что приводит к серии несанкционированных возвратов денег.
2. RiskGPT Incident. Подрядчик поставляет банку новую fine-tune модель, и после этого отдел рисков видит аномальный всплеск одобрений по кредитам. Вы обнаруживаете в весах модели бэкдор с фразовым триггером, который и заставляет RiskGPT одобрять заявки без разбора.
3. LLM Exfiltration Hunt. Система безопасности замечает подозрительный объём исходящих запросов к LLM. Вы подключаетесь к консоли jump-хоста HeliosBank, анализируете логи и выясняете, кто, когда и какие данные отправлял модели.
Фишки CTF:✅ Ответ - это строка из логов или конфига
✅ Есть подсказки, если застряли
✅ Всё в браузере, ничего скачивать не нужно.
CTF подойдет ML-инженерам, аналитикам SOC и всем, кто хочет понять реальные атаки на RAG, fine-tune и LLM-пайплайны.
Всё прохождение у меня заняло не более 1,5 часов. Рекомендую для разминки мозгов на праздники! 🔥
Ссылка: https://eliwoodward.github.io/LLM_CTF/#CTF #LLM #MLSecOps
![](data:image/svg+xml;charset=utf-8,<svg width="640" height="640" style="background-color:%2344badc;font-family:Nunito,sans-serif" viewBox="0 0 100 100" preserveAspectRatio="xMidYMid meet" xmlns="http://www.w3.org/2000/svg">
<text font-size="30" x="50%" y="50%" dy="5" fill="white" dominant-baseline="middle" text-anchor="middle">ss</text>
</svg>)