🏦 HeliosBank LLM CTF Series

Друзья, нашёл отличный бесплатный тренажёр по безопасности LLM.

Ваша задача — расследовать инциденты (изучить логи, конфиги), связанные с компрометацией ИИ-систем в банке, и дать рекомендации по улучшению безопасности.

Всего 3 задания, каждое со своей ролью и артефактами:

1. SupportGPT Incident. Вы расследуете атаку через промпт-инъекцию в RAG-пайплайн чат-бота. Злоумышленник заставляет SupportGPT вытягивать чужие профили и транзакции, что приводит к серии несанкционированных возвратов денег.

2. RiskGPT Incident. Подрядчик поставляет банку новую fine-tune модель, и после этого отдел рисков видит аномальный всплеск одобрений по кредитам. Вы обнаруживаете в весах модели бэкдор с фразовым триггером, который и заставляет RiskGPT одобрять заявки без разбора.

3. LLM Exfiltration Hunt. Система безопасности замечает подозрительный объём исходящих запросов к LLM. Вы подключаетесь к консоли jump-хоста HeliosBank, анализируете логи и выясняете, кто, когда и какие данные отправлял модели.

Фишки CTF:
✅ Ответ - это строка из логов или конфига
✅ Есть подсказки, если застряли
✅ Всё в браузере, ничего скачивать не нужно.

CTF подойдет ML-инженерам, аналитикам SOC и всем, кто хочет понять реальные атаки на RAG, fine-tune и LLM-пайплайны.

Всё прохождение у меня заняло не более 1,5 часов. Рекомендую для разминки мозгов на праздники! 🔥

Ссылка: https://eliwoodward.github.io/LLM_CTF/

#CTF #LLM #MLSecOps