Тренажёр по промпт инъекциям от Lakera
😃 Пора пробовать промпт инъекции руками, чтобы как минимум понять, почему они уже несколько лет остаются одной из главных угроз для LLM-приложений.
🧙♂️ Игра бесплатная, от простого игнорирования инструкций до многоуровневых гардрейлов, рекомендую потратить 20–30 минут. Потом и своего агента потестишь!
Заодно можно изучить полезные материалы от Lakera — перспективного стартапа в области AI Security (это я еще мягко высказалась, завидую их росту). Компания занимается защитой GenAI-приложений от prompt injection, jailbreak, утечек данных и других атак на LLM и AI-агентов и тебя научит:
😔 Гайд по Prompt Injection представляет собой разбор основных техник атак и защит.
😔 Visual Prompt Injection о том, как прятать инструкции прямо в изображениях для мультимодальных моделей. Очень интересные примеры.
😔 LLM Security Playbook — хороший обзор угроз и подходов к защите AI-систем.
Все!
Пройдешь Гендальфа - пиши, когда начал пользоваться подсказками!
9️⃣
😃 Пора пробовать промпт инъекции руками, чтобы как минимум понять, почему они уже несколько лет остаются одной из главных угроз для LLM-приложений.
🧙♂️ Игра бесплатная, от простого игнорирования инструкций до многоуровневых гардрейлов, рекомендую потратить 20–30 минут. Потом и своего агента потестишь!
Заодно можно изучить полезные материалы от Lakera — перспективного стартапа в области AI Security (это я еще мягко высказалась, завидую их росту). Компания занимается защитой GenAI-приложений от prompt injection, jailbreak, утечек данных и других атак на LLM и AI-агентов и тебя научит:
😔 Гайд по Prompt Injection представляет собой разбор основных техник атак и защит.
😔 Visual Prompt Injection о том, как прятать инструкции прямо в изображениях для мультимодальных моделей. Очень интересные примеры.
😔 LLM Security Playbook — хороший обзор угроз и подходов к защите AI-систем.
Все!
Пройдешь Гендальфа - пиши, когда начал пользоваться подсказками!
9️⃣