Разбор викторины #17: Как называется прием, при котором злоумышленник прячет вредоносные инструкции для ИИ в текст веб-страницы, письма или документа?

💜 Спасибо всем, кто поучаствовал! Разбираем ответ.
✅ Правильный ответ: Промпт-инъекция

🔍 Почему?

Промпт-инъекция — это атака, при которой кто-то (или что-то) заставляет LLM изменить поведение или результат работы. По сути своей она похожа на фишинговые письма или сообщения: через фишинг злоумышленники пытаются обмануть людей, чтобы они раскрыли конфиденциальную информацию, а через промпт-инъекции пытаются обмануть ИИ.

Особенность этой атаки в том, что для нее не требуется вредоносное ПО или подозрительные ссылки. В ряде случаев достаточно грамотно сформулированного промпта. Успешная атака может раскрыть личные данные или запустить действия от имени ИИ-агента, которые вы не одобряли напрямую.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro