В полку моделей угроз для LLM прибыло. На этот раз от известного гуру моделирования угроз – Адама Шостака, который, взяв идею STRIDE, предложил также аббревиатуру, которая описывает основные угрозы для LLM:
🩸rompt injection – промпт-инъекции
🩸allucination – галлюцинации
🅰️nthropomorphization – антропоморфизм
🩸on-explainable – необъяснимость
🩸raining issues – проблемы обучения
🩸ver-reliance – чрезмерная зависимость
🩸issing security engineering – слабая архитектура ИБ
🅱️ias – искажение.

Итого, PHANTOM-B. Любят американцы фреймворки в аббревиатуры заворачивать. Это, конечно, удобно для запоминания, но подгонка под результат может приводить и к пробелам в описываемой фреймворком картине мира 🎶

#модельугроз #ии