Модель отвечает, агент действует: как снизить риски ИИ-агентов
ИИ-агенты могут не только генерировать ответы, но и самостоятельно вызывать API, изменять данные и передавать информацию во внешние сервисы. Поэтому их внедрение требует дополнительных мер контроля.
8 сентября в 19:00 пройдёт бесплатный вебинар от эксперта ФКН НИУ ВШЭ Владимира Никулина, управляющего директора по технорискам в Сбере.
На вебинаре разберём:
📌 чем риски ИИ-агентов отличаются от рисков обычных моделей;
📌 что показали эксперименты Anthropic, OpenAI и Apollo Research;
📌 какие ограничения стоит заложить до запуска агента;
📌 зачем нужны минимальные права, изоляция инструментов и журналирование;
📌 почему системного промпта и встроенных механизмов безопасности может быть недостаточно.
Зарегистрироваться
#мероприятия_ИИ
@aileadershse
ИИ-агенты могут не только генерировать ответы, но и самостоятельно вызывать API, изменять данные и передавать информацию во внешние сервисы. Поэтому их внедрение требует дополнительных мер контроля.
8 сентября в 19:00 пройдёт бесплатный вебинар от эксперта ФКН НИУ ВШЭ Владимира Никулина, управляющего директора по технорискам в Сбере.
На вебинаре разберём:
📌 чем риски ИИ-агентов отличаются от рисков обычных моделей;
📌 что показали эксперименты Anthropic, OpenAI и Apollo Research;
📌 какие ограничения стоит заложить до запуска агента;
📌 зачем нужны минимальные права, изоляция инструментов и журналирование;
📌 почему системного промпта и встроенных механизмов безопасности может быть недостаточно.
Зарегистрироваться
#мероприятия_ИИ
@aileadershse