ИИ в фарме уже внедряют. Управлять его рисками пока успевают не все
Сбер опубликовал модель угроз кибербезопасности искусственного интеллекта. И это полезное напоминание: риски AI начинаются не тогда, когда сотрудник вводит неудачный запрос в чат-бот, а гораздо раньше.
В приложенной версии модели систематизированы 70 угроз на всём жизненном цикле AI:
- сбор и подготовка данных;
- разработка и обучение модели;
- эксплуатация и интеграция с корпоративными приложениями.
Среди сценариев: отравление и модификация датасетов, утечки конфиденциальных данных, использование уязвимых библиотек и моделей с закладками, подмена или кража модели, prompt-инъекции, обход механизмов контроля ввода и вывода, а также опасные действия AI-агентов. Схема Сбера показывает, что атаковать можно практически любой элемент: данные, инфраструктуру, саму модель, RAG-источники, приложение и его интеграции.
Для фармацевтической отрасли это особенно чувствительно.
AI-системы могут работать с данными исследований, фармаконадзора, врачебной аудитории, производства, качества, регистрационной документации и коммерческой деятельности. Поэтому ошибка или неконтролируемое действие модели может привести не только к странному ответу чат-бота, но и к утечке информации, нарушению Data Integrity, проблемам с валидацией, регуляторным рискам или остановке критичного процесса.
Предварительные результаты нашего исследования цифровой зрелости фармкомпаний показывают, что отрасль уже активно движется в сторону AI, но управленческий контур развивается заметно медленнее:
- 30% респондентов уже проводят пилоты, не имея единой стратегии AI. - Утверждённая стратегия есть только у 23%.
- Полноценный AI Governance действует лишь у 10% участников исследования.
- В 38% компаний использование публичных AI-сервисов либо не регулируется, либо сотрудники применяют их самостоятельно, без контроля компании.
- Только 8% считают свои данные полностью готовыми для AI. Ещё 39% либо не готовы, либо вообще пока не оценивали готовность данных.
Наиболее распространённые направления применения и пилотирования AI сегодня:
- маркетинг — 53%;
- продажи — 48%;
- работа с документами — 46%.
Именно поэтому разговор об AI в фарме нельзя оставлять исключительно ИТ, ИБ или маркетингу. Бизнес определяет сценарий и ожидаемый эффект. ИТ отвечает за данные, архитектуру и интеграции. ИБ — за контролируемость и риски. Владельцы процессов — за качество результата и возможность его использования в реальной работе.
12 августа в 12:00 на открытом вебинаре мы представим полные результаты исследования цифровой зрелости фармацевтических компаний: ИТ, данные, информационная безопасность, GxP, качество, бюджеты и готовность отрасли к применению искусственного интеллекта.
Участие бесплатное.
Регистрация на вебинар:
https://my.mts-link.ru/j/Digital4pharma/21767498829
Следующим этапом станет практическая онлайн-конференция «ИИ в фарме: ИТ × МАРКЕТИНГ», которая пройдёт 26 августа с 12:00 до 16:00.
Будем разбирать, как выбирать полезные AI-сценарии, оценивать готовность данных, распределять ответственность между бизнесом и ИТ, учитывать безопасность и отраслевые ограничения, а затем переходить от эффектного пилота к измеримому и управляемому решению.
Программа и регистрация:
https://pharmakod.club/ai-it-mktg-2026
ИИ в фарме уже перестал быть экспериментом отдельных энтузиастов. Теперь главный вопрос не в том, использовать ли его, а в том, как получить результат и не потерять контроль над данными, процессами и ответственностью.
Источник модели угроз Сбера:
https://www.sberbank.ru/ru/person/kibrary/experts/model-ugroz-kiberbezopasnosti-ai
Сбер опубликовал модель угроз кибербезопасности искусственного интеллекта. И это полезное напоминание: риски AI начинаются не тогда, когда сотрудник вводит неудачный запрос в чат-бот, а гораздо раньше.
В приложенной версии модели систематизированы 70 угроз на всём жизненном цикле AI:
- сбор и подготовка данных;
- разработка и обучение модели;
- эксплуатация и интеграция с корпоративными приложениями.
Среди сценариев: отравление и модификация датасетов, утечки конфиденциальных данных, использование уязвимых библиотек и моделей с закладками, подмена или кража модели, prompt-инъекции, обход механизмов контроля ввода и вывода, а также опасные действия AI-агентов. Схема Сбера показывает, что атаковать можно практически любой элемент: данные, инфраструктуру, саму модель, RAG-источники, приложение и его интеграции.
Для фармацевтической отрасли это особенно чувствительно.
AI-системы могут работать с данными исследований, фармаконадзора, врачебной аудитории, производства, качества, регистрационной документации и коммерческой деятельности. Поэтому ошибка или неконтролируемое действие модели может привести не только к странному ответу чат-бота, но и к утечке информации, нарушению Data Integrity, проблемам с валидацией, регуляторным рискам или остановке критичного процесса.
Предварительные результаты нашего исследования цифровой зрелости фармкомпаний показывают, что отрасль уже активно движется в сторону AI, но управленческий контур развивается заметно медленнее:
- 30% респондентов уже проводят пилоты, не имея единой стратегии AI. - Утверждённая стратегия есть только у 23%.
- Полноценный AI Governance действует лишь у 10% участников исследования.
- В 38% компаний использование публичных AI-сервисов либо не регулируется, либо сотрудники применяют их самостоятельно, без контроля компании.
- Только 8% считают свои данные полностью готовыми для AI. Ещё 39% либо не готовы, либо вообще пока не оценивали готовность данных.
Наиболее распространённые направления применения и пилотирования AI сегодня:
- маркетинг — 53%;
- продажи — 48%;
- работа с документами — 46%.
Именно поэтому разговор об AI в фарме нельзя оставлять исключительно ИТ, ИБ или маркетингу. Бизнес определяет сценарий и ожидаемый эффект. ИТ отвечает за данные, архитектуру и интеграции. ИБ — за контролируемость и риски. Владельцы процессов — за качество результата и возможность его использования в реальной работе.
12 августа в 12:00 на открытом вебинаре мы представим полные результаты исследования цифровой зрелости фармацевтических компаний: ИТ, данные, информационная безопасность, GxP, качество, бюджеты и готовность отрасли к применению искусственного интеллекта.
Участие бесплатное.
Регистрация на вебинар:
https://my.mts-link.ru/j/Digital4pharma/21767498829
Следующим этапом станет практическая онлайн-конференция «ИИ в фарме: ИТ × МАРКЕТИНГ», которая пройдёт 26 августа с 12:00 до 16:00.
Будем разбирать, как выбирать полезные AI-сценарии, оценивать готовность данных, распределять ответственность между бизнесом и ИТ, учитывать безопасность и отраслевые ограничения, а затем переходить от эффектного пилота к измеримому и управляемому решению.
Программа и регистрация:
https://pharmakod.club/ai-it-mktg-2026
ИИ в фарме уже перестал быть экспериментом отдельных энтузиастов. Теперь главный вопрос не в том, использовать ли его, а в том, как получить результат и не потерять контроль над данными, процессами и ответственностью.
Источник модели угроз Сбера:
https://www.sberbank.ru/ru/person/kibrary/experts/model-ugroz-kiberbezopasnosti-ai