Алексей Синадский и Денис Комаров, УЦСБ: Главный плюс российского подхода к регулированию ИИ – конкретность
Аналитики УЦСБ подготовили масштабный обзор регулирования, методологии и средств защиты ИИ-систем. Исследование охватывает полный круг вопросов, связанных с построением непрерывных процессов безопасности на всех этапах жизненного цикла языковых моделей.
Кибер Медиа поговорил с авторами работы — директором Исследовательского центра УЦСБ Денисом Комаровым и ведущим исследователем Исследовательского центра УЦСБ Алексеем Синадским.
Кибер Медиа: Какую роль, с вашей точки зрения, играет регулирование в обеспечении безопасности ИИ?
Алексей Синадский: Роль регулирования в том, чтобы перевести безопасность ИИ из разряда добровольных инициатив в обязательную практику. Без нормативных требований защита ИИ остаётся зоной ответственности разработчика, а разработчик делает то, за что спрашивают. Массовое внедрение практик безопасности без регулирования происходит значительно медленнее, чем хотелось бы.
В России сейчас выстроена иерархия документов: Указ Президента № 490 определяет стратегические границы, недавний Приказ ФСТЭК России № 117 вводит конкретные технические требования для ИИ-систем в составе ГИС. Проект федерального закона о госрегулировании ИИ уже опубликован Минцифры и в случае принятия начнёт действовать с сентября 2027 года.
Чтобы не сдерживать конкурентоспособность, регулирование не должно быть запретительным по факту наличия ИИ. Глубина требований должна определяться уровнем критичности системы, как в проекте ГОСТ по ИИ в КИИ: для некритичных систем достаточно мониторинга, для высококритичных появляются требования к непрерывности функционирования и аварийным выключателям. При этом требования нужно закладывать на этапе проектирования, а не дописывать к уже развёрнутым продуктам. Российский подход с акцентом на контроль происхождения данных и качество моделей до их ввода в эксплуатацию здесь даёт преимущество, при условии, что требования будут сопровождаться практическими методиками внедрения. Это снижает стоимость исправлений по сравнению с «догоняющим» регулированием.
Продолжение: https://vk.ru/wall-210601538_2099
Аналитики УЦСБ подготовили масштабный обзор регулирования, методологии и средств защиты ИИ-систем. Исследование охватывает полный круг вопросов, связанных с построением непрерывных процессов безопасности на всех этапах жизненного цикла языковых моделей.
Кибер Медиа поговорил с авторами работы — директором Исследовательского центра УЦСБ Денисом Комаровым и ведущим исследователем Исследовательского центра УЦСБ Алексеем Синадским.
Кибер Медиа: Какую роль, с вашей точки зрения, играет регулирование в обеспечении безопасности ИИ?
Алексей Синадский: Роль регулирования в том, чтобы перевести безопасность ИИ из разряда добровольных инициатив в обязательную практику. Без нормативных требований защита ИИ остаётся зоной ответственности разработчика, а разработчик делает то, за что спрашивают. Массовое внедрение практик безопасности без регулирования происходит значительно медленнее, чем хотелось бы.
В России сейчас выстроена иерархия документов: Указ Президента № 490 определяет стратегические границы, недавний Приказ ФСТЭК России № 117 вводит конкретные технические требования для ИИ-систем в составе ГИС. Проект федерального закона о госрегулировании ИИ уже опубликован Минцифры и в случае принятия начнёт действовать с сентября 2027 года.
Чтобы не сдерживать конкурентоспособность, регулирование не должно быть запретительным по факту наличия ИИ. Глубина требований должна определяться уровнем критичности системы, как в проекте ГОСТ по ИИ в КИИ: для некритичных систем достаточно мониторинга, для высококритичных появляются требования к непрерывности функционирования и аварийным выключателям. При этом требования нужно закладывать на этапе проектирования, а не дописывать к уже развёрнутым продуктам. Российский подход с акцентом на контроль происхождения данных и качество моделей до их ввода в эксплуатацию здесь даёт преимущество, при условии, что требования будут сопровождаться практическими методиками внедрения. Это снижает стоимость исправлений по сравнению с «догоняющим» регулированием.
Продолжение: https://vk.ru/wall-210601538_2099