В России разработали метод выявления краж моделей искусственного интеллекта с доступом через API🥷🏿
Протокол научной группы «Доверенные и безопасные интеллектуальные системы» Института ИИ AIRI основан на создании триггерного набора данных, системы «водяных знаков», которые позволяют доказать, что модель была скомпрометирована.
Кражей модели называется ситуация, когда неавторизованные физические или юридические лица незаконно получают и используют модели ИИ, права на которые принадлежат другим лицам. Наиболее популярные типы краж – дистилляция модели и дообучение исходной модели на новом наборе данных с предварительным утаиванием способов получения исходной модели.
☝🏻Объективное доказательство кражи модели — это сложная проблема для ИИ-сообщества. Предложенный учёными новый метод позволяет получить уникальные наборы триггеров, встраиваемых в ИИ‑модель, с высокой вероятностью сохранить эти знаки в процессе любых изменений.
Протокол научной группы «Доверенные и безопасные интеллектуальные системы» Института ИИ AIRI основан на создании триггерного набора данных, системы «водяных знаков», которые позволяют доказать, что модель была скомпрометирована.
Кражей модели называется ситуация, когда неавторизованные физические или юридические лица незаконно получают и используют модели ИИ, права на которые принадлежат другим лицам. Наиболее популярные типы краж – дистилляция модели и дообучение исходной модели на новом наборе данных с предварительным утаиванием способов получения исходной модели.
☝🏻Объективное доказательство кражи модели — это сложная проблема для ИИ-сообщества. Предложенный учёными новый метод позволяет получить уникальные наборы триггеров, встраиваемых в ИИ‑модель, с высокой вероятностью сохранить эти знаки в процессе любых изменений.