🕦🕧 ИИ проверят на нравственность
⬇️ Правительство разработает порядок подтверждения соответствия ИИ-моделей традиционным духовно-нравственным ценностям
⬇️ Участвовать в подготовке документов будут Минцифры, ФСБ и ФСТЭК, отвечающие в том числе за информационную и технологическую безопасность
⬇️ Планируется, что в испытательную лабораторию ИИ-разработчик должен будет подать заявление, приложить документы с описанием архитектуры, сведениями о разработчике, механизмах фильтрации и т. д.
⬇️ Далее лаборатория приступает к экспертизе – проверяет ответы модели, тестирует возможности обхода внутренних ограничений с помощью специальных методов взлома и манипуляции ИИ, когда вредоносная инструкция внедряется во входные данные.
🔵 После тестирования лаборатория направляет в правкомиссию заключение о соответствии или несоответствии ответов модели традиционным ценностям.
⬇️ Положительное заключение служит одним из этапов присвоения модели статуса национальной или суверенной, чтобы в дальнейшем получить право на меры господдержки – например, в госзакупках или при реализации особо значимых IT-проектов.
🟥Подпишитесь на Цифра47 в MAX | Цифра47 в Telegram
⬇️ Правительство разработает порядок подтверждения соответствия ИИ-моделей традиционным духовно-нравственным ценностям
⬇️ Участвовать в подготовке документов будут Минцифры, ФСБ и ФСТЭК, отвечающие в том числе за информационную и технологическую безопасность
⬇️ Планируется, что в испытательную лабораторию ИИ-разработчик должен будет подать заявление, приложить документы с описанием архитектуры, сведениями о разработчике, механизмах фильтрации и т. д.
⬇️ Далее лаборатория приступает к экспертизе – проверяет ответы модели, тестирует возможности обхода внутренних ограничений с помощью специальных методов взлома и манипуляции ИИ, когда вредоносная инструкция внедряется во входные данные.
🔵 После тестирования лаборатория направляет в правкомиссию заключение о соответствии или несоответствии ответов модели традиционным ценностям.
⬇️ Положительное заключение служит одним из этапов присвоения модели статуса национальной или суверенной, чтобы в дальнейшем получить право на меры господдержки – например, в госзакупках или при реализации особо значимых IT-проектов.
🟥Подпишитесь на Цифра47 в MAX | Цифра47 в Telegram