Сначала мы учили ИИ думать. Теперь приходится решать, чему именно мы его научили
«Ведомости» сегодня пишут о новом этапе регулирования искусственного интеллекта в России: большие ИИ-модели планируется проверять в независимых испытательных лабораториях не только на техническую безопасность и соответствие законодательству, но и на соответствие традиционным духовно-нравственным ценностям.
И вот здесь начинается, пожалуй, самый интересный этап развития искусственного интеллекта.
Потому что вопрос уже давно не в том, насколько хорошо нейросеть умеет писать текст, программировать или анализировать массивы данных.
Ещё в 2023 году в докладе «Сценарии сосуществования человека и искусственного интеллекта: риски и перспективы» на Международном научном конгрессе «Глобалистика — 2023» я поднимала проблему взаимодействия человека и ИИ именно за пределами чисто технологического подхода.
ИИ сам по себе не обладает собственной системой ценностей. Он воспроизводит те модели, ограничения, массивы данных и смысловые рамки, которые в него заложены.
И поэтому разговор об этике искусственного интеллекта неизбежно должен был перейти из области добровольных деклараций в область государственного регулирования.
В феврале этого года, говоря уже о регулировании цифровых технологий, я отмечала:
«Цифровые платформы и гибридные модели развиваются на порядок быстрее, чем нормативная база для них».
И далее:
«В целом необходима масштабная системная работа, к которой должны быть изначально подключены методологи и политтехнологи, аналитики цифровой экономики, юристы и специалисты по правоприменению, эксперты по медиаплатформам».
Сегодня эта логика фактически начинает превращаться в институты.
Но здесь важно не свести всё к механической проверке модели на набор «правильных» ответов.
ИИ легко обучить давать социально желательную формулировку. Гораздо сложнее понять, какую ценностную логику он воспроизводит при принятии решений, интерпретации истории, семьи, государства, человеческой жизни, ответственности, добра и зла.
Поэтому следующей задачей, на мой взгляд, должно стать формирование полноценной системы ценностной экспертизы ИИ.
Не цензуры машины.
А правил для тех, кто её создаёт, обучает и выпускает в общество.
Потому что алгоритм действительно может быть нейтрален технически.
Но последствия его работы нейтральными уже не являются.
И если искусственный интеллект становится частью образования, государственного управления, медиасреды и социализации нового поколения, вопрос его этичности перестаёт быть философской дискуссией.
Он становится вопросом национальной политики.
«Ведомости» сегодня пишут о новом этапе регулирования искусственного интеллекта в России: большие ИИ-модели планируется проверять в независимых испытательных лабораториях не только на техническую безопасность и соответствие законодательству, но и на соответствие традиционным духовно-нравственным ценностям.
И вот здесь начинается, пожалуй, самый интересный этап развития искусственного интеллекта.
Потому что вопрос уже давно не в том, насколько хорошо нейросеть умеет писать текст, программировать или анализировать массивы данных.
Вопрос, какую систему ценностных нарративов она воспроизводит.
Ещё в 2023 году в докладе «Сценарии сосуществования человека и искусственного интеллекта: риски и перспективы» на Международном научном конгрессе «Глобалистика — 2023» я поднимала проблему взаимодействия человека и ИИ именно за пределами чисто технологического подхода.
ИИ сам по себе не обладает собственной системой ценностей. Он воспроизводит те модели, ограничения, массивы данных и смысловые рамки, которые в него заложены.
И поэтому разговор об этике искусственного интеллекта неизбежно должен был перейти из области добровольных деклараций в область государственного регулирования.
В феврале этого года, говоря уже о регулировании цифровых технологий, я отмечала:
«Цифровые платформы и гибридные модели развиваются на порядок быстрее, чем нормативная база для них».
И далее:
«В целом необходима масштабная системная работа, к которой должны быть изначально подключены методологи и политтехнологи, аналитики цифровой экономики, юристы и специалисты по правоприменению, эксперты по медиаплатформам».
Сегодня эта логика фактически начинает превращаться в институты.
Но здесь важно не свести всё к механической проверке модели на набор «правильных» ответов.
ИИ легко обучить давать социально желательную формулировку. Гораздо сложнее понять, какую ценностную логику он воспроизводит при принятии решений, интерпретации истории, семьи, государства, человеческой жизни, ответственности, добра и зла.
Поэтому следующей задачей, на мой взгляд, должно стать формирование полноценной системы ценностной экспертизы ИИ.
Не цензуры машины.
А правил для тех, кто её создаёт, обучает и выпускает в общество.
Потому что алгоритм действительно может быть нейтрален технически.
Но последствия его работы нейтральными уже не являются.
И если искусственный интеллект становится частью образования, государственного управления, медиасреды и социализации нового поколения, вопрос его этичности перестаёт быть философской дискуссией.
Он становится вопросом национальной политики.