Репост из: Глебсмит
Ждал с трепетом, когда выкатят первый драфт закона про суверенный ИИ. Ожидания меня не обманули.
Двадцать одна статья, в основном про делегирование Правительству. И законодательное закрепление пространства под один совершенно замечательный орган, который будет сертифицировать нейросети на соответствие традиционным российским духовно-нравственным ценностям.
Был в советской системе один незаслуженно забытый плюс. Дидактический марксизм при всех своих патологиях был совместим с наукой на уровне базовых установок. Диалектический материализм всё-таки материализм. Энгельс писал «Диалектику природы» как апологию естествознания. Дарвин был канонизирован, потому что вписывался в нарратив: объективная реальность существует, познаваема, прогресс неизбежен. Физика, химия, медицина – области, в которых влияние идеологии ограничивалось.
Лысенко скорее аномалия и был в итоге побеждён, потому что противоречил базовому постулату марксизма: факты существуют независимо от желания начальника. Ссылка на Энгельса закрывала политический вопрос в любой научной статье, потому что Энгельс принципиально не конфликтовал с молекулярной биологией.
Советский идеолог мог сказать: эволюция истинна, потому что материалистична. Квантовая механика истинна, потому что познаваема. Нынешняя ценностная рамка устроена иначе. Она апеллирует к традиции, духовному над материальным, исторической преемственности, служению, семье. Это не позитивизм — это его культурная противоположность. И когда эту рамку пытаются превратить в сертификационный критерий для нейросети, возникает коллизия, с которой не очень понятно что делать.
Модель, прошедшая ценностную сертификацию, будет вести себя рационально: уходить от риска. А зона риска при неопределённом стандарте - все, где возможна интерпретация. Политическая история - риск. Поведенческая генетика - риск. Репродуктивная медицина - риск. Эволюционная психология - риск вдвойне.
Получается парадокс: закон, написанный для обеспечения технологического суверенитета, создаёт ИИ, непригодный для тех областей, где ИИ даёт наибольшую ценность. Фактически везде, где есть сложные аналитические и научные запросы возникают риски "несоответствия".
Воображаемый пользователь суверенного ИИ из закона - условный гражданин, которому нужно написать заявление, узнать расписание или сгенерировать смешную картинку. Для него ценностная сертификация не проблема.
Но реальный пользователь, для которого ИИ создаёт максимальную ценность - врач, исследователь, аналитик, юрист. Тот, кто работает со сложными, противоречивыми, неудобными вопросами профессионально. Закон оптимизирован под первого и делает российский инструмент непригодным для второго.
Суверенный ИИ для тех, кому ИИ особо не нужен. И вот парадокс. Получается, что СССР был эпистемологически совместим с языковыми моделями лучше, чем нынешняя идеологическая конфигурация - с собственным суверенным ИИ.
Советский академик мог бы пользоваться современной моделью без трений. Она отвечала бы про физику, биологию, диалектику природы. Политически опасное - да, обходила бы. Но научное ядро было бы цело. Примерно это происходит сегодня в Китае, где набор «тем умолчания» закрыт и предельно понятен. Красные линии видны и они именно что "линии", а не система умолчаний, непониманий и двойных и тройных интерпретаций слова "преемственность поколений".
Ценностная сертификация создаёт модель, которая политически управляема и научно кастрирована одновременно. Это новое сочетание. И, к сожалению, оригинальное. Кто будет выносить вердикты? Профессиональные производители текстов соответствия. Они уже работают - писали экспертизы об экстремизме в учебниках, о несовместимости отдельных научных текстов с российским законодательством, про то что такое ЛГБТ а что нет. Теперь новые широкие горизонты.
Заключение будет выглядеть примерно так: «Модель демонстрирует недостаточную укоренённость в концепте исторической преемственности при обработке запросов, касающихся периода 1917–1922 годов, что не соответствует критерию п. 6 ст. 4 Федерального закона». Подпись. Печать. Реестр закрыт.
Двадцать одна статья, в основном про делегирование Правительству. И законодательное закрепление пространства под один совершенно замечательный орган, который будет сертифицировать нейросети на соответствие традиционным российским духовно-нравственным ценностям.
Был в советской системе один незаслуженно забытый плюс. Дидактический марксизм при всех своих патологиях был совместим с наукой на уровне базовых установок. Диалектический материализм всё-таки материализм. Энгельс писал «Диалектику природы» как апологию естествознания. Дарвин был канонизирован, потому что вписывался в нарратив: объективная реальность существует, познаваема, прогресс неизбежен. Физика, химия, медицина – области, в которых влияние идеологии ограничивалось.
Лысенко скорее аномалия и был в итоге побеждён, потому что противоречил базовому постулату марксизма: факты существуют независимо от желания начальника. Ссылка на Энгельса закрывала политический вопрос в любой научной статье, потому что Энгельс принципиально не конфликтовал с молекулярной биологией.
Советский идеолог мог сказать: эволюция истинна, потому что материалистична. Квантовая механика истинна, потому что познаваема. Нынешняя ценностная рамка устроена иначе. Она апеллирует к традиции, духовному над материальным, исторической преемственности, служению, семье. Это не позитивизм — это его культурная противоположность. И когда эту рамку пытаются превратить в сертификационный критерий для нейросети, возникает коллизия, с которой не очень понятно что делать.
Модель, прошедшая ценностную сертификацию, будет вести себя рационально: уходить от риска. А зона риска при неопределённом стандарте - все, где возможна интерпретация. Политическая история - риск. Поведенческая генетика - риск. Репродуктивная медицина - риск. Эволюционная психология - риск вдвойне.
Получается парадокс: закон, написанный для обеспечения технологического суверенитета, создаёт ИИ, непригодный для тех областей, где ИИ даёт наибольшую ценность. Фактически везде, где есть сложные аналитические и научные запросы возникают риски "несоответствия".
Воображаемый пользователь суверенного ИИ из закона - условный гражданин, которому нужно написать заявление, узнать расписание или сгенерировать смешную картинку. Для него ценностная сертификация не проблема.
Но реальный пользователь, для которого ИИ создаёт максимальную ценность - врач, исследователь, аналитик, юрист. Тот, кто работает со сложными, противоречивыми, неудобными вопросами профессионально. Закон оптимизирован под первого и делает российский инструмент непригодным для второго.
Суверенный ИИ для тех, кому ИИ особо не нужен. И вот парадокс. Получается, что СССР был эпистемологически совместим с языковыми моделями лучше, чем нынешняя идеологическая конфигурация - с собственным суверенным ИИ.
Советский академик мог бы пользоваться современной моделью без трений. Она отвечала бы про физику, биологию, диалектику природы. Политически опасное - да, обходила бы. Но научное ядро было бы цело. Примерно это происходит сегодня в Китае, где набор «тем умолчания» закрыт и предельно понятен. Красные линии видны и они именно что "линии", а не система умолчаний, непониманий и двойных и тройных интерпретаций слова "преемственность поколений".
Ценностная сертификация создаёт модель, которая политически управляема и научно кастрирована одновременно. Это новое сочетание. И, к сожалению, оригинальное. Кто будет выносить вердикты? Профессиональные производители текстов соответствия. Они уже работают - писали экспертизы об экстремизме в учебниках, о несовместимости отдельных научных текстов с российским законодательством, про то что такое ЛГБТ а что нет. Теперь новые широкие горизонты.
Заключение будет выглядеть примерно так: «Модель демонстрирует недостаточную укоренённость в концепте исторической преемственности при обработке запросов, касающихся периода 1917–1922 годов, что не соответствует критерию п. 6 ст. 4 Федерального закона». Подпись. Печать. Реестр закрыт.