ИИ развивается быстрее, чем государства учатся им управлять
🔻Разговоры о будущем искусственного интеллекта обычно сводятся к технологиям: насколько мощными станут модели, сколько профессий они заменят и кто первым создаст следующий прорыв. Но главный вопрос может оказаться политическим: кто будет контролировать ИИ, если государства уже начинают отставать от его разработчиков?
➖Council on Foreign Relations опросил более 350 экспертов о том, как искусственный интеллект изменит мировой порядок к 2035 году. Более 80% ожидают, что регулирование останется раздробленным, а единых международных правил не появится. При этом только 5% считают, что государственные органы, суды и другие институты смогут развиваться с той же скоростью, что и сами технологии.
Причина не только в медленной бюрократии. Передовые модели, вычислительная инфраструктура и техническая экспертиза сосредоточены прежде всего у частных компаний. Государства обладают законами, силовыми структурами и политической легитимностью, но часто вынуждены обращаться за консультацией к тем же лабораториям, деятельность которых собираются регулировать.
➖Так возникает необычная зависимость: регулятор всё сильнее нуждается в регулируемом. Почти 70% опрошенных считают, что к 2035 году разработчики передового ИИ станут самыми влиятельными негосударственными игроками, а 75% ожидают общего усиления негосударственных структур относительно государств. Среди главных рисков эксперты называют ситуацию, при которой крупнейшие компании начнут фактически влиять на правила, предназначенные для их контроля.
➖На международном уровне проблема становится ещё сложнее. США, Китай и Европейский союз формируют разные подходы к безопасности, прозрачности и ответственности разработчиков. Поэтому вместо общего режима регулирования может появиться несколько конкурирующих систем. Технология будет глобальной, а правила — национальными.
➖ Особенно показательно, что более 70% экспертов считают серьёзную аварию или кризис, связанный с ИИ, вероятным толчком к созданию более согласованных правил. Получается, государства могут начать договариваться не до возникновения крупной проблемы, а уже после неё.
Сам опрос не является точным прогнозом: он отражает ожидания экспертного сообщества, причём большинство участников находились в Северной Америке. Но он хорошо показывает общий страх — никто не уверен, каким станет ИИ, зато почти все сомневаются, что существующие институты смогут им управлять.
Главный политический конфликт вокруг ИИ может пройти не между человеком и машиной, а между государствами и компаниями, которые знают о новой технологии больше, чем те, кто должен устанавливать для неё правила.
🗣О Конфликтах. Подписаться
🔻Разговоры о будущем искусственного интеллекта обычно сводятся к технологиям: насколько мощными станут модели, сколько профессий они заменят и кто первым создаст следующий прорыв. Но главный вопрос может оказаться политическим: кто будет контролировать ИИ, если государства уже начинают отставать от его разработчиков?
➖Council on Foreign Relations опросил более 350 экспертов о том, как искусственный интеллект изменит мировой порядок к 2035 году. Более 80% ожидают, что регулирование останется раздробленным, а единых международных правил не появится. При этом только 5% считают, что государственные органы, суды и другие институты смогут развиваться с той же скоростью, что и сами технологии.
Причина не только в медленной бюрократии. Передовые модели, вычислительная инфраструктура и техническая экспертиза сосредоточены прежде всего у частных компаний. Государства обладают законами, силовыми структурами и политической легитимностью, но часто вынуждены обращаться за консультацией к тем же лабораториям, деятельность которых собираются регулировать.
➖Так возникает необычная зависимость: регулятор всё сильнее нуждается в регулируемом. Почти 70% опрошенных считают, что к 2035 году разработчики передового ИИ станут самыми влиятельными негосударственными игроками, а 75% ожидают общего усиления негосударственных структур относительно государств. Среди главных рисков эксперты называют ситуацию, при которой крупнейшие компании начнут фактически влиять на правила, предназначенные для их контроля.
➖На международном уровне проблема становится ещё сложнее. США, Китай и Европейский союз формируют разные подходы к безопасности, прозрачности и ответственности разработчиков. Поэтому вместо общего режима регулирования может появиться несколько конкурирующих систем. Технология будет глобальной, а правила — национальными.
➖ Особенно показательно, что более 70% экспертов считают серьёзную аварию или кризис, связанный с ИИ, вероятным толчком к созданию более согласованных правил. Получается, государства могут начать договариваться не до возникновения крупной проблемы, а уже после неё.
Сам опрос не является точным прогнозом: он отражает ожидания экспертного сообщества, причём большинство участников находились в Северной Америке. Но он хорошо показывает общий страх — никто не уверен, каким станет ИИ, зато почти все сомневаются, что существующие институты смогут им управлять.
Главный политический конфликт вокруг ИИ может пройти не между человеком и машиной, а между государствами и компаниями, которые знают о новой технологии больше, чем те, кто должен устанавливать для неё правила.
🗣О Конфликтах. Подписаться