Оценка_рисков_превентивного_удара_в_гонке_за_передовым_ИИ.pdf
Может ли искусственный интеллект спровоцировать превентивный удар? Оценка рисков
Американская «независимая» исследовательская организация Rand последнее время уделяет очень пристальное внимание гонке ведущих государств за ИИ и её влиянии на мировую безопасность. А поскольку исследования проводятся по заказу госструктур и транснациональных компаний, то значит этот вопрос сейчас на повестке
Представляем вам перевод нового свежего документа под названием: «Оценка рисков превентивного удара в гонке за передовые технологии ИИ»
Основные тезисы
🔹Что произойдет, если одна из стран совершит прорыв в создании Искусственного Общего Интеллекта (AGI) – системы, превосходящей человека в большинстве когнитивных задач? Цель одной стороны – первыми получить эти преимущества, цель другой – не дать это сделать сопернику
🔹Самый опасный сценарий – это не борьба за AGI, а борьба за то, чтобы не дать другим его получить, когда он у тебя уже есть
🔹Разработано несколько вероятных сценариев. Самый реалистичный тот, в котором монополист уже видит реальные преимущества AGI и, возможно, обладает новыми военными возможностями, чтобы нанести более эффективный удар. Страх потерять монополию – мощный мотиватор. Плюс соблазн – поразить противника до того, как он сможет догнать в этой сфере и добиться паритета
🔹Ближайший исторический аналог – превентивные удары по ядерным программам (Израиль против Ирака и Сирии, США против Ирака). Анализ показывает, что страны шли на это, только когда:
1️⃣Цель была значительно слабее
2️⃣Угроза от конкретной технологии была очевидна и велика
3️⃣Была уверенность в эффективности удара
🔹В случае с AGI применить эти уроки сложнее. Технология более расплывчатая, ее развитие децентрализовано (часто в частных компаниях), а главные конкуренты – равные по силе ядерные державы, что делает прямое военное столкновение крайне маловероятным
🔹Поскольку полномасштабная война – слишком рискованный вариант, государства с большей вероятностью будут использовать инструменты «серой зоны» для замедления соперника. Жесткие экспортные контроли, чтобы лишить соперника передовых чипов и технологий (как это уже делают США в отношении Китая), а также влияние на внутренние дебаты в стране-сопернике, чтобы раздуть страх перед ИИ и затормозить его развитие через регулирование
🔹Гонка за AGI создает фундаментальную дилемму – чем могущественнее технология, тем выше соблазн ею завладеть и страх, что это сделает кто-то другой. Это может расколоть мир на «имущих» и «неимущих» в сфере ИИ, порождая зависть и отчаяние. Передовой ИИ может быть технически безопасным, но при этом геополитически дестабилизирующим. Даже если прямой военный конфликт маловероятен, гонка будет подпитывать напряженность, шпионаж и экономическое противостояние, делая мир более опасным и непредсказуемым
🔹Необходимо сделать свою ИИ-инфраструктуру рассредоточенной, защищенной и дублированной, чтобы лишить противника уверенности в успехе точечного удара
🔹Требуется инвестировать не только в прорыв, но и в способность быстро скопировать и внедрить чужие достижения. Это снизит ценность преимущества первопроходца
В общем, это исследование построено по принципу старого анекдота: «–А не е$нет? – Да, вроде, не должно». А вот чтобы этого «не должно», действительно не произошло, авторы и пытаются разработать набор рекомендаций и инструментов, чем они и занимаются в нескольких своих последних отчётах
🚀 Подпишитесь на наш канал чтобы не пропустить следующие публикации!
Cogito ergo vinco
МЫСЛЮ, СЛЕДОВАТЕЛЬНО, ПОБЕЖДАЮ!
Американская «независимая» исследовательская организация Rand последнее время уделяет очень пристальное внимание гонке ведущих государств за ИИ и её влиянии на мировую безопасность. А поскольку исследования проводятся по заказу госструктур и транснациональных компаний, то значит этот вопрос сейчас на повестке
Представляем вам перевод нового свежего документа под названием: «Оценка рисков превентивного удара в гонке за передовые технологии ИИ»
Основные тезисы
🔹Что произойдет, если одна из стран совершит прорыв в создании Искусственного Общего Интеллекта (AGI) – системы, превосходящей человека в большинстве когнитивных задач? Цель одной стороны – первыми получить эти преимущества, цель другой – не дать это сделать сопернику
🔹Самый опасный сценарий – это не борьба за AGI, а борьба за то, чтобы не дать другим его получить, когда он у тебя уже есть
🔹Разработано несколько вероятных сценариев. Самый реалистичный тот, в котором монополист уже видит реальные преимущества AGI и, возможно, обладает новыми военными возможностями, чтобы нанести более эффективный удар. Страх потерять монополию – мощный мотиватор. Плюс соблазн – поразить противника до того, как он сможет догнать в этой сфере и добиться паритета
🔹Ближайший исторический аналог – превентивные удары по ядерным программам (Израиль против Ирака и Сирии, США против Ирака). Анализ показывает, что страны шли на это, только когда:
1️⃣Цель была значительно слабее
2️⃣Угроза от конкретной технологии была очевидна и велика
3️⃣Была уверенность в эффективности удара
🔹В случае с AGI применить эти уроки сложнее. Технология более расплывчатая, ее развитие децентрализовано (часто в частных компаниях), а главные конкуренты – равные по силе ядерные державы, что делает прямое военное столкновение крайне маловероятным
🔹Поскольку полномасштабная война – слишком рискованный вариант, государства с большей вероятностью будут использовать инструменты «серой зоны» для замедления соперника. Жесткие экспортные контроли, чтобы лишить соперника передовых чипов и технологий (как это уже делают США в отношении Китая), а также влияние на внутренние дебаты в стране-сопернике, чтобы раздуть страх перед ИИ и затормозить его развитие через регулирование
🔹Гонка за AGI создает фундаментальную дилемму – чем могущественнее технология, тем выше соблазн ею завладеть и страх, что это сделает кто-то другой. Это может расколоть мир на «имущих» и «неимущих» в сфере ИИ, порождая зависть и отчаяние. Передовой ИИ может быть технически безопасным, но при этом геополитически дестабилизирующим. Даже если прямой военный конфликт маловероятен, гонка будет подпитывать напряженность, шпионаж и экономическое противостояние, делая мир более опасным и непредсказуемым
🔹Необходимо сделать свою ИИ-инфраструктуру рассредоточенной, защищенной и дублированной, чтобы лишить противника уверенности в успехе точечного удара
🔹Требуется инвестировать не только в прорыв, но и в способность быстро скопировать и внедрить чужие достижения. Это снизит ценность преимущества первопроходца
В общем, это исследование построено по принципу старого анекдота: «–А не е$нет? – Да, вроде, не должно». А вот чтобы этого «не должно», действительно не произошло, авторы и пытаются разработать набор рекомендаций и инструментов, чем они и занимаются в нескольких своих последних отчётах
🚀 Подпишитесь на наш канал чтобы не пропустить следующие публикации!
Cogito ergo vinco
МЫСЛЮ, СЛЕДОВАТЕЛЬНО, ПОБЕЖДАЮ!