Сэм Уинтер-Леви — научный сотрудник по вопросам технологий и международных отношений в Фонде Карнеги за международный мир.
Никита Лалвани — внештатный научный сотрудник в Фонде Карнеги за международный мир. Она работала директором по вопросам технологий и национальной безопасности в Совете национальной безопасности и старшим советником директора программы CHIPS в Министерстве торговли США в администрации Байдена.
Бурное развитие искусственного интеллекта в последние годы заставило многих аналитиков предположить, что он перевернёт международную политику и военный баланс сил. Некоторые пошли ещё дальше и заявили, как выразились технологи Дэн Хендрикс, Эрик Шмидт и Александр Ван, что передовые ИИ-системы могут «обеспечить полное доминирование и контроль одного государства, сделав судьбу соперников подвластной его воле».
ИИ, несомненно, является трансформирующей технологией, которая укрепит экономические, политические и военные основы государственной мощи. Но победитель в гонке ИИ не обязательно получит бесспорное доминирование над своими главными соперниками. Мощь ядерного оружия — самого значительного изобретения прошлого века — остаётся серьёзным препятствием на пути к радикальным изменениям, которые может принести ИИ. Пока сохраняются системы ядерного сдерживания, экономические и военные преимущества, порождённые ИИ, не позволят государствам в полной мере навязать друг другу свои политические предпочтения. Например, экономика США почти в 15 раз больше экономики России и почти в 1 000 раз больше северокорейской, но Вашингтону по-прежнему трудно заставить Москву или Пхеньян поступать по его желанию — во многом из-за их ядерного арсенала.
Некоторые аналитики предположили, что достижения ИИ могут изменить эту динамику. Чтобы подорвать ядерное сдерживание, ИИ должен разрушить его центральную опору: способность государства ответить на ядерную атаку сокрушительным ядерным ударом, то есть возможность второго удара. Технологии ИИ теоретически могут упростить нанесение «великолепного первого удара», полностью уничтожив ядерный арсенал противника, например, за счёт обнаружения подводных лодок и мобильных установок. Они также могут не дать противнику осуществить ответный удар, выведя из строя его системы управления и связи. Кроме того, ИИ может усилить противоракетную оборону настолько, что угроза ответного удара больше не будет восприниматься как достоверная. Если ИИ действительно сможет избавить государство от перспективы взаимного гарантированного уничтожения, оно получит непревзойдённую способность угрожать и принуждать противников — такой исход соответствует всё более популярным представлениям о доминировании, основанном на ИИ.
Но подорвать ядерный баланс сил будет непросто. Новые технологии по-прежнему сталкиваются с очень реальными ограничениями в ядерной сфере. Даже самые совершенные системы наведения и сенсоры на базе ИИ могут испытывать трудности при обнаружении мобильной пусковой установки, спрятанной под мостом, при отделении сигнала атомной подводной лодки от фонового шума океана, а также при координации одновременного уничтожения сотен целей на суше, в воздухе и на море — без права на ошибку. И соперники будут реагировать на использование новых технологий своими ответными шагами, как они это делают с начала атомной эры.
Тем не менее, даже если ИИ не подорвёт ядерное сдерживание напрямую, он может спровоцировать недоверие и опасные действия со стороны государств, обладающих ядерным оружием. Многие шаги, которые правительства могут предпринять для защиты и усиления своих возможностей второго удара, могут напугать соперников и, возможно, спровоцировать дорогостоящую и опасную гонку вооружений. Также нельзя исключать, что ИИ-системы пересекут критический порог и начнут очень быстро улучшаться. Если это произойдёт, преимущества для страны, обладающей ими, могут стать более выраженными и труднопреодолимыми для конкурентов. Политикам следует следить за таким сценарием и обеспечивать регулярное взаимодействие между специалистами по ИИ и ядерной политике. Одновременно следует предпринять шаги по снижению вероятности несчастных случаев и эскалации, включая проверку ядерных систем на уязвимость к ИИ и поддержание каналов связи между ядерными державами. Эти меры помогут обеспечить сохранение ядерной стабильности — а не только сдерживания — в эпоху ИИ.
ПЕРВЫЙ УДАР
Ядерное сдерживание в своей основе зависит от способности государств нанести ответный удар после ядерной атаки: до тех пор, пока две ядерные державы достоверно сохраняют возможность второго удара, который может нанести неприемлемый ущерб противнику, первый удар становится самоубийственным. Это понимание в течение десятилетий поддерживало относительно стабильное равновесие. Но возможность второго удара не является неуязвимой. Государства могут уничтожить средства доставки, такие как мобильные пусковые установки или атомные подлодки, если смогут их обнаружить. Сложность их обнаружения и обезвреживания — одна из главных преград на пути к «великолепному первому удару». Огромные размеры Китая, России, США, Атлантического и Тихого океанов — основных театров ядерного соперничества сегодня — делают такой удар чрезвычайно трудным.
Однако появление мощных ИИ-систем может решить эту проблему. Обладая возможностью обрабатывать и анализировать гигантские объёмы данных, вооружённые силы, оснащённые такими технологиями, смогут эффективнее нацеливаться на ядерные объекты противников. Возьмём, к примеру, мобильные ракеты наземного базирования — один из ключевых компонентов потенциала второго удара Китая и России. Эти ракеты размещаются на транспортных средствах, которые могут укрываться под камуфляжной сетью, мостами или в туннелях и перемещаться между укрытыми локациями. Они, вероятно, являются самым трудным элементом ядерных сил Китая и России для устранения. (Для сравнения, ракеты в шахтах намного уязвимее.) Повышенная скорость и масштаб обработки информации на базе ИИ могут облегчить проведение операций против таких целей. ИИ-системы могут собирать и интегрировать огромные объёмы данных с разведывательных спутников, самолётов, перехваченной радиоразведки, беспилотников-невидимок, наземных сенсоров и агентурной разведки, чтобы эффективнее находить и отслеживать мобильные ядерные силы.
На море потенциальное сочетание ИИ с сенсорными технологиями может сделать океаны «прозрачными», позволив правительствам отслеживать подлодки с баллистическими ракетами в режиме реального времени. Это особенно тревожно для США, которые хранят значительно большую часть своих боеголовок на подводных лодках, чем Россия или Китай. ИИ может упростить отслеживание подлодок, автоматизируя распознавание паттернов с разных типов сенсоров на огромных участках океана в течение продолжительных периодов. Он также может помочь государству взламывать системы, с помощью которых противники отслеживают свои собственные вооружения.
Тем не менее, даже с помощью ИИ государства не смогут быть абсолютно уверены, что «великолепный первый удар» лишит противника возможности нанести ответный. На суше, например, Китай и Россия могут ответить на улучшения систем отслеживания США собственными мерами. Они могут инвестировать в противоспутниковое оружие и системы радиоэлектронного подавления. Они могут использовать простые, «низкотехнологичные» решения — например, укрывать дороги маскировочной сетью или строить макеты пусковых установок, увеличивая число целей, по которым придётся наносить удары. Они могут сократить количество сигналов, испускаемых установками, чтобы усложнить отслеживание. Могут модернизировать установки, увеличив их скорость, тем самым расширив площадь, которую должны будут накрыть американские удары. Они даже могут применять собственные ИИ-системы для внедрения ложной информации в каналы, отслеживаемые разведкой США.
В морской сфере также маловероятно, что ИИ сделает океан полностью прозрачным. Ни одна система не сможет непрерывно обнаруживать, отслеживать и контролировать множество целей на больших расстояниях и на фоне шумов морской среды — особенно по мере того, как подводные лодки становятся тише, а океаны — шумнее. Подлодки остаются исключительно трудными для обнаружения, когда они погружены на глубину и движутся с низкой скоростью — из-за особенностей распространения звука в воде, меняющихся условий и естественной шумности морской среды. В море, как и на суше, ложные срабатывания — обычное дело, а устойчивый контакт — редкость. И здесь, как и в других сферах, крупные державы могут склонить ситуацию в свою пользу с помощью различных контрмер: глушить сигналы, подменять данные сенсоров, использовать подводные сенсоры и беспилотные аппараты для обнаружения объектов противника, а также действовать на своих подлодках в защищённых районах у побережья. Обнаружение, таким образом, останется вопросом вероятности — даже с появлением ИИ — а государства вряд ли рискнут первым ударом, если у них нет полной уверенности в его успехе.
УПРАВЛЕНИЕ И КОМАНДОВАНИЕ
Помимо облегчения обнаружения и уничтожения ядерного оружия противника, ИИ может угрожать системам командования и управления ядерными силами, которые необходимы для нанесения ответного удара. Эти системы отвечают за обнаружение атак, передачу информации соответствующим властям и доведение приказов о контрударе до ядерных сил. Они должны распознавать широкий спектр ракет, оценивать нанесённый ущерб на земле, передавать короткие сообщения на тысячи километров, включая подводную среду, и защищать лиц, принимающих решения в ядерной сфере.
Государства, стремящиеся вывести из строя такую систему, должны действовать крайне осторожно: открытые попытки парализовать командование и управление могут быть расценены как предвестие ядерного нападения и, соответственно, повод для превентивного удара. Как отмечает исследователь Джеймс Актон, разоружение такой системы требует «уничтожения как можно большей части каждого её компонента с как можно меньшим предварительным предупреждением».
Многие элементы системы командования и управления уже уязвимы для атаки — и станут ещё более уязвимыми по мере технологического прогресса. Ядерные и обычные удары уже способны уничтожить стационарное оборудование, такое как радары и высокочастотные передатчики. А с развитием ИИ может стать проще отслеживать мобильные командные пункты на суше, а также точнее нацеливаться на воздушные. Спутники, обеспечивающие раннее предупреждение о ядерных ударах, могут стать всё более уязвимыми к противоспутниковому оружию, усиленному ИИ. Кроме того, сложные кибероперации, ускоренные ИИ, могут позволить государствам проникать в сети управления и связи противников, выводить из строя системы раннего оповещения и нарушать передачу приказов — особенно по мере того, как государства модернизируют свои системы, отходя от аналоговых и проводных технологий в сторону цифровых.
Тем не менее, полностью вывести из строя всю систему командования и управления одним ударом будет чрезвычайно сложно — даже при наличии передовых технологий. Государства приложили значительные усилия, чтобы сделать свои системы устойчивыми, внедрив избыточность и многоуровневую защиту. На суше некоторые командные бункеры в Китае, России и США закопаны на глубину не менее 700 метров в твёрдой породе, что делает их способными выдержать даже прямое попадание крупного ядерного заряда. В космосе все крупные ядерные державы либо уже вывели на орбиту сотни и тысячи спутников, либо близки к этому, что усложняет уничтожение всей инфраструктуры раннего предупреждения и связи. В воздухе кривизна Земли ограничивает дистанцию, на которой можно отслеживать воздушные командные посты с помощью радаров. А в киберпространстве нанесение разоружающего удара потребует постоянного доступа к системам противника — с риском быть обнаруженным и вызвать ответные действия. При этом государства будут прилагать огромные усилия, чтобы предотвратить подобные вторжения, скорее всего — с помощью собственных ИИ-систем и множественных резервных сетей. Всё это делает маловероятным, что ИИ действительно сможет достоверно уничтожить системы командования и управления.
ОБОРОНА, ОБОРОНА
Последняя из вызывающих беспокойство возможностей ИИ — его способность ослабить ядерное сдерживание за счёт улучшения противоракетной обороны, тем самым снизив вероятность успешного второго удара и сделав первый удар более заманчивым. Создание эффективной обороны против ядерных ракет всегда было чрезвычайно трудной задачей. У России и Китая такие возможности весьма ограничены, а американские оборонные системы подвержены ошибкам, недостаточно плотны и не способны полностью предотвратить удар со стороны крупной ядерной державы.
Эти системы должны выполнять почти невозможное: зафиксировать запуск, отслеживать сотни ракет, летящих через космос со скоростью в 20 раз выше скорости звука, спрогнозировать их траектории и уничтожить их перехватчиками — всё это за менее чем 30 минут, примерно столько времени занимает перелёт ракеты между США и Россией или Китаем. Представители национальной безопасности часто сравнивают это с попыткой сбить пулю другой пулей. И всё это должно происходить при разумных затратах и в масштабе, способном противостоять насыщенному удару из дешёвых ракет.
ИИ может улучшить некоторые из этих возможностей. Алгоритмы машинного обучения, например, способны быстро анализировать данные с множества сенсоров, чтобы отличить настоящие боеголовки от сложных ложных целей и ускорить принятие решений в случае запуска противником ракет. Программное обеспечение может повысить точность прогноза траекторий ракет. Кроме того, за счёт достижений в области материаловедения ИИ может помочь создавать более лёгкие и маневренные перехватчики, что сделает оружие дешевле и эффективнее в полёте.
Однако ни одно из этих достижений не произойдёт в одночасье: создание оборонной архитектуры занимает годы, а противники США не будут просто наблюдать. Атакующая сторона по-прежнему обладает серьёзными преимуществами: она может запускать ракеты с неожиданных направлений, насыщать оборону скоординированными залпами с большим количеством ложных целей или нацеливаться прямо на ключевые элементы ПРО. В крайне маловероятном случае, если ПРО действительно станет непреодолимой, государства могут прибегнуть к более творческим способам доставки, таким как контрабандное проникновение и предварительное размещение малых ядерных зарядов на территории противника. Укреплённая ИИ система ПРО будет зависеть от алгоритмов, обученных на больших и надёжных наборах данных о ложных целях и типах ракет — а у противников США есть все стимулы, чтобы эти данные скрывать или искажать. На самом деле, соперники могут даже намеренно сбивать ИИ с толку, манипулируя ракетными испытаниями. Короче говоря, даже оборона, усиленная ИИ, будет подвержена физическим и экономическим ограничениям, которыми умеют пользоваться крупные ядерные державы.
НИЧЕГО НЕ ПРИНИМАЙТЕ ЗА ДАННОСТЬ
Даже на фоне технологических перемен, вызванных ИИ, ядерное сдерживание, скорее всего, останется устойчивым. Однако это не означает, что ИИ не несёт рисков для глобальной ядерной стабильности. Даже если реальное могущество ИИ будет переоценено, восприятие угроз со стороны государств может спровоцировать дестабилизирующие действия. Если государство поверит, что вооружённый ИИ противник способен обнаруживать его ракеты, оно может решить увеличить количество боеголовок, разместить больше оружия на менее уязвимых мобильных платформах, ускорить их перемещение и делегировать больше полномочий операторам — чтобы минимизировать необходимость в передаче приказов на большие расстояния, которая может быть перехвачена. Если государства посчитают свои системы управления уязвимыми к атакам с применением ИИ, они могут стремиться сократить количество шагов, необходимых для запуска ответного удара. Все эти действия повышают вероятность эскалации и случайного запуска, особенно в странах с меньшими ресурсами и менее развитой ядерной культурой, таких как Индия и Пакистан.
Помимо этой дестабилизирующей неопределённости, остаётся возможность, что государства создадут значительно более мощные ИИ-системы, которые смогут угрожать существующим методам ядерного сдерживания способами, которые пока невозможно предсказать — особенно если, как предполагают некоторые эксперты, разработка ИИ станет полностью автоматизированной, что приведёт к резкому скачку его возможностей. Эксперты по вопросам национальной безопасности не должны сбрасывать со счетов такую вероятность — они должны постоянно отслеживать признаки резких скачков в возможностях ИИ у конкурентов.
Но даже если ИИ окажется мощным ресурсом, это не волшебство. Государства, стремящиеся использовать ИИ для разоружения противников, столкнутся с реальными физическими, практическими и институциональными ограничениями. Государству, обладающему трансформирующими ИИ-системами, всё равно придётся решить колоссальное количество чрезвычайно сложных задач, прежде чем оно сможет задуматься об обезглавливающем ударе против ядерного противника: интеграция ИИ в крупные военные бюрократии — непростая задача, как и тестирование этих систем заранее — ведь это требует как избегания провокации превентивного удара, так и отработки тысяч шагов без права на ошибку. Какими бы интеллектуальными ни были системы, они не смогут нарушать законы физики. И ни один инструмент или способность не гарантируют, что одно государство сможет навязать свою волю другому: Соединённые Штаты, в конце концов, обладали подавляющей военной и экономической мощью по сравнению с «Талибаном» в Афганистане — и тем не менее потерпели очевидное поражение после двух десятилетий войны.
Это не повод для самоуспокоенности. Даже если ядерное сдерживание сохранится, ИИ всё равно трансформирует сферу национальной безопасности — в том числе, за счёт развития автономного оружия и усиления наступательных и оборонительных киберспособностей. Эти перемены будут иметь значительные последствия, даже если они не позволят ни одному государству навязать свою волю ядерному противнику. ИИ также может демократизировать доступ к опасным технологиям, снизив барьеры для негосударственных акторов и отдельных лиц, стремящихся создать и применить разрушительное биологическое, химическое или радиологическое оружие. Это лишь часть проблем, с которыми предстоит столкнуться политикам по мере дальнейшего развития ИИ.
В ядерной сфере официальные лица США не должны ждать, чтобы увидеть, что принесёт ИИ. Им следует включать экспертов по ИИ в процессы выработки политики наряду со специалистами по ядерной безопасности, поощряя диалог, которого до сих пор не хватало в сфере национальной безопасности. Им необходимо проводить тщательные ревизии ядерных систем, чтобы выявить уязвимости, которые могут быть использованы продвинутым ИИ — особенно в киберпространстве, — а также расширять число специалистов по ИИ в американском правительстве. Следует тщательно подходить к публичным заявлениям о необходимости «победы в гонке за искусственным общим интеллектом» или разработке «чудо-оружия», чтобы не подливать масла в огонь опасной и дорогостоящей ядерной конкуренции. И через механизмы контроля над вооружениями необходимо добиваться усиления этических, политических и правовых ограничений на возможность государства осуществить «великолепный первый удар» или предпринять другие шаги к эскалации.
Система ядерного сдерживания, существующая с конца Второй мировой войны, не должна восприниматься как нечто само собой разумеющееся. По мере усиления политического соперничества и обострения гонки за лидерство в области ИИ между крупнейшими державами мира особенно важно сохранять каналы связи и пути к снижению риска непреднамеренной эскалации и катастрофы.
Статья, размещенная на этом сайте, является переводом оригинальной публикации с Foreign Affairs. Мы стремимся сохранить точность и достоверность содержания, однако перевод может содержать интерпретации, отличающиеся от первоначального текста. Оригинальная статья является собственностью Foreign Affairs и защищена авторскими правами.
Briefly не претендует на авторство оригинального материала и предоставляет перевод исключительно в информационных целях для русскоязычной аудитории. Если у вас есть вопросы или замечания по поводу содержания, пожалуйста, обращайтесь к нам или к правообладателю Foreign Affairs.
