Мир идет к войне: почему США в управлении ядерным оружием нужен ИИ

Позволит ли американская система ядерного командования, контроля и связи в считанные минуты после обнаружения запуска боеголовок противника или ядерного взрыва принять своевременное и точное решение об ответном ударе? Мы не знаем.

Фокус перевел статью Адама Лоутера и Кертиса Макгиффина о разработке новой системы командования ядерного оружия на основе ИИ.

В статье "Америке нужна "мертвая рука", опубликованной в 2019 году на сайте War on the Rocks, мы предложили разработать систему командования, контроля и связи в ядерной сфере на основе искусственного интеллекта, чтобы частично решить эту проблему. За пять лет, прошедших с момента публикации статьи, Китай начал беспрецедентное расширение своего ядерного арсенала; Россия вторглась в Украину, неоднократно угрожала ядерным оружием и "приостановила" свое участие в новом договоре о контроле над вооружениями СНВ-ІІІ; а Северная Корея начала масштабное расширение своего ядерного арсенала. Соединенные Штаты не расширили свой арсенал ни на одну боеголовку и не приняли на вооружение ни одного нового средства доставки.

На сегодняшний день мы считаем, что Соединенные Штаты еще больше отстают от Китая и России, поскольку обе страны модернизируют и расширяют свои ядерные арсеналы и укрепляют свои системы командования, контроля и связи. Этот увеличивающийся разрыв теоретически только увеличивает силу принуждения, которой обладают Россия и Китай, чтобы заставить Соединенные Штаты отказаться от агрессии.

Можно сделать вывод, что Америке как никогда нужна система "мертвой руки". Такая система позволит обнаружить готовящуюся атаку быстрее, чем нынешняя, и даст президенту возможность либо вручную направить силы, либо автоматически выполнить заранее выбранные президентом варианты реагирования для конкретного сценария.

Предыдущие обсуждения полезности искусственного интеллекта для ядерных систем командования, контроля и связи часто приписывают ИИ возможности и характеристики, которые вряд ли полезны в развернутой системе. В действительности система ядерного командования, контроля и связи с искусственным интеллектом, способная действовать по принципу "мертвой руки", никогда не превратится в ответный план военных операций из фильма "Военные игры" 1983 года или в Скайнет из "Терминатора", потому что используемый в ней искусственный интеллект с дискретными возможностями не разовъется в разумную систему.

Короче говоря, системы, которые мы предлагаем здесь, разработаны специально для того, чтобы увеличить скорость обнаружения Соединенными Штатами атаки противника, ускорить способность президента реагировать на входящий удар и обеспечить получение полевыми войсками приказов президента. При необходимости президент может заранее запрограммировать желаемый ответ на ряд сценариев и позволить системе в автоматическом режиме сопоставить обнаруженный удар с желаемым ответом президента. Относительное сокращение американского ядерного арсенала по сравнению с арсеналами России, Китая и Северной Кореи делает такую систему необходимой, поскольку она усложняет расчеты противника при планировании ядерного удара по Соединенным Штатам.

Искусственный интеллект

Обсуждение полезности искусственного интеллекта в ядерных системах командования, контроля и связи часто сводится к эмоциональным аргументам и обвинениям в гнусном стремлении к созданию всеохватывающего искусственного интеллекта, который убьет нас всех. Такая точка зрения в корне неверно интерпретирует весь набор инструментов, которые принято называть искусственным интеллектом. Стоит внести некоторые уточнения.

Министерство обороны определяет искусственный интеллект как "способность машин выполнять задачи, которые обычно требуют человеческого интеллекта — например, распознавать закономерности, учиться на опыте, делать выводы, создавать прогнозы или предпринимать действия — будь то в цифровом виде или в виде интеллектуального программного обеспечения, стоящего за автономными физическими системами".

Искусственный интеллект — это общий термин, который часто используется для объединения нескольких концепций, даже если технически они не могут быть квалифицированы как ИИ. Машинное обучение, обработка естественного языка, экспертные системы и нейронные сети — все они могут быть полезны для систем, которые мы стремимся разработать и внедрить. Например, в чат-ботах, которые часто появляются на сайте компаний для ответов на вопросы, используется комбинация алгоритмов сопоставления шаблонов, наивного байесового классификатора, моделей "sequence-to-sequence", рекуррентных нейронных сетей, долговременной и кратковременной памяти и обработки естественного языка.

В совокупности эти инструменты полезны для автоматизации принятия решений. У каждого из них есть сильные и слабые стороны, и они полезны для одних целей и бесполезны для других. Именно поэтому их объединяют в более крупные системы.

В основе всех форм искусственного интеллекта лежат математические алгоритмы, которые определяются как "набор инструкций, которым нужно следовать при вычислениях или других операциях". По сути, алгоритмы — это программа, которая указывает модели, как ей самостоятельно обучаться.

Они хороши лишь настолько, насколько хороши их разработчики, поэтому набор талантливой команды разработчиков имеет решающее значение. Если не учитывать мнение социологов, военных, маркетологов и других специалистов, то ученые, программисты и математики создадут глубоко ошибочную и необъективную модель. Эти дискуссии важны, потому что они позволяют провести различие между системой, усовершенствованной с помощью различных инструментов ИИ, и общим искусственным интеллектом, против которого мы выступаем.

Скорее, предполагаемая система чем-то похожа на концепцию, известную как модель рационального поведения, разработанную Военно-морской аспирантурой для использования в автономных военно-морских судах. В модели рационального поведения искусственный интеллект используется в компонентах системы, связанных с пониманием входных данных датчиков, но искусственный интеллект общего назначения никогда не используется.

Принятие решений на высшем уровне в рационально-поведенческой модели осуществляется путем предварительного планирования с целью разработки набора сценариев и заранее запланированных результатов принятия решений для каждого сценария. Например, в нашей системе президент участвует в конференции по принятию решений, в ходе которой изучается полный набор сценариев, и по каждому из них принимается решение.

Объяснение задачи

Согласно "Руководству по ядерным вопросам" Министерства обороны, ядерное командование, управление и связь "выполняют пять важнейших функций: мониторинг ситуации; планирование; принятие решений; руководство силами и управление силами". Эти функции включают в себя "обнаружение, предупреждение и определение характеристик атаки; ядерное планирование; конференц-связь для принятия решений; получение президентских приказов; и обеспечение управления и руководства силами".

В 2016 году ВВС обозначили свою систему ядерных систем командования, контроля и связи как систему вооружений AN/USQ-225 в попытке объединить разрозненный набор устаревших систем в нечто более управляемое. Эта система должна обнаружить запуск боеголовок противника, принять решение о соответствующем ответе и направить силы в действие. Время, в течение которого происходит процесс обнаружения, принятия решения и направления, сильно сокращается благодаря современным многодоменным возможностям противника.

Проблема сокращения времени атаки обусловлена разработкой новых типов оружия и огромным количеством возможностей, которые противники исследуют и используют. Россия, Китай и Северная Корея располагают авторитарным арсеналом, который в совокупности превосходит арсенал демократии по количеству стратегических и нестратегических ядерных вооружений. Россия и Китай уже могут двигаться вверх и вниз по лестнице эскалации Германа Кана так, как не могут Соединенные Штаты.

Проблема сокращения времени атаки для Соединенных Штатов не является чем-то новым. Как объясняется в "Руководстве по ядерному сдерживанию в эпоху соперничества великих держав", именно эта проблема легла в основу создания современной системы ядерного командования, контроля и связи. В настоящее время NC3 Enterprise Center Стратегического командования США решает задачу замены устаревших систем на современные, не подверженные вмешательству противника.

Джонатан Фальконе и его соавторы рассматривают некоторые проблемы создания систем ядерного командования, контоля и связи с использованием искусственного интеллекта. Филип Рейнер и Алекса Вехсенер также изучают эти задачи и предлагают консервативный подход к интеграции искусственного интеллекта в ядерные системы командования, контроля и связи.

Как пишут Рейнер и Вехсенер, "мы убеждены, что время наиболее полезно потратить на обсуждение технических положительных и отрицательных сторон интеграции, не ограничиваясь фразами "это безумие" или "нам это не нужно" или туманными заявлениями о необходимости создания "автоматизированной системы стратегического реагирования на основе искусственного интеллекта"".

Ускорение обнаружения вражеской атаки и процесса принятия решений в целом признается как необходимость. Во многих отношениях именно в вопросе о том, как достичь этой цели, появляются разногласия.

Мертвая рука

Выключатель "мертвая рука" был впервые разработан в качестве "безотказного" механизма с появлением электрических трамваев в США в начале XX века. Сейчас выключатели "мертвой руки" являются обычным элементом безопасности во всем — от снегоходов до автомобилей Tesla.

Америке тоже не чужды системы "последней надежды". Система аварийного разделения специального оружия, также известная как "выключатель мертвеца", была системой детонации ядерных бомб, встроенной в ранние бомбардировщики B-52 во время холодной войны. Она гарантировала, что в случае потери экипажа из-за вражеской ПВО ядерное оружие все равно взорвется, как только самолет опустится ниже заданной высоты.

Советская/российская система "Периметр", когда она активирована, поддерживает постоянную связь с командным пунктом. Если связь между руководством и полевыми войсками теряется, система воспринимает потерю связи как то, что американский обезглавливающий удар уничтожил командный пункт. Это приводит к запуску ракет, оборудованных для передачи кодов авторизации ядерным силам, которые затем наносят удар по Соединенным Штатам.

Представляется, что Советский Союз создал "Периметр" для того, чтобы удержать Соединенные Штаты от нанесения ударов по советскому руководству, что является частью американской стратегии контрнацеливания, и дать советскому руководству возможность переждать первый удар, не теряя возможности нанести второй. Другими словами, существование "Периметра", по крайней мере теоретически, давало советским лидерам уверенность в том, что в случае их гибели они смогут нанести ответный удар.

Американская "мертвая рука" служила бы аналогичной цели. В качестве системы с искусственным интеллектом гораздо точнее рассматривать "мертвую руку" как совокупность систем с широким спектром алгоритмов, встроенных в системы, составляющие ядерную систему командования, контроля и связи. Благодаря сочетанию жесткого кодирования и алгоритмов такая система будет использовать алгоритмы там, где имеет смысл выполнять дискретные функции — например, оценивать данные, поступающие от космических систем постоянного инфракрасного излучения. Это лишь один из примеров того, как процесс — оценка инфракрасных сигнатур для определения того, указывают ли они на запуск межконтинентальной баллистической ракеты — может быть передан набору алгоритмов, которые обрабатывают данные быстрее, чем нынешняя система. Стоит также отметить, что нынешняя система собирает огромное количество данных, которые могут послужить для обучения будущих алгоритмов решению дискретных задач.

Не забывайте, что, когда инструменты искусственного интеллекта встроены в конкретную систему, каждая функция выполняется несколькими алгоритмами разного типа, которые должны согласовать свои оценки для передачи данных дальше. Если возникают разногласия, необходимо вмешательство человека.

Такая особенность конструкции сродни "модели швейцарского сыра" Джеймса Ризона для предотвращения человеческого фактора. Вкратце, каждый алгоритм похож на кусочек швейцарского сыра, и дырки в нем не совпадают с недостатками других алгоритмов. Если сложить их вместе, несовершенства каждого алгоритма не будут идеально совпадать, что привело бы к фатальной ошибке.

С 1950 года в США произошло около трех десятков аварий с применением ядерного оружия. Ни одна из этих аварий не привела к случайному ядерному взрыву, потому что оружие было построено с избыточными элементами безопасности. Современная система командования, контроля и связи в ядерной сфере также разработана по принципу избыточности.

Например, Соединенные Штаты полагаются на двойную феноменологию, чтобы определить, является ли предполагаемый запуск межконтинентальной баллистической ракеты реальным. Для этого используются инфракрасные системы космического базирования для обнаружения инфракрасной сигнатуры запуска ракеты, а затем эта сигнатура проверяется с помощью радаров дальнего действия. Две совершенно разные системы используют разные методы, чтобы прийти к правильному выводу.

Это лишь один из примеров того, что любая ядерная система командования, контроля и связи должна иметь избыточные механизмы, предотвращающие возникновение единичных точек отказа. Встраивание алгоритмов в составные системы не меняет этого требования.

Принятие решений президентом

Согласно публикации Defense Primer: Command and Control of Nuclear Forces ("Командование и управление ядерными силами"), подготовленной Исследовательской службой Конгресса США:

"Президент США обладает исключительными полномочиями по санкционированию применения ядерного оружия США. Эти полномочия заложены в его конституционной роли главнокомандующего. Президент может обратиться за советом к соответствующим военным советникам; затем эти советники должны передать и выполнить приказ, разрешающий применение ядерного оружия. Президенту не нужно согласие Конгресса США, чтобы отдать приказ о запуске ядерного оружия, и ни военные, ни Конгресс не могут отменить эти приказы".

Настоящая проблема для президента заключается в том, что "у него будет менее 10 минут, чтобы усвоить информацию, проанализировать варианты и принять решение". Другими словами, после того как космические и наземные системы предупреждения обнаружат и подтвердят, что ядерное оружие направляется в сторону США, президент, одновременно пытаясь перебраться в безопасное место (бункер Белого дома или Air Force One), должен будет связаться по телефону с министром обороны и командующим Стратегическим командованием США, чтобы принять решение об ответных мерах — возможно, до того, как будут уничтожены американские ядерные базы. И все это он сделает, ни разу не потренировавшись при подготовке к этому событию.

Хотя национальное командование регулярно проводит учения, президент в них не участвует и не оттачивает свое понимание применения ядерного оружия, его нацеливания, воздействия и других важнейших компонентов его использования. Он полагается на советы военных. Это обучение на ходу в худшем его проявлении.

Не только нынешняя система ядерного командования, контроля и связи не соответствует вызовам, стоящим перед Америкой, но и процесс принятия решений президентом крайне неадекватен. Таким образом, система с искусственным интеллектом должна не только ускорить процесс обнаружения, принятия решения и руководства, но и помочь президенту улучшить процесс принятия решений.

Процесс улучшения принятия решений президентом во время ядерного нападения может быть следующим. После избрания президента, в мирное время, он садится за стол переговоров с советниками и прорабатывает различные сценарии первого удара потенциального противника. В ходе этого процесса президент принимает решение о предпочтительных вариантах ответа для каждого сценария. Эти решения затем вводятся в систему, которая работает либо в ручном, либо в автоматическом режиме.

Когда система работает в ручном режиме, она не функционирует как система "мертвой руки", а остается системой с ИИ, которая быстрее обрабатывает данные раннего предупреждения. Как только система обнаружит входящую атаку и начнется совещание по принятию решения президентом, она также может представить президенту вариант реагирования, который наиболее точно соответствует его предконфликтному решению. Такая возможность очень важна, поскольку она может помочь президенту избежать принятия неверных решений, которые часто случаются в стрессовых ситуациях.

Когда система работает в автоматическом режиме, она может обнаружить входящие боеголовки, сопоставить удар противника с ближайшим заранее выбранным президентом вариантом ответа и санкционировать выполнение ответных действий. В этом случае система работает как "умная мертвая рука", способная подобрать предпочтительный ответ президента на любой удар.

Если, например, Соединенные Штаты окажутся в ситуации ядерного кризиса, президент может перевести систему из ручного режима в автоматический и уведомить противника, что американская система "мертвая рука" автоматически ответит на любой удар по Соединенным Штатам. Цель состоит в том, чтобы побудить противника к сдержанности и обеспечить деэскалацию, но, если это не удастся, страна может быстро отреагировать на ядерную атаку.

Для кого-то наши рассуждения о ядерной системе командования, контроля и связи, которая включает в себя уместные инструменты ИИ, но избегает предоставления искусственному интеллекту полномочий по принятию решений, могут иметь смысл. Однако другие могут счесть предварительный выбор президентом вариантов реагирования в автоматизированной системе командования и управления слишком натянутой. Идея о том, что президент согласится заранее выбрать варианты ядерного ответа, может показаться неправдоподобной.

В нынешних условиях это правда, но, учитывая отсутствие опыта использования такого варианта, знать это наверняка невозможно. Однако это не отменяет того факта, что предлагаемые здесь система и подход улучшают существующий метод, вовлекая президента в процесс принятия решений задолго до того, как у него останется несколько минут на реакцию на готовящуюся ядерную атаку. Если, например, президент начнет участвовать в ядерных учениях и столкнется с симулированными условиями, подобными реальным, недостатки существующей системы должны стать очевидными.

У президента нет более важной обязанности, чем развертывание и применение ядерного оружия. Если этот день когда-нибудь наступит, наша цель — обеспечить единственному лицу, принимающему решения, наилучшие шансы на успех в минимизации ущерба для Соединенных Штатов.

Заключение

По мере того как взаимные интересы заставляют Россию, Китай и Северную Корею сближаться, их объединенные ядерные арсеналы представляют собой растущую угрозу для США. Вместо того чтобы создать ядерный арсенал, рассчитанный на снижение этого растущего риска, наша страна идет по пути, намеченному более десяти лет назад, когда времена были совсем другими. Другими словами, Соединенные Штаты не располагают тем набором возможностей, который необходим для эффективного решения проблемы сокращения времени атаки.

Очень важно, чтобы Россия и Китай понимали, что Соединенные Штаты всегда могут ответить на ядерный удар. Разработка системы ядерного командования, управления и связи с искусственным интеллектом, способной либо ускорить принятие решений президентом (ручной режим), либо реагировать автоматически, — один из способов решения этой проблемы.

Об авторах

Адам Лоутер — доктор наук, вице-президент по исследованиям Национального института по изучению сдерживания и ведущий подкаста Nuclecast.

Кертис Макгиффин — полковник в отставке, вице-президент по образованию Национального института исследований сдерживания и приглашенный доцент Университета штата Миссури. Вместе они имеют более чем 40-летний опыт работы в ядерной отрасли Министерства обороны США.