Світ іде до війни: чому США в управлінні ядерною зброєю потрібен ШІ

Чи дасть змогу американська система ядерного командування, контролю і зв'язку за лічені хвилини після виявлення запуску боєголовок супротивника або ядерного вибуху ухвалити своєчасне і точне рішення про удар у відповідь? Ми не знаємо.

Фокус переклав статтю Адама Лоутера і Кертіса Макгіффіна про розроблення нової системи командування ядерної зброї на основі ШІ.

У статті "Америці потрібна "мертва рука", опублікованій 2019 року на сайті War on the Rocks, ми запропонували розробити систему командування, контролю і зв'язку в ядерній царині на основі штучного інтелекту, щоб частково вирішити цю проблему. За п'ять років, що минули з моменту публікації статті, Китай розпочав безпрецедентне розширення свого ядерного арсеналу; Росія вторглася в Україну, неодноразово погрожувала ядерною зброєю і "призупинила" свою участь у новому договорі про контроль над озброєннями СНО-ІІІ; а Північна Корея почала масштабне розширення свого ядерного арсеналу. Сполучені Штати не розширили свій арсенал на жодну боєголовку і не прийняли на озброєння жодного нового засобу доставки.

На сьогодні ми вважаємо, що Сполучені Штати ще більше відстають від Китаю і Росії, оскільки обидві країни модернізують і розширюють свої ядерні арсенали і зміцнюють свої системи командування, контролю і зв'язку. Цей дедалі більший розрив теоретично тільки збільшує силу примусу, якою володіють Росія і Китай, щоб змусити Сполучені Штати відмовитися від агресії.

Можна зробити висновок, що Америці як ніколи потрібна система "мертвої руки". Така система дасть змогу виявити підготовку до атаки швидше, ніж нинішня, і надасть президенту можливість або вручну спрямувати сили, або автоматично виконати заздалегідь обрані президентом варіанти реагування для конкретного сценарію.

Попередні обговорення користі штучного інтелекту для ядерних систем командування, контролю та зв'язку часто приписують ШІ можливості та характеристики, які навряд чи доцільні в розгорнутій системі. Насправді система ядерного командування, контролю і зв'язку зі штучним інтелектом, здатна діяти за принципом "мертвої руки", ніколи не перетвориться на відповідний план військових операцій із фільму "Воєнні ігри" 1983 року або на Скайнет із "Термінатора", тому що штучний інтелект із дискретними можливостями, який у ній використовують, не перетвориться на розумну систему.

Коротко кажучи, системи, які ми пропонуємо тут, розроблені спеціально для того, щоб збільшити швидкість виявлення Сполученими Штатами атаки супротивника, прискорити здатність президента реагувати на вхідний удар і забезпечити отримання польовими військами наказів президента. За необхідності президент може заздалегідь запрограмувати бажану відповідь на низку сценаріїв і дати змогу системі в автоматичному режимі зіставити виявлений удар із бажаною відповіддю президента. Відносне скорочення американського ядерного арсеналу, як порівняти з арсеналами Росії, Китаю та Північної Кореї, робить таку систему необхідною, оскільки вона ускладнює розрахунки супротивника під час планування ядерного удару по Сполучених Штатах.

Штучний інтелект

Обговорення корисності штучного інтелекту в ядерних системах командування, контролю і зв'язку часто зводиться до емоційних аргументів і звинувачень у мерзенному прагненні до створення всеосяжного штучного інтелекту, який уб'є нас усіх. Така точка зору докорінно невірно інтерпретує весь набір інструментів, які прийнято називати штучним інтелектом. Варто внести деякі уточнення.

Міністерство оборони визначає штучний інтелект як "здатність машин виконувати завдання, які зазвичай вимагають людського інтелекту — наприклад, розпізнавати закономірності, вчитися на досвіді, робити висновки, створювати прогнози або вживати заходів — чи то в цифровому вигляді, чи то у вигляді інтелектуального програмного забезпечення, що стоїть за автономними фізичними системами".

Штучний інтелект — це загальний термін, який часто використовується для об'єднання декількох концепцій, навіть якщо технічно вони не можуть бути кваліфіковані як ШІ. Машинне навчання, обробка природної мови, експертні системи та нейронні мережі — всі вони можуть бути корисними для систем, які ми прагнемо розробити і впровадити. Наприклад, у чат-ботах, які часто з'являються на сайті компаній для відповідей на запитання, використовується комбінація алгоритмів зіставлення шаблонів, наївного байєсового класифікатора, моделей "sequence-to-sequence", рекурентних нейронних мереж, довготривалої та короткочасної пам'яті й обробки природної мови.

У сукупності ці інструменти корисні для автоматизації ухвалення рішень. У кожного з них є сильні та слабкі сторони, і вони корисні для одних цілей і марні для інших. Саме тому їх об'єднують у більші системи.

В основі всіх форм штучного інтелекту лежать математичні алгоритми, які визначають як "набір інструкцій, яких потрібно дотримуватися під час обчислень або інших операцій". По суті, алгоритми — це програма, яка вказує моделі, як їй самостійно навчатися.

Вони не можуть бути розумнішими за своїх розробників, тому набір талановитої команди розробників має вирішальне значення. Якщо не зважати на думку соціологів, військових, маркетологів та інших фахівців, то науковці, програмісти та математики створять глибоко хибну та необ'єктивну модель. Ці дискусії важливі, тому що вони дають змогу провести відмінність між системою, вдосконаленою за допомогою різних інструментів ШІ, і загальним штучним інтелектом, проти якого ми виступаємо.

Радше, передбачувана система чимось схожа на концепцію, відому як модель раціональної поведінки, розроблену Військово-морською аспірантурою для використання в автономних військово-морських кораблях. У моделі раціональної поведінки штучний інтелект використовується в компонентах системи, пов'язаних із розумінням вхідних даних датчиків, але штучний інтелект загального призначення ніколи не застосовується.

Ухвалення рішень на вищому рівні в раціонально-поведінковій моделі здійснюється шляхом попереднього планування з метою розроблення набору сценаріїв і заздалегідь запланованих результатів ухвалення рішень для кожного сценарію. Наприклад, у нашій системі президент бере участь у конференції з ухвалення рішень, під час якої вивчають повний набір сценаріїв, і за кожним із них ухвалюють рішення.

Пояснення завдання

Згідно із "Посібником з ядерних питань" Міністерства оборони, ядерне командування, управління і зв'язок "виконують п'ять найважливіших функцій: моніторинг ситуації; планування; ухвалення рішень; керівництво силами і управління силами". Ці функції охоплюють "виявлення, попередження і визначення характеристик атаки; ядерне планування; конференц-зв'язок для ухвалення рішень; отримання президентських наказів; і забезпечення управління та командування силами".

У 2016 році ВПС позначили свою систему ядерних систем командування, контролю і зв'язку як систему озброєнь AN/USQ-225 у спробі об'єднати розрізнений набір застарілих систем у щось більш кероване. Ця система має виявити запуск боєголовок супротивника, ухвалити рішення про належну відповідь і направити сили в дію. Час, протягом якого відбувається процес виявлення, ухвалення рішення і направлення, сильно скорочується завдяки сучасним багатодоменним можливостям супротивника.

Проблема скорочення часу атаки зумовлена розробленням нових типів зброї і величезною кількістю можливостей, які супротивники досліджують і використовують. Росія, Китай і Північна Корея мають авторитарний арсенал, який у сукупності перевершує арсенал демократії за кількістю стратегічних і нестратегічних ядерних озброєнь. Росія і Китай уже можуть рухатися вгору і вниз по сходах ескалації Германа Кана так, як не можуть Сполучені Штати.

Проблема скорочення часу атаки для Сполучених Штатів не є чимось новим. Як пояснюється в "Посібнику з ядерного стримування в епоху суперництва великих держав", саме ця проблема лягла в основу створення сучасної системи ядерного командування, контролю і зв'язку. Нині NC3 Enterprise Center Стратегічного командування США розв'язує завдання заміни застарілих систем на сучасні, невразливі для втручання супротивника.

Джонатан Фальконе і його співавтори розглядають деякі проблеми створення систем ядерного командування, контролю і зв'язку з використанням штучного інтелекту. Філіп Рейнер і Алекса Вехсенер також вивчають ці завдання і пропонують консервативний підхід до інтеграції штучного інтелекту в ядерні системи командування, контролю і зв'язку.

Як пишуть Рейнер і Вехсенер, "ми переконані, що час найкорисніше витратити на обговорення технічних позитивних і негативних сторін інтеграції, не обмежуючись фразами "це безумство" або "нам це не потрібно" чи туманними заявами про необхідність створення "автоматизованої системи стратегічного реагування на основі штучного інтелекту"".

Прискорення виявлення ворожої атаки і процесу ухвалення рішень загалом визнається як необхідність. Багато в чому саме в питанні про те, як досягти цієї мети, з'являються розбіжності.

Мертва рука

Вимикач "мертва рука" було вперше розроблено як "безвідмовний" механізм із появою електричних трамваїв у США на початку XX століття. Зараз вимикачі "мертвої руки" є звичайним елементом безпеки в усьому — від снігоходів до автомобілів Tesla.

Америці теж знайомі системи "останньої надії". Система аварійного поділу спеціальної зброї, також відома як "вимикач мерця", була системою детонації ядерних бомб, вбудованою в ранні бомбардувальники B-52 під час холодної війни. Вона гарантувала, що в разі втрати екіпажу через ворожу ППО ядерна зброя все одно вибухне, щойно літак опуститься нижче заданої висоти.

Радянська/російська система "Периметр", коли вона активована, підтримує постійний зв'язок із командним пунктом. Якщо зв'язок між керівництвом і польовими військами втрачається, система сприймає втрату зв'язку як те, що американський обезголовлювальний удар знищив командний пункт. Це призводить до запуску ракет, обладнаних для передачі кодів авторизації ядерним силам, які потім завдають удару по Сполучених Штатах.

Видається, що Радянський Союз створив "Периметр" для того, щоб утримати Сполучені Штати від завдавання ударів по радянському керівництву, що є частиною американської стратегії контрнацілювання, і дати радянській верхівці можливість перечекати перший удар, не втрачаючи можливості завдати другого. Іншими словами, існування "Периметра", принаймні теоретично, давало радянським лідерам упевненість у тому, що в разі їхньої загибелі вони зможуть завдати удару у відповідь.

Американська "мертва рука" слугувала б аналогічній меті. Як систему зі штучним інтелектом набагато точніше розглядати "мертву руку" як сукупність систем із широким спектром алгоритмів, вбудованих у системи, що складають ядерну систему командування, контролю і зв'язку. Завдяки поєднанню жорсткого кодування та алгоритмів така система буде використовувати алгоритми там, де має сенс виконувати дискретні функції — наприклад, оцінювати дані, що надходять від космічних систем постійного інфрачервоного випромінювання. Це лише один із прикладів того, як процес — оцінювання інфрачервоних сигнатур для визначення того, чи вказують вони на запуск міжконтинентальної балістичної ракети, — може бути переданий набору алгоритмів, які обробляють дані швидше, ніж нинішня система. Варто також зазначити, що нинішня система збирає величезну кількість даних, які можуть стати основою для навчання майбутніх алгоритмів вирішенню дискретних завдань.

Не забувайте, що, коли інструменти штучного інтелекту вбудовані в конкретну систему, кожну функцію виконують кілька алгоритмів різного типу, які повинні узгодити свої оцінки для передачі даних далі. Якщо виникають розбіжності, необхідне втручання людини.

Така особливість конструкції на кшталт "моделі швейцарського сиру" Джеймса Різона запобігає людському чиннику. Якщо коротко, кожен алгоритм схожий на шматочок швейцарського сиру, і його дірки не збігаються із прогалинами інших алгоритмів. Якщо скласти їх разом, недоліки кожного алгоритму не будуть ідеально збігатися, що призвело би до фатальної помилки.

З 1950 року в США сталося майже три десятки аварій із застосуванням ядерної зброї. Жодна з цих аварій не призвела до випадкового ядерного вибуху, тому що зброя була побудована з надлишковими елементами безпеки. Сучасна система командування, контролю та зв'язку в ядерній сфері також розроблена за принципом надмірності.

Наприклад, Сполучені Штати покладаються на подвійну феноменологію, щоб визначити, чи є передбачуваний запуск міжконтинентальної балістичної ракети реальним. Для цього використовують інфрачервоні системи космічного базування для виявлення інфрачервоної сигнатури запуску ракети, а потім цю сигнатуру перевіряють за допомогою радарів дальньої дії. Дві абсолютно різні системи використовують різні методи, щоб дійти правильного висновку.

Це лише один із прикладів того, що будь-яка ядерна система командування, контролю і зв'язку повинна мати надлишкові механізми, що запобігають виникненню одиничних точок відмови. Вбудовування алгоритмів у складові системи не змінює цієї вимоги.

Ухвалення рішень президентом

Згідно з публікацією Defense Primer: Command and Control of Nuclear Forces ("Командування та управління ядерними силами"), підготовленою Дослідницькою службою Конгресу США:

"Президент США має виняткові повноваження щодо санкціонування застосування ядерної зброї США. Ці повноваження закладені в його конституційній ролі головнокомандувача. Президент може звернутися за порадою до відповідних військових радників; потім ці радники повинні передати і виконати наказ, що дозволяє застосування ядерної зброї. Президенту не потрібна згода Конгресу США, щоб віддати наказ про запуск ядерної зброї, і ні військові, ні Конгрес не можуть скасувати ці накази".

Справжня проблема для президента полягає в тому, що "у нього буде менше 10 хвилин, щоб засвоїти інформацію, проаналізувати варіанти й ухвалити рішення". Інакше кажучи, після того, як космічні та наземні системи попередження виявлять і підтвердять, що ядерна зброя прямує у бік США, президент, одночасно намагаючись перебратися в безпечне місце (бункер Білого дому або Air Force One), повинен буде зв'язатися телефоном із міністром оборони та командувачем Стратегічним командуванням США, щоб ухвалити рішення щодо заходів у відповідь — можливо, до того, як буде знищено американські ядерні бази. І все це він зробить, жодного разу не потренувавшись у підготовці до цієї події.

Хоча національне командування регулярно проводить навчання, президент у них участі не бере і не відточує своє розуміння застосування ядерної зброї, її націлювання, впливу та інших найважливіших компонентів її використання. Він покладається на поради військових. Це навчання на ходу в найгіршому його прояві.

Не тільки нинішня система ядерного командування, контролю і зв'язку не відповідає викликам, що стоять перед Америкою, а й процес ухвалення рішень президентом вкрай неадекватний. Отже, система зі штучним інтелектом має не тільки прискорити процес виявлення, ухвалення рішення й управління, а й допомогти президенту поліпшити процес ухвалення рішень.

Процес поліпшення ухвалення рішень президентом під час ядерного нападу може бути таким. Після обрання президента, у мирний час, він сідає за стіл переговорів із радниками і опрацьовує різні сценарії першого удару потенційного противника. Під час цього процесу президент ухвалює рішення про кращі варіанти відповіді для кожного сценарію. Ці рішення потім вводяться в систему, яка працює або в ручному, або в автоматичному режимі.

Коли система працює в ручному режимі, вона не функціонує як система "мертвої руки", а залишається системою з ШІ, яка швидше обробляє дані раннього попередження. Щойно система виявить вхідну атаку і почнеться нарада з ухвалення рішення президентом, вона також може представити президенту варіант реагування, який найточніше відповідає його передконфліктному рішенню. Така можливість дуже важлива, оскільки вона може допомогти президенту уникнути ухвалення хибних рішень, які часто трапляються в стресових ситуаціях.

Коли система працює в автоматичному режимі, вона може виявити вхідні боєголовки, зіставити удар супротивника з найближчим заздалегідь обраним президентом варіантом відповіді і санкціонувати виконання дій у відповідь. У цьому разі система працює як "розумна мертва рука", здатна обрати бажану відповідь президента на будь-який удар.

Якщо, наприклад, Сполучені Штати опиняться в ситуації ядерної кризи, президент може перевести систему з ручного режиму в автоматичний і повідомити супротивника, що американська система "мертва рука" автоматично відповість на будь-який удар по Сполучених Штатах. Мета полягає в тому, щоб спонукати противника до стриманості і забезпечити деескалацію, але, якщо це не вдасться, країна може швидко відреагувати на ядерну атаку.

Для когось наші міркування про ядерну систему командування, контролю і зв'язку, яка включає в себе доречні інструменти ШІ, але уникає надання штучному інтелекту повноважень щодо ухвалення рішень, можуть мати сенс. Однак інші можуть вважати попередній вибір президентом варіантів реагування в автоматизованій системі командування та управління занадто натягнутим. Ідея про те, що президент погодиться заздалегідь вибрати варіанти ядерної відповіді, може здатися неправдоподібною.

У нинішніх умовах це правда, але, з огляду на відсутність досвіду використання такого варіанту, знати це напевно неможливо. Однак це не скасовує того факту, що пропоновані тут система і підхід покращують наявний метод, залучаючи президента до процесу ухвалення рішень задовго до того, як у нього залишиться кілька хвилин на реакцію на ймовірну ядерну атаку. Якщо, наприклад, президент почне брати участь у ядерних навчаннях і зіштовхнеться із симульованими умовами, подібними до реальних, недоліки наявної системи мають стати очевидними.

У президента немає важливішого обов'язку, ніж розгортання і застосування ядерної зброї. Якщо цей день коли-небудь настане, наша мета — забезпечити єдиній особі, яка ухвалює рішення, найкращі шанси на успіх у мінімізації шкоди для Сполучених Штатів.

Висновок

У міру того як взаємні інтереси змушують Росію, Китай і Північну Корею зближуватися, їхні об'єднані ядерні арсенали становлять щораз більшу загрозу для США. Замість того щоб створити ядерний арсенал, розрахований на зниження цього дедалі більшого ризику, наша країна йде шляхом, наміченим понад десять років тому, коли часи були зовсім іншими. Іншими словами, Сполучені Штати не мають того набору можливостей, який необхідний для ефективного вирішення проблеми скорочення часу атаки.

Дуже важливо, щоб Росія і Китай розуміли, що Сполучені Штати завжди можуть відповісти на ядерний удар. Розроблення системи ядерного командування, управління і зв'язку зі штучним інтелектом, здатної або прискорити ухвалення рішень президентом (ручний режим), або реагувати автоматично, — один зі способів вирішення цієї проблеми.

Про авторів

Адам Лоутер — доктор наук, віцепрезидент з досліджень Національного інституту з вивчення стримування і ведучий подкасту Nuclecast.

Кертіс Макгіффін — полковник у відставці, віцепрезидент з освіти Національного інституту досліджень стримування та запрошений доцент Університету штату Міссурі. Разом вони мають більш ніж 40-річний досвід роботи в ядерній галузі Міністерства оборони США.