Штучний інтелект та нейромережі: про що мріють сучасні командири

Чи міг генерал Вільям Вестморленд передбачити майбутнє? В одному з номерів журналу Army Aviation Digest за 1970 рік Вестморленд, тоді начальник штабу армії США, запропонував свій погляд на майбутнє прийняття командних рішень. У друкованій версії промови, яку він сказав за рік до цього, генерал передбачив, що практичне командування буде на добре розвіданому, автоматизованому та взаємопов'язаному полі бою, яке, якщо таку систему реалізують, зможе "допомогти командиру тактичної ланки у прийнятті обґрунтованих і своєчасних рішень", а також дозволить "командирам постійно бути в курсі всієї панорами поля бою". Хоча Вестморленд, звичайно, не був ясновидцем, його слова здаються цілком доречними в сучасних обговореннях практики командування. Особливо це стосується зусиль щодо впровадження об'єднаного командування та управління всім простором: американські ЗС прагнуть пов'язати між собою людей, які приймають рішення на суші, морі, у повітрі, космосі та кіберпросторі, використовуючи передові технології комунікації та аналізу даних.

Фокус переклав роздуми Іана Рейнольдса — про що мріють сучасні командири.

Військове застосування штучного інтелекту. Міноборони США розкриває секрети

Спільна стратегія командування та управління у всіх операційних сферах, опублікована Міністерством оборони США на початку 2022 року, надала додаткову інформацію щодо переосмислення технологічних елементів у командуванні збройних сил США. Документ складено з огляду на суттєві технологічні зміни, які дозволять військовим аналізувати та обробляти дані з різних джерел, а також швидше приймати рішення на основі новітніх можливостей аналізу.

Відповідно до розсекреченого короткого змісту, стратегія стоїть на трьох китах: "сприйняття", "осмислення" та "дія".

Автори стратегії припускають, що ці основні складові будуть забезпечені інформаційними можливостями штучного інтелекту, машинного навчання та передових сенсорних систем для підтримки прийняття рішень. Результатом цього має стати "перевага у швидкості отримання інформації та прийняття рішень".

У цю схему добре вписуються "обґрунтовані та своєчасні" рішення Вестморленду, а також його ідея про те, що командир має бачити "всю панораму поля бою". Актуальність знаходить і бажання адмірала Вільяма Оуенса "розвіяти туман війни" за допомогою інтеграції нових інформаційних та комунікаційних технологій через 30 років.

Відповідно до стратегії, такі зміни пропонують як відповідь на нові загрози. Однак, як свідчать погляди Вестморленда та Оуенса, сучасне бачення передової системи командування — це ймовірніше чергове втілення давньої мрії, пов'язаної з організацією військових рішень, ніж щось оригінальне. У своїх мріях американські військові ризикують захопитися тим, що Б.А. Фрідман та Олівія А. Гарард назвали схильністю змішувати "технологічні можливості з командуванням".

Так, у світлі нещодавно опублікованої стратегії варто вивчити уявлення про командування за допомогою технологій. Щобільше, нам слід розглянути практичні наслідки технологічного розвитку для теперішніх операцій, а також можливу небезпеку, пов'язану з переконаністю, що технології дозволять приймати швидші та ефективніші рішення.

Штучний інтелект на війні: відлуння минулого

Коріння таких уявлень походить як мінімум до програм протиракетної оборони, таких як напівавтоматичне наземне середовище 1950-х років, а також до ранніх ініціатив щодо дослідження застосування обчислювальних систем для командування та управління, які підтримував Пентагон у 1960-х роках. Однак уявлення про системи командування, наближені до сучасних, почали формуватися лише останні десятиліття холодної війни. Розглянемо кілька прикладів, які перегукуються з нинішньою ситуацією.

Агентство перспективних оборонних дослідницьких проєктів прийняло десятирічну програму вартістю в мільярд доларів, відому як Стратегічна обчислювальна ініціатива (Strategic Computing Initiative). З початку 1980-х років програма включала багатосторонні ініціативи з вивчення можливостей штучного інтелекту для військових цілей, ключовим елементом яких було командування і управління.

Особливо це проявилося в системі управління боєм, розробленої для ВМС США. Як і нинішні програми, ініціатива зосередилася на дослідженнях, пов'язаних з командуванням та експертними системами на базі ШІ, які допомагають командирам швидко прийняти рішення.

В установчому документі програми наголошувалося на меті розробки людиноподібних, "інтелектуальних можливостей для планування та обґрунтувань", бажання доповнити людські міркування експертними системами з підтримкою штучного інтелекту, а також необхідність допомогти швидко розібратися в "непередбачуваних" військових ситуаціях.

Планувалося створити систему допомоги прийняття рішень, що виходить за межі наявних на той час варіантів. Основним варіантом на той час була Всесвітня система військового командування та управління, заснована на "точних і своєчасних рішеннях" за рахунок використання інтелектуальних обчислень, які могли б допомогти в плануванні, формулюванні варіантів рішень та управлінні невизначеністю в бойовій обстановці, що швидко змінюється.

Як зазначає Емма Солсбері, програма дала неоднозначні результати і загалом не виправдала великих надій, пов'язаних із штучним інтелектом — як через технологічні перешкоди, так і через брак фінансування.

Але майже одразу після того, як програма Strategic Computing припинила існування, з'явилися нові високотехнологічні підходи до систем управління. Наприкінці 1990-х років Бойова система майбутнього (Future Combat System) армії США запропонувала модернізовану структуру управління, що об'єднує пілотовані та безпілотні системи через бездротові мережі. Ця ініціатива виникла на основі уявлень про війну, пов'язаних з "Революцією у військовій справі", коли чиновники оборонного відомства вважали, що невеликі та маневрені сили, пов'язані новітніми комунікаційними мережами, виявляться вирішальними у майбутніх конфліктах. У межах модернізації передбачалося також замінити деякі види військової техніки, наприклад танк M1 Abrams, але саме командна мережа пов'язувала всю програму воєдино. Прагнення швидкості і уявлення у тому, що інформаційне домінування може бути вирішальним у майбутніх конфліктах, стали визначальними для Бойової системи майбутнього.

Відповідно до звіту Дослідницької служби Конгресу 2007 року, це проявилося у таких технологічних артефактах, як "програмне забезпечення бойового командування", прагнення до автоматизованого планування місій для швидкого реагування, а також намір покращити "розуміння ситуації" за рахунок використання карт та баз даних, що дозволяють відстежувати місце розташування противника. Під час бюджетних слухань у Конгресі представники оборонного відомства посилалися на передбачувані переваги, отримані солдатами під час випробувань, переважно за рахунок "підвищення обізнаності солдатів та кращого розуміння поля бою".

Подібно до ініціативи Strategic Computing, Бойова система майбутнього теж прагнула допомогти командирам оцінювати та осмислювати інформацію та діяти швидше, ніж раніше. Однак, як і у випадку із першою ініціативою, програма не виправдала надій. Оцінка програми, проведена RAND у 2012 році, здебільшого визнає проєкт провальним, зокрема через нереалістичні терміни та розпливчасті цілі.

Хоча у звіті RAND про бойову систему майбутнього лише обмежено розглядалися аспекти командування та управління, в ньому вказані проблеми зі здатністю системи управління виконувати такі завдання, як автоматичне об'єднання даних для створення загальної оперативної картини. Згідно зі звітом, такі проблеми погіршують "ключовий операційний стрижень" програми.

Хоча Бойова система майбутнього та теперішні плани щодо розробки високотехнологічної системи управління схожі лише частково, паралелі між цими ініціативами принаймні досить очевидні, щоб представники оборонного відомства могли стверджувати, що нинішні зусилля не повторюють помилок минулого. Втім, попри будь-які заяви, очевидна подібність між цілями Бойової системи майбутнього допомогти армії "спочатку побачити, потім зрозуміти, потім діяти" та сучасною ідеєю "сприйняття, осмислення та дії".

Мрія про технологічне забезпечення прийняття рішень вмирає останньою. Теперішні проєкти нових технологічно просунутих командних систем зазвичай ґрунтуються на побажаннях їхніх попередників зі Стратегічної обчислювальної ініціативи та Бойової системи майбутнього.

Наприклад, члени групи розробників Об'єднаної системи командування та багаторівневого управління стверджують, що в майбутньому конфлікти характеризуватимуться скороченням часу прийняття рішень до мілісекунд. Це вимагатиме інтеграції досягнень у галузі обчислювальної техніки, штучного інтелекту та машинного навчання як "ядра" командування. Як стверджується в стратегії, такі технологічні зміни необхідні обробки та передачі інформації зі швидкістю, необхідної в сучасному конфлікті.

Аналогічна риторика використовується і щодо ШІ та технологічних елементів, що підтримують прийняття інших військових рішень. У доповіді Комісії з національної безпеки 2021 року про штучний інтелект, співголовою якої був колишній заступник міністра оборони Роберт Ворк, стверджується, що у військовому контексті штучний інтелект допоможе "знайти голки у копиці сіна" та "підвищити обізнаність у всіх областях", що призведе до "жорсткіших і ефективніших циклів прийняття рішень".

Поняття "мозаїчна війна", запропоноване Агентством передових оборонних дослідницьких проєктів, саме по собі є метафорою наміру пов'язати зброю, датчики та осіб, які приймають рішення, в єдине ціле. Такі ідеї виникають буквально всюди, відбиваючи технологічний оптимізм щодо систем із застосуванням штучного інтелекту.

Цікаво, що хоча ці бажання отримати технологічно оснащені системи управління формулюються як наслідок "швидких змін" в екосистемах безпеки і "значних нових викликів", що стоять перед Сполученими Штатами, насправді Міністерство оборони прагнуло чогось такого вже кілька десятиліть. Як обґрунтування Міністерство покладається на затвердження та припущення з десятирічною історією. І хоча за час, що минув від холодної війни до сучасних викликів безпеки, стратегічні та політичні чинники змінилися, такі технооптимістичні уявлення й досі сильні.

Штучний інтелект в армії. Інерція та наслідки

Сьогодні об'єднане командування та багаторівневе управління, безумовно, має певну інституційну підтримку. Як заявив генерал Джон Мюррей (нині у відставці) на слуханнях у Конгресі 2020 року, "ніхто не сперечається з концепцією". Щобільше, не далі, як цього року, генерал Марк Міллі заявив про "незворотне прагнення" до реалізації програми. Чи це прагнення рухатиметься в узгодженому напрямку чи ні — неясно навіть з урахуванням опублікованої нещодавно стратегії.

Однак слід зазначити, що за роки, що минули з часів Strategic Computing та Future Combat System, ШІ/машинне навчання, апаратне забезпечення та доступність даних, необхідних для навчання алгоритмів, а також інші цифрові технології стали розвиненішими та розумнішими.

А проте, ШІ/машинне навчання, як і раніше, страждає від серйозних проблем, таких як упередженість, проблеми з вхідними даними, довіра до взаємодії машини і людини і труднощі, пов'язані з зрозумілістю рішень ШІ (втім, над останньою проблемою Міністерство оборони якраз працює).

Наприклад, як йдеться у звіті Стенфордської програми Human-Centered Artificial Intelligence ("Людиноцентричний штучний інтелект") за 2022 рік, навіть у дослідницькому середовищі університетів та компаній приватного сектору, де набори даних можна маркувати та курирувати, а алгоритми — навчати та тестувати, все ще існують проблеми, пов'язані з тим, що мовні моделі відтворюють упередженість навчальних наборів даних з дедалі більшою швидкістю. Так, щодо військового штучного інтелекту проблема полягає в тому, що навіть в ідеальних умовах моделі на основі машинного навчання можуть робити несподівані та небажані помилки.

Щобільше, багато моделей навчаються з урахуванням продуктивності на пробних наборах даних без урахування їх застосування в реальному світі. На думку дослідників машинного навчання, це відбувається тому, що моделі часто "навчаються на еталонних даних", і це призводить до результатів, які неможливо відтворити поза контрольованим дослідним середовищем.

Тому роль ШІ/машинного навчання у процесах військового командування викликає серйозні питання. Наприклад, на яких даних навчатимуться елементи командних систем, які покладаються на можливості штучного інтелекту щодо прогнозування та підтримки прийняття рішень? Крім того, наскільки командувачі будуть впевнені в ефективності роботи системи у складних умовах війни, особливо коли командні системи на базі штучного інтелекту пропонують рекомендації чи можливі варіанти дій?

Аві Голдфарб та Джон Ліндсей нещодавно вказали на проблеми з даними у військовому середовищі. Існує великий ризик нерозв'язності таких проблем, особливо у разі прийняття командних рішень за допомогою штучного інтелекту.

Значення мають також часові горизонти. Теперішні ініціативи, пов'язані з об'єднаним командуванням та всеохоплюючим управлінням, зосереджені здебільшого на хмарних можливостях та покращенні оперативної сумісності та обміну даними між службами.

План реалізації ініціатив залишається засекреченим, тому конкретики щодо використання штучного інтелекту для прогнозування чи планування замало. Проте не завадить розглянути перспективи військових у контексті недавнього документа про стратегію. Особливо якщо системи з використанням штучного інтелекту, як передбачається у стратегії, забезпечать "технічні засоби для сприйняття, розуміння та прогнозування дій та намірів противників, а також вжиття відповідних заходів".

Крім побоювань щодо технологічної функціональності, ми також повинні розуміти практичні наслідки панівних нині ідей. Як уже говорилося вище, бажання швидше приймати рішення та зменшити плутанину на полі бою — давні мрії військових, які часто пов'язуються з можливостями передових обчислювальних систем. Наслідки цих довгострокових проблем, якщо вважати їх вирішеними за допомогою технологій, пов'язаних із командуванням, викликають занепокоєння. Це особливо актуально, якщо такі технології розглядаються як шлях до досягнення швидкої та рішучої перемоги.

Вчені документально підтвердили небезпеку ведення швидкої, рішучої війни та прагнення до неї.

Дейв Джонсон нещодавно дослідив це питання на сайті "War on the Rocks", розкритикувавши "віру в те, що майбутні війни будуть короткими та рішучими". Зі свого боку, Антуан Буске стверджує, що військові, які прагнуть такої рішучості, неодноразово зверталися до науки та техніки. Хоча важливо не змішувати спільні стратегічні міркування та тактику на полі бою, рішення, які приймають командири, повинні підтримувати спільні політичні цілі.

Як зазначає Пол Брістер у збірці, що нещодавно вийшла під редакцією Брукінгса, слід винести серйозні уроки з ідеї, що підкріплена технологіями тактична маневреність скоротить або дозволить легко вигравати війни.

У тому ж збірнику Ніна Колларс наводить наступний аргумент: "Пастка швидшої війни, що веде до швидшої перемоги, не тільки небезпечна, а й є патологічною одержимістю технологіями". Так, швидке прийняття рішень за допомогою штучного інтелекту як підвищення тактичної швидкості не повинно розглядатися як незаперечна перевага, особливо перед обличчям сучасних дискусій про так звану "гіпервійну".

Примітно, що об'єднане багаторівневе командування та управління не є теорією перемоги або концепцією ведення бойових дій. Не виступає воно і за якнайшвидше припинення війни як такої. Ймовірніше прихильники цієї програми представляють її як інструмент, що сприяє виконанню інших бойових функцій шляхом створення суміснішого набору інформаційних систем.

Ймовірний результат таких зусиль, як стверджується у стратегії, полягає у "прямому та значному поліпшенні здатності командира отримати та зберегти перевагу в обробці інформації та прийнятті рішень". Водночас прихильники стратегії ризикують прийняти передові системи командування інструментом швидкої і рішучої перемоги, тим самим надмірно захоплюючись технологічним оптимізмом як рішенням для досягнення політичних або стратегічних цілей. Оскільки бачення нової системи командування поки лише формується, нам краще остерігатися будь-якої "патологічної одержимості технологіями".

Крім того, всупереч деяким висновкам Комісії національної безпеки з ШІ, не зовсім очевидно, що системи з підтримкою штучного інтелекту зможуть багато чого прояснити у веденні війни.

Як зазначає Сем Тангреді, системи штучного інтелекту все ще відчувають труднощі з погано структурованими завданнями, а війна точно не відрізняється структурованістю.

Щобільше, моделі штучного інтелекту з глибоким навчанням, як виявилося, відносно легко обдурити — наприклад, змінивши пікселі у зображеннях, які подаються алгоритму. Багато складових війни пов'язані з тактикою диверсій і стратегами, покликаними заплутати і ввести в оману противника. Таке поєднання технічної проблеми та звичайної практики обману на війні може призвести до ще більшої плутанини замість ясності для прихильників будь-якої системи управління за допомогою ШІ.

Висновок

Так, передчасно робити висновок, що нові технології, пов'язані з командуванням, раптово відкриють поле бою для командирів з нового боку, дозволивши швидше приймати найкращі рішення або призвести до очікуваних позитивних військових результатів. Крім того, ми повинні скептично ставитися до новизни таких побажань, і, як випливає з роботи Мартіна Ван Кревельда про командування, такі ідеї дуже важко довести до досконалості.

Ідеї для розробки нової, досконалішої системи командування повторюють минулі проєкти, такі як Стратегічна обчислювальна ініціатива та Бойова система майбутнього, які загалом не досягли своїх амбітних цілей. Важливо враховувати уроки та результати цих минулих проєктів у дискусіях про переваги та можливості майбутніх технологічно просунутих командних систем.

Щобільше, заяви, пов'язані з розробкою нових високотехнологічних командних систем, потенційно ризиковані, якщо ведуть до припущень про швидкоплинні війни, в яких все вирішують технології.

Історичні приклади демонструють наслідки впровадження таких припущень у військову практику. Робота Азара Гата з історії військової думки, що передувала Другій світовій війні, надто складна, щоб докладно розглядати її тут. Однак вона показує, що міфологізовані уявлення про технологічні артефакти, такі як автомобілі та літаки, визначили втілення в життя теорій швидкої, механізованої війни.

Так, необхідний рефлексивний розгляд історичних аналогій, пов'язаних зі швидкими рішеннями та покращеною ситуаційною поінформованістю, з одного боку, і з новітніми обчислювальними технологіями чи системами з підтримкою штучного інтелекту — з іншого, а також належна увага до реальних технологічних перешкод, що стоять на шляху інтеграції технологій у процеси прийняття рішень.

Про автора

Іан Рейнольдс — кандидат наук у галузі міжнародних відносин у Міжнародній школі Американського університету, який вивчає історію та культурну політику військового штучного інтелекту. Докторант-дослідник у Лабораторії управління інтернетом та науковий співробітник у Центрі інновацій у сфері безпеки та нових технологій, розташованих в Американському університеті. У 2022/23 навчальному році Ян проходитиме стажування у Стенфордському центрі міжнародної безпеки та співробітництва.