Наступний крок — ШІ. Як Заходу наздогнати Росію в розробці БПЛА

З моменту початку вторгнення Росії в Україну використання ШІ у військових операціях стало однією з найбільш обговорюваних тем у державних ЗМІ та відкритих джерелах. Але за всієї похвальності українських інновацій надто мало уваги приділяють ефективності рішучішого підходу Росії до ШІ.

Фокус переклав статтю Семюела Бендетта і Джейна Пенелісе про те, як Захід може наздогнати РФ у сфері розробки безпілотників.

Українські та російські війська використовували ШІ для ухвалення рішень та аналізу даних під час опрацювання інформації, отриманої від численних датчиків і точок спостереження, включно з безпілотниками, пілотованими літаками, супутниками, наземними силами та системами. Але були й відмінності в застосуванні ШІ обома сторонами. Український і західний підхід зосередився на швидкій ідентифікації, відстеженні та цілевказання. Росія, зі свого боку, використовувала баражуючі боєприпаси, а також різні системи управління, розвідки, спостереження і рекогностування для точного наведення на ціль.

Простіше кажучи, західні системи зі штучним інтелектом зосереджені на першій частині циклу "спостерігай, орієнтуйся, ухвалюй рішення і дій". Але в той час як Захід ставить на перше місце прискорене наведення на ціль і розширення можливостей завдавання ударів, Росія намагається автоматизувати весь ланцюжок ураження. Одним словом, агресивне використання ШІ Росією на волонтерських засадах контрастує з обережним і відповідальним підходом Сполучених Штатів, нехай і з недостатніми ресурсами. Тепер Міністерству оборони США необхідно терміново переключити увагу на можливості ШІ, щоб етично конкурувати на динамічному полі бою штучних інтелектів.

Російські інновації

У той час як Сполучені Штати зосередилися на методичному вирішенні проблем придбання технологій та інтеграції даних, військові зусилля Росії в Україні підкріплюються широкими можливостями фінансування, виробництва і розгортання комерційних технологій в оперативній обстановці.

Розвиток ШІ в Росії виходить за межі офіційних військових каналів. Дедалі більша і складніша екосистема, що підтримує збройні сили Росії в Україні, складається з численних волонтерських організацій, які розробляють і постачають на фронт бойову техніку і системи. У процесі поставок використовуються готові комерційні технології для створення і складання такої зброї, як дрони-камікадзе з видом від першої особи. Оператор такого дрона зазвичай бачить зображення, що передається цим БПЛА, на кшталт того, що можна побачити з місця пілота літака. Такі можливості є природним наслідком швидкого придбання і масового використання комерційних безпілотників і пов'язаних з ними систем під час цього вторгнення. Росії також допомагають пожертви російських громадян, приватних підприємств і заможних людей, що забезпечує купівельну спроможність і швидке впровадження інновацій. Деякі з цих організацій також користуються прямими зв'язками з російським урядом, отримуючи доступ до фінансування, технологій і державного захисту своїх ініціатив.

Міністерство оборони Росії часто рекламує малі та середні безпілотники з підтримкою штучного інтелекту – нерідко під час великих заходів, таких як щорічна військова виставка і форум. Комерційні готові технології, очевидно, дають змогу російським волонтерам впроваджувати ШІ у свої розробки безпілотників. У серпні 2023 року фахівці "Царських вовків" оголосили, що в їхньому важкому квадрокоптері "Штурм 1.2" використовується ШІ, заявивши, що цей напівавтономний БПЛА може ухвалювати рішення і скидати снаряди незалежно від людини-оператора. За словами розробників, оператор наводить перехрестя на ціль за допомогою пульта управління БПЛА, а потім цей дрон самостійно розраховує час і відстань до випуску боєприпасів.

Подібні заяви про штучний інтелект за принципом "наведи і клікни" важко підтвердити за відсутності доказів. Якщо це правда, то вони свідчать про технологічну просунутість російських волонтерських організацій, які експериментують з обмеженими алгоритмами розпізнавання зображень і картографування місцевості за допомогою ШІ. Дрон "Штурм 1.2", імовірно, оснащений тепловізійною камерою і може також використовуватися як безпілотник-камікадзе. Це свідчить про те, що, попри складний внутрішній устрій, він все ще досить дешевий, щоб бути витратним матеріалом у бою.

У серпні 2023 року інша російська волонтерська група представила безпілотник із видом від першої особи "Овод". За словами розробників, бортова система штучного інтелекту дає змогу атакувати статичні та динамічні цілі, а точність виконання місії досягає 90%. Стверджується, що "Овод" було випробувано в бою в Україні. Також у серпні 2023 року волонтерська організація "Інноватори для фронту" представила квадрокоптер "Аква-22" зі штучним інтелектом для автономних операцій. Розробники стверджують, що цей безпілотник може автономно розпізнавати техніку, живу силу та інші об'єкти супротивника. Хоча цей безпілотник, судячи з усього, є "доморощеним", розробники визнали, що це спільна розробка з військовим науково-дослідним інститутом.

Насправді деякі українські волонтери та військові експерти занепокоєні тим, що на початку 2024 року на фронті вже з'являться кілька типів російських безпілотників з обмеженим ШІ та видом від першої особи. Сьогодні Росія активно тестує свої комерційні системи в реальних військових операціях, що дає змогу оцінити їхню практичну ефективність. Хоча це дає змогу перевірити передові технології в бою, такий підхід суперечить американським демократичним цінностям. У Сполучених Штатах тестування системи зі штучним інтелектом у бойових умовах безпосередньо порушує етичні принципи Міністерства оборони в галузі ШІ та давно усталені міжнародні норми. Натомість Міністерство оборони грає в довгу, свідомо (хоча й досить неохоче) виділяючи ресурси на всебічне розширення своєї інфраструктури тестування, спрямоване на створення надійної системи забезпечення ШІ та дотримання американських цінностей і правил, таких як Директива Міністерства оборони №3000.09.

Достовірність і аналіз: чого можна домогтися на льоту?

Наскільки правдиві російські заяви і яка ймовірність, що ці волонтерські організації зможуть створити реальний військовий безпілотник зі штучним інтелектом? Багато російських оглядачів і любителів безпілотників стверджують, що ШІ необхідний у цій війні, з огляду на те, що всі види безпілотників повинні діяти більш автономно, щоб уникнути багаторівневих заходів протидії, таких як засоби РЕБ, що пронизують український бойовий простір.

Публічні дискусії з російського боку вказують на можливість наземного управління безпілотниками типу "камікадзе" з бортовими системами штучного інтелекту, а також на те, що рої безпілотників, оснащені штучним інтелектом, матимуть справу із персоналом, зброєю і системами визначеного супротивника. З огляду на те, що над подібними розробками працюють багато великих військових по всьому світу, не зайвим буде припустити, що організації, які займаються розробкою ударних безпілотників з видом від першої особи, також задумаються про те, як подібні передові технології можуть допомогти їхнім зусиллям. Такі російські добровольці конкурують з українськими ініціативами, які теж працюють над безпілотниками зі штучним інтелектом від першої особи.

У Сполучених Штатах, однак, основна увага приділяється розробці альтернативних можливостей позиціювання, навігації, синхронізації, тестуванню і захисту систем від ворожих дій, а також реалізації автономності місій завдяки можливості робити висновки на самих платформах, а не покладатися на зв'язок з оператором. Однак Америка, найімовірніше, матиме справу з тими самими проблемами, що й Росія сьогодні. Ймовірна втрата зв'язку, систем глобального позиціонування та інших можливостей підключення є таким самим стимулом для розвитку автономних систем, як і бажання прискорити ухвалення військових рішень.

Заяви російських волонтерів про безпілотники зі штучним інтелектом можуть бути підкріплені відповідними міжнародними подіями. Того самого місяця, коли російські волонтери зробили свою заяву в серпні 2023 року, швейцарська компанія представила технологію штучного інтелекту для свого перегонового безпілотника Swift, який дає змогу перемагати гонщиків-людей. За словами розробників, цей дрон у режимі реального часу реагував на дані, зібрані його бортовою камерою, а штучна нейронна мережа використовувала дані з камери для локалізації дрона в просторі та виявлення перешкод і найкращих траєкторій на перегоновій трасі. Ці дані надходили в блок управління на основі нейронної мережі, яка вибирала найкращу траєкторію для проходження перегонної траси. Дрон також пройшов навчання в симульованому середовищі, де він навчався літати методом проб і помилок, використовуючи машинне навчання (так зване навчання з підкріпленням). Розробники змусили безпілотник літати автономно, використовуючи точні координати, які надавала зовнішня система відстеження положення, тоді як він записував дані з камери – цей процес дав йому змогу автоматично виправляти помилки в інтерпретації даних з бортових датчиків. Хоча це досягнення стало важливою віхою в розвитку безпілотників, деякі міжнародні коментатори попереджають, що пілоти-люди можуть швидко відновлюватися після помилок і зіткнень, тоді як Swift "істотно втрачає швидкість, коли стикається з несподіваними фізичними змінами, наприклад, різкими погодними перепадами".

Програмне забезпечення зі штучним інтелектом є ключовим компонентом безпілотників: багато комерційних компаній продають системи комп'ютерного зору, розпізнавання об'єктів і місцевості, а також супутні технології. Московська компанія hive.aero розробляє "автономні безпілотні рішення для регулярного моніторингу", рекламуючи нейронну мережу для аналізу вхідних даних, як-от фото, відео, символи, текст, звук, теплові зображення, хімічні реагенти і просторові показники, і зазначаючи, що "можливості нейронної мережі для визначення типових випадків практично безмежні". Деякі компанії навіть рекламують недороге програмне забезпечення для ШІ малих і середніх комерційних безпілотників, яке можна завантажити менш ніж за 50 доларів.

У відкритих джерелах ідеться про використання програмного забезпечення ШІ безпілотників для аналізу даних з бортових камер і обробки цієї інформації з метою ідентифікації, виділення та класифікації ознак. Програмне забезпечення ШІ може бути встановлене на вбудованих обчислювальних пристроях, таких як графічні процесори загального призначення, центральні процесори та системи-на-чипі. Однак вбудовані системи обробки ШІ можуть споживати велику кількість ресурсів, створюючи проблеми для безпілотників з їхніми обмеженнями за розміром, вагою та енергоспоживанням.

Остання обставина важлива, оскільки російський безпілотник з видом від першої особи "Штурм" відносно великий, а "Овод" залишається невеликим за розмірами. Заяви про те, що бортовому ШІ потрібно багато енергії, слід брати до уваги при розгляді вищезазначених російських анонсів. Зниження вимог до обчислювальної потужності наявних безпілотників – проблема, яку активно намагаються вирішити і Сполучені Штати. Але ці зусилля перевіряються в ретельно спланованих експериментах, а не на полі бою, і не передбачають жодного ударного потенціалу.

Ще один контраст полягає в тому, що Росія неодноразово демонструвала прагнення звести до мінімуму участь оператора безпілотника в бою, і, можливо, виключити оператора БПЛА з виглядом від першої особи з рівняння за допомогою ШІ – це ключовий момент, з огляду на те, що кожна сторона в цій війні зараз полює на операторів дронів як на пріоритетні цілі. Звичайно, важливо також враховувати, що не всі описані тут російські плани зі створення безпілотників зі штучним інтелектом від першої особи зрештою опиняться на полі бою в їхньому нинішньому вигляді: поточні випробування та оцінювання, імовірно, призведуть до змін або навіть до повної переробки безпілотника. Водночас нещодавно з'явилися чутки про те, що російські дрони з видом від першої особи, оснащені штучним інтелектом, перебувають на полі бою в Україні, хоча наразі важко довести ці твердження. Проте за наявності легкодоступного ключового програмного забезпечення і компонентів, які можна придбати за допомогою низки легальних або нелегальних схем, російські плани приватного і волонтерського секторів зі створення безпілотників зі штучним інтелектом можуть виявитися не такими вже й надуманими.

Хоча Директива 3000.09 Міністерства оборони США не містить прямої заборони на створення систем озброєння зі штучним інтелектом без участі людини, не було жодних доказів того, що Америка прагне до створення таких можливостей. У проєкті Maven використовуються комерційні технології ШІ та безпілотників, але тільки для формування висновків, причому останні робляться на землі, а не на платформі. Проєкт Smart Sensor, розроблений Головним управлінням цифрових технологій і ШІ Міністерства оборони, скасовує необхідність оброблення інформації на землі, ефективно виконуючи функції, що пов'язують збирання та передавання інформації споживачам розвідувальних даних, за допомогою безпілотної платформи Reaper, готуючись до погіршення зв'язку з наземними пунктами управління та операторами. Проте концепція полягає в тому, щоб просто доповнити людей у їхніх рутинних завданнях і переключити їх на наглядові функції, які потребують менше командування і контролю, а не замінювати їх повністю.

Обережність американців

Сполучені Штати значною мірою прийняли перспективний підхід до ролі ШІ в національній безпеці та розглядають усі процеси, починаючи із закупівель. Традиційна система закупівель, що характеризується повільними, лінійними процесами й увагою насамперед до справедливості та безпеки, не відповідає динамічним вимогам до систем з використанням ШІ. Головне управління цифрових технологій та ШІ продовжує реалізацію програми закупівель Tradewinds, спрямованої насамперед на розширення можливостей малих підприємств порівняно з традиційними оборонними компаніями.

Додатковий акцент у процесі було зроблено на вирішенні проблем інтеграції даних, а не на наданні готових до бою можливостей. Хоча вседоменне об'єднане командування і управління залишається пріоритетом головного управління цифрових технологій і ШІ, його увага, як і раніше, зосереджена на цифровому управлінні бойовими діями, а не на впровадженні комерційних безпілотних технологій у військові операції. Інтеграція ШІ з наявними технологіями та забезпечення оперативної сумісності між різними родами військ і наборами завдань, а також забезпечення базової функціональності та вживаності нових технологій залишаються величезною проблемою, що вимагає частих ітерацій та експериментів.

І все ж найбільшим обмеженням можливостей Міністерства оборони з озброєння бійців системами з підтримкою ШІ залишається його нездатність гарантувати, що ці системи задовольнять численних зацікавлених осіб. Незалежні державні випробування технологій неодноразово доводили свою необхідність, але сьогодні відсутність інфраструктури, методик, ресурсів і персоналу ставить під загрозу виконання цієї важливої функції. На відміну від швидкого та рішучого підходу Росії до придбання та впровадження комерційних безпілотників, Сполучені Штати обрали зважену та обережну стратегію, яка може виявитися недостатньою під час конфлікту. Коли йдеться про традиційні оборонні технології, у Сполучених Штатах уже давно існує набір стандартів і регулювальних органів, покликаних гарантувати, що військові системи приноситимуть користь, а не шкоду бійцям. Однак відсутність еквівалентів суворих випробувань, оцінювання та гарантій для систем зі штучним інтелектом може змусити обирати між створенням систем без гарантій і відмовою від них узагалі.

У Сполучених Штатах автономна або напівавтономна система озброєння, подібна до тих, що сьогодні використовуються в Росії, повинна пройти попередню розробку і перевірку перед введенням в експлуатацію, згідно з Директивою 3000.09 Міністерства оборони про керівництво для автономних і напівавтономних збройних платформ. Покупці такої системи повинні будуть продемонструвати комісії, що вони звели до мінімуму ймовірність і наслідки збоїв, які можуть призвести до ненавмисного вступу в бій. Для цього знадобляться ретельні, ресурсомісткі та багаторазові випробування й оцінювання технології, включно з оперативними та бойовими випробуваннями.

Непохитна прихильність Америки принципам безпеки передбачає, що у Сполучених Штатів є три-п'ять років на створення зазначеної інфраструктури, тестування і доопрацювання систем зі штучним інтелектом. Якщо необхідність у таких системах виникне раніше, що видається дедалі ймовірнішим, стратегію доведеться скоригувати. Баланс між міркуваннями безпеки і терміновістю розгортання систем із ШІ для бійців являє собою складне завдання. Ще складнішим завданням є оптимізація готовності в усіх галузях за одночасного балансування інвестицій у традиційні та нові технології. І все ж, як ми бачимо, єдиним рішенням для підтримання конкурентоспроможності ШІ та демократичних цінностей є постійне лобіювання, лідерство, спонсорство та інвестиції в усі аспекти забезпечення ШІ, як наголошує нещодавня доповідь Національної академії наук, інженерії та медицини.

Висновок

Війна в Україні доводить інновації з обох сторін до межі, змушуючи супротивників адаптувати і переймати новітні військові та цивільні технології для ведення бойових дій. Якщо у 2022 році Україна спочатку лідирувала в таких інноваціях, то до кінця 2023 – початку 2024 року російські військові та волонтери надолужили згаяне, перейнявши безліч схожих технологій і концепцій і розвинувши ці розробки відповідно до своїх потреб. Волонтерські спільноти в Росії особливо уважно стежать за останніми технічними розробками, оскільки багато волонтерів є вихідцями з академічних кіл і високотехнологічного сектору і часто беруть участь у дослідженнях, розробці та складанні безпілотників після своєї постійної роботи. Використання безпілотників у російсько-українській війні тільки зростатиме, оскільки дрони з видом від першої особи і невеликі квадрокоптери стають дедалі більш руйнівними технологіями на полі бою. Оснащення їхніх операцій штучним інтелектом – наступний логічний і технологічний крок, уже зроблений обома воюючими сторонами.

Використання "доморощеного" ШІ, ймовірно, буде прискорюватися і може зробити війну дронів ще більш смертоносною. Тим часом Міністерство оборони США більшою мірою зосереджене на доповненні бійців-людей, ніж на їхній заміні. Воно використовує зважений і продуманий підхід, орієнтуючись на тонкощі маневрування у великій існуючій бюрократичній системі та інфраструктурі. Якщо час дозволить відпрацювати таку систему, стратегія на довгострокову перспективу може принести сприятливі результати. Однак виникає закономірне запитання: на які заходи ми готові піти, якщо наша підготовка виявиться недостатньою?

Швидка інтеграція неперевірених комерційних технологій у військові операції, як це спостерігається в підходах, прийнятих Росією та Україною, може не відповідати суворим стандартам, яких дотримуються Сполучені Штати. У світлі цього Вашингтон повинен критично проаналізувати альтернативні стратегії. За нинішніх темпів розвитку подій Сполучені Штати цілком можуть опинитися перед вибором із двох недосконалих варіантів: прийняти на себе невідомі ризики або ризики, що не піддаються кількісній оцінці, при створенні систем зі штучним інтелектом, або вступити в конфлікт, використовуючи переважно традиційні військові системи, в той час як супротивники йтимуть за першим варіантом. Єдиний спосіб уникнути такого вибору – терміново спрямувати керівництво, ресурси, інфраструктуру та персонал на перевірку безпечності цих технологій. Оскільки багато членів керівництва Міністерства оборони зараз прекрасно усвідомлюють масштаб проблеми забезпечення ШІ, розподіл фінансування Пентагону має відображати прихильність забезпеченню технологічної переваги, залишаючись вірним демократичним цінностям Америки.

Про авторів

Семюел Бендетт – гостьовий старший науковий співробітник програми "Технології та національна безпека" Центру нової американської безпеки.

Джейн Пінеліс – докторка наук, головна інженерка зі штучного інтелекту в Лабораторії прикладної фізики Університету Джона Гопкінса.