ChatGPT для спецназу. Як Сили спеціальних операцій можуть використовувати можливості ШІ

"Я намагався стати штучним інтелектуалом,

Але технічних знань мені не вистачало;

Тож весь день я сидів і плакав,

Втулившись на код ШІ".

Підказка з одного речення — ось і все, що знадобилося моделі штучного інтелекту Generative Pre-trained Transformer 3, щоб написати вірш про мої спроби зрозуміти ШІ. Нещодавні досягнення в галузі ШІ наводять на інтригувальні ідеї щодо потенціалу його використання в різних сферах. Ба більше, технологія стає дедалі доступнішою, що не може не тішити таких далеких від техніки людей, як я. З моменту свого виходу в листопаді 2022 року ChatGPT — спеціалізована версія бота, що створила наведену вище строфу, — став інтернет-сенсацією. Будь-яка людина може використовувати ШІ для узагальнення, перекладу та створення людиноподібних текстів або написання коду різними мовами програмування. Через цю простоту технічні знання для звичайних користувачів ШІ здаються менш необхідними.

Фокус переклав статтю Келлі Джонг про можливості штучного інтелекту для Сил спеціальних операцій США.

Це припущення переноситься і на військових, в операціях яких дедалі частіше використовується ШІ. Бійці розглядаються як звичайні користувачі без технічних знань, тоді як технічні експерти займаються управлінням та оцінкою технологій. Однак, оскільки ШІ все глибше проникає у військові операції, Міністерство оборони не зможе покладатися лише на цих експертів для роботи із системами ШІ. Штучний інтелект лякає, але нетехнічні фахівці все-таки повинні прагнути глибшого розуміння цієї технології. Військовослужбовцям, особливо силам спеціальних операцій, потрібні поглиблені знання про ШІ, щоб ефективно та відповідально використовувати військові технології, які все частіше втручаються у процеси ухвалення рішень.

Багато хто писав про необхідність навчання загальним принципам роботи зі ШІ у збройних силах, але в цій статті ми робимо ще один крок уперед, стверджуючи, що навчання ШІ особливо важливе для сил спеціальних операцій, які є інкубатором нових ідей, продуктів і процесів. ССО не тільки знаходяться на передньому краї тестування та оцінки ШІ, а й стануть одними з перших, хто впровадить ці технології в оперативній обстановці. Тому спільнота ССО має підвищити компетентність у сфері ШІ на тактичному рівні.

Різноманітність архетипів ШІ

Наразі саме час серйозно розглянути питання щодо додавання навчання роботі зі ШІ до програми сил спеціальних операцій, оскільки командування переглядає можливості професійної військової освіти в межах закону про повноваження в галузі національної оборони на 2023 рік. Важливість "розвитку технічних навичок сил спеціальних операцій" уже було визначено у Законі про повноваження в галузі національної оборони 2022 року, в якому йдеться про те, що "певні нішеві технічні навички", враховуючи машинне навчання і штучний інтелект, "необхідні для ведення нерегулярних бойових дій". Закон також закликає Міністерство оборони оцінити "зусилля щодо розвитку інфраструктури підготовки кадрів у галузі STEM [й особливо штучного інтелекту]".

Стратегія освіти в галузі ШІ Міністерства оборони до 2020 року є важливим орієнтиром для визначення відповідних вимог до освіти в галузі ШІ для ССО. Стратегія освіти в галузі ШІ описує шість архетипів співробітників Міністерства оборони, щоб адаптувати вимоги до їхньої освіти та навчання залежно від їхньої ролі:

• Lead AI (керівництво ШІ);
• Drive AI (управління ШІ);
• Create AI (створення ШІ);
• , Embed AI (впровадження ШІ);
• Facilitate AI (сприяння ШІ);
• Employ AI (використання ШІ).

Більшість цих архетипів ролі відносно прості. Архетип Lead AI складається з керівників вищої ланки, які визначають політику та доктрину, необхідні для відповідального впровадження ШІ. До архетипу Drive AI належать менеджери із закупівель, можливостей і продуктів, що визначають надання відповідних можливостей ШІ. До архетипу Create AI належать інженери ШІ та фахівці з дослідження даних, що створюють інструменти ШІ. Нарешті, архетип Employ AI враховує кінцевих користувачів технології, до яких належать більшість співробітників Міністерства оборони.

Архетипи Embed та Facilitate AI мають трохи більше нюансів. Ці два архетипи знаходяться між архетипом Employ AI (кінцеві користувачі) та архетипом Create AI (розробники ШІ).

Архетип Embed AI "розгортає, підтримує, адаптує і збирає дані для систем AI/ML на тактичному фронті". Ці співробітники "підтримують розробку сценаріїв використання" та "вирішують проблеми додатків ШІ на нижньому рівні для підтримки функціональності".

Ті, хто належить до архетипу Facilitate AI, представляють потреби кінцевого користувача та працюють з розробниками ШІ над уточненням вимог. Хоча в освітній стратегії Міністерства оборони в галузі ШІ перераховані технічні фахівці, власники програмних продуктів, дизайнери користувальницького інтерфейсу й інші технічні експерти, які належать до архетипів Embed і Facilitate AI, ці ролі не мають прямого стосунку до нинішнього військового персоналу. Іншими словами, не завжди зрозуміло, хто може або повинен наводити мости між розробниками ШІ та звичайними користувачами.

Тим не менш, очевидно, що сили спеціальних операцій вимагають навичок, освіти та знань, що виходять за межі компетенцій звичайного користувача в межах архетипу Employ AI. Завдяки розширеному доступу до прототипів і тестування ці бійці часто безпосередньо взаємодіють з розробниками продукції для відточування дизайну, функціональності та зручності використання нових інструментів та обладнання. Вони також часто діють на тактичному рубежі в умовах жорстких обмежень й, отже, потребують здатності усувати несправності обладнання без сторонньої допомоги. У таких ситуаціях спецназівцю знадобляться навички, що стосуються архетипів Embed AI та Facilitate AI. Вони повинні мати уявлення про потоки даних, усувати проблеми в моделях машинного навчання і доносити потреби кінцевих користувачів до технічних експертів, які підтримують їх із тилу.

Крім того, оскільки спільнота спеціальних операцій продовжує експериментувати, тестувати та отримувати все більшої кількості систем із підтримкою ШІ, все більше людей залучатимуться до проєктів, пов'язаних зі ШІ. Ці проєкти динамічніші й ітеративніші, ніж традиційні. У міру того, як ШІ проникає у все нові аспекти діяльності спеціальних операцій, оператори можуть допомагати в плануванні проєктів, визначаючи проблеми та найбільш слушні підходи до ШІ. Крім того, вони можуть бути залучені до тестування та оцінки системи ШІ, що вимагатиме глибших знань, ніж є у звичайного користувача. Тому команди ССО повинні розбиратися в управлінні проєктами ШІ, управлінні даними та показниками ефективності.

Розуміння ШІ та його метрик потребує фундаментальних знань у галузі математики та статистики. Такі поняття, як справжні/хибні позитивні та негативні результати, довірчі інтервали та метрики оцінки, мають стати найкращими друзями військових. Користувачі з команди ССО повинні зуміти оцінити, чи є дані, що надходять до системи ШІ, актуальними, оновлюваними та відображають реальну оперативну обстановку. У той час як розробники ШІ обговорюють продуктивність та обслуговування системи, персонал ССО повинен бути достатньо обізнаним, щоб співпрацювати з розробником для усунення виявлених проблем. Така компетентність допоможе швидкому й ефективному розвитку та вдосконаленню систем та інструментів ШІ для військових.

Звичайно, відповідальність за те, щоб зробити показники ефективності ШІ зрозумілими для користувачів, лежить не лише на персоналі ССО. Розробники ШІ зобов'язані зробити технологію максимально прозорою і легко зрозумілою. Системи ШІ повинні мати можливість надати контекст або супутні причини для своїх результатів.

Однак, незважаючи на зусилля Агентства перспективних досліджень оборонних проєктів щодо розробки нових методів пояснення, визначення того, як багато потрібно пояснювати користувачеві, залишається нерозв'язним завданням. Ба більше, найкращий спосіб відображення результатів роботи системи ШІ, швидше за все, залежатиме від конкретного випадку використання і цільових користувачів. Тому необхідна тісна співпраця між розробниками ШІ та силами спеціальних операцій для забезпечення максимально ефективного та результативного використання технологій ШІ.

На відміну від солдатів, які можуть керувати танками або вести артилерійський вогонь без будь-яких знань про механіку, силам спеціальних операцій знадобляться достатні технічні знання під час використання систем зі ШІ, оскільки ця технологія пропонує принципово унікальні можливості. Особливої уваги вимагає той факт, що ШІ може вплинути на ухвалення рішень людиною і способи ведення воєнних дій. У міру росту складності та поширеності ШІ користувачі зрозуміють, що вивчення однієї лише результативності чи ефективності інструменту недостатньо для оцінки системи ШІ.

Технологію ШІ не можна оцінювати лише на підставі того, чи працює вона. Визначити, чи "працює" ШІ, може бути дуже складно, особливо під час роботи з величезними обсягами даних на машинній швидкості. Хоча інструмент із підтримкою ШІ може генерувати візуально привабливий брифінг-продукт, що відображає тенденції наративів та аналіз настроїв, його аналіз може виявитися марним або, що ще гірше, неточним. На його оцінки впливатимуть вихідні дані та пороги ухвалення рішень. Крім того, дрейф моделі — погіршення продуктивності через зміни у навколишньому середовищі — та маніпуляції противника можуть ще більше ускладнити використання ШІ. Алгоритми можуть бути крихкими. Дані можуть старіти. Атаки противника можуть "отруїти" дані та викликати непомітні, але значні зміни в моделі ШІ. Ці проблеми — ще одна причина, через яку для ефективного використання та обслуговування систем ШІ необхідно розуміння даних і продуктивності моделі.

Показники ефективності ШІ досить складні. Складні системи ШІ, що враховують декілька моделей або базових моделей, можуть створити нові проблеми для оцінки ефективності. Необхідні подальші дослідження для визначення відповідних методів інформування користувачів про те, як керувати складнішими системами. Незалежно від того, наскільки "чарівним" може бути ШІ, оператори ніколи не повинні сліпо довіряти продуктивності системи. Навіть під час використання "простіших" метрик користувачі можуть не розуміти повного контексту того, що оцінює метрика. Тим не менш, розуміння цих показників ефективності вкрай важливе для операторів ССО, оскільки вони забезпечують певний рівень стандартизації та об'єктивної оцінки для визначення цінності та стану інструменту ШІ. Хоча вищі кількісні показники не обов'язково означають, що інструмент кращий, низькі показники ефективності вказують на зниження його цінності.

Формалізація необхідних навичок щодо роботи зі ШІ у командах ССО

Безумовно, домогтися того, щоб кожен оператор ССО мав необхідний рівень знань в галузі ШІ на додаток до технічних знань, буде непросто. Принаймні військові повинні переконатися, що в кожній групі ССО є хоча б одна людина з більш просунутими знаннями ШІ, яка може як мінімум виконувати завдання архетипу Facilitate AI і брати на себе частину обов'язків архетипу Embed AI. Ці оператори не обов'язково мають бути досвідченими програмістами. Скоріше їм доведеться взяти на себе роль "обслуговчого персоналу" технології, щоб забезпечити постійну функціональність системи ШІ на відстані. Цей набір навичок ставатиме все більш необхідним для сил спеціальних операцій у міру використання ними досконаліших систем за допомогою ШІ, що вимагають взаємодії людини та машини в умовах розгортання.

Члени команди, які працюють зі ШІ, повинні вміти визначати ключові проблемні галузі під час використання та оцінки нових інструментів ШІ та надавати інформований зворотний зв'язок розробникам ШІ, сприяючи постійному вдосконаленню. Люди, які мають глибші знання у галузі ШІ, можуть бути сполучною ланкою між технічними експертами, які часто працюють у штабі, й іншими членами групи спеціальних операцій на місцях. Навіть якщо військові прагнутимуть до розширення інтеграції фахівців із дослідження даних на нижчих рівнях, усім сторонам доведеться пройти непростий шлях навчання, освоюючи відповідні ролі. Наявність в оперативній групі людини, яка розуміє мову даних, алгоритмів і моделей, матиме вирішальне значення для роботи з вченими, які вивчають дані.

Неминучою проблемою є пошук часу, персоналу та ресурсів для навчання і підготовки військовослужбовців до цього вищого рівня компетентності в галузі ШІ. На додаток до тривалого процесу підготовки, сили спеціальних операцій мають пройти цілий список тренувань, наказуваних Міністерством оборони, їх галуззю служби та професійною спеціалізацією. Додавання ще однієї вимоги до підготовки навряд чи сподобається спільноті. Проте, командувачі повинні розглядати підготовку та навчання ШІ як пріоритет, тому що це буде невід'ємною частиною воєнних дій. Перевага на полі бою створюється не лише технологією, а й здатністю бійців використовувати цю технологію. Якщо сили спеціальних операцій хочуть повною мірою використати можливості ШІ в армії та стимулювати їх розвиток, необхідно глибше розуміти цю технологію.

Незважаючи на те, що Міністерство оборони прагне розширення підготовки та навчання в галузі ШІ, ця ініціатива ще не повністю реалізована на тактичному рівні. Військові, які цікавляться ШІ, можуть проявляти ініціативу самоосвіти в галузі цієї технології, але для більшості доступ до можливостей навчання ШІ залишається обмеженим. Замість того, щоб очікувати на ініціативу, сили спеціальних операцій повинні створити додатковий ідентифікатор навичок або вимогу сертифікації для співробітників, обраних для тіснішої роботи з технологією. Формалізація і розширення ознайомленості з технологіями на рівні бойових підрозділів має вирішальне значення для збереження переваги у майбутніх бойових діях.

Як зазначається у Стратегії навчання ШІ Міністерства оборони, тренування зі ШІ можуть поєднувати в собі асинхронне та синхронне навчання. Тому формування навичок роботи зі ШІ не обов'язково означає триваліший кваліфікаційний цикл для ССО. Натомість окремі співробітники самостійно проходитимуть курси зі ШІ, доповнені тематичними таборами та семінарами. Ключовим моментом є визначення членів команди, які вимагають просунутих навичок ШІ, що дозволить відібраним співробітникам здобути освіту в галузі ШІ, а не вимагати наявності цієї компетенції у всіх.

Критики заперечать, що замість того, щоб робити знання в галузі ШІ основною компетенцією ССО, навички в роботі зі ШІ краще забезпечувати, залучаючи "помічників" у команди ССО. Цей аргумент цілком обґрунтований, і ССО мають продовжувати залучати до своєї організації технічно підкованих співробітників. Однак такий підхід не вирішує двох фундаментальних проблем. По-перше, команди не завжди розгортаються на театрі воєнних дій разом зі своїми помічниками, і групи ССО можуть опинитися далеко від свого помічника зі ШІ. Хоча експерти зі ШІ теоретично можуть усувати проблеми на відстані, доступ і зв'язок із групами на передовій не гарантовані. У таких ситуаціях член групи ССО повинен мати можливість оцінити й усунути будь-які проблеми з використовуваними системами ШІ.

Друга проблема полягає в тому, що попит на талановитих фахівців у галузі ШІ дуже великий як у Міністерстві оборони, так і в інших галузях. Сили спеціальних операцій армії США вивчають можливість зміни структури сил і створення нової кар'єрної галузі для офіцерів, щоб ввести у кадровий розклад технологічно орієнтовані ролі та забезпечити "технологічну інтеграцію" на тактичному рівні, але технічних фахівців просто не вистачає, щоб заповнити ці допоміжні ролі для всіх тактичних груп. Крім того, інституційні обмеження, такі як брак персоналу, можуть перешкоджати зусиллям з найму та навчання фахівців із впровадження ШІ. Інтеграція передових технологій ШІ у військові операції напевно відбуватиметься швидше, ніж ССО встигнуть виростити нові кадри експертів зі ШІ. Хоча ШІ стане частиною майже всіх оборонних додатків, армія швидше за все залишить фахівців зі ШІ на вищих рівнях, а не на рівні роти, загону чи команди через брак фахівців зі ШІ в найближчому майбутньому. Враховуючи цей ймовірний сценарій, сили спеціальних операцій повинні вкладати кошти у підготовку та навчання вже наявного персоналу, щоб усунути цю прогалину у знаннях ШІ.

Військові мають доступ до більшої кількості талановитих фахівців, аніж може здатися. Було б ідеально, якби людина з формальною освітою в галузі науки, технології, інженерії чи математики могла б взяти на себе більш просунуті знання в галузі ШІ, але навіть відсутність технічної освіти не повинна бути перешкодою. За умов належного рівня керівництва, навчання і знайомства з технологіями люди без технічної освіти можуть отримати достатньо знань для виявлення та усунення несправностей у конкретному додатку ШІ. Навчений оператор ССО повинен доповнювати, а не підміняти собою технічного експерта, особливо в тих випадках, коли доступ до експертних знань ускладнений. Найм на ці ролі лише тих, хто має технічну освіту, обмежить можливості сил спеціальних операцій із формування навичок ШІ на рівні команди — а це стає все більш необхідним, оскільки ШІ стає невід'ємною частиною планування і проведення операцій.

Висновок

Можливості ШІ захоплюють багатьох. Від "спецназівця з гіперінформаційними можливостями", який працює на тактичному рубежі, до аналітика, котрий оцінює соціальну динаміку та тенденції в оперативній обстановці — ШІ вплине на всі аспекти воєнних дій. Однак широке впровадження цієї технології все ще перебуває у зародковому стані. Щоб адекватно підготуватися до майбутнього, керованому ШІ, ССО повинні визнати необхідність формування когорти операторів, здатних виявляти та діагностувати складніші проблеми, що виникають у зв'язку зі ШІ.

Хоча ця стаття присвячена спільноті спеціальних операцій, не слід вважати, що ця рекомендація стосується виключно них. Інші підрозділи також повинні вивчити можливості формування більш просунутих навичок володіння ШІ, аж до самого низового оперативного рівня, щоб підвищити стійкість своїх військ, оскільки ШІ стає невід'ємною частиною бойового комплекту. Залучення технічних фахівців до Міністерства оборони залишається важливим пріоритетом, але в найближчій перспективі реальність така, що військові навряд чи зможуть заповнити цими фахівцями команди тактичного рівня. Тому військовим варто звернутися до наявного кадрового резерву, щоб його поповнити. Зрештою, розуміння власних бойових інструментів та обладнання — обов'язок кожного окремо взятого бійця.

Про авторку

Келлі Джонг — офіцерка психологічних операцій армії США із досвідом роботи в Індо-Тихоокеанському регіоні. Нещодавно закінчила Військово-морську аспірантуру, де досліджувала, як сили спеціальних операцій мають оцінювати ШІ для операцій в інформаційному середовищі.