У Міноборони США хочуть довірити АІ складати військові плани: чого побоюються експерти

Військові експерти з SCSP (космічної та наукової програми оборонних досліджень США) вважають, що рівень розвитку штучного інтелекту дає йому змогу створювати воєнні плани, але головне рішення має завжди бути за людиною. Про це пише портал Breaking Defense.

Міністерству оборони обов'язково слід вивчити інструменти ШІ, стверджує SCSP, щоб Китай або якийсь інший недобросовісний конкурент не випередив їх, але на практиці знадобиться більша ретельна підготовча робота, як це викладено в нещодавно опублікованому дослідженні наукової та космічної оборонної ініціативи.

Ветеран Міністерства оборони, який зараз працює старшим радником у SCSP, Юлбер Байрактарі, попередив, що в будь-якому разі знадобиться хоча б одна добре навчена людина, яка перевірить військовий план і аналітику ШІ, перш ніж діяти за ним, не кажучи вже про те, щоб під'єднати ШІ безпосередньо до рою смертоносних дронів, наприклад.

"Конкретні військові завдання вимагають набагато кращого налаштування LLM (великої мовної моделі). Вона має бути спеціально створена для військових цілей, і зовсім недостатньо просто використовувати наявний ChatGPT", — пояснив Джастін Лінч, колишній армійський офіцер, який очолює оборонні дослідження SCSP.

Якщо генеративний ШІ зможе розробити повний військовий оперативний план, чи зможе він потім також виконати цей план, можливо, передаючи накази безпосередньо зграї бойових дронів? Це технологічно можливо, але це жахлива ідея з фільму "Термінатор", сказав Лінч, і це зовсім не те, що рекомендує SCSP.

Коротко, експерти SCSP припускають три рівні військового і розвідувального використання генеративного ШІ.

• Генерація контенту: для військових цілей потрібно використовувати чат-боти, тільки спеціально адаптовані для таких завдань, як узагальнення секретних розвідувальних звітів або інвентаризація військової логістики. Що точніші та конкретніші набори даних, на яких навчається ШІ, то точніші та дієвіші його відповіді.
• Автоматизоване оркестрування: замість того, щоб просто використовувати один набір даних, яким би великим він не був, ШІ може збирати інформацію з різних наборів баз даних. Велика мовна модель може автоматично витягувати найбільш релевантні набори даних і найбільш підходящі для вас аналітичні інструменти.
• Агентський ШІ: тут ШІ може перейти від рекомендації завдань до їх виконання, хоча і під суворим контролем. Експерти SCSP припускають, що генеративний ШІ доручить підлеглим ШІ збирати інформацію, щоб заповнити прогалини в його даних, наприклад, або організовувати конвої з припасами, а не запускати автономні смертоносні рої.

Вищі рівні в цій структурі ґрунтуються на здатності генеративного ШІ розуміти широкі запити простою англійською мовою — від "запланувати харчування для загону на наступний тиждень" до "придумати план матеріально-технічного забезпечення батальйону" — і перетворювати його на докладний чек-лист конкретних завдань.

Фактично, між появою штучного інтелекту і зростанням Китаю, як стверджується в доповіді SCSP, людство стикається з поєднанням технологічних змін і геополітичної нестабільності з лякаючою "схожістю з епохою перед Першою світовою війною". Це менш ніж обнадіює, але за допомогою деяких експертних порад (від людей і ШІ), можливо, цього разу світ зможе краще впоратися з цією проблемою, кажуть військові.

Раніше Фокус розповідав, що армія Китаю хоче бути першою, хто використовує інструменти ШІ на війні. Ось що їм завадить.