ШІ дасть змогу контролювати поле бою: чи почнеться Третя світова війна через нейромережі

Штучний інтелект змінить наше повсякденне життя незліченними способами: як уряди обслуговують своїх громадян; як ми їздимо (і нас везуть); як ми управляємо і, як ми сподіваємося, захищаємо наші фінанси; як лікарі діагностують і лікують захворювання; навіть те, як мої студенти досліджують і пишуть свої есе.

Але наскільки революційним буде ШІ? Чи порушить це глобальний баланс сил? Чи дозволить це автократіям правити світом? Чи зробить це війну настільки швидкою і жорстокою, що вона стане неконтрольованою? Коротше кажучи, чи змінить ШІ фундаментально ритми світових подій?

Звісно, ще надто рано говорити однозначно: наслідки ШІ зрештою залежатимуть від рішень, які ухвалюють лідери та країни, а технології іноді здійснюють несподівані повороти. Але навіть попри те, що наступна версія ChatGPT нас дивує і турбує, нам потрібно розібратися з більш глибокими питаннями про міжнародні відносини в епоху штучного інтелекту. І нам потрібно розглянути дивовижну можливість: можливо, ШІ не змінить світ так сильно, як ми очікуємо.

1) Чи зробить ШІ війну некерованою?

Розглянемо одне твердження: штучний інтелект зробить конфлікт більш смертоносним і його буде важче стримувати. Аналітики передбачають майбутнє, в якому машини зможуть пілотувати винищувачі вправніше, ніж люди, кібератаки за допомогою штучного інтелекту руйнують ворожі мережі, а передові алгоритми прискорюють швидкість ухвалення рішень. Дехто попереджає, що автоматизоване ухвалення рішень може спровокувати стрімку ескалацію — навіть ядерну ескалацію. Якщо військові плани і розклад залізниць стали причиною Першої світової війни, можливо, ШІ стане причиною Третьої світової війни.

Те, що ШІ змінить війну, незаперечно. Можливості величезні: від забезпечення профілактичного обслуговування обладнання до неймовірних поліпшень у сфері точного націлювання. Один F-35, що захищає рій напівавтономних дронів, може мати вогневу міць цілої ескадрильї бомбардувальників. Як зробила висновок у 2021 році Комісія національної безпеки зі штучного інтелекту, у "новій епосі конфлікту" домінуватиме сторона, яка освоїла "нові способи ведення війни".

Але нічого принципово нового тут немає. Історія воєн протягом століть — це історія, в якій інновації регулярно роблять бій швидшим та інтенсивнішим. Тож подумайте двічі, перш ніж погодитися з твердженням, що ШІ зробить ескалацію неконтрольованою.

США і Китай обговорили угоду не автоматизувати свої процеси ядерного командування і контролю з тієї простої причини, що у держав є сильні стимули не відмовлятися від контролю над зброєю, використання якої може поставити під загрозу їхнє власне виживання. Велике занепокоєння викликає поведінка Росії, включно з розробкою торпед з ядерними боєголовками, які в кінцевому підсумку зможуть працювати автономно. Але навіть під час "холодної війни", коли Москва створила систему, покликану забезпечити ядерний удар у відповідь, навіть якщо її керівництво буде знищено, вона ніколи не вимикала людський контроль.

Фактично, ШІ може знизити ризик запаморочливої ескалації, допомагаючи особам, які ухвалюють рішення, крізь туман кризи і війни. Пентагон вважає, що розвідувальні та аналітичні інструменти на основі штучного інтелекту можуть допомогти людям розібратися в заплутаній або фрагментарній інформації про підготовку ворога до війни або навіть про те, чи дійсно ведеться небезпечна ракетна атака. Це не наукова фантастика: як повідомляється, допомога ШІ допомогла аналітикам американської розвідки виявити вторгнення президента Росії Володимира Путіна в Україну 2022 року.

У цьому сенсі ШІ може пом'якшити невпевненість і страх, які підштовхують людей до крайніх реакцій. Надаючи політикам краще розуміння подій, ШІ може також поліпшити їхню здатність керувати ними.

2) Чи допоможе ШІ автократіям, таким як Китай, контролювати світ?

А як щодо пов'язаного з цим кошмару — що ШІ допоможе силам тиранії контролювати майбутнє? Аналітики, на кшталт Юваля Ноя Харарі, попереджають, що штучний інтелект скоротить витрати і збільшить віддачу від репресій. Розвідувальним службам, оснащеним штучним інтелектом, знадобиться менше робочої сили для розшифровки величезних обсягів розвідувальної інформації, яку вони збирають про своє населення, що дасть їм змогу, наприклад, точно скласти мапу і безжально зруйнувати мережі протестів. Вони використовуватимуть технологію розпізнавання облич з підтримкою ШІ для спостереження і контролю над своїми громадянами, одночасно використовуючи створену ШІ дезінформацію для дискредитації критиків усередині країни і за кордоном. Підвищуючи ефективність автократії, ШІ може дозволити диктаторам домінувати на першому етапі.

Це, безумовно, те, на що сподівається Китай. Уряд президента Сі Цзіньпіна розробив систему "соціального кредиту", яка використовує штучний інтелект, розпізнавання облич і великі дані для забезпечення надійності своїх громадян, регулюючи їхній доступ до всього: від кредитів під низькі відсотки до квитків на літак. Повсюдне спостереження за допомогою штучного інтелекту перетворило Сіньцзян на антиутопічну модель сучасних репресій.

Пекін має намір захопити "стратегічні командні висоти" інновацій, оскільки вважає, що ШІ може зміцнити його внутрішню систему і військову міць. Він використовує міць неліберальної держави, щоб спрямувати гроші й таланти на передові технології.

Однак не факт, що автократії вирвуться вперед.

Вірити в те, що ШІ фундаментально підтримує автократію, значить вірити в те, що деякі з найважливіших і найдавніших чинників, що сприяють інноваціям, як-от відкриті потоки інформації та терпимість до інакомислення, більше не такі важливі. Однак автократія вже обмежує потенціал Китаю.

Створення потужних великих мовних моделей потребує величезних обсягів інформації. Але якщо ці дані будуть зіпсовані або упереджені через жорстку цензуру китайського інтернету, якість результатів постраждає. Дедалі репресивніша система з часом також боротиметься за залучення найкращих талантів: показово, що 38% провідних дослідників штучного інтелекту в США родом із Китаю. І розумні технології, як і раніше, повинні використовуватися урядовими інститутами Китаю, які стають дедалі менш розумними — тобто менш технократично компетентними — у міру того, як політична система стає дедалі більш підпорядкованою довічному імператору.

Китай стане грізним технологічним конкурентом. Але навіть в епоху штучного інтелекту Сі та його неліберальні побратими можуть щосили намагатися уникнути опору конкуренції, який створює автократія.

3) Чи буде ШІ віддавати перевагу найкращим або іншим?

Деякі технології скорочують розрив між найбільш і найменш технологічно розвиненими суспільствами. Ядерна зброя, наприклад, дає змогу таким аутсайдерам, як Північна Корея, компенсувати військові та економічні переваги, якими володіє наддержава та її союзники.

У певному сенсі ШІ посилить слабких. Офіційні особи США стурбовані тим, що великі мовні моделі можуть допомогти терористам створити біологічну зброю. Держави-ізгої, такі як Іран, можуть використовувати ШІ для координації угруповань дронів проти військових кораблів США в Перській затоці. Більш сприятливим є те, що ШІ може розширити доступ до базових медичних послуг на Глобальному Півдні, створюючи великі вигоди у вигляді збільшення тривалості життя та економічної продуктивності.

Однак в інших відношеннях ШІ буде долею багатих. Розробка сучасного штучного інтелекту обходиться фантастично дорого. Навчання великих мовних моделей може зажадати величезних інвестицій і доступу до обмеженого числа провідних учених та інженерів, не кажучи вже про приголомшливі обсяги електроенергії. За деякими оцінками, вартість інфраструктури, що підтримує чат-бот Microsoft Bing AI, становить 4 мільярди доларів. Практично кожен може стати користувачем ШІ, але для того, щоб стати його творцем, потрібні величезні ресурси.

Ось чому середні держави, які роблять великі кроки в галузі штучного інтелекту, такі як Саудівська Аравія та Об'єднані Арабські Емірати, мають дуже глибокі кишені. Багато хто з перших лідерів у перегонах ШІ є або технологічними титанами (Alphabet, Microsoft, Meta, IBM, Nvidia та інші), або фірмами, що мають доступ до їхніх грошей (OpenAI). І США, з їхнім динамічним, добре фінансованим технологічним сектором, як і раніше, лідирують у цій галузі.

Те, що вірно в приватному секторі, може бути вірним і у сфері ведення війни. На початковому етапі військові вигоди від нових технологій можуть непропорційно дістатися країнам зі щедрими оборонними бюджетами, необхідними для розроблення і застосування нових можливостей у великих масштабах.

Усе це може змінитися: раннє лідерство не завжди призводить до стійких переваг. Вискочки, чи то фірми, чи то країни, вже революціонізували інші галузі. Однак на цей момент ШІ може швидше зміцнити, ніж революціонізувати баланс сил.

4) Чи буде ШІ руйнувати або зміцнювати коаліції?

Те, як штучний інтелект вплине на баланс сил, залежить від того, як він вплине на глобальні коаліції. Як зафіксували аналітики Центру безпеки та нових технологій Джорджтаунського університету, США та їхні союзники можуть значно випередити Китай у витратах на передові технології — але тільки якщо вони об'єднають свої ресурси. Найбільша надія Пекіна полягає в тому, що вільний світ розколеться через ШІ.

Така ймовірність є. Вашингтон занепокоєний тим, що новий підхід Європи до генеративного регулювання ШІ може задушити інновації: у цьому сенсі ШІ підкреслює розбіжності в підходах США і Європи до ринків і ризиків. Інша ключова демократія, Індія, віддає перевагу стратегічній автономії, а не стратегічному союзу: у технологіях, як і в геополітиці, вона воліє йти своїм власним шляхом. Тим часом деякі з недемократичних партнерів Вашингтона, а саме Саудівська Аравія та ОАЕ, розглядають можливість тісніших технологічних зв'язків із Пекіном.

Але робити висновок про те, що ШІ фундаментально підірве альянси США, передчасно. У деяких випадках США успішно використовують ці альянси як інструменти технологічної конкуренції: подивіться, як Вашингтон умовляв Японію і Нідерланди обмежити доступ Китаю до високоякісних напівпровідників. США також використовують партнерські відносини в галузі безпеки з Саудівською Аравією та ОАЕ, щоб обмежити їхні технологічні відносини з Пекіном і сприяти партнерству в галузі штучного інтелекту між американськими та еміратськими фірмами. У цьому сенсі геополітичні розклади визначають розвиток ШІ, а не навпаки.

На більш фундаментальному рівні переваги країн щодо ШІ пов'язані з їхніми уподобаннями щодо внутрішнього і міжнародного порядку. Таким чином, які б розбіжності не існували між США і Європою, вони можуть зблякнути порівняно з їхніми спільними побоюваннями з приводу того, що станеться, якщо Китай досягне панування. Європа і Америка можуть в кінцевому підсумку знайти шлях до тіснішої співпраці з питань штучного інтелекту — так само, як загальна ворожість до могутності США підштовхує Китай і Росію до тіснішої співпраці в галузі військового застосування цієї технології сьогодні.

5) Чи зможе ШІ приборкати або розпалити суперництво великих держав?

Багато з цих питань пов'язані з тим, як ШІ вплине на інтенсивність конкуренції між Заходом, очолюваним США, і автократичними державами, очолюваними Китаєм. Ніхто насправді не знає, чи може нестримний ШІ справді загрожувати людству. Але спільні екзистенційні ризики іноді стають дивними партнерами.

Під час першої "холодної війни" США і Радянський Союз співпрацювали, щоб впоратися з небезпеками, пов'язаними з ядерною зброєю. Під час нової "холодної війни", можливо, Вашингтон і Пекін знайдуть спільну мету — не допустити використання ШІ зі зловмисними цілями, як-от біотероризм чи інші загрози країнам з обох боків від сьогоднішніх геополітичних розбіжностей.

Однак ця аналогія має двосторонній характер, оскільки ядерна зброя також зробила "холодну війну" більш гострою і страшною. Вашингтону і Москві довелося пережити зіткнення з високими ставками, як-от Карибська криза на Кубі та кілька криз у Берліні, перш ніж встановилася хитка стабільність. Таким чином, навіть попри те, що США і Китай починають діалог, що зароджується, у сфері ШІ, технології посилюють їхню конкуренцію.

Штучний інтелект перебуває в центрі китайсько-американської технологічної війни, оскільки Китай використовує чесні й нечесні методи для прискорення власного розвитку, а США застосовують експортний контроль, обмеження на інвестиції та інші заходи, щоб заблокувати шлях Пекіна. Якщо Китай не зможе прискорити свій технологічний прогрес, каже Сі, він ризикує бути "задушеним" Вашингтоном.

ШІ також підживлює боротьбу за військову перевагу в західній частині Тихого океану: Ініціатива "Реплікатор" Пентагону передбачає використання тисяч дронів з підтримкою ШІ для знищення китайського флоту, що прямує на Тайвань. Держави-дуелянти можуть зрештою знайти способи співпраці, можливо, мовчазної, щодо взаємних небезпек, які становить собою ШІ. Але технологія перетворення в майбутньому посилить багато аспектів їхнього суперництва.

***

Ми не можемо передбачити майбутнє: ШІ може зайти в глухий кут або прискоритися, перевершивши чиїсь очікування. Ба більше, технологія не є якоюсь автономною силою. Її розвиток і наслідки визначатимуться рішеннями у Вашингтоні та в усьому світі.

Наразі головне — ставити правильні запитання, тому що це допомагає нам зрозуміти ставки цих рішень. Це допомагає нам уявити, яке майбутнє може сформувати ШІ. Не в останню чергу це показує, що, можливо, ШІ все-таки не викличе геополітичний землетрус.

Звісно, є причини побоюватися, що ШІ зробить війну неконтрольованою, порушить баланс сил, зруйнує альянси США або фундаментально віддасть перевагу автократіям над демократіями. Але є й вагомі причини підозрювати, що цього не станеться.

Це не заклик до самозаспокоєння. Запобігання більш небезпечним наслідкам потребуватиме енергійних зусиль і розумного вибору. Дійсно, основна цінність цієї вправи полягає в тому, щоб показати, що можливий дуже широкий спектр сценаріїв.

Віддає ШІ перевагу автократії чи демократії, частково залежить від того, чи проводять США освічену імміграційну політику, яка допомагає їм акумулювати найкращі таланти. Чи буде ШІ зміцнювати або руйнувати альянси США, залежить від того, чи Вашингтон ставитиметься до цих альянсів як до активів, які необхідно захищати, або як до тягаря, якого потрібно позбутися. Чи підтримає ШІ наявну міжнародну ієрархію, чи підриватиме її, залежить від того, наскільки мудро США та інші країни регулюють його розвиток і використання.

Не підлягає сумніву те, що ШІ відкриває надихаючі перспективи і жахливі можливості. Метою Америки має бути безжалісне і відповідальне впровадження інновацій, достатнє для того, щоб загалом сприятливий світовий порядок не змінився фундаментально — навіть так, як це роблять технології.

Автор висловлює особисту думку, яка може не збігатися з позицією редакції. Відповідальність за опубліковані дані в рубриці "Думки" несе автор.

Джерело