Контроль над штучним інтелектом як видом озброєння. Частина перша: технології та проблеми

Із розвитком штучного інтелекту звучать побоювання з приводу систем озброєння з використанням ШІ. Через це постає питання про те, наскільки реально контролювати військове застосування ШІ. Меган Ламберт і Пол Шарре розглядають низку особливостей, що ускладнюють контроль над ШІ, і пропонують конкретні кроки, які можна зробити вже сьогодні, щоб підвищити ймовірність успіху майбутніх режимів контролю над озброєннями з використанням ШІ.

Фокус переклав першу частину статті Мегана Ламберта і Пола Шарре про те, які існують види контролю над озброєннями, доцільність його існування та уроки, що дає ШІ.

Збройні сили в усьому світі працюють над розробкою, інтеграцією та використанням ШІ у своїх системах озброєнь. Хоча багато з цих систем ще не реалізовано, прориви в галузі ШІ можуть з часом значно вплинути на діяльність збройних сил. Занепокоєння з приводу військових систем ШІ змусило деяких активістів закликати до заборони або регулювання систем озброєння з використанням ШІ.

Проте ШІ має низку характеристик, які ускладнюють контроль над ним. Будучи технологією загального призначення, ШІ подібний до електрики або двигуна внутрішнього згоряння і має незліченну безліч невійськових і оборонних застосувань. Він відрізняється від деяких військових технологій тим, що розробляється переважно в цивільному секторі інженерами в приватній промисловості або в дослідницьких організаціях. Хоча широке поширення ШІ робить малоймовірною повну заборону на всі військові застосування ШІ, у міжнародного співтовариства має бути змога спільно працювати над регулюванням або забороною певних видів використання військового ШІ.

Упродовж усієї історії людства держави домагалися обмежень або заборон на певні види зброї або її застосування. Мотиви контролю над озброєннями можуть бути різними, як і його успішність. Аналіз історичних прикладів контролю над озброєннями показує, що конкретні кроки, зроблені сьогодні, підвищують шанси на успішний контроль над озброєннями ШІ в майбутньому. Політики можуть працювати над тим, як технології ШІ використовуються військовими. Країни також здатні налагодити регулярний діалог із союзниками і суперниками про використання ШІ у військових діях і вжиття заходів для зниження взаємних ризиків.

Повсюдна і демократизована природа ШІ робить контроль над озброєннями складним, але не неможливим. Хоча повна заборона на військове використання ШІ видається неймовірною, держави можуть заборонити деякі види застосування ШІ за умови чіткого визначення заборон і взаємного контролю над ними. Взаємна перевірка, хоча й складна для будь-якого військового потенціалу на основі програмного забезпечення, досягається за допомогою різних методів: запровадження режиму інспекцій на місцях; регулювання зовнішніх спостережуваних фізичних характеристик систем зі ШІ (наприклад, розмір, вага, корисне навантаження) або автономної поведінки; або обмеження обчислювальної інфраструктури (тобто апаратного забезпечення). Будь-який контроль над озброєннями ШІ буде складним завданням, але за правильних умов у деяких випадках він цілком здійсненний. Дії, вжиті сьогодні, можуть закласти основу для успіху в майбутньому.

Види контролю над озброєннями

Контроль над озброєннями охоплює цілу низку дій і може відбуватися на будь-якому етапі розроблення або застосування зброї. У цій статті ми визначаємо контроль над озброєннями як "угоди, які держави укладають для контролю над дослідженнями, розробкою, виробництвом, застосуванням або використанням певних видів зброї, характеристик зброї, застосування зброї або систем доставки зброї".

Договори про нерозповсюдження, такі як Договір про нерозповсюдження ядерної зброї, націлені на етап розробки технологій і спрямовані на запобігання доступу до технологій, що лежать в основі певної зброї. Інші заходи контролю над озброєннями забороняють розробку, виробництво і накопичення зброї, але дозволяють доступ до базової технології. Сюди належать заборони на протипіхотні міни та касетні боєприпаси. Договори про обмеження озброєнь, такі як новий Договір СНО, дозволяють виробництво певних видів зброї, але намагаються обмежити кількість, якою можуть володіти країни. Інші заходи регулюють використання зброї у війні, а в деяких випадках повністю забороняють її використання.

Хоча деякі заходи з контролю над озброєннями здійснюються за допомогою юридично зобов'язуючих угод, в історії існує безліч прикладів успішного укладення угод, що не мають обов'язкової юридичної сили, або навіть негласної співпраці без офіційних угод. Згодом давня практика держав також може перетворитися на звичайне міжнародне право, або "загальну практику, прийняту як закон".

Контроль над озброєннями є радше винятком, ніж правилом, коли країни конкурують між собою в розробці та виробництві зброї. Такий контроль вимагає координації та довіри між державами, а це досить важке завдання в мирний час і ще складніше — під час конфлікту. Держави досить неохоче погоджуються на заходи з моніторингу та перевірки, які могли б підвищити взаємну прозорість і дозволити перевіряти дотримання зобов'язань іншими країнами. Як пояснюють Ендрю Коу і Джейн Вейнман, "важливою перешкодою для контролю над озброєннями є компроміс, пов'язаний з моніторингом: прозорість необхідна, щоб переконати одну сторону в дотриманні іншою стороною обмежень на озброєння, але прозорість також може виявити вразливості, які можуть бути використані першою стороною в перегонах озброєнь або війні". Незважаючи на численні перешкоди для контролю над озброєннями, за деяких обставин держави змогли успішно обмежити розробку і застосування зброї, навіть під час війни. Уроки минулих історичних успіхів і невдач дають цінну інформацію для спроб стримати використання ШІ військовими.

Чому контроль над озброєннями вдається або зазнає невдачі

Успіх чи невдача контролю над озброєннями залежить як від доцільності контролю над озброєннями, так і від його здійсненності. Доцільність контролю над озброєннями ґрунтується на тому, що країна розраховує передбачувану військову цінність зброї порівняно з її передбачуваною шкодою, такою як наджорстокий вплив на комбатантів, невибірковий характер або дестабілізуючий вплив на міжнародний або політичний порядок. Здійсненність контролю над озброєннями залежить від кількох чинників: здатності країн досягти ясності щодо рівня бажаного стримування; можливості як дотримуватися угоди, так і перевіряти її дотримання іншими державами; і наявності кількості країн, необхідної для того, щоб угода працювала. Імовірність успішності з контролю над озброєннями зростає разом із доцільністю та здійсненністю.

Успіх у контролі над озброєннями існує в певному спектрі. Він передбачає обмеження поведінки держави в галузі досліджень, розробки, виробництва, розгортання або застосування зброї. Заходи, які не можуть стримати або регулювати поведінку, вважаються неуспішними. Більшість угод знаходяться десь посередині. Навіть найефективніші угоди, такі як Конвенція про хімічну зброю, мають винятки та порушників. Інші угоди можуть залишатися успішними протягом певного часу, але технології або зміна політичної динаміки роблять їх неактуальними. Візьмемо, наприклад, Договір про протиракетну оборону та Договір про ядерну зброю середньої дальності. Однак навіть частково успішні угоди з контролю над озброєннями можуть бути ефективними для поліпшення стабільності, мінімізації шкоди цивільному населенню та зменшення страждань комбатантів.

Доцільність контролю над озброєннями

Держави чинитимуть опір регулюванню зброї з високою військовою цінністю — такої, що є ефективною, надає унікальний доступ або забезпечує вирішальну перевагу на полі бою, — навіть якщо ця зброя здатна заподіяти істотну шкоду. Військова цінність зброї кладеться на різні шальки терезів з її теоретичною шкодою, що має місце, якщо зброю сприймають як нелюдську, невибіркову, дестабілізуючу або таку, що руйнує політичний чи соціальний порядок.

Іноді держави намагаються обмежити зброю або військові системи, які приносять непотрібні страждання або зайві травми. Наприклад, кулі, що залишають у тілі осколки скла, мають вищий ступінь шкоди — вони завдають надмірних травм, а осколки скла неможливо виявити за допомогою рентгенівських променів, — і не становлять унікальної цінності для військових. На сприйняття шкідливості зброї може також впливати механізм ураження. Наприклад, лазери, що засліплюють назавжди, сприймаються як такі, що заподіюють непотрібні страждання, що підвищує доцільність контролю над ними.

Держави намагаються контролювати менш вибіркову зброю або військові системи — ті, які не можуть відрізнити цивільну особу від комбатанта. Сюди належать ранні обмеження на повітряні бомбардування. Ці види регулювання найуспішніші, коли зброя або вид поведінки на полі бою повністю заборонені. Спроби регулювати використання зброї невибіркової дії шляхом обмеження її застосування по військових цілях і недопущення її в цивільні райони не увінчалися успіхом на практиці у воєнний час.

Держави можуть також бажати контролю щодо зброї, яку сприймають як руйнівну або дестабілізуючу. Політичні лідери можуть прагнути заборонити зброю, яка загрожує їхній владі, як, наприклад, папські заборони на арбалет або ранні постанови про вогнепальну зброю. Зброя, яку розглядають як дестабілізуючу, наприклад, системи протиракетної оборони або ядерна зброя космічного базування, може вважатися бажаним об’єктом контролю, оскільки вона може спровокувати дорогу гонку озброєнь або створити стимули для першого удару.

Взаємність — страх, що інша країна може відповісти такою самою зброєю або поведінкою, — є суттєвим чинником, який визначає прагнення держави до контролю над озброєннями та його дотримання. Перш ніж ратифікувати Женевський газовий протокол 1925 року, Велика Британія, Франція та Радянський Союз заявили, що угода перестане бути обов'язковою, якщо хоч одна країна не буде її дотримуватися. На початкових етапах Другої світової війни Гітлер утримувався від наказів про бомбардування британських міст не через чинні міжнародно-правові заборони на це, а зі страху, що Британія завдасть удару у відповідь. Взаємна стриманість досягається або внутрішніми нормами доцільності, або страхом перед тим, що супротивник завдасть удару у відповідь. Під час всебічного дослідження порушень військового права у 48 міждержавних війнах з 1900 по 1991 рік Джеймс Д. Морроу виявив, що ключовим фактором дотримання норм є взаємність. Договори часто були корисним координаційним механізмом, що давав змогу державам домовитися про те, чи слід і як стримувати свої військові операції, але порушення з одного боку майже завжди призводили до відповідних порушень. У демократичних країнах внутрішні інститути можуть створити певну "взаємозалежність", яка підвищує ймовірність продовження дотримання договорів, навіть якщо опонент їх порушує. Незважаючи на цей тиск, Морроу зробив висновок: "Одностороння стриманість трапляється рідко".

Найкращою ілюстрацією динаміки бажаності контролю над озброєннями є реакція міжнародного співтовариства на ядерну зброю порівняно з хімічною. Шкода ядерної зброї набагато перевершує страждання, заподіяні хімічною зброєю, проте глобальне ядерне роззброєння залишається недосяжним. Хімічна зброя, зі свого боку, широко засуджується міжнародною спільнотою. Зрідка її застосовують держави-вигнанці. Ключова відмінність полягає у військовій цінності кожного виду зброї — ядерна зброя має унікальну політичну ефективність. Результатом цієї динаміки є те, що контроль над озброєннями найчастіше виявляється успішним щодо зброї, яка не становить особливої цінності.

Здійсненність контролю над озброєннями

Отже, доцільність контролю над озброєннями пов'язана з факторами, які мотивують або відвертають країни від контролю над озброєннями, а здійсненність враховує, чи досяжне взаємне стримування. Здійсненність контролю над озброєннями залежить від кількох чинників: зрозумілих правил; здатності держав дотримуватися умов угоди; змоги перевіряти дотримання угод іншими державами; кількості країн, необхідної для успішного виконання угоди.

Для досягнення контролю над озброєннями держави мають домовитися про те, яка зброя або види застосування зброї підлягають регулюванню і як саме вони мають регулюватися. Простота є основною перевагою при розробці правил. Повна заборона на зброю, як правило, краще працює під час війни, ніж правила, що дозволяють її застосування за деяких обставин. Простота допомагає противникам координувати дії зі стримування і сприяє нормативно-ціннісній стигматизації зброї. Абсолютні заборони, наприклад, на протипіхотні міни, касетні боєприпаси, хімічну та біологічну зброю, були успішними почасти тому, що така зброя заборонена за будь-яких обставин, а не тільки в певних випадках. Положення, що обмежують застосування в одних випадках, але не в інших, такі як зброя повітряного базування і підводна війна, історично мали менше шансів на успіх.

І все ж простота не завжди необхідна. Сполучені Штати і Радянський Союз (Росія) уклали безліч двосторонніх угод про контроль над озброєннями, які містили складні правила щодо того, яку зброю дозволено створювати кожній державі, включно з Договором про ядерну зброю середньої дальності, Договором про протиракетну оборону, SALT I, SALT II, SORT, START і новим START. Однак ці договори мали й інші обмеження, наприклад, вимагали дотримання угоди лише від двох сторін і обмежували розробку та виробництво зброї лише в мирний час, а не у воєнний.

Чим більш поширена зброя, тим важче її контролювати, оскільки за столом переговорів буде потрібна присутність більшої кількості країн.

Ще одним суттєвим фактором, що впливає на здійсненність, є здатність країни реально виконувати умови угоди. Держави мають недосконалий контроль над своїми збройними силами, і правил, яких держави можуть випадково порушити, буде важче дотримуватися. Німеччина і Велика Британія вступили в Другу світову війну, прагнучи стриманості щодо повітряних бомбардувань міст, і деякий час взаємна стриманість зберігалася. Спочатку обидві країни бомбили тільки військові цілі, а не населені пункти. Стриманість зійшла нанівець після того, як у серпні 1940 року німецькі бомбардувальники випадково відхилилися від цілі і помилково розбомбили центр Лондона. Британія завдала удару у відповідь по Берліну, а Гітлер влаштував "Лондонський бліц", після чого про стриманість довелося забути. Правила, які легко випадково порушити, важче підтримувати.

На здійсненність контролю над озброєннями також впливає кількість країн, необхідних для успішного укладення угоди. Що менше країн необхідно, то краще. Наприклад, під час холодної війни біполярна структура міжнародної системи полегшувала контроль над озброєннями, оскільки для цього необхідна була згода лише двох наддержав. Навіть у разі багатосторонніх угод Америка і Радянський Союз могли відігравати провідну роль у розробці угоди, що полегшувало її виконання іншими країнами. Сполучені Штати і Радянський Союз уклали безліч угод про контроль над озброєннями – деякі двосторонні, а деякі багатосторонні. Ці угоди включали Договір про морське дно, Договір про космічний простір, Договір про протиракетну оборону та інші. Що поширеніша зброя, то важче її контролювати, оскільки за столом переговорів буде потрібно більше країн.

Здатність держави перевірити, чи дотримуються інші країни угоди, є важливим чинником успіху контролю над озброєннями. У деяких випадках використовуються формальні режими перевірки, особливо щодо зброї, яку можна розробити таємно, наприклад, ядерної або хімічної зброя. Конвенція про хімічну зброю і Договір про нерозповсюдження ядерної зброї передбачають інспекційні заходи для перевірки дотримання сторонами, що їх підписали. Договір про космос передбачає, що держави мають дозволити іншим спостерігати за космічними запусками та відвідувати будь-які об'єкти на Місяці. Однак не всі успішні договори мають формальні режими перевірки. Заборони на касетні боєприпаси та протипіхотні міни не вимагають формальних інспекцій, але змушують держави бути прозорими щодо ліквідації своїх запасів. У деяких випадках держави покладаються на власні методи збору розвідданих для перевірки дотримання, як це було у випадку з договорами SALT I, SALT II і з протиракетної оборони.

Юридичний статус угоди про контроль над озброєннями, мабуть, мало впливає на її остаточний успіх. Протягом історії країни порушували юридично зобов'язуючі договори, особливо під час війни. Так було із застосуванням отруйного газу під час Першої світової війни. Неформальні угоди, що не мають обов'язкової юридичної сили, також бували успішними в минулому. Візьмемо режим контролю ракетних технологій, який обмежує експорт певних класів ракет. Є навіть деякі приклади негласного порозуміння, коли не існує офіційної угоди, що обмежує застосування зброї, — наприклад, стриманість, виявлена Америкою та Радянським Союзом під час розгортання протисупутникової зброї або нейтронних бомб під час холодної війни, або одностороннє відкликання Німеччиною багнета-пилки під час Першої світової війни. Не стільки правовий статус договору, скільки взаємність є рушійним чинником, що спонукає держави дотримуватися його. Коли держави стримують розробку, виробництво або застосування зброї, це зазвичай відбувається через острах, що противники відповідним чином дадуть відповідь на порушення. Однак офіційні угоди можуть бути корисними для координації поведінки держав і прояснення очікувань.

Контроль над озброєннями також залежить від методів: регулювання часто ґрунтується на попередніх успіхах у регулюванні суміжних технологій. Стародавні заборони на отруту, наприклад, допомогли прийти до сучасних заборон на хімічну та біологічну зброю. Американо-радянські угоди про контроль над стратегічними озброєннями згодом привели до укладення додаткових угод. Успіх гуманітарної кампанії із заборони протипіхотних мін, імовірно, уможливив гуманітарну заборону на касетні боєприпаси.

Регулювання технологій, що розвиваються

Держави часто намагалися регулювати нові технології або технології, що швидко розвиваються, які являють собою унікальні проблеми, особливо актуальні, коли йдеться про ШІ. Держави можуть бути не впевнені у військовому застосуванні та шкоді нових технологій, зробивши вибір на користь збереження можливості їх використання. Коли держави прагнуть стриманості, вони можуть неправильно передбачити шлях розвитку технології, способи її застосування та контрзаходи, внаслідок чого розробляють правила, які не мають практичного застосування або не можуть повністю обмежити шкідливе використання.

Наприкінці 19-го і на початку 20-го століть держави уклали безліч угод про контроль над озброєннями, намагаючись контролювати зброю індустріальної епохи. У 1868, 1899, 1907, 1922, 1930 і 1936 роках європейські держави підписували угоди, що регулювали вибухові або розривні кулі, отруйний газ, зброю повітряного базування, підводні човни і військові кораблі. Жоден із цих договорів не намагався зупинити поширення основоположної науки чи технології, такої як хімія або двигун внутрішнього згоряння. Радше вони обмежували типи зброї, які могли створювати військові, або, у випадку з літаками і підводними човнами, способи застосування цієї зброї у війні. Хоча європейські лідери правильно припускали, що багато хто з цих видів зброї, як-от літаки або отруйний газ, можуть завдати великих страждань під час війни, вони не змогли передбачити важливі деталі розвитку цих технологій, що в деяких випадках перешкоджало дотриманню вимог.

Отруйний газ був оголошений поза законом до Першої світової війни, але тільки в тому випадку, якщо він випускався зі снарядів. Перше великомасштабне застосування хлору Німеччиною під час Другої битви при Іпрі було технічно дозволено, оскільки газ випускався з каністр. Досягнення стриманості при використанні газу ускладнювалося ще й тим, що його відносні військові переваги та недоліки не були відомі до Першої світової війни. Німеччина вперше застосувала газ у пошуках зброї, яка могла б переломити хід подій на фронті, можливо, частково мотивована французькими експериментами з гранатами зі сльозогінним газом на початку війни.

Спроби регулювання підводних човнів і літаків також ґрунтувалися на хибних припущеннях про те, як розвиватимуться ці технології. Гаазька конвенція 1907 року забороняла повітряні бомбардування "незахищених" міст, не передбачивши слабкості протиповітряної оборони проти бомбардувальних нальотів. І навпаки, морське право вимагало, щоб підводні човни спливали, попереджали і брали на борт екіпаж, перш ніж топити торгові судна. Німеччина спершу дотримувалася цих правил у Першій світовій війні, що робило її підводні човни вразливими навіть для легкоозброєних торгових суден.

В інших випадках деякі види зброї виявилися не настільки проблематичними, як спочатку припускали держави. Кулі, що розширюються, були заборонені Гаазькою конвенцією 1899 року, але сьогодні їх широко використовують у правоохоронних органах і для цивільної самооборони. (Такі кулі з меншою ймовірністю пролетять крізь тіло людини і зачеплять сторонніх).

Зовсім нещодавно, у випадку із забороною на сліпучі лазери, держави спробували обійти проблему прогнозування розвитку, прийнявши заборону на передбачуване використання технології. Протокол IV Конвенції про конкретні види конвенційної зброї говорить: "Забороняється застосовувати лазерну зброю, чия єдина бойова функція або одна з бойових функцій полягає в тому, щоб викликати постійну сліпоту". Заборона, зокрема, не забороняє конкретні технічні характеристики лазера, як-от його потужність, а замість цього фокусується на його передбачуваному використанні. На сьогоднішній день заборона на сліпучі лазери виявилася успішною.

Хоча превентивна заборона нових технологій багато в чому складна, державам вдалося запровадити превентивні правила щодо осліплюючих лазерів, біологічної зброї, використання довкілля як зброї, розміщення ядерної зброї на морському дні або в космосі, а також створення військових баз в Антарктиді або на Місяці. На користь попереднього регулювання говорить той факт, що в деяких випадках може бути простіше заборонити зброю, яку військові ще не включили до свого арсеналу і тому не покладаються на неї для захисту.

Уроки для штучного інтелекту

ШІ буде важко контролювати з трьох основних причин: це технологія загального призначення; це технологія, що розвивається; перевірка дотримання будь-якої угоди, пов'язаної з ШІ, буде являти собою унікальну проблему. Однак це не означає, що ШІ не піддається контролю. Попри значні перешкоди, контроль для деяких військових застосувань ШІ цілком досяжний. Навіть країнам, які хочуть отримати переваги у військовому ШІ, слід шукати шляхи зниження ризиків конкуренції в цій сфері, зокрема за допомогою контролю над озброєннями.

Технологія загального призначення

Як технологія загального призначення, ШІ більше схожий на електрику, ніж на окремі технології, як-от підводні човни або сліпучі лазери, що перешкоджатиме ініціативам із контролю над озброєннями. ШІ — це технологія подвійного призначення, що має як цивільне, так і військове застосування, і, найімовірніше, вона буде широко доступною. Поширений характер ШІ робить малоймовірним успіх режиму нерозповсюдження — такого, який пропонував би "замкнути" ШІ й обмежити його поширення. Крім того, оскільки ШІ настільки широко поширений, для успіху будь-якого регулювання знадобиться згода багатьох суб'єктів.

Нечітке визначення "ШІ" також може ускладнити досягнення ясності в будь-якій угоді. Визначення того, що являє собою "ШІ", неоднозначне і відкрите для інтерпретації. Просто заявивши: "Жодного застосування ШІ", ми нічого не доб'ємося, як і в разі прямої заборони на використання газу, оскільки неясно, чи кваліфікується та чи інша технологія як "ШІ". Крім того, галузь ШІ настільки широка, що заборона всього ШІ була б аналогічною тому, якби держави 19 століття оголосили "Ні індустріалізації". Держави дійсно намагалися контролювати технології індустріальної епохи, включно з підводними човнами, літаками, повітряними кулями, отруйним газом і розривними або розширюваними кулями. Але домовлятися про те, щоб взагалі не використовувати у війні технології індустріальної епохи, було б непрактично. З огляду на подвійне призначення цивільної промислової інфраструктури, незрозуміло, як можна було б провести межі між цивільною і військовою індустріалізацією, навіть якби держави побажали це зробити. Які види використання ШІ у військових цілях є прийнятними або неприйнятними – питання неоднозначне, і для успіху будь-яких зусиль з контролю над озброєннями країнам потрібна ясність і чітко визначені рамки.

Історичні приклади контролю над озброєннями під час промислової революції є корисним уроком, оскільки держави з різним успіхом регулювали конкретні застосування промислових технологій загального призначення, включно з двигуном внутрішнього згоряння (підводні човни і літаки) і хімією (розривні кулі та отруйний газ). Ці зусилля іноді зазнавали невдачі, але не тому, що держави не могли визначити, що таке підводний човен або літак, і не тому, що неможливо було обмежити їхнє цивільне використання. Радше, ці заходи виявлялися невдалими через конкретне застосування цієї зброї у військових діях. Якби баланс нападу і оборони між бомбардувальниками і ППО або підводними човнами і торговими суднами розвивався по-іншому, цю зброю можна було б контролювати ефективніше.

Хоча повна заборона на всі військові застосування ШІ, найімовірніше, недосяжна, історія показує, що країни можуть бути готові до деяких обмежень на конкретні застосування. Проблема полягає в тому, щоб визначити, для яких конкретних застосувань ШІ контроль над озброєннями найбажаніший і найможливіший. Чи існують певні види застосування, які сприймаються як особливо небезпечні, дестабілізуючі або шкідливі? Вчені вже почали розглядати вплив ШІ на ядерну стабільність, автономну зброю і кібербезпеку, але, напевно, знайдуться й інші сфери, які заслуговують на серйозний розгляд. Зрештою, доцільність і здійсненність контролю над озброєннями для будь-якого конкретного військового застосування ШІ може залежати від способу застосування технології. Угоду про контроль над озброєннями можна скласти таким чином, щоб вона була спрямована на конкретні випадки застосування технології ШІ, які вважаються особливо проблематичними, подібно до того, як країни обмежують застосування куль, що вибухають усередині тіла, замість того, щоб узагалі обмежувати вибухові набої.

Технологія, що розвивається

Одна з проблем, пов'язаних із прогнозуванням контролю над конкретними застосуваннями військового ШІ, полягає в незрозумілості того, як ШІ в кінцевому підсумку використовуватимуть на полі бою. Це класична проблема для нових технологій – від історичних випадків, як-от літаки і танки, до сучасних розробок, як-от кібернетичні інструменти і зброя спрямованої енергії. Наприкінці 19-го і на початку 20-го століть країни боролися за контроль над такими швидко прогресуючими технологіями індустріальної епохи, як отруйний газ і підводні човни.

Той факт, що ШІ сприймається багатьма військовими як технологія, що "змінює правила гри", може стати перешкодою для стримування. Військові по всьому світу інвестують у ШІ і можуть не захотіти обмежувати його застосування. Риторика навколо ШІ, більшість якої може не відповідати реальним інвестиціям військових у ШІ, сама по собі перешкоджає потенційним зусиллям з контролю над озброєннями.

Крім того, уявлення про технологію ШІ як про джерело надлюдських можливостей, точності, надійності або ефективності послаблюють віру в те, що деякі види застосування ШІ можуть бути дестабілізуючими або небезпечними. Такі уявлення, навіть якщо вони безпідставні, можуть вплинути на готовність країни до контролю над озброєннями ШІ. Із розробкою та впровадженням реальних військових застосувань ШІ це сприйняття, ймовірно, змінюватиметься і більше відповідатиме реальності. Однак регулювання майбутніх військових застосувань ШІ може виявитися складнішим, якщо вони вже інтегровані в збройні сили країни або використовуються на полі бою.

Про авторів

Меган Ламберт — колишня молодша наукова співробітниця програми "Технології та національна безпека" в Центрі нової американської безпеки.

Пол Шарре — віцепрезидент і директор з досліджень Центру за нову американську безпеку, автор книги Four Battlegrounds: Power in the Age of Artificial Intelligence.

Стаття адаптована зі звіту Центру нової американської безпеки "Штучний інтелект і контроль над озброєннями".