ИИ позволит контролировать поле боя: начнется ли Третья мировая война из-за нейросетей

Искусственный интеллект изменит нашу повседневную жизнь бесчисленными способами: как правительства обслуживают своих граждан; как мы ездим (и нас возят); как мы управляем и, как мы надеемся, защищаем наши финансы; как врачи диагностируют и лечат заболевания; даже то, как мои студенты исследуют и пишут свои эссе.

Но насколько революционным будет ИИ? Нарушит ли это глобальный баланс сил? Позволит ли это автократиям править миром? Сделает ли это войну настолько быстрой и жестокой, что она станет неконтролируемой? Короче говоря, изменит ли ИИ фундаментально ритмы мировых событий?

Конечно, еще слишком рано говорить однозначно: последствия ИИ в конечном итоге будут зависеть от решений, которые принимают лидеры и страны, а технологии иногда совершают неожиданные повороты. Но даже несмотря на то, что следующая версия ChatGPT нас удивляет и беспокоит, нам нужно разобраться статью более глубокими вопросами о международных отношениях в эпоху искусственного интеллекта. И нам нужно рассмотреть удивительную возможность: возможно, ИИ не изменит мир так сильно, как мы ожидаем.

1) Сделает ли ИИ войну неуправляемой?

Рассмотрим одно утверждение: искусственный интеллект сделает конфликт более смертоносным и его будет труднее сдерживать. Аналитики предвидят будущее, в котором машины смогут пилотировать истребители более умело, чем люди, кибератаки с помощью искусственного интеллекта разрушают вражеские сети, а передовые алгоритмы ускоряют скорость принятия решений. Некоторые предупреждают, что автоматизированное принятие решений может спровоцировать стремительную эскалацию – даже ядерную эскалацию. Если военные планы и расписание железных дорог стали причиной Первой мировой войны, возможно, ИИ станет причиной Третьей мировой войны.

То, что ИИ изменит войну, неоспоримо. Возможности огромны: от обеспечения профилактического обслуживания оборудования до поразительных улучшений в области точного нацеливания. Один F-35, защищающий рой полуавтономных дронов, может обладать огневой мощью целой эскадрильи бомбардировщиков. Как заключила в 2021 году Комиссия национальной безопасности по искусственному интеллекту, в "новой эпохе конфликта" будет доминировать сторона, освоившая "новые способы ведения войны".

Но ничего принципиально нового здесь нет. История войн на протяжении веков — это история, в которой инновации регулярно делают бой более быстрым и интенсивным. Так что подумайте дважды, прежде чем согласиться с утверждением, что ИИ сделает эскалацию неконтролируемой.

США и Китай обсудили соглашение не автоматизировать свои процессы ядерного командования и контроля по той простой причине, что у государств есть сильные стимулы не отказываться от контроля над оружием, использование которого может поставить под угрозу их собственное выживание. Большую обеспокоенность вызывает поведение России, включая разработку торпед с ядерными боеголовками, которые в конечном итоге смогут работать автономно. Но даже во время "холодной войны", когда Москва создала систему, призванную обеспечить ядерный ответный удар, даже если ее руководство будет уничтожено, она никогда не отключала человеческий контроль.

Фактически, ИИ может снизить риск головокружительной эскалации, помогая лицам, принимающим решения, сквозь туман кризиса и войны. Пентагон считает, что разведывательные и аналитические инструменты на основе искусственного интеллекта могут помочь людям разобраться в запутанной или фрагментарной информации о подготовке врага к войне или даже о том, действительно ли ведется опасная ракетная атака. Это не научная фантастика: как сообщается, помощь ИИ помогла аналитикам американской разведки обнаружить вторжение президента России Владимира Путина в Украину в 2022 году.

В этом смысле ИИ может смягчить неуверенность и страх, которые подталкивают людей к крайним реакциям. Предоставляя политикам лучшее понимание событий, ИИ может также улучшить их способность управлять ими.

2) Поможет ли ИИ автократиям, таким как Китай, контролировать мир?

А как насчет связанного с этим кошмара — что ИИ поможет силам тирании контролировать будущее? Аналитики, вроде Юваля Ноя Харари, предупреждают, что искусственный интеллект сократит затраты и увеличит отдачу от репрессий. Разведывательным службам, оснащенным искусственным интеллектом, потребуется меньше рабочей силы для расшифровки огромных объемов разведывательной информации, которую они собирают о своем населении, что позволит им, например, точно составить карту и безжалостно разрушить сети протестов. Они будут использовать технологию распознавания лиц с поддержкой ИИ для наблюдения и контроля над своими гражданами, одновременно используя созданную ИИ дезинформацию для дискредитации критиков внутри страны и за рубежом. Повышая эффективность автократии, ИИ может позволить диктаторам доминировать на первом этапе.

Это, безусловно, то, на что надеется Китай. Правительство президента Си Цзиньпина разработало систему "социального кредита", которая использует искусственный интеллект, распознавание лиц и большие данные для обеспечения надежности своих граждан, регулируя их доступ ко всему: от кредитов под низкие проценты до билетов на самолет. Повсеместное наблюдение с помощью искусственного интеллекта превратило Синьцзян в антиутопическую модель современных репрессий.

Пекин намерен захватить "стратегические командные высоты" инноваций, поскольку считает, что ИИ может укрепить его внутреннюю систему и военную мощь. Он использует мощь нелиберального государства, чтобы направить деньги и таланты на передовые технологии.

Однако не факт, что автократии вырвутся вперед.

Верить в то, что ИИ фундаментально поддерживает автократию, значит верить в то, что некоторые из наиболее важных и давних факторов, способствующих инновациям, такие как открытые потоки информации и терпимость к инакомыслию, больше не так важны. Однако автократия уже ограничивает потенциал Китая.

Создание мощных больших языковых моделей требует огромных объемов информации. Но если эти данные будут испорчены или предвзяты из-за жесткой цензуры китайского Интернета, качество результатов пострадает. Все более репрессивная система со временем также будет бороться за привлечение лучших талантов: показательно, что 38% ведущих исследователей искусственного интеллекта в США родом из Китая. И умные технологии по-прежнему должны использоваться правительственными институтами Китая, которые становятся все менее умными — то есть менее технократически компетентными — по мере того, как политическая система становится все более подчиненной пожизненному императору.

Китай станет грозным технологическим конкурентом. Но даже в эпоху искусственного интеллекта Си и его нелиберальные собратья могут изо всех сил пытаться избежать сопротивления конкуренции, которое создает автократия.

3) Будет ли ИИ отдавать предпочтение лучшим или остальным?

Некоторые технологии сокращают разрыв между наиболее и наименее технологически развитыми обществами. Ядерное оружие, например, позволяет таким аутсайдерам, как Северная Корея, компенсировать военные и экономические преимущества, которыми обладает сверхдержава и ее союзники.

В некотором смысле ИИ усилит слабых. Официальные лица США обеспокоены тем, что большие языковые модели могут помочь террористам создать биологическое оружие. Государства-изгои, такие как Иран, могут использовать ИИ для координации группировок дронов против военных кораблей США в Персидском заливе. Более благоприятным является то, что ИИ может расширить доступ к базовым медицинским услугам на Глобальном Юге, создавая большие выгоды в виде увеличения продолжительности жизни и экономической производительности.

Однако в других отношениях ИИ будет уделом богатых. Разработка современного искусственного интеллекта обходится фантастически дорого. Обучение больших языковых моделей может потребовать огромных инвестиций и доступа к ограниченному числу ведущих ученых и инженеров, не говоря уже об ошеломляющих объемах электроэнергии. По некоторым оценкам, стоимость инфраструктуры, поддерживающей чат-бот Microsoft Bing AI, составляет 4 миллиарда долларов. Практически каждый может стать пользователем ИИ, но для того, чтобы стать его создателем, требуются огромные ресурсы.

Вот почему средние державы, делающие большие шаги в области искусственного интеллекта, такие как Саудовская Аравия и Объединенные Арабские Эмираты, имеют очень глубокие карманы. Многие из первых лидеров в гонке ИИ являются либо технологическими титанами (Alphabet, Microsoft, Meta, IBM, Nvidia и другие), либо фирмами, имеющими доступ к их деньгам (OpenAI). И США, с их динамичным, хорошо финансируемым технологическим сектором, по-прежнему лидируют в этой области.

То, что верно в частном секторе, может быть верно и в сфере ведения войны. На начальном этапе военные выгоды от новых технологий могут в непропорциональной степени достаться странам с щедрыми оборонными бюджетами, необходимыми для разработки и применения новых возможностей в больших масштабах.

Все это может измениться: раннее лидерство не всегда приводит к устойчивым преимуществам. Выскочки, будь то фирмы или страны, уже революционизировали другие области. Однако на данный момент ИИ может скорее укрепить, чем революционизировать баланс сил.

4) Будет ли ИИ разрушать или укреплять коалиции?

То, как искусственный интеллект повлияет на баланс сил, зависит от того, как он повлияет на глобальные коалиции. Как зафиксировали аналитики Центра безопасности и новых технологий Джорджтаунского университета, США и их союзники могут значительно опередить Китай в расходах на передовые технологии — но только если они объединят свои ресурсы. Самая большая надежда Пекина заключается в том, что свободный мир расколется из-за ИИ.

Такая вероятность есть. Вашингтон обеспокоен тем, что новый подход Европы к генеративному регулированию ИИ может задушить инновации: в этом смысле ИИ подчеркивает расходящиеся подходы США и Европы к рынкам и рискам. Другая ключевая демократия, Индия, предпочитает стратегическую автономию стратегическому союзу: в технологиях, как и в геополитике, она предпочитает идти своим собственным путем. Тем временем некоторые из недемократических партнеров Вашингтона, а именно Саудовская Аравия и ОАЭ, рассматривают возможность более тесных технологических связей с Пекином.

Но делать вывод о том, что ИИ фундаментально подорвет альянсы США, преждевременно. В некоторых случаях США успешно используют эти альянсы в качестве инструментов технологической конкуренции: посмотрите, как Вашингтон уговаривал Японию и Нидерланды ограничить доступ Китая к высококачественным полупроводникам. США также используют партнерские отношения в области безопасности с Саудовской Аравией и ОАЭ, чтобы ограничить их технологические отношения с Пекином и способствовать партнерству в области искусственного интеллекта между американскими и эмиратскими фирмами. В этом смысле геополитические расклады определяют развитие ИИ, а не наоборот.

На более фундаментальном уровне предпочтения стран в отношении ИИ связаны с их предпочтениями в отношении внутреннего и международного порядка. Таким образом, какие бы разногласия ни существовали между США и Европой, они могут меркнуть по сравнению с их общими опасениями по поводу того, что произойдет, если Китай достигнет господства. Европа и Америка могут в конечном итоге найти путь к более тесному сотрудничеству по вопросам искусственного интеллекта — точно так же, как общая враждебность к мощи США подталкивает Китай и Россию к более тесному сотрудничеству в области военного применения этой технологии сегодня.

5) Сможет ли ИИ укротить или разжечь соперничество великих держав?

Многие из этих вопросов связаны с тем, как ИИ повлияет на интенсивность конкуренции между Западом, возглавляемым США, и автократическими державами, возглавляемыми Китаем. Никто на самом деле не знает, может ли безудержный ИИ действительно угрожать человечеству. Но общие экзистенциальные риски иногда становятся странными партнерами.

Во время первой "холодной войны" США и Советский Союз сотрудничали, чтобы справиться с опасностями, связанными с ядерным оружием. Во время новой "холодной войны", возможно, Вашингтон и Пекин найдут общую цель – не допустить использования ИИ в злонамеренных целях, таких как биотерроризм или иные угрозы странам по обе стороны сегодняшних геополитических разногласий.

Однако эта аналогия имеет двусторонний характер, поскольку ядерное оружие также сделало "холодную войну" более острой и страшной. Вашингтону и Москве пришлось пережить столкновение с высокими ставками, такое как Карибский кризис на Кубе и несколько кризисов в Берлине, прежде чем установилась шаткая стабильность. Таким образом, даже несмотря на то, что США и Китай начинают зарождающийся диалог в области ИИ, технологии усиливают их конкуренцию.

Искусственный интеллект находится в центре китайско-американской технологической войны, поскольку Китай использует честные и нечестные методы для ускорения собственного развития, а США применяют экспортный контроль, ограничения на инвестиции и другие меры, чтобы заблокировать путь Пекина. Если Китай не сможет ускорить свой технологический прогресс, говорит Си, он рискует быть "задушенным" Вашингтоном.

ИИ также подпитывает борьбу за военное превосходство в западной части Тихого океана: Инициатива "Репликатор" Пентагона предусматривает использование тысяч дронов с поддержкой ИИ для уничтожения китайского вторгшегося флота, направляющегося на Тайвань. Державы-дуэлянты могут в конечном итоге найти способы сотрудничества, возможно, молчаливого, в отношении взаимных опасностей, которые представляет собой ИИ. Но преобразующая технология в будущем усилит многие аспекты их соперничества.

***

Мы не можем предсказать будущее: ИИ может зайти в тупик или ускориться, превзойдя чьи-либо ожидания. Более того, технология не является какой-то автономной силой. Ее развитие и последствия будут определяться решениями в Вашингтоне и во всем мире.

На данный момент главное — задавать правильные вопросы, потому что это помогает нам понять ставки этих решений. Это помогает нам представить, какое будущее может сформировать ИИ. Не в последнюю очередь это показывает, что, возможно, ИИ все-таки не вызовет геополитического землетрясения.

Конечно, есть причины опасаться, что ИИ сделает войну неконтролируемой, нарушит баланс сил, разрушит альянсы США или фундаментально отдаст предпочтение автократиям над демократиями. Но есть и веские причины подозревать, что этого не произойдет.

Это не призыв к самоуспокоенности. Предотвращение более опасных последствий потребует энергичных усилий и разумного выбора. Действительно, основная ценность этого упражнения состоит в том, чтобы показать, что возможен очень широкий спектр сценариев.

Предпочитает ли ИИ автократию или демократию, отчасти зависит от того, проводят ли США просвещенную иммиграционную политику, которая помогает им аккумулировать лучшие таланты. Будет ли ИИ укреплять или разрушать альянсы США, зависит от того, будет ли Вашингтон относиться к этим альянсам как к активам, которые необходимо защищать, или как к бремени, от которого нужно избавиться. Поддержит ли ИИ существующую международную иерархию подорвет ли ее зависит от того, насколько мудро США и другие страны регулируют его развитие и использование.

Не подлежит сомнению то, что ИИ открывает вдохновляющие перспективы и ужасающие возможности. Целью Америки должно быть безжалостное и ответственное внедрение инноваций, достаточное для того, чтобы в целом благоприятный мировой порядок не изменился фундаментально — даже так, как это делают технологии.

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.

Источник