Поле боя и большие данные. Искусственный интеллект в будущих войнах

Широко распространено мнение, что мир стоит на пороге очередной военной революции. ИИ вот-вот изменит характер войны, как порох, танки, самолеты и атомная бомба в предыдущие эпохи. Современные государства активно пытаются использовать мощь ИИ в военных целях. Китай, например, объявил о своем намерении стать мировым лидером в области ИИ к 2030 году. В его "Новом генеральном плане ИИ" провозглашается, что "ИИ — это стратегическая технология, которая будет лидировать в будущем". В свою очередь президент России Владимир Путин заявил: "Тот, кто станет лидером в этой сфере, станет правителем мира". В ответ на вызов, брошенный Китаем и Россией, Соединенные Штаты взяли на себя обязательства по стратегии "третьего перехода". Они будут вкладывать значительные средства в ИИ, автономность и робототехнику, чтобы сохранить свое преимущество в обороне.

Фокус перевел текст Энтони Кинга посвященный обзору книги Пола Шарре и проблематике ИИ на войне.

В свете этих драматических событий военные комментаторы всерьез заинтересовались вопросом военного применения ИИ. Например, в недавней монографии Бен Бьюкенен и Эндрю Имри утверждают, что ИИ — это "новая огневая мощь". Автономное оружие, управляемое ИИ, а не человеком, будет становиться все более точным, быстрым и смертоносным. Оно воплощает будущее войны. С ними согласны многие другие ученые и эксперты. Например, Стюарт Рассел, выдающийся ученый-компьютерщик и первопроходец ИИ, посвятил одну из своих лекций на "Би-би-си" в 2020 году военному потенциалу ИИ. Он заявил о появлении роботов-бойцов и роботов-убийц и описал сценарий, в котором смертоносный квадрокоптер размером с банку вооружен взрывным устройством: "Противопехотные мины могут уничтожить всех мужчин в городе в возрасте от 16 до 60 лет или всех еврейских граждан в Израиле, и, в отличие от ядерного оружия, они оставят нетронутой городскую инфраструктуру". Рассел заключил: "8 миллионов человек будут недоумевать, почему нельзя дать им защиту от того, чтобы их выслеживали и убивали роботы". Многие другие ученые, в том числе Кристиан Брозе, Кен Пейн, Джон Аркилла, Дэвид Хэмблинг и Джон Антал, разделяют мнение Рассела о том, что с развитием ИИ второго поколения появление летального автономного оружия — например, роев беспилотников-убийц — практически неизбежно.

Военные революции часто оказываются менее радикальными, чем изначально предполагали их сторонники. Революция в военном деле 1990-х годов, безусловно, сыграла важную роль в открытии новых оперативных возможностей, но она не устранила неопределенность. Точно так же некоторые дискуссии о летальной автономности ИИ явно гиперболизированы, искажая представление о том, как работает ИИ в настоящее время и каково его потенциальное влияние на военные операции в мыслимом будущем. Хотя дистанционные и автономные системы становятся все более важными, вероятность того, что рои автономных беспилотников заменят войска на поле боя или что суперкомпьютеры заменят командиров-людей, невелика. ИИ стал крупной исследовательской программой в 1950-х годах. В то время он работал на основе символьной логики: программисты кодировали входные данные для обработки ИИ. Эта система и стала известна как старый добрый искусственный интеллект. ИИ достиг определенного прогресса, но поскольку он был основан на манипулировании заданными символами, его применимость была весьма ограниченной, особенно в реальном мире. Поэтому с конца 1970-х и в течение 1980-х годов наступил "застой ИИ".

С конца 1990-х годов ИИ второго поколения совершил несколько прорывов благодаря большим данным, огромным вычислительным мощностям и алгоритмам. Произошло три эпохальных события. 11 мая 1997 года компьютер Deep Blue компании IBM победил Гарри Каспарова, чемпиона мира по шахматам. В 2011 году компьютер Watson компании IBM выиграл в "Jeopardy!". Еще более примечательно, что в марте 2016 года AlphaGo обыграл чемпиона мира по игре в го Ли Сидола со счетом 4:1.

Deep Blue, Watson и AlphaGo были важными вехами на необычной траектории. За два десятилетия ИИ прошел путь от разочарований и неудач к невообразимым триумфам. Однако важно понимать, что может и чего не может ИИ второго поколения. Он был разработан на основе нейронных сетей. Программы машинного обучения обрабатывают огромные объемы данных через свои сети, подстраивая вес, который программа присваивает определенным фрагментам данных, пока, наконец, не сгенерирует связные ответы. Система является вероятностной и индуктивной. Программы и алгоритмы ничего не знают. Они не знают реального мира и в человеческом смысле не понимают значения обрабатываемых данных. Используя алгоритмы, ИИ машинного обучения просто строит модели статистической вероятности на основе массового повторения опытов. Таким образом, ИИ второго поколения выявляет многочисленные корреляции в данных. Пока у него достаточно данных, вероятностная индукция остается мощным инструментом прогнозирования. Тем не менее, ИИ не распознает причинно-следственные связи или намерения. Питер Тиль, один из ведущих технологических предпринимателей Кремниевой долины, красноречиво сформулировал ограничения ИИ: "Забудьте о научно-фантастических фантазиях. Настоящая сила реально существующего ИИ заключается в его применении в относительно обыденных задачах, таких как компьютерное зрение и анализ данных". Следовательно, хотя машинное обучение намного превосходит человека в ограниченных, поддающихся математической обработке задачах, оно очень хрупкое. Из-за полной зависимости от данных, на которых оно было обучено, даже малейшее изменение фактической среды или данных делает его бесполезным.

Хрупкость индуктивного машинного обучения на основе данных очень важна для перспективы военной революции ИИ. Сторонники и противники ИИ подразумевают, что в ближайшем будущем автономным беспилотникам будет относительно легко пролетать, идентифицировать и поражать цели, например, в городских районах. В конце концов, автономные рои беспилотников уже были продемонстрированы — правда, в искусственных и контролируемых условиях. Однако в реальности обучить беспилотник автономному управлению для ведения боевых действий на суше будет очень сложно. Окружающая среда динамична и сложна, особенно в городах, где перемешаны гражданские и солдаты. Не существует очевидных данных, на которых можно было бы надежно обучить рой беспилотников, — ситуация слишком изменчива. Точно так же нелегко понять, как алгоритм может принимать командные решения. Такие решения требуют интерпретации разнородной информации, балансирования политических и военных факторов, и для всего этого необходимо суждение. В своей недавней статье Ави Голдфарб и Джон Р. Линдсей утверждают, что ИИ лучше всего подходят для простых решений с идеальными данными. Решения же военного командования связаны со сложностью и неопределенностью. Примечательно, что, хотя Google и Amazon являются ведущими компаниями по обработке данных, их руководители не считают, что наступит день, когда алгоритм будет принимать за них стратегические и оперативные решения. Данные, быстро обрабатываемые алгоритмами, помогают их руководителям понимать рынок с такой глубиной и точностью, с которой не могут сравниться их конкуренты. Информационное преимущество привело их к доминированию. Однако машинное обучение не вытеснило исполнительную функцию.

Поэтому маловероятно, что смертоносные автономные беспилотники или роботы-убийцы, управляемые искусственным интеллектом, в ближайшем будущем займут место на поле боя. Также маловероятно, что командиров заменят компьютеры или суперкомпьютеры. Однако это не означает, что ИИ, данные и машинное обучение не имеют решающего значения для современных и будущих военных операций. Важно понимать, что функции ИИ и данных в первую очередь не связаны с летальностью — они не являются новой огневой мощью, как утверждают некоторые. Данные — оцифрованная информация, хранящаяся в киберпространстве, — имеют решающее значение, поскольку они дают государствам более широкое, глубокое и верное представление о себе и своих противниках. Когда огромные массивы данных будут эффективно обрабатываться искусственным интеллектом, это позволит военным командирам воспринимать боевое пространство с доселе недостижимой глубиной, скоростью и разрешением. Данные и ИИ также имеют решающее значение для киберопераций и информационных кампаний. Они стали незаменимы для обороны и нападения. ИИ и данные — это не столько новая огневая мощь, сколько новая форма оцифрованной военной разведки, которая использует киберпространство как новый огромный ресурс информации. ИИ — то революционный способ заглянуть на"другую сторону холма". Данные и ИИ являются критически важной функцией разведки для современной войны.

Поль Шарре, известный военный комментатор, утверждал, что ИИ неизбежно приведет к летальной автономии. В 2019 году он опубликовал свою книгу-бестселлер "Армия никого", в которой прослеживает развитие дистанционно управляемых и автономных систем вооружения. В ней Шарре предположил, что ИИ вот-вот совершит революцию в военном деле: "В будущих войнах машины могут принимать решения о жизни и смерти". Несмотря на то, что потенциал ИИ по-прежнему вызывает у него восторг, сейчас он существенно изменил свое мнение. Новая книга Шарре "Четыре поля боя", опубликованная в феврале 2023 года, глубоко пересматривает его изначальные аргументов. В ней автор отступает от катастрофической картины, которую он нарисовал в книге "Армия никого". Если "Армия никого" была эссе в жанре научной фантастики, то "Четыре поля боя" — работа по политической экономии. В ней рассматриваются конкретные вопросы соперничества между великими державами и лежащие в его основе промышленные стратегии и системы регулирования. В книге описываются последствия цифровой разведки для военного соперничества. Шарре анализирует нормативно-правовую базу, необходимую для использования возможностей данных. Он обоснованно утверждает, что превосходство в данных и ИИ для их обработки станет решающим в военном отношении в соперничестве между США и Китаем. Данные обеспечат серьезное преимущество в разведке. По мнению Шарре, есть четыре критических ресурса, которые определят, кто победит в этой гонке интеллекта: "Страны, которые лидируют в четырех сферах — данные, вычисления, таланты и институции [технологические компании] — получат серьезное преимущество в мощи ИИ". Он утверждает, что США и Китай вступили в борьбу не на жизнь, а на смерть за эти четыре ресурса. И Китай, и США сейчас полностью осознают, что тот, кто получит преимущество в ИИ, будет иметь значительные политические, экономические и, что особенно важно, военные преимущества. Он будет знать больше противника, сможет эффективнее применять военную силу, будет доминировать в информационном и киберпространстве и станет более смертоносным.

В книге "Четыре поля боя" описывается зарождающаяся конкуренция за данные и ИИ между Китаем и США. В книге излагаются последние события и оцениваются относительные преимущества обеих стран. Китай по-прежнему отстает от США в нескольких областях. Соединенные Штаты обладают ведущими талантами и находятся впереди в области исследований и технологий: "Китай — это захолустье в плане производства микросхем". Однако Шарре предостерегает США от почивания на лаврах. Книга пронизана страхом, что Соединенные Штаты отстанут в гонке данных. Поэтому Шарре подчеркивает преимущества Китая и его быстрый прогресс. С 900 миллионами интернет-пользователей Китай генерирует гораздо больше данных, чем Соединенные Штаты. Некоторые сферы экономики, такие как перевозка пассажиров, гораздо более диджитализированы, чем в США. WeChat, например, не имеет американского аналога. Многие китайские приложения превосходят американские. Кроме того, китайское государство не ограничено правовыми рамками или опасениями гражданского общества по поводу неприкосновенности частной жизни. Коммунистическая партия Китая активно следит за цифровыми профилями своих граждан — она собирает их данные и регистрирует их действия, а в городах использует технологию распознавания лиц для идентификации личности.

Государственный контроль приносит пользу китайским технологическим компаниям: "Масштабные инвестиции КПК в разведывательное наблюдение и социальный контроль способствовали росту китайских ИИ-компаний и связали их тесными узами с правительством". Синергия между правительством и технологиями в Китае очень тесная. Китай также имеет значительные преимущества в области регулирования по сравнению с США. Коммунистическая партия Китая поддерживает таких технологических гигантов как Baidu и Alibaba: "Китайские инвестиции в технологии приносят дивиденды". Шарре заключает: "Китай не просто формирует новую модель цифрового авторитаризма, но и активно экспортирует ее".

Как правительство США будет противостоять стремлению Китая к доминированию в области данных и ИИ? Здесь "Четыре поля битвы" очень интересны — и они заметно контрастируют с рассуждениями Шарра в "Армии никого". Чтобы правительство США смогло использовать военный потенциал данных, необходимы серьезные изменения в нормативно-правовой базе. Вооруженным силам необходимо сформировать глубокие партнерские отношения с технологическим сектором. Им "придется выйти за рамки традиционных оборонных подрядчиков и привлечь стартапы". Это нелегко. Шарре отмечает сложную нормативно-правовую среду в США по сравнению с Китаем: "У США крупные технологические корпорации Amazon, Apple, Meta (бывший Facebook) и Google являются независимыми центрами власти, часто враждующими с правительством по конкретным вопросам". Шарре рассказывает о нашумевшей акции протеста в Google в 2017 году, когда сотрудники отказались работать над контрактом Министерства обороны по проекту Maven. Скептическое отношение к военному применению ИИ сохраняется в некоторых частях американского технологического сектора.

Возможно, американские технологические компании и не хотят работать с вооруженными силами, но Министерство обороны тоже невольно препятствует партнерству военных с технологическим сектором. Министерство обороны всегда имело тесные отношения с оборонной промышленностью. Например, в 1961 году президент Дуайт Д. Эйзенхауэр предупреждал об угрозе, которую "военно-промышленный комплекс" представляет для демократии. Министерство обороны разработало процесс приобретения и заключения контрактов, который был предназначен в основном для закупки высокотехнологичных платформ: танков, кораблей и самолетов. Компании Lockheed Martin и Northrop Grumman стали поставщиками систем вооружения, соответствующих конкретным спецификациям Министерства обороны. Технологические компании работают иначе. Как отметил один из интервьюеров Шарре: "Нельзя купить ИИ так же, как вы покупаете боеприпасы". Технологические компании не продают конкретные возможности, как оружие. Они продают данные, программное обеспечение, вычислительные мощности — в конечном счете, они продают опыт. Алгоритмы и программы лучше всего разрабатывать итеративно в связи с очень конкретными задачами. Полный потенциал некоторых программ или алгоритмов для решения военной задачи может быть не сразу очевиден даже самой технологической компании. Поэтому технологические компании, работающие на конкурентных рынках, предпочитают более гибкую, бессрочную систему контрактов с Министерством обороны — им нужна безопасность и быстрая финансовая отдача. Технологические компании стремятся к сотрудничеству, а не просто к заключению контракта на создание платформы.

Американские военные, и особенно Министерство обороны, не всегда легко находили новый подход к заключению контрактов. В прошлом бюрократия была слишком медлительна, чтобы реагировать на их потребности — процесс приобретения занимал от 7 до 10 лет. Однако, несмотря на то, что существует множество противоречий и система далека от совершенства, Шарре отмечает трансформацию нормативно-правовой среды. Он описывает становление нового военно-технического комплекса в США. Проект Maven, разумеется, служит примером этого процесса. В 2017 году Боб Ворк издал ставшую знаменитой служебную записку, в которой объявил о создании "Межфункциональной группы по алгоритмической войне" — проекта Maven. С момента появления беспилотников и военных спутников во время глобальной войны с терроризмом американские военные стали получать полномасштабные видеоматериалы. Эти кадры были бесценны. Например, используя Gorgon Stare, круглосуточную систему воздушного наблюдения, ВВС США смогли проследить за взрывом заминированного автомобиля в Кабуле в 2019 году, в результате которого погибли 126 мирных жителей, и найти местонахождение конспиративных квартир, использованных для осуществления атаки. Однако этот процесс был слишком медленным. Поэтому ВВС начали экспериментировать с алгоритмами компьютерного зрения для просеивания полнокадрового видео. Проект Maven был призван расширить масштабы успеха ВВС, но для этого требовалась новая контрактная среда. Вместо длительного процесса закупок компания Work ввела 90-дневные спринты. У компаний было три месяца, чтобы показать свою полезность. Если они добивались прогресса, их контракты продлевались, если нет — они выбывали. В то же время Work сняла гриф секретности с беспилотных летательных аппаратов, чтобы проект Maven мог обучать свои алгоритмы. К июлю 2017 года у проекта Maven была первоначальная операционная система, способная обнаруживать 38 различных классов объектов. К концу года она была развернута в операциях против ИГИЛ: "Инструмент был относительно простым, он идентифицировал и отслеживал людей, транспортные средства и другие объекты на видео с беспилотников ScanEagle, используемых спецназовцами".

После появления проекта Maven Министерство обороны выдвинуло ряд других инициатив, направленных на стимулирование партнерства между военными и технологиями. Отдел оборонных инноваций ускорил развитие отношений между министерством и компаниями в Силиконовой долине, заключая контракты за 26 дней, а не за месяцы или годы. За первые пять лет своей работы Отдел оборонных инноваций выдал контракты 120 "нетрадиционным" компаниям. Под руководством генерал-лейтенанта Джека Шанахана Объединенный центр искусственного интеллекта сыграл важную роль в развитии партнерства между вооруженными силами и технологическими компаниями для оказания помощи людям и операций по ликвидации последствий стихийных бедствий, а также разрабатывая программное обеспечение для картографирования лесных пожаров и оценки последствий стихии — подразумевают ли эти примеры в тексте Шарре более широкое военное применение, неясно. После первых трудностей Объединенная инфраструктура обороны, созданная генералом Джеймсом Мэттисом в бытность его министром обороны, реформировала систему закупок технологий. Например, в 2021 году Министерство обороны помогло компании Anduril разработать систему противодействия беспилотникам на основе искусственного интеллекта, выделив на это почти 100 миллионов долларов.

"Четыре поля боя" — это отличное и информативное дополнение к современной литературе по ИИ и военным действиям. Книга дополняет недавно опубликованные работы Линдси, Голдфарба, Бенджамина Дженсена, Кристофера Уайта и Скотта Куомо. Главная мысль этой работы ясна. Данные и ИИ имеют и будут иметь большое значение для вооруженных сил. Однако данные и ИИ не приведут к радикальной трансформации боевых действий как таковых — люди по-прежнему будут в подавляющем большинстве случаев управлять летальными системами оружия, в том числе дистанционными, которые убивают людей, как показывает жестокая война в Украине.

Ситуация в бою сложная и запутанная. Человеческие суждения, навыки и хитрость необходимы для того, чтобы использовать оружие с максимальной эффективностью. Однако любая военная сила, которая хочет одержать победу на полях сражений будущего, должна будет использовать потенциал больших данных — ей придется овладеть оцифрованной информацией, наводняющей боевое пространство. Люди просто не способны сделать это в одиночку. Поэтому штабам потребуются алгоритмы и программное обеспечение для обработки этих данных. Им потребуется тесное партнерство с технологическими компаниями для создания таких систем, а также специалисты по изучению данных, инженеры и программисты на самих оперативных командных пунктах, чтобы заставить их работать. Если вооруженные силы смогут это сделать, данные позволят им видеть всю глубину и широту боевого пространства. Это не решит проблем военных операций — туман и трения войны останутся. Однако, опираясь на данные, командиры смогут более эффективно и рационально использовать свои силы. Данные повысят летальность вооруженных сил и их боевых групп.

Российско-украинская война уже дает первоначальное представление о преимуществах военных операций, ориентированные на данные, перед противником, до сих пор действующим в аналоговом режиме. Книга Шарре — это призыв к тому, чтобы США не постигла судьба российской армии в Украине.

Об авторе

Энтони Кинг — заведующий кафедрой военных исследований в Уорикском университете. Его последняя книга Urban Warfare in the Twenty-First Century" была опубликована издательством Polity Press в июле 2021 года. В настоящее время он является стипендиатом программы Leverhulme Major Research Fellowship и занимается исследованиями в области ИИ и городских боев. Он планирует написать книгу на эту тему в 2024 году.