Искусственный интеллект и нейросети: о чем мечтают современные командиры

Мог ли генерал Уильям Уэстморленд предвидеть будущее? В одном из номеров журнала Army Aviation Digest за 1970 год Уэстморленд, в то время начальник штаба армии США, предложил свой взгляд на будущее принятия командных решений. В печатной версии речи, которую он произнес за год до этого, генерал предсказал, что практическое командование будет иметь место на хорошо разведанном, автоматизированном и взаимосвязанном поле боя, которое, если такая система будет реализована, сможет "помочь командиру тактического звена в принятии обоснованных и своевременных решений", а также позволит "командирам постоянно быть в курсе всей панорамы поля боя". Хотя Уэстморленд, конечно, не был ясновидящим, его слова кажутся вполне уместными в современных обсуждениях практики командования. Особенно это касается усилий по внедрению объединенного командования и управления всем пространством: американские ВС стремятся связать между собой людей, принимающих решения на суше, море, в воздухе, космосе и киберпространстве, используя передовые технологии коммуникации и анализа данных.

Фокус перевел размышления Иана Рейнольдса — о чем мечтают современные командиры.

Военное применение искусственного интеллекта. Минобороны США раскрывает секреты

Совместная стратегия командования и управления во всех операционных сферах, опубликованная Министерством обороны США в начале 2022 года, предоставила дополнительную информацию о целях переосмысления технологических элементов в командовании вооруженных силах США. Документ составлен с оглядкой на существенные технологические изменения, которые позволят военным анализировать и обрабатывать данные из различных источников, а также быстрее принимать решения на основе новейших возможностей анализа.

Согласно рассекреченному краткому содержанию, стратегия стоит на трех китах: "восприятие", "осмысление" и "действие".

Авторы стратегии предполагают, что эти основные составляющие будут обеспечены информационными возможностями искусственного интеллекта, машинного обучения и передовых сенсорных систем для поддержки принятия решений. Результатом этого должно стать "преимущество в скорости получения информации и принятия решений".

В эту схему хорошо вписываются "обоснованные и своевременные" решения Уэстморленда, а также его идея о том, что командир должен видеть "всю панораму поля боя". Актуальность обретает и желание адмирала Уильяма Оуэнса "развеять туман войны" посредством интеграции новых информационных и коммуникационных технологий 30 лет спустя.

Согласно стратегии, такие изменения предлагаются в качестве ответа на новые угрозы. Однако, как свидетельствуют взгляды Уэстморленда и Оуэнса, современное видение передовой системы командования – это скорее очередное воплощение давней мечты, связанной с организацией военных решений, чем нечто совершенно оригинальное. В своих мечтаниях американские военные рискуют увлечься тем, что Б.А. Фридман и Оливия А. Гарард назвали склонностью смешивать "технологические возможности с командованием".

Таким образом, в свете недавно опубликованной стратегии стоит изучить представления о командовании с помощью технологий. Более того, нам следует рассмотреть практические последствия технологического развития для текущих операций, а также возможные опасности, связанные с убежденностью, что технологии позволят принимать более быстрые и эффективные решения.

Искусственный интеллект на войне: отголоски прошлого

Корни подобных представлений восходят как минимум к программам противоракетной обороны, таких как полуавтоматическая наземная среда 1950-х годов, а также к ранним инициативам по исследованию применения вычислительных систем для командования и управления, которые поддерживал Пентагон в 1960-х годах. Однако представления о системах командования, приближенные к современным, начали формироваться лишь в последние десятилетия холодной войны. Рассмотрим несколько примеров, которые перекликаются с нынешней ситуацией.

Движимое противостоянием между СССР и США, а также опасениями насчет возможностей японских вычислительных машин пятого поколения, Агентство перспективных оборонных исследовательских проектов приняло десятилетнюю программу стоимостью в миллиард долларов, известную как Стратегическая вычислительная инициатива (Strategic Computing Initiative). С начала 1980-х годов программа включала в себя многосторонние инициативы по изучению возможностей искусственного интеллекта для военных целей, ключевым элементом которых было командование и управление.

Особенно это проявилось в системе управления боем, разработанной для ВМС США. Как и нынешние программы, инициатива сосредоточилась на исследованиях, связанных с командованием и экспертными системами на базе ИИ, помогающих командирам быстро принять решение.

В учредительном документе программы отмечалась цель разработки человекоподобных, "интеллектуальных возможностей для планирования и обоснований", желание дополнить человеческие суждения экспертными системами с поддержкой искусственного интеллекта, а также необходимость помочь быстро разобраться в "непредсказуемых" военных ситуациях.

Планировалось создать систему помощи принятия решений, выходящую за рамки существующих в то время вариантов. Основным вариантом в то время была Всемирная система военного командования и управления, основанная на "точных и своевременных решениях" за счет использования интеллектуальных вычислений, которые могли бы помочь в планировании, формулировании вариантов решений и управлении неопределенностью в быстро меняющейся боевой обстановке.

Как отмечает Эмма Солсбери, программа дала неоднозначные результаты и в целом не оправдала больших надежд, связанных с искусственным интеллектом – как из-за технологических препятствий, так и по причине недостатка финансирования.

Но почти сразу после того, как программа Strategic Computing прекратила существование, появились новые высокотехнологичные подходы к системам управления. В конце 1990-х годов Боевая система будущего (Future Combat System) армии США предложила модернизированную структуру управления, объединяющую пилотируемые и беспилотные системы через беспроводные сети. Эта инициатива возникла на основе представлений о войне, связанных с "Революцией в военном деле", когда чиновники оборонного ведомства считали, что небольшие и маневренные силы, связанные новейшими коммуникационными сетями, окажутся решающими в будущих конфликтах. В рамках модернизации предполагалось также заменить некоторые виды военной техники, например, танк M1 Abrams, но именно командная сеть связывала всю программу воедино. Стремление к скорости и представление о том, что информационное доминирование может оказаться решающим в будущих конфликтах, стали определяющими для Боевой системы будущего.

Согласно отчету Исследовательской службы Конгресса 2007 года, это проявилось в таких технологических артефактах, как "программное обеспечение боевого командования", стремление к автоматизированному планированию миссий для быстрого реагирования, а также намерение улучшить "понимание ситуации" за счет использования карт и баз данных, позволяющих отслеживать местоположение противника. Во время бюджетных слушаний в Конгрессе представители оборонного ведомства ссылались на предполагаемые преимущества, полученные солдатами во время испытаний, в основном за счет "повышения осведомленности солдат и лучшего понимания поля боя".

Подобно инициативе Strategic Computing, Боевая система будущего тоже стремилась помочь командирам оценивать и осмысливать информацию и действовать быстрее, чем ранее. Однако, как и в случае с первой инициативой, программа не оправдала надежд. Оценка программы, проведенная RAND в 2012 году, в основном признает проект провальным, в том числе из-за нереалистичных сроков и расплывчатых целей.

Хотя в отчете RAND о боевой системе будущего лишь ограниченно рассматривались аспекты командования и управления, в нем указаны проблемы со способности системы управления выполнять такие задачи, как автоматическое объединение данных для создания общей оперативной картины. Согласно отчету, подобные проблемы ухудшают "ключевой операционный стержень" программы.

Хотя Боевая система будущего и текущие планы по разработке высокотехнологичной системы управления похожи лишь отчасти, параллели между этими инициативами, по крайней мере, достаточно очевидны, чтобы представители оборонного ведомства могли утверждать, что нынешние усилия не повторяют ошибок прошлого. Впрочем, несмотря на любые заявления, очевидно сходство между целями Боевой системы будущего помочь армии "сначала увидеть, потом понять, затем действовать" и современной идеей "восприятия, осмысления и действия".

Мечта о технологическом обеспечении принятия решений умирает последней. Текущие проекты новых технологически продвинутых командных систем обычно основаны на пожеланиях их предшественников из Стратегической вычислительной инициативы и Боевой системы будущего.

Например, члены группы разработчиков Объединенной системы командования и многоуровневого управления утверждают, что в будущем конфликты будут характеризоваться сокращением времени принятия решений до миллисекунд. Это потребует интеграции достижений в области вычислительной техники, искусственного интеллекта и машинного обучения как "ядра" командования. Как утверждается в стратегии, такие технологические изменения необходимы для обработки и передачи информации со скоростью, требуемой в современном конфликте.

Аналогичная риторика используется и в отношении ИИ и технологических элементов, поддерживающих принятие других военных решений. В докладе Комиссии по национальной безопасности 2021 года об искусственном интеллекте, сопредседателем которой был бывший заместитель министра обороны Роберт Ворк, утверждается, что в военном контексте искусственный интеллект поможет "найти иголки в стоге сена" и "повысить осведомленность во всех областях", что приведет к "более жестким и эффективным циклам принятия решений".

Понятие "мозаичная война", предложенное Агентством передовых оборонных исследовательских проектов, само по себе является метафорой намерения связать оружие, датчики и лиц, принимающих решения, в единое динамичное целое. Подобные идеи возникают буквально повсюду, отражая технологический оптимизм насчет систем с использованием искусственного интеллекта.

Интересно, что, хотя эти желания заполучить технологически оснащенные системы управления формулируются как следствие "быстрых изменений" в экосистемах безопасности и "значительных новых вызовов", стоящих перед Соединенными Штатами, на самом деле Министерство обороны стремилось к чему-то подобному уже несколько десятилетий. В качестве обоснования Министерство полагается на утверждения и предположения с десятилетней историей. И хотя за время, прошедшее от холодной войны до современных вызовов безопасности, стратегические и политические факторы изменились, подобные технооптимистические представления до сих пор сильны.

Искусственный интеллект в армии. Инерция и последствия

Сегодня объединенное командование и многоуровневое управление, безусловно, имеет определенную институциональную поддержку. Как заявил генерал Джон Мюррей (ныне в отставке) на слушаниях в Конгрессе в 2020 году, "никто не спорит с концепцией". Более того, не далее как в этом году генерал Марк Милли заявил о "необратимом стремлении" к реализации программы. Будет ли это стремление двигаться в согласованном направлении или нет – неясно даже с учетом опубликованной недавно стратегии.

Однако следует отметить, что за годы, прошедшие со времен Strategic Computing и Future Combat System, ИИ/машинное обучение, аппаратное обеспечение и доступность данных, необходимых для обучения алгоритмов, а также другие цифровые технологии стали более продвинутыми и умными.

Тем не менее, ИИ/машинное обучение по-прежнему страдает от серьезных проблем, таких как предвзятость, проблемы с вводными данными, доверие к взаимодействию машины и человека и трудности, связанные с объяснимостью решений ИИ (впрочем, над последней проблемой Министерство обороны как раз работает).

Например, как говорится в отчете Стэнфордской программы Human-Centered Artificial Intelligence ("Человекоцентричный искусственный интеллект") за 2022 год, даже в исследовательской среде университетов и компаний частного сектора, где наборы данных можно маркировать и курировать, а алгоритмы – обучать и тестировать, все еще существуют проблемы, связанные с тем, что языковые модели воспроизводят предвзятость обучающих наборов данных со все более высокой скоростью. Таким образом, в отношении военного искусственного интеллекта проблема заключается в том, что даже в идеальных условиях модели на основе машинного обучения могут совершать неожиданные и нежелательные ошибки.

Более того, многие модели обучаются с учетом производительности на пробных наборах данных без учета их применимости в реальном мире. По мнению исследователей машинного обучения, это происходит потому, что модели часто "обучаются на эталонных данных", и это приводит к результатам, которые невозможно воспроизвести вне контролируемой исследовательской среды.

Поэтому роль ИИ/машинного обучения в процессах военного командования вызывает серьезные вопросы. Например, на каких данных будут обучаться элементы командных систем, полагающиеся на возможности искусственного интеллекта по прогнозированию и поддержке принятия решений? Кроме того, насколько командующие будут уверены в эффективности работы системы в сложных условиях войны, особенно когда командные системы на базе искусственного интеллекта предлагают рекомендации или возможные варианты действий?

Ави Голдфарб и Джон Линдсей недавно указали на проблемы с данными в военной среде. Существует большой риск нерешаемости таких проблем, особенно в случае принятия командных решений с помощью искусственного интеллекта.

Значение имеют также временные горизонты. Текущие инициативы, связанные с объединенным командованием и всеохватывающим управлением, в основном сосредоточены на облачных возможностях и улучшении оперативной совместимости и обмена данными между службами.

План реализации инициатив остается засекреченным, поэтому конкретики насчет использования искусственного интеллекта для прогнозирования или планирования очень мало. Тем не менее, не помешает рассмотреть перспективы военных в контексте недавнего документа о стратегии. Особенно если системы с использованием искусственного интеллекта, как предполагается в стратегии, обеспечат "технические средства для восприятия, понимания и прогнозирования действий и намерений противников, а также принятия соответствующих мер".

Помимо опасений по поводу технологической функциональности, мы также должны понимать практические следствия доминирующих ныне идей. Как уже говорилось выше, желание быстрее принимать решения и уменьшить путаницу на поле боя – давние мечты военных, часто связываемые с возможностями передовых вычислительных систем. Последствия этих долгосрочных проблем — если считать их решаемыми с помощью технологий, связанных с командованием – вызывают беспокойство. Это особенно актуально, если такие технологии рассматриваются как путь к достижению быстрой и решительной победы.

Ученые документально подтвердили опасность ведения быстрой, решительной войны и стремления к ней.

Дэйв Джонсон недавно исследовал этот вопрос на сайте "War on the Rocks", раскритиковав "веру в то, что будущие войны будут короткими и решительными". В свою очередь, Антуан Буске утверждает, что военные, стремящиеся к такой решительности, неоднократно обращались к науке и технике. Хотя важно не смешивать общие стратегические соображения и тактику на поле боя, решения, принимаемые командирами, должны поддерживать общие политические цели.

Как отмечает Пол Бристер в недавно вышедшем сборнике под редакцией Брукингса, следует извлечь серьезные уроки из идеи, что подкрепленная технологиями тактическая маневренность сократит или позволит легко выигрывать войны.

В том же сборнике Нина Колларс приводит следующий аргумент: "Ловушка более быстрой войны, ведущей к более быстрой победе, не только опасна, но и представляет собой патологическую одержимость технологиями". Таким образом, быстрое принятие решений с помощью искусственного интеллекта как средство повышения тактической скорости не должно рассматриваться как неоспоримое преимущество, особенно перед лицом современных дискуссий о так называемой "гипервойне".

Примечательно, что объединенное многоуровневое командование и управление само по себе не является теорией победы или концепцией ведения боевых действий. Не выступает оно и за скорейшее прекращение войны как таковой. Скорее, сторонники этой программы представляют ее как инструмент, способствующий выполнению других боевых функций путем создания более совместимого набора информационных систем.

Предполагаемый результат таких усилий, как утверждается в стратегии, заключается в "прямом и значительном улучшении способности командира получить и сохранить преимущество в обработке информации и принятии решений". При этом сторонники стратегии рискуют принять передовые системы командования з инструмент быстрой и решительной победы, тем самым чрезмерно увлекаясь технологическим оптимизмом как решением для достижения политических или стратегических целей. Поскольку видение новой системы командования пока что лишь формируется, нам лучше остерегаться любой "патологической одержимости технологиями".

Кроме того, вопреки некоторым выводам Комиссии национальной безопасности по ИИ, не совсем очевидно, что системы с поддержкой искусственного интеллекта смогут многое прояснить в ведении войны.

Как отмечает Сэм Тангреди, системы искусственного интеллекта все еще испытывают трудности с плохо структурированными задачами, а война уж точно не отличается структурированностью.

Более того, модели искусственного интеллекта с глубоким обучением оказалось относительно легко обмануть – например, изменив пиксели в изображениях, подаваемых алгоритму. Множество составляющих войны связаны с тактикой диверсий и стратагем, призванных запутать и ввести в заблуждение противника. Такое сочетание технической проблемы и обычной практики обмана на войне может привести к еще большей путанице вместо ясности для сторонников любой системы управления с поддержкой ИИ.

Заключение

Таким образом, преждевременно делать вывод, что новые технологии, связанные с командованием, внезапно откроют поле боя для командиров с новой стороны, позволив быстрее принимать лучшие решения или приведя к ожидаемым положительным военным результатам. Кроме того, мы должны скептически относиться к новизне подобных пожеланий, и, как следует из работы Мартина Ван Кревельда о командовании, такие идеи будет очень трудно довести до совершенства.

Идеи для разработки новой, более совершенной системы командования повторяют прошлые проекты, такие как Стратегическая вычислительная инициатива и Боевая система будущего, которые в целом не достигли своих амбициозных целей. Важно учитывать уроки и результаты этих прошлых проектов в дискуссиях о достоинствах и возможностях будущих технологически продвинутых командных систем.

Более того, заявления, связанные с разработкой новых высокотехнологичных командных систем, потенциально рискованны, если ведут к предположениям о быстротечных войнах, в которых все решают технологии.

Исторические примеры демонстрируют последствия внедрения подобных предположений в военную практику. Работа Азара Гата по истории военной мысли, предшествовавшей Второй мировой войне, слишком сложна, чтобы подробно рассматривать ее здесь. Однако она показывает, что мифологизированные представления о технологических артефактах, таких как автомобили и самолеты, определили воплощение в жизнь теорий быстрой, механизированной войны.

Таким образом, необходимо рефлексивное рассмотрение исторических аналогий, связанных с быстрыми решениями и улучшенной ситуационной осведомленностью, с одной стороны, и с новейшими вычислительными технологиями или системами с поддержкой искусственного интеллекта – с другой, а также должное внимание к реальным технологическим препятствиям, стоящим на пути интеграции технологий в процессы принятия решений.

Об авторе

Иан Рейнольдс – кандидат наук в области международных отношений в Международной школы Американского университета, изучающий историю и культурную политику военного искусственного интеллекта. Докторант-исследователь в Лаборатории управления интернетом и научный сотрудник в Центре инноваций в сфере безопасности и новых технологий, расположенных в Американском университете. В 2022/23 учебном году Ян будет проходить стажировку в Стэнфордском центре международной безопасности и сотрудничества.