ChatGPT для спецназа. Как Силы специальных операций могут использовать возможности ИИ

"Я пытался стать искусственным интеллектуалом,

Но технических знаний мне не хватало;

Так что весь день я сидел и плакал,

Уставившись на код ИИ".

Подсказка из одного предложения – вот и все, что потребовалось модели искусственного интеллекта Generative Pre-trained Transformer 3, чтобы написать стихотворение о моих попытках понять ИИ. Недавние достижения в области ИИ наводят на интригующие идеи в отношении потенциала его использования в различных сферах. Более того, технология становится все доступнее, что не может не радовать таких далеких от техники людей, как я. С момента своего выхода в ноябре 2022 года ChatGPT – специализированная версия бота, создавшая вышеприведенную строфу, – стал интернет-сенсацией. Любой человек может использовать ИИ для обобщения, перевода и создания человекоподобных текстов или написания кода на различных языках программирования. Из-за этой простоты технические знания для обычных пользователей ИИ кажутся все менее необходимыми.

Фокус перевел статью Келли Джонг о возможностях искусственного интеллекта для Сил специальных операций США.

Это допущение переносится и на военных, в операциях которых все чаще используется ИИ. Бойцы рассматриваются как обычные пользователи без технических знаний, в то время как технические эксперты занимаются управлением и оценкой технологий. Однако, поскольку ИИ все глубже проникает в военные операции, Министерство обороны не сможет полагаться только на этих экспертов для работы с системами ИИ. Искусственный интеллект пугает, но нетехнические специалисты все же должны стремиться к более глубокому пониманию этой технологии. Военнослужащим, особенно силам специальных операций, нужны углубленные знания об ИИ, чтобы эффективно и ответственно использовать военные технологии, которые все чаще будут вмешиваться в процессы принятия решений.

Многие писали о необходимости обучения общим принципам работы с ИИ в вооруженных силах, но в данной статье мы делаем еще один шаг вперед, утверждая, что обучение ИИ особенно важно для сил специальных операций, которые служат инкубатором новых идей, продуктов и процессов. ССО не только находятся на переднем крае тестирования и оценки ИИ, но и станут одними из первых, кто внедрит эти технологии в оперативной обстановке. Поэтому сообщество ССО должно повысить компетентность в области ИИ на тактическом уровне.

Разнообразие архетипов ИИ

Сейчас самое время серьезно рассмотреть вопрос о включении обучения работе с ИИ в программу сил специальных операций, поскольку командование пересматривает возможности профессионального военного образования в рамках закона о полномочиях в области национальной обороны на 2023 год. Важность "развития технических навыков сил специальных операций" уже была определена в Законе о полномочиях в области национальной обороны 2022 года, в котором говорится, что "определенные нишевые технические навыки", включая машинное обучение и искусственный интеллект, "необходимы для ведения нерегулярных боевых действий". Закон также призывает Министерство обороны оценить "усилия по развитию инфраструктуры подготовки кадров в области STEM [и особенно искусственного интеллекта]".

Стратегия образования в области ИИ Министерства обороны до 2020 года служит важным ориентиром для определения соответствующих требований к образованию в области ИИ для ССО. Стратегия образования в области ИИ описывает шесть архетипов сотрудников Министерства обороны, чтобы адаптировать требования к их образованию и обучению в зависимости от их роли:

• Lead AI (руководство ИИ);
• Drive AI (управление ИИ);
• Create AI (создание ИИ);
• , Embed AI (внедрение ИИ);
• Facilitate AI (содействие ИИ);
• Employ AI (использование ИИ).

Для большинства этих архетипов роли относительно просты. Архетип Lead AI состоит из руководителей высшего звена, которые определяют политику и доктрину, необходимые для ответственного внедрения ИИ. К архетипу Drive AI относятся менеджеры по закупкам, возможностям и продуктам, определяющие предоставление соответствующих возможностей ИИ. К архетипу Create AI относятся инженеры ИИ и специалисты по исследованию данных, создающие инструменты ИИ. Наконец, архетип Employ AI включает конечных пользователей технологии, к которым относится большинство сотрудников Министерства обороны.

Архетипы Embed и Facilitate AI имеют немного больше нюансов. Эти два архетипа находятся между архетипом Employ AI (конечные пользователи) и архетипом Create AI (разработчики ИИ).

Архетип Embed AI "развертывает, поддерживает, адаптирует и собирает данные для систем AI/ML на тактическом фронте". Эти сотрудники "поддерживают разработку сценариев использования" и "решают проблемы приложений ИИ на нижнем уровне для поддержания функциональности".

Те, кто относится к архетипу Facilitate AI, представляют потребности конечного пользователя и работают с разработчиками ИИ над уточнением требований. Хотя в образовательной стратегии Министерства обороны в области ИИ перечислены технические специалисты, владельцы программных продуктов, дизайнеры пользовательского интерфейса и другие технические эксперты, относящиеся к архетипам Embed и Facilitate AI, эти роли не имеют прямого отношения к нынешнему военному персоналу. Другими словами, не всегда ясно, кто может или должен наводить мосты между разработчиками ИИ и обычными пользователями.

Тем не менее, очевидно, что силы специальных операций требуют навыков, образования и знаний, выходящих за рамки компетенций обычного пользователя в рамках архетипа Employ AI. Благодаря расширенному доступу к прототипам и тестированию эти бойцы часто напрямую взаимодействуют с разработчиками продукции для оттачивания дизайна, функциональности и удобства использования новых инструментов и оборудования. Они также часто действуют на тактическом рубеже в условиях жестких ограничений и, следовательно, нуждаются в способности устранять неисправности своего оборудования без посторонней помощи. В таких ситуациях спецназовцу потребуются навыки, относящиеся к архетипам Embed AI и Facilitate AI. Они должны иметь представление о потоках данных, устранять неполадки в моделях машинного обучения и доносить потребности конечных пользователей до технических экспертов, поддерживающих их с тыла.

Кроме того, поскольку сообщество специальных операций продолжает экспериментировать, тестировать и приобретать все большее количество систем с поддержкой ИИ, все больше людей будут вовлекаться в проекты, связанные с ИИ. Эти проекты более динамичны и итеративны, чем традиционные. По мере того как ИИ проникает во все новые аспекты деятельности специальных операций, операторы могут помогать в планировании проектов, определяя проблемы и наиболее подходящие подходов к ИИ. Кроме того, они могут быть вовлечены в тестирование и оценку системы ИИ, что потребует более глубоких знаний, чем есть у обычного пользователя. Поэтому команды ССО должны разбираться в управлении проектами ИИ, управлении данными и показателях эффективности.

Понимание ИИ и его метрик требует фундаментальных знаний в области математики и статистики. Такие понятия, как истинные/ложные положительные и отрицательные результаты, доверительные интервалы и метрики оценки, должны стать лучшими друзьями военных. Пользователи из команды ССО должны суметь оценить, являются ли данные, поступающие в систему ИИ, актуальными, обновляемыми и отражающими реальную оперативную обстановку. В то время как разработчики ИИ обсуждают производительность и обслуживание системы, персонал ССО должен быть достаточно осведомлен, чтобы сотрудничать с разработчиком для устранения выявленных проблем. Такая компетентность поможет быстрому и эффективному развитию и совершенствованию систем и инструментов ИИ для военных.

Конечно, ответственность за то, чтобы сделать показатели эффективности ИИ понятными для пользователей, лежит не только на персонале ССО. Разработчики ИИ обязаны сделать технологию максимально прозрачной и легко объяснимой. Системы ИИ должны быть в состоянии предоставить контекст или сопутствующие причины для своих результатов.

Однако, несмотря на усилия Агентства перспективных исследований оборонных проектов по разработке новых методов объяснения, определение того, как много нужно объяснять пользователю, остается неразрешимой задачей. Более того, наилучший способ отображения результатов работы системы ИИ, скорее всего, будет зависеть от конкретного случая использования и целевых пользователей. Поэтому необходимо тесное сотрудничество между разработчиками ИИ и силами специальных операций для обеспечения максимально эффективного и результативного использования технологий ИИ.

В отличие от солдат, которые могут управлять танками или вести артиллерийский огонь без каких-либо знаний о механике, силам специальных операций потребуются достаточные технические знания при использовании систем с ИИ, поскольку эта технология предлагает принципиально уникальные возможности. Особого внимания требует тот факт, что ИИ может оказать значительное влияние на принятие решений человеком и способы ведения военных действий. По мере роста сложности и распространенности ИИ пользователи поймут, что изучения одной лишь результативности или эффективности инструмента недостаточно для оценки системы ИИ.

Технологию ИИ нельзя оценивать только на основании того, работает ли она. Определить, "работает" ли ИИ, может быть очень сложно, особенно при работе с огромными объемами данных на машинной скорости. Хотя инструмент с поддержкой ИИ может генерировать визуально привлекательный брифинг-продукт, отображающий тенденции нарративов и анализ настроений, его анализ может оказаться бесполезным или, что еще хуже, неточным. На его оценки будут влиять исходные данные и пороги принятия решений. Кроме того, дрейф модели – ухудшение производительности из-за изменений в окружающей среде – и манипуляции противника могут еще больше усложнить использование ИИ. Алгоритмы могут быть хрупкими. Данные могут устаревать. Атаки противника могут "отравить" данные и вызвать незаметные, но значительные изменения в модели ИИ. Эти проблемы – еще одна причина, по которой для эффективного использования и обслуживания систем ИИ необходимо понимание данных и производительности модели.

Показатели эффективности ИИ довольно сложны. Сложные системы ИИ, включающие несколько моделей или базовых моделей, могут создать новые проблемы при оценке эффективности. Необходимы дальнейшие исследования для определения соответствующих методов информирования пользователей о том, как управлять этими более сложными системами. Независимо от того, насколько "волшебным" может казаться ИИ, операторы никогда не должны слепо доверять производительности системы. Даже при использовании "более простых" метрик пользователи могут не понимать полного контекста того, что оценивает метрика. Тем не менее, понимание этих показателей эффективности крайне важно для операторов ССО, поскольку они обеспечивают определенный уровень стандартизации и объективной оценки для определения ценности и состояния инструмента ИИ. Хотя более высокие количественные показатели не обязательно означают, что инструмент лучше, низкие показатели эффективности однозначно указывают на снижение его ценности.

Формализация необходимых навыков по работе с ИИ в командах ССО

Безусловно, добиться того, чтобы каждый оператор ССО обладал необходимым уровнем знаний в области ИИ в дополнение к техническим знаниям, будет непросто. По крайней мере, военные должны убедиться, что в каждой группе ССО есть хотя бы один человек с более продвинутыми знаниями ИИ, который может, как минимум, выполнять задачи архетипа Facilitate AI и брать на себя часть обязанностей архетипа Embed AI. Эти операторы не обязательно должны быть опытными программистами. Скорее, им придется взять на себя роль "обслуживающего персонала" технологии, чтобы обеспечить постоянную функциональность системы ИИ на расстоянии. Этот набор навыков будет становиться все более необходимым для сил специальных операций по мере использования ими более совершенных систем с поддержкой ИИ, требующих взаимодействия человека и машины в условиях развертывания.

Члены команды, работающие с ИИ, должны уметь определять ключевые проблемные области при использовании и оценке новых инструментов ИИ и предоставлять информированную обратную связь разработчикам ИИ, содействуя постоянному совершенствованию. Люди, обладающие более глубокими знаниями в области ИИ, могут выступать в качестве связующего звена между техническими экспертами, часто работающими в штабе, и другими членами группы специальных операций на местах. Даже если военные будут стремиться к расширению интеграции специалистов по исследованию данных на более низких уровнях, всем сторонам придется пройти непростой путь обучения, осваивая соответствующие роли. Наличие в оперативной группе человека, который понимает язык данных, алгоритмов и моделей, будет иметь решающее значение для работы с учеными, изучающими данные.

Неизбежной проблемой является поиск времени, персонала и ресурсов для обучения и подготовки военнослужащих к этому более высокому уровню компетентности в области ИИ. В дополнение к длительному процессу подготовки, силы специальных операций должны пройти целый список тренировок, предписанных Министерством обороны, их областью службы и профессиональной специализацией. Добавление еще одного требования к подготовке вряд ли понравится сообществу. Тем не менее, командующие должны рассматривать подготовку и обучение ИИ как приоритет, потому что это будет неотъемлемой частью военных действий. Преимущество на поле боя создается не только технологией, но и способностью бойцов использовать эту технологию. Если силы специальных операций хотят в полной мере использовать возможности ИИ в армии и стимулировать их развитие, необходимо глубже понимать эту технологию.

Несмотря на то, что Министерство обороны стремится к расширению подготовки и обучения в области ИИ, эта инициатива еще не полностью реализована на тактическом уровне. Военные, интересующиеся ИИ, могут проявлять инициативу по самообразованию в области этой технологии, но для большинства доступ к возможностям обучения ИИ остается ограниченным. Вместо того, чтобы ждать инициативы, силы специальных операций должны создать дополнительный идентификатор навыков или требование сертификации для сотрудников, выбранных для более тесной работы с технологией. Формализация и расширение ознакомленности с технологиями на уровне боевых подразделений имеет решающее значение для сохранения преимущества в будущих боевых действиях.

Как отмечается в Стратегии обучения ИИ Министерства обороны, тренировки по ИИ могут сочетать в себе асинхронное и синхронное обучение. Поэтому формирование навыков работы с ИИ не обязательно означает более длительный квалификационный цикл для ССО. Вместо этого отдельные сотрудники самостоятельно будут проходить курсы по ИИ, дополненные тематическими лагерями и семинарами. Ключевым моментом является определение членов команды, требующих продвинутых навыков ИИ, что позволит отобранным сотрудникам получить образование в области ИИ, а не требовать наличия этой компетенции у всех.

Критики возразят, что вместо того, чтобы делать знания в области ИИ основной компетенцией ССО, навыки по работе с ИИ лучше обеспечивать, привлекая "помощников" в команды ССО. Этот аргумент вполне обоснован, и ССО должны продолжать привлекать в свою организацию технически подкованных сотрудников. Однако такой подход не решает двух фундаментальных проблем. Во-первых, команды не всегда развертываются на театре военных действий вместе со своими помощниками, и группы ССО могут оказаться вдали от своего помощника по ИИ. Хотя эксперты по ИИ теоретически могут устранять неполадки на расстоянии, доступ и связь с группами на передовой не гарантированы. В таких ситуациях член группы ССО должен иметь возможность оценить и устранить любые проблемы с используемыми системами ИИ.

Вторая проблема заключается в том, что спрос на талантливых специалистов в области ИИ очень велик как в Министерстве обороны, так и в других отраслях. Силы специальных операций армии США изучают возможность изменения структуры сил и создания новой карьерной области для офицеров, чтобы ввести в кадровое расписание технологически ориентированные роли и обеспечить "технологическую интеграцию" на тактическом уровне, но технических специалистов попросту не хватает, чтобы заполнить эти вспомогательные роли для всех тактических групп. Кроме того, институциональные ограничения, такие как нехватка персонала, могут препятствовать усилиям по найму и обучению специалистов по внедрению ИИ. Интеграция передовых технологий ИИ в военные операции наверняка будет происходить быстрее, чем ССО успеют вырастить новые кадры экспертов по ИИ. Хотя ИИ станет частью почти всех оборонных приложений, армия скорее всего, оставит специалистов по ИИ на более высоких уровнях, а не на уровне роты, отряда или команды из-за нехватки специалистов по ИИ в обозримом будущем. Учитывая этот вероятный сценарий, силы специальных операций должны вкладывать средства в подготовку и обучение уже имеющегося персонала, чтобы устранить этот пробел в знаниях ИИ.

Военные имеют доступ к большему количеству талантливых специалистов, чем может показаться. Было бы идеально, если бы человек с формальным образованием в области науки, технологии, инженерии или математики мог бы взять на себя более продвинутые знания в области ИИ, но даже отсутствие технического образования не должно быть препятствием. При должном уровне руководства, обучения и знакомства с технологиями люди без технического образования могут получить достаточно знаний для выявления и устранения неполадок в конкретном приложении ИИ. Обученный оператор ССО должен дополнять, а не подменять собой технического эксперта, особенно в тех случаях, когда доступ к экспертным знаниям затруднен. Наем на эти роли только тех, кто имеет техническое образование, ограничит возможности сил специальных операций по формированию навыков ИИ на уровне команды – а это становится все более необходимым, поскольку ИИ становится неотъемлемой частью планирования и проведения операций.

Заключение

Возможности ИИ восхищают многих. От "спецназовца с гипер-информационными возможностями", работающего на тактическом рубеже, до аналитика, оценивающего социальную динамику и тенденции в оперативной обстановке – ИИ повлияет на все аспекты военных действий. Однако широкое внедрение этой технологии все еще находится в зачаточном состоянии. Чтобы адекватно подготовиться к будущему, управляемому ИИ, ССО должны признать необходимость формирования когорты операторов, способных выявлять и диагностировать более сложные проблемы, возникающие в связи с ИИ.

Хотя данная статья посвящена сообществу специальных операций, не следует считать, что эта рекомендация относится исключительно к ним. Другие подразделения также должны изучить возможности формирования более продвинутых навыков владения ИИ, вплоть до самого низового оперативного уровня, чтобы повысить устойчивость своих войск, поскольку ИИ становится неотъемлемой частью боевого комплекта. Привлечение технических специалистов в Министерство обороны остается важным приоритетом, но в ближайшей перспективе реальность такова, что военные вряд ли смогут заполнить этими специалистами команды тактического уровня. Поэтому военным следует обратиться к существующему кадровому резерву, чтобы пополнить его. В конечном счете, понимание собственных боевых инструментов и оборудования – обязанность каждого отдельно взятого бойца.

Об авторе

Келли Джонг – офицер психологических операций армии США с опытом работы в Индо-Тихоокеанском регионе. Недавно окончила Военно-морскую аспирантуру, где исследовала, как силы специальных операций должны оценивать ИИ для операций в информационной среде.