Армия США едва не начала войну с Китаем из-за отчета ИИ про "ядерку"

По данным четырех источников, знакомых с ситуацией, американские военные немедленно приступили к действиям, разработав план перехвата судна. По словам двух из этих источников, вооруженные военнослужащие США готовились подняться на борт корабля. В воздухе находились военные самолеты, утверждают инсайдеры, пишет CNN.

Но когда уже все было готово для штурма, операция запланирована, официальные лица углубились в изучение отчета, составленного аналитиком и обнаружили, что он был создан с помощью искусственного интеллекта. А чат-бот, использованный аналитиком, неверно определил груз, перевозимый судном. CNN не удалось выяснить, что именно было ошибочно идентифицировано как компоненты для ядерки.

По словам одного из источников, доклад был "полностью ложным". Но он также "чуть не спровоцировал войну". Любая операция США против китайского судна могла привести к вооруженному конфликту между двумя странами.

В вооруженных силах и разведывательном сообществе США официальные лица стремятся внедрить искусственный интеллект практически во все аспекты своей работы, от анализа огромных объемов необработанной разведывательной информации, собираемой США, и выбора целей для ударов, до более обыденных приложений, таких как управление бюджетом, логистика и цепочки поставок.

Однако этот эпизод подчеркивает серьезные риски использования этой мощной, новой и относительно плохо изученной технологии для наведения на цель в разгар войны. Аналитики давно опасаются, что ИИ может привести к катастрофической ошибке, если государства будут полагаться на некачественные или искаженные данные. Например, США откроют огонь по китайскому кораблю.

В данном конкретном случае аналитик обратился к чат-боту с запросом информации о судовом манифесте, полученной от Тихоокеанского командования специальных операций США, базирующегося на Гавайях. Было неясно, являлся ли чат-бот коммерчески доступным продуктом или продуктом правительства США.

"Внутренние инструменты — это в основном просто приукрашенные копии коммерческих программ", — рассказал бывший высокопоставленный американский чиновник, знакомый с системами искусственного интеллекта, используемыми военными и разведывательными аналитиками.

Бот объединил информацию из открытых источников с секретными данными радиоэлектронной разведки, хранящимися в правительственных архивах, и пришел к своему роковому выводу о грузе, который перевозил корабль.

Затем аналитик снова использовал искусственный интеллект, чтобы упаковать полученные данные в стандартный разведывательный отчет — тот, которому доверяют военные чиновники, — и передал его дальше.

Зачем ИИ военным – гонка с Китаем и быстрое принятие решений

В Пентагоне объясняют, что внедряют ИИ потому что он может помочь военным быстрее принимать решения на поле боя, например, какие цели поражать или куда перебрасывать военные средства. Официальные лица заявляют, что США не могут позволить себе отставать в интеграции ИИ на случай, если им когда-нибудь придется воевать с Китаем или другим противником, который потенциально сможет опережать США на шаг.

В январе министр обороны Пит Хегсет представил "Стратегию ускорения развития искусственного интеллекта" своего ведомства, направленную на ускорение использования ИИ в вооруженных силах.

"Мы дадим волю экспериментам, устраним бюрократические барьеры, сосредоточим наши инвестиции и продемонстрируем подход к реализации, необходимый для обеспечения нашего лидерства в области военного ИИ", — заявил Хегсет.

Стратегия также предусматривает предоставление ИИ доступа в рамках нескольких программ с целью "демократизации экспериментов и преобразований в области ИИ в масштабах всего министерства путем предоставления передовых американских моделей ИИ непосредственно в руки трех миллионов гражданских и военных сотрудников всех уровней секретности", говорится в меморандуме, объявляющем о стратегии .

Однако, как заявили несколько американских чиновников, эта работа децентрализована: разные части правительства используют разные инструменты в соответствии с различными распоряжениями и стандартами безопасности. Единого набора стандартов для проверки информации, генерируемой этими инструментами, в США не существует. Развертывание различных систем искусственного интеллекта в разных подразделениях вооруженных сил и разведывательных служб приводит к тому, что их относительная надежность и функциональность сильно различаются.

А инцидент с китайским кораблем подчеркивает самую прозаичную опасность: принятие людьми катастрофических решений на основе неточной или вводящей в заблуждение информации, генерируемой ИИ.

По словам одного из источников , проблема с китайским кораблем не единственная такая проблема.

"Искусственный интеллект позволяет быстрее прийти к неудачной идее", — сказал один из источников.

Напомним, президент США Дональд Трамп уже выступил против идеи приостановить разработку моделей искусственного интеллекта (ИИ). Ранее ряд ключевых разработчиков таких платформ выразили свои опасения по поводу развития подобных систем.

Ранее Фокус рассказывал, что россияне использовали ИИ Claude для кибератак и обучения дронов.

После стало известно, что Илон Маск и Сэм Альтман поддержали призыв замедлить развитие ИИ. Это заявление прозвучало всего через несколько дней после того, как компания Anthropic сообщила, что ее чат-бот Claude использовался для попыток создания биологического оружия и шпионажа за Украиной.