Армія США ледь не розпочала війну з Китаєм через звіт ШІ про "ядерку"

За даними чотирьох джерел, обізнаних із ситуацією, американські військові негайно вжили заходів, розробивши план перехоплення судна. За словами двох із цих джерел, озброєні військовослужбовці США готувалися піднятися на борт корабля. У повітрі перебували військові літаки, стверджують інсайдери, пише CNN.

Але коли все вже було готове до штурму, операція запланована, посадовці уважно вивчили звіт, складений аналітиком, і виявили, що його було створено за допомогою штучного інтелекту. А чат-бот, який використовував аналітик, неправильно визначив вантаж, що перевозився судном. CNN не вдалося з’ясувати, що саме було помилково ідентифіковано як компоненти для ядерної зброї.

За словами одного з джерел, доповідь була "повністю неправдивою". Але вона також "ледь не спровокувала війну". Будь-яка операція США проти китайського судна могла призвести до збройного конфлікту між двома країнами.

У збройних силах та розвідувальному співтоваристві США офіційні особи прагнуть впровадити штучний інтелект практично в усі аспекти своєї роботи, від аналізу величезних обсягів необробленої розвідувальної інформації, що збирається США, та вибору цілей для ударів, до більш повсякденних застосувань, таких як управління бюджетом, логістика та ланцюги поставок.

Однак цей епізод підкреслює серйозні ризики використання цієї потужної, нової та відносно маловивченої технології для наведення на ціль у розпал війни. Аналітики вже давно побоюються, що ШІ може призвести до катастрофічної помилки, якщо держави покладатимуться на неякісні або спотворені дані. Наприклад, США відкриють вогонь по китайському кораблю.

У цьому конкретному випадку аналітик звернувся до чат-бота із запитом щодо інформації про судновий маніфест, отриманої від Тихоокеанського командування спеціальних операцій США, що базується на Гаваях. Було незрозуміло, чи був чат-бот комерційно доступним продуктом чи продуктом уряду США.

"Внутрішні інструменти — це здебільшого просто прикрашені копії комерційних програм", — розповів колишній високопоставлений американський чиновник, обізнаний із системами штучного інтелекту, які використовують військові та розвідувальні аналітики.

Бот об’єднав інформацію з відкритих джерел із секретними даними радіоелектронної розвідки, що зберігаються в урядових архівах, і дійшов свого фатального висновку щодо вантажу, який перевозив корабель.

Потім аналітик знову скористався штучним інтелектом, щоб оформити отримані дані у стандартний розвідувальний звіт — такий, якому довіряють військові чиновники, — і передав його далі.

Навіщо військовим штучний інтелект — змагання з Китаєм та швидке прийняття рішень

У Пентагоні пояснюють, що впроваджують ШІ, оскільки він може допомогти військовим швидше приймати рішення на полі бою, наприклад, які цілі вражати або куди перекидати військові засоби. Офіційні особи заявляють, що США не можуть дозволити собі відставати в інтеграції ШІ на випадок, якщо їм колись доведеться воювати з Китаєм або іншим супротивником, який потенційно зможе випереджати США на крок.

У січні міністр оборони Піт Хегсет представив "Стратегію прискорення розвитку штучного інтелекту" свого відомства, спрямовану на прискорення впровадження ШІ у збройних силах.

"Ми дамо волю експериментам, усунемо бюрократичні перешкоди, зосередимо наші інвестиції та продемонструємо підхід до реалізації, необхідний для забезпечення нашого лідерства у сфері військового ШІ", — заявив Хегсет.

Стратегія також передбачає надання ШІ доступу в рамках кількох програм з метою "демократизації експериментів та перетворень у сфері ШІ в масштабах усього міністерства шляхом надання передових американських моделей ШІ безпосередньо трьом мільйонам цивільних і військових співробітників усіх рівнів секретності", — йдеться в меморандумі, що оголошує про стратегію.

Однак, як заявили кілька американських чиновників, ця робота є децентралізованою: різні підрозділи уряду використовують різні інструменти відповідно до різних розпоряджень та стандартів безпеки. Єдиного набору стандартів для перевірки інформації, що генерується цими інструментами, у США не існує. Розгортання різних систем штучного інтелекту в різних підрозділах збройних сил та розвідувальних служб призводить до того, що їхня відносна надійність та функціональність значно відрізняються.

А інцидент із китайським кораблем підкреслює найпрозаїчнішу небезпеку: прийняття людьми катастрофічних рішень на основі неточної або оманливої інформації, що генерується ШІ.

За словами одного з джерел, проблема з китайським кораблем — не єдина така проблема.

"Штучний інтелект дозволяє швидше дійти до невдалої ідеї", — сказав одне з джерел.

Нагадаємо, що президент США Дональд Трамп уже виступив проти ідеї призупинити розробку моделей штучного інтелекту (ШІ). Раніше низка провідних розробників таких платформ висловила свої побоювання щодо розвитку подібних систем.

Раніше Фокус повідомляв, що росіяни використовували штучний інтелект Claude для кібератак та навчання дронів.

Згодом стало відомо, що Ілон Маск і Сем Альтман підтримали заклик уповільнити розвиток ШІ. Ця заява пролунала всього через кілька днів після того, як компанія Anthropic повідомила, що її чат-бот Claude використовувався для спроб створення біологічної зброї та шпигунства за Україною.