На рівні з ядерною зброєю: яку загрозу атака Китая з ШІ несе світу і що робити Україні

Системи штучного інтелекту мають величезний потенціал, адже переважають людей у багатьох задачах, зокрема й у шкідливих. Фокус довідався, чим це загрожує Україні та іншим державам, і чи можна захиститися від подібних операцій.

Кібератака Claude Code: як "завербували" ШІ

У середині вересня 2025 року Anthropic, розробник моделі ШІ Claude, виявила складну шпигунську кампанію. Група, що спонсорується китайським урядом, використала інструмент Claude Code, щоб проникнути в систему приблизно 30 цілей по всьому світу, і подекуди досягла успіху. Жертвами стали великі технологічні компанії, урядові, фінансові та промислові установи.

"Ми вважаємо, що це перший задокументований випадок масштабної кібератаки, здійсненої без суттєвого втручання людини", — зазначили фахівці Anthropic у своєму звіті.

Атаки засновані на функціях моделей штучного інтелекту, яких ще рік тому не існувало або вони були на значно нижчому рівні розвитку. Оператори-люди планували операції, а потім використовували агентів ШІ для автономного зламу цілей.

Claude Code виступив автоматизованим інструментом для проведення кібератак. Китайські хакери розбили атаки на невеликі завдання і попросили ШІ їх виконати, не пояснюючи контексту. Таким чином вони обійшли захисні механізми Claude, які попереджають шкідливу поведінку. Зловмисники також представилися співробітниками фірми з кібербезпеки і повідомили, ніби проводять тестування систем захисту.

Спочатку ШІ провів розвідку, виявив найцінніші бази даних жертв і перевірив інфраструктуру жертв. Далі він виявив вразливості систем і написав код експлойту (шкідливого ПЗ). Далі група за допомогою Claude зібрала логіни з паролями, впорядкувала за цінністю та отримала доступ, щоб вкрасти цінні дані і структурувати їх. Наостанок, ШІ підготував документи і файли, які можна використати для подальших атак.

Переваги ШІ над хакерами-людьми

Штучний інтелект виконав 80-90% всієї роботи, а участь людей знадобилася лише в 4-6 критичних моментах під час однієї атаки, навіть попри те, що система помилялася: вигадувала або спотворювала інформацію. Команді людей знадобилося б значно більше часу, кажуть у Anthropic.

Щоб краще оцінити історію та її наслідки, Фокус звернувся до Євгена Поремчука, офіцера Сил Оборони України, фахівця з кібербезпеки, дослідника впливу штучного інтелекту на сучасні кіберзагрози. За його словами, атаки за участю ШІ виділяються масштабом, швидкістю і скрупульозністю.

"Агент ШІ може паралельно "вести" десятки цілей 24/7, автоматизуючи рутину: сканування, перебір паролів, аналіз логів (журналів подій), експлуатацію вразливостей, "закріплення" на цілі та отримання інформації. У випадку з китайськими хакерами, Claude Code фактично взяв на себе більшу частину операції: від розвідки до вибору даних для крадіжки та навіть розрахунку суми викупу", — зазначив військовий.

Якщо людину-хакера можна найняти, пообіцявши гроші або інші цінності, то з штучним інтелектом такий підхід не спрацює. Відомі нині комерційні моделі мають обмеження, закладені розробниками: табуйовані теми, які не можна обговорювати, або завдання, які не можна виконувати.

Випадок з Claude, показує, що можна знайти способи, аби цей захист обійти, але це теж потребує чималих зусиль і креативності. Наприклад, нещодавнє дослідження групи з безпеки штучного інтелекту DEXAI і Римського університету Ла Сапієнца показали, що деякі розвинені моделі ШІ можна обдурити за допомогою віршів і отримати від них інструкцію зі створення ядерної зброї.

Штучний інтелект — нова зброя

Цього разу прокитайські хакери використали систему американської компанії Anthropic, яка має вбудовані механізми захисту від шкідливої поведінки, однак не виключено, що наступного разу Китай застосує свою вітчизняну модель DeepSeek або ж створить штучний інтелект, спеціально призначений для проведення кібератак.

Як каже Євген Поремчук, технічно таку кіберзброю створити цілком реально, і бар'єр для входження лише падає з розвитком галузі. Держава може навчити модель ШІ виконувати задачі активних наступальних операцій у кібердомені: автоматизація сканування, експлуатації, роботи з інфраструктурою ботнетів тощо. Однак такі дії можуть порушити міжнародне право і призвести до серйозних політичних наслідків.

Україна або Росія може використати технологію проти ворога під час війни, наприклад як елемент вже активних кібероперацій. ШІ-агенти можуть прискорити пошук вразливостей у промислових системах, автоматизувати аналіз конфігурацій, підбір сценаріїв атак на енергетику, зв’язок, логістику тощо.

"Володіння ефективною кіберзброєю, може стати не менш важливою "червоною кнопкою", ніж ядерна зброя, і вагомим аргументом на міждержавних переговорах. І я сподіваюсь, що саме Україна вийде країною-переможцем у гонитві "ШІ-озброєння"", — зазначив фахівець.

Захист від атак ШІ

Повністю попередити кібератаки неможливо, однак розробники здатні сильно ускладнити зловживання. Anthropic, наприклад, уже ввів окремі класифікатори для виявлення шкідливих сценаріїв, блокує акаунти та ділиться індикаторами компрометації з партнерами. Проблема в тому, що завжди є "джейлбрейки", обхідні формулювання, а також моделі з відкритим доступом, де ніхто не встановлює цензуру.

Враховуючи, що хакерські атаки будуть тільки масштабуватись то і державі, і бізнесу потрібно перейти від "пасивної кібербезпеки" до моделі постійного активного захисту, вважає офіцер ЗСУ. Для захисту державних установ він порекомендував наступне:

• впровадити національні стандарти на базі ISO 27001 / NIST CSF для держорганів та критичної інфраструктури;
• впровадити централізовану систему управління вразливостями: державний реєстр активів, обов’язкові CVE-сканування, контроль конфігурацій;
• впровадити національні платформи моніторингу, здатні аналізувати трафік, логи та аномалії із використанням власних моделей ШІ;
• використовувати автоматизований Red Team at Scale (імітації хакерських атак) для держсектору — регулярні перевірки на проникнення. платформи на кшталт Stratex Vector, Acunetix, Tenable Nessus, OpenVAS можуть стати незамінними помічниками.

В Україні це питання непогано вирішуються завдяки Команді реагування на комп'ютерні надзвичайні події України (Computer Emergency Response Team of Ukraine, абр. CERT-UA). Крім того, фахівці впроваджують стандарти та чек-листи перевірки кібербезпеки для органів влади.

Для захисту бізнесу потрібні інші шляхи. Євген запропонував наступні ключові кроки:

• створити інвентар цифрових активів: неможливо захистити те, що забули;
• регулярні автоматизовані сканування за моделлю "як бачить вас хакер". Конкретніше, платформи на кшталт Stratex Vector/Acunetix/Tenable Nessus/OpenVAS можуть стати незамінними помічниками.
• технічна сегментація мережі — максимум ізолювати критичні частини бізнесу.
• Моніторинг аномалій з ШІ-аналізом, який бачить поведінкові патерни, а не тільки сигнатури.
• впровадити політику Zero Trust: жодних "довірених" зон, усі запити перевіряються.
• гігієна доступів: MFA, контроль привілеїв, регулярне видалення "мертвих" акаунтів.
• план відновлення після інцидентів, який реально тестують, а не тримають у PDF.

Що буде, якщо ШІ вийде з-під контролю?

На думку Євгена Поремчука, "повстання машин", як у фільмі "Термінатор", навряд чи відбудеться у реальності. Скоріше, станеться некерована ескалація: агент, який масово експлуатує вразливості без чітких обмежень по цілях, може зачепити лікарні, рятувальні служби, цивільну інфраструктуру, розсилає листи тощо. Також зростає ризик помилкової атрибуції та політичної кризи.

"ШІ наробить дурниць (наприклад уявить себе агентом спецслужби однієї з країн, придумає собі країну-ворога і нагенерує завдань спрямованих на дискредитацію цієї країни, а відповідь прилетить уже по державі, яку вважатимуть винною. Приблизно так бачу можливий негативний сценарій роботи ШІ-агента, що збожеволів. Насправді, якщо дуже хочеться похвилюватись на цю тему, то рекомендую подумати над тим, що ШІ моделі інтегрують у бойові дрони", — підсумував фахівець.

Раніше стало відомо, що Україна створить власний ШІ. Як заявив віцепрем'єр-міністр Михайло Федоров, українські розробники отримають доступ до спеціалізованого програмного забезпечення завдяки співпраці з американською компанією NVIDIA.

Писали також, що штучний інтелект готовий вбивати людей заради власних інтересів. Компанія Anthropic провела дослідження серед 16 моделей, включно з власною Claude.