За допомогою ШІ ворог може "отруїти" дані у військових системах: експерт розповів як

Фахівець з кібербезпеки Джош Ласпіносо, чий стартап свого часу купили компанії Raytheon і Forcepoint, виступив із доповіддю перед підкомітетом Сенату збройних сил, повідомляє Defense News. Там він розповідав про можливості штучного інтелекту у захисті військових даних та про небезпеки, що несуть ворожі нейромережі.

У своєму виступі він звернув особливу увагу на дві основні загрози, які безпосередньо пов'язані з інструментами ШІ: одна — крадіжка даних, а друга — отруєння даних. Під першим аспектом експерт має на увазі використання нейромереж як потужного помічника в написанні шкідливого коду, що дозволить підвищити кількість кібератак на американську військову інфраструктуру. У разі сучасного протистояння держав саме хакерські атаки виходять перший план. Втім, ШІ в умілих руках може допомогти та протистояти таким атакам.

Другий момент цікавіший. "Отруєння" даних передбачає змішування брехні та правди на основі реальної інформації, яка може вкидатися в системи навчання штучного інтелекту.

Як приклад Джош навів приклад із чат-ботом Tay від Microsoft, який компанія запустила кілька років тому ще до буму з ChatGPT. Бот був розміщений у твіттері й збирав дані з усієї соцмережі, видаючи на їх основі свої власні "повідомлення". Зловмисники та різні тролінг-угруповання змовившись стали "закидати" соцмережу образливими та неправдивими матеріалами, і в результаті чат-бот Tay став видавати все це у своїх твітах. Microsoft дуже швидко закрила проєкт.

Ласпіносо каже, що так само щодо мовних моделей, які збирають інформацію через весь інтернет, можуть діяти ворожі держави, закидаючи неправдивою інформацією інтернет і до цього потрібно поставитися дуже серйозно. Кібербезпека та протистояння пропаганді – два основні аспекти комп'ютерних воєн майбутнього, підсумовує експерт.

Раніше Фокус розповідав, що українські хакери з ГУР зламали оборонний завод в Іжевську.