Хакери опанували ШІ: кількість спаму збільшилася на 135% і він став "розумнішим"

За даними дослідників з Darktrace, нові атаки хакерів з використанням соціальної інженерії зросли на 135%, після того, як чат-боти, нейромережі та інші інструменти на основі ШІ стали доступні всім охочим, повідомляє ITPro. За даними експертів, понад 85% компаній стурбовані, що їхні співробітники відкриватимуть листи зі спамом, сприймаючи послання до них, за повідомлення реальних людей.

Масовість ШІ як причина проблеми

Річ у тому, що хакери активно стали використовувати соціальні навички та лінгвістичні моделі ШІ, який дуже добре знається на написанні довірчих текстів. Використовуючи соціальну інженерію за допомогою нейромереж можна скласти цілком правдоподібний лист зі шкідливим посиланням, що кардинально відрізняється від грубих і прямолінійних послань "в лоба", які користувачі відразу видаляють.

Причому в Darktrace, яка займається кібербезпекою, провели аналіз за шкалою часу і з'ясували, що активність впровадження багатьох інструментів типу ChatGPT чітко відповідала збільшенню спроб фішингу через спам.

У чому особливість спаму від ШІ

Експерти зазначають, що нові атаки соціальної інженерії використовують "складні лінгвістичні методи", які, за твердженням компанії Darktrace, включають збільшення обсягу тексту, довжину пропозицій і складну пунктуацію в електронних листах. Крім того, тексти стали "розумнішими", "живими" і майже не відрізняються від тих, які пишуть звичайні люди.

Це дуже важливий чинник, кажуть кіберфахівці, адже 61% клієнтів їхніх послуг завжди звертають увагу на використання орфографії та граматики в отриманих електронних листах.

"Ми стали стикатися з витонченими генеративними атаками ШІ та абсолютно новими видами шахрайства, які використовують методи, які ми ніколи раніше не бачили", — заявив Макс Хайнемайєр, директор з продуктів Darktrace.

За результатами опитування компанії серед своїх клієнтів виявилося, що 30% співробітників у минулому ловилися на шахрайські електронні листи або текстові повідомлення, що згенерував ШІ.

Де найслабша ланка

У компанії Darktrace зазначають, що головним джерелом загрози, як і раніше, є шкідливі посилання та вкладення в спам. Одним із найбільш поширених способів встановлення шкідливого програмного забезпечення на комп'ютер жертви є вбудовування шкідливого коду в документ Microsoft Office, наприклад файл Excel.

Нещодавно корпорація Microsoft вжила низку заходів, покликаних мінімізувати зловживання її програмним забезпеченням для фішингових атак. Зокрема, було відключено макроси VBA — компоненти, що сприяли автоматичному завантаженню шкідливих програм через підроблені документи Office.

Крім того, Microsoft вирішила блокувати електронні листи, що надсилаються з потенційно вразливих серверів Exchange. Саме вони протягом багатьох років використовувалися хакерами для запуску дуже переконливих фішингових кампаній електронною поштою.

Користувачі оцінили таке рішення, але дорікнули Microsoft, що відключити макроси треба було багато років тому, коли громадськість закликала до такої дії ІТ-гіганта. Тоді вдалося б уникнути незліченної кількості атак, які роками завдавали величезної шкоди бізнесу.

Раніше Фокус писав про головного хакера Путіна та ГРУ РФ і розповів, хто стоїть за атаками на Україну та очолює Sandworm.