Хакеры взяли ИИ в оборот: количество спама увеличилось на 135% и он стал "умнее"

По данным исследователей из Darktrace, новые хакерские атаки с использованием социальной инженерии выросли на 135%, после того, как чат-боты, нейросети и прочие инструменты на основе ИИ стали доступны всем желающим, сообщает ITPro. По данным экспертов, более 85% компаний обеспокоены, что их сотрудники будут открывать письма со спамом, воспринимая послания в них, за сообщения реальных людей.

Массовость ИИ как причина проблемы

Дело в том, что хакеры активно стали использовать социальные навыки и лингвистические модели ИИ, который очень хорош в написании доверительных текстов. Используя социальную инженерию с помощью нейросетей можно составить вполне правдоподобное письмо с вредоносной ссылкой, кардинально отличающееся от грубых и прямолинейных посланий "в лоб", которые пользователи сразу удаляют.

Причем в Darktrace, которая занимается кибербезопасностью, провели анализ по временной шкале и выяснили, что активность внедрения в массы инструментов типа ChatGPT четко соответствовало увеличению попыток фишинга через спам.

В чем особенность спама от ИИ

Эксперты отмечают, что новые атаки социальной инженерии используют "сложные лингвистические методы", которые, по утверждению компании Darktrace, включают в себя увеличение объема текста, длину предложений и сложную пунктуацию в электронных письмах. Кроме того, тексты стали "умнее", более "живыми" и почти неотличимы от тех, которые пишут обычные люди.

Это очень важный фактор, говорят киберспециалисты, ведь 61% клиентов их услуг всегда обращают внимание на использование орфографии и грамматики в полученных электронных письмах.

"Мы стали сталкиваться с изощренными генеративными атаками ИИ и совершенно новыми видами мошенничества, использующими методы, которые мы никогда раньше не видели", — заявил Макс Хайнемайер, директор по продуктам Darktrace.

По результатам опроса компании среди своих клиентов оказалось, что 30% сотрудников в прошлом попадались на мошеннические электронные письма или текстовые сообщения сгенерированные ИИ.

Где самое слабое звено

В компании Darktrace отмечают, что главным источником угрозы по-прежнему являются зловредные ссылки и вложения в спам. Одним из наиболее распространенных способов установки вредоносного ПО на компьютер жертвы является встраивание вредоносного кода в документ Microsoft Office, например файл Excel.

Недавно корпорация Microsoft приняла ряд мер, призванных свести к минимуму злоупотребление ее программным обеспечением при фишинговых атаках. В частности, в прошлом были отключены макросы VBA — компонент, который способствовал автоматической загрузке вредоносных программ через поддельные документы Office.

Кроме того, Microsoft приняла решение блокировать электронные письма, отправляемые с потенциально уязвимых серверов Exchange. Именно они в течение многих лет использовались хакерами для запуска очень убедительных фишинговых кампаний по электронной почте.

Пользователи приветствовали такое решение, но упрекнули Microsoft в том, что отключить макросы надо было много лет назад, когда общественность призывала к таким действием ИТ-гиганта. Тогда удалось бы избежать бесчисленного количества атак, которые годами наносили огромный урон бизнесу.

Ранее Фокус писал о главном хакере Путина и ГРУ РФ и рассказал, кто стоит за атаками на Украину и возглавляет Sandworm.