Хакеры РФ атакуют Украину вредоносным ПО с использованием ИИ: как это работает
Специалисты по кибербезопасности обнаружили, что группа российских хакеров APT28 использует против Украины новое вредоносное программное обеспечение, которое получило название PromptSteal.
Использование PromptSteal группой APT28 стало первым зафиксированным случаем применения вредоносного программного обеспечения, которое эксплуатирует большие языковые модели (LLM), в реальных операциях. Об этом говорится в новом отчете Google Threat Intelligence Group (GTIG).
Как объясняют эксперты, PromptSteal применяет LLM для генерации команд для выполнения вредоносным программным обеспечением, а не жестко кодирует команды непосредственно в самом программном обеспечении.
PromptSteal маскируется под программу "генерации изображений", которая ведет пользователя через серию подсказок для генерации изображений, одновременно запрашивая API Hugging Face для генерации команд для выполнения в фоновом режиме.
Исследователи предполагают, что PromptSteal использует похищенные токены API для запросов к Hugging Face API. Программа конкретно запрашивает LLM о выводе команд для генерации системной информации, а также для копирования документов в указанный каталог. Выходные данные этих команд затем слепо выполняются локально PromptSteal перед утечкой выходных данных.
"Хотя PromptSteal, вероятно, все еще находится на стадии исследований и разработок, этот тип метода обфускации является ранним и значительным показателем того, как злоумышленники, вероятно, дополнят свои кампании с помощью искусственного интеллекта в будущем", — отметили в GTIG.
Напомним, новое семейство вредоносных программ EvilAI сочетает код, сгенерированный ИИ, с традиционными методами троянских атак, сохраняя при этом беспрецедентный уровень скрытности.
Фокус также сообщал, что хакеры используют искусственный интеллект для взлома облачных хранилищ, прибегая к социальной инженерии на основе дипфейков.