"Это только начало": в Google обнаружили хакерскую атаку нулевого дня с использованием ИИ
Исследователи компании Google заявили, что впервые обнаружили хакеров, которые используют искусственный интеллект для обнаружения неизвестной ошибки. Попытка хакерской атаки, которая была предотвращена, по словам экспертов, представляет собой “первые признаки того, что нас ждет в будущем”.
Компания Google обеспокоена кибератакой, в ходе которой с помощью ИИ была обнаружена серьезная уязвимость в программном обеспечении компании, о которой разработчики даже не подозревали. Исследователи из Google Threat Intelligence Group заявили, что хакеры использовали ИИ для создания инструмента взлома, способного обходить двухфакторную аутентификацию инструмента для администрирования компьютерных систем, пишет Futurism.
Согласно заявлению экспертов по кибербезопасности из Google, им удалось предотвратить масштабную хакерскую атаку. Не уточняется, кто именно стоял за хакерской атакой и когда она произошла. Исследователи говорят, что это случилось "недавно". В то же время эксперты утверждают, что хакеры использовал модель ИИ для обнаружения уязвимости в программном обеспечении и использования этой уязвимости в качестве оружия. Но какое именно программное обеспечение пытались взломать хакеры не сообщается, также не называется модель ИИ. Исследователи говорят, что это не была модель Claude Mythos от Anthropic или же Gemini от Google.
В компании Google заявили, что хакеры использовали ИИ для выявления уязвимости нулевого дня. Это недостаток в программном обеспечении, который ранее не был известен его разработчикам. При использовании уязвимостей разработчики оказываются в невыгодном положении, поскольку хакеры могут сеять хаос, пока специалисты по кибербезопасности не найдут способ устранить уязвимость.
В данном случае, уязвимость нулевого дня позволила бы хакерам обойти двухфакторную аутентификацию в неназванном "популярном веб-инструменте администрирования систем с открытым исходным кодом", но только если бы хакеры знали имя пользователя и пароль. Учитывая, что двухфакторная аутентификация является последней значимой линией защиты для большинства пользователей, возможность обойти ее могла бы иметь катастрофические последствия.
Исследователи заявили, что они впервые обнаружили хакеров, которые использовали ИИ для выявления уязвимости нулевого дня. Эксперты по кибербезопасности говорят, что это "первые признаки того, что нас ждет в будущем".
Эта хакерская атака может усилить беспокойство по поводу последствий разработки моделей ИИ для кибербезопасности, особенно после выпуска модели Claude Mythos в апреле этого года. Компания Anthropic утверждала, что эта модель ИИ может обнаруживать уязвимости нулевого дня "в каждой операционной системе и каждом веб-браузере по указанию пользователя". Это очень опасная возможность и она уже вызвала тревогу и экспертов по кибербезопасности.
Угроза для кибербезопасности от ИИ исходит от постоянно совершенствующейся способности искусственного интеллекта писать и анализировать код. Как и текст, написанный с помощью ИИ, код ИИ имеет свои отличительные черты. Исследователи из Google обнаружили, что вредоносное ПО хакеров содержало множество аннотаций, поясняющих его код.
Как уже писал Фокус, исследователи выяснили, что ИИ может создавать себя сам на других компьютерах. И это очень опасно.