Большой брат промахнулся. Как специалисты по кибербезопасности обманули систему распознавания лиц

  • Ксения Коваленко

Эксперты провели эксперимент с алгоритмом распознавания лиц и нашли серьезную уязвимость. Оказалось, что украсть чужое лицо сложно, но возможно.

Команда исследователей из компании McAfee, специализирующейся на кибербезопасности, смогла обмануть систему распознавания лиц, показав ее потенциальную уязвимость. Об этом сообщает MIT Technology Review.

Специалисты в ходе эксперимента атаковали систему, аналогичную тем, что работает в аэропортах для проверки паспортов. Используя машинное обучение, исследователи создали фотографию, которая для человека и алгоритма распознавания лиц выглядела по-разному. Такая уязвимость, по словам авторов исследования, позволит например, садиться на рейс людям, которых нет в списке пассажиром или тем, кому запрещено покидать ту или иную страну.

"Мы можем неоднократно провоцировать ошибку в распознавании лиц как в режиме реального времени, когда человек подходит к камере, так и в случае с проверкой фото на паспорте", – говорит руководитель исследования Стив Повольны.

Для того, чтобы ввести алгоритм в заблуждение, исследователи использовали другой алгоритм, который помогает преобразовывать изображения, известный как CycleGAN. Например, программа может сделать обычное фото похожим на рисунок Моне или снимок с летним пейзажем превратить в зимний.

Команда McAfee взяла 1500 фотографий двух разных людей и загрузила в CycleGAN, чтобы преобразовать их друг в друга. После обработки сотен изображений эксперты получили поддельное фото, которое для человеческого глаза выглядело как человек А, но для системы распознавания лиц, как человек В.

В это же время, исследователи отмечают, что не экспериментировали с реальной системой, которую используют аэропорты для идентификации пассажиров. Вместо этого, специалисты работали с максимально похожим алгоритмом с открытым исходным кодом.

"Я думаю, что злоумышленникам будет крайне тяжело получить доступ непосредственно к самой системе, используемой в аэропортах", – отмечает Повольный.

Но он также считает, что учитывая большое сходство алгоритмов распознавания лиц, вероятно, атака может сработать и на реальной системе аэропортов. Исследователи также подчеркивают, что подобная атака требует много времени и ресурсов. CycleGAN нуждается в мощных компьютерах, а также специфических навыках.

Системы распознавания лиц и автоматизированный паспортный контроль все чаще используется для обеспечения безопасности аэропортов по всему миру. Внедрение технологии лишь ускорила пандемия коронавируса из-за стремления к социальной дистанции. Технология также широко используется правительствами и корпорациями в областях, связанных с вопросами безопасности.

Кроме этого, последние исследования также показали, что ношение масок делает работу системы распознавания лиц практически невозможной.

"Искусственный интеллект и распознавание лиц – невероятно мощные инструменты, помогающие в процессе идентификации и авторизации людей. Но когда вы просто берете систему и слепо заменяете ей все остальные, включая человека, вы лишь увеличиваете риски", – подытожил эксперт.