Большой брат все видит. Как работает технология распознавания лиц и чем она опасна

Журналист BBC Джон Садворт в 2017 году решил проверить эффективность работы систем слежения, используемых в Китае. Мужчина попытался понять, как быстро его обнаружат правоохранительные органы, если добавить фотографию в полицейскую базу данных. С момента появления Садворта на улицах города Гуйян прошло семь минут, прежде чем к нему подошли полицейские.

В июне 2020-го полиция Детройта арестовала местного жителя Роберта Уильямса. Афроамериканец более суток провел в полицейском участке, когда стало понятно, что его арест — результат ошибки системы распознавания лиц Rank One. Система решила, что Уильямс — магазинный вор, поэтому полицейские задержали его, даже несмотря на железное алиби. История стала первым случаем ареста из-за ошибки в работе системы распознавания лиц.

Эти два случая наглядно демонстрируют и эффективность, и проблемы технологии распознавания лиц (facial recognition). Главная задача инструмента — узнать, кто изображен на фотографии или видео. Его применяют для разных задач — от поиска опасного преступника или ограничения доступа на военный объект до разблокирования смартфона или запуска приложения. Технология распознавания не защищена от ошибок, актуальны и вопросы законности ее использования как инструмента, нарушающего право человека на приватность.

Как это работает

В процессе распознавания лиц система анализирует фото человека и находит отличительные особенности лица, которые преобразует в цифровой отпечаток. Система сравнивает его с другими отпечатками и при многих совпадениях "узнает" человека. Часто для эффективного распознавания системы применяют нейронные сети, которые "обучают" на большом количестве фотографий, чтобы в дальнейшем "узнавать" на них людей. Чем больше фотографий проанализировала нейронная сеть, тем точнее будет работать и лучше распознавать людей на снимках.

Распознавание лиц используют для идентификации (определения) и верификации (подтверждения) личности. Например, технология позволяет разблокировать смартфон с помощью Face ID (скан-копии лица). Все больше банков разрешают проводить оплату по "селфи"-снимку, например, ПриватБанк запустил метод оплаты FacePay. Facebook планирует запустить разблокирование доступа в Messenger на основе Face ID.

Кроме того, такие разработки помогают бороться с преступностью, упрощают организацию доступа на режимные объекты. Интерес к распознаванию проявляют ритейлеры и маркетологи. Во многих городах мира используют системы видеомониторинга с функциями распознавания лиц и номеров автомобилей для контроля происходящего на улицах и борьбы с преступностью.

В Украине реализуется система "Безопасный город", позволяющая наблюдать за происходящим на дорогах, а также мониторить деятельность коммунальных служб, полиции и ГСЧС. Такая система работает в Киеве, Львове, Днепре и других городах. Ее разработчик, компания "Датагруп", отмечает, что камеры, подключенные к системе, оснащены функцией распознавания лиц.

Технологию активно используют для поиска не только преступников, но и участников акций протеста. Например, в марте этого года в Индии полицейские арестовали более 1 тыс. человек, которые, предположительно, участвовали в антиправительственных выступлениях в Нью-Дели.

Китай — один из лидеров в массовом применении технологий распознавания лиц. Там систему также используют для выявления неугодных режиму людей. Кроме того, планируется, что китайская система социального рейтинга уже в текущем году будет интегрирована с технологиями распознавания лиц.

Технологию в 2019 году во время протестов в Гонконге использовала власть. Это вызвало ответную реакцию протестующих: они применяли лазеры, "ослепляя" камеры наблюдения, иногда просто уничтожали их.

Дьявол в деталях

В начале 2020 года после нескольких публикаций под названием "Секретная компания, которая может покончить с конфиденциальностью, какой мы ее знаем" технологическое сообщество, государственные регуляторы и правозащитники обратили внимание на компанию Clearview AI. Ее главная разработка умеет распознавать лица людей на основе базы фотографий, сформированной из открытых источников — социальных сетей вроде Facebook, Instagram, YouTube и Twitter. В базе данных Clearview AI находится до 3 млрд фотографий. Журналисты обнаружили, что компания продает свою технологию правоохранительным органам разных стран, прежде всего США, а также правительствам Саудовской Аравии и Объединенных Арабских Эмиратов. Всего технологии Clearview AI использовали более 2 тыс. правительственных структур и частных компаний из 27 стран мира.

Крупные интернет-компании, среди которых LinkedIn, Twitter, Facebook, Venmo, Google, потребовали от Clearview AI прекратить свою деятельность, подчеркивая, что в пользовательских соглашениях некоторых из них, в частности у Twitter, содержится явный запрет на использование контента этих платформ с целью распознавания лиц. Тогда же компания Apple запретила доступ Clearview AI к учетной записи разработчика, тоже из-за нарушений условий ее использования.

Пригодится. Технологию используют не только силовики, но и частный бизнес

К запретам и ограничениям присоединились отдельные штаты и города, к примеру, прокурор Нью-Джерси приказал запретить использование инструментов Clearview AI. Против компании подали несколько судебных исков — от жителя Иллинойса, где действует закон о конфиденциальности биометрической информации, и от Американского союза гражданских свобод. Компания в свою очередь ограничилась заявлением, что технологию будет продавать только полиции. Однако после этого ее разработки стали запрещать для использования в ряде стран, в частности Канаде и Австралии.

Важно

"Дія" діє. Как защититься от утечек персональных данных

Разработки компании Clearview AI стали наиболее наглядной демонстрацией отсутствия регулирования в работе систем распознавания лиц. До появления Clearview AI американские полицейские были ограничены в использовании фотографий только из полицейской базы. Clearview AI предоставила им для анализа самую большую из существующих в мире баз фотографий, причем сделала это, не запрашивая разрешения ни у людей на фото, ни у платформ, хранивших эти снимки.

Такая бесцеремонность актуализировала разговоры о необходимости регулирования этой сферы.

Отказ и ограничения

Дискуссии о применении полицией систем распознавания ведут давно. Технологии facial recognition иногда работают неверно, причем исследования показывают, что алгоритмы ошибаются при попытке распознать фотографии представителей разных рас. Анализ алгоритмов распознавания, проведенный экспертами из Массачусетского технологического института, показал, что при распознавании снимков с белыми женщинами алгоритм ошибается один раз на 10 тыс. попыток, при анализе снимков чернокожих женщин — один раз на 1 тыс. попыток, то есть в 10 раз чаще.

Высокая цена ошибок в распознавании, скандал вокруг Clearview AI и протесты в США, вызванные садистскими выходками полицейских, вновь подстегнули интерес к теме применения технологий facial recognition. Инициаторами изменений в этот раз стали американские техногиганты, которые отказались продавать свои разработки в этой сфере правоохранительным органам, чтобы не допустить злоупотреблений. Первой такое решение озвучила компания IBM, к ней присоединились Amazon и Microsoft, подчеркнув, что приостанавливают продажи технологии до тех пор, пока не будет принят закон, регулирующий ее использование.

Ограничения в применении технологии facial recognition с начала 2020 года действуют в Сан-Франциско по причине возможного нарушения гражданских прав. Запрет действует везде, кроме международного аэропорта и порта, а также он не касается систем видеонаблюдения частных компаний.

Несколько американских штатов сейчас рассматривают возможность такого запрета. Введение моратория на технологию рассматривают и власти ЕС, предлагая ограничить ее использование до тех пор, пока не будут разработаны нормы, которые смогут защитить частную жизнь граждан от возможных злоупотреблений распорядителей систем наблюдения.

Будущее

Участники рынка говорят о необходимости защиты самих систем от доступа к ним злоумышленников.

Вадим Сидоренко, основатель и СЕО украинского стартапа ОМО, провайдера услуг "умного дома" и интернета вещей, считает, что основные риски в использовании этой технологии связаны с этическим аспектом. "Если правительство сможет отслеживать преступников, то сможет фиксировать и передвижения любого человека. Вероятность стать объектом слежки как раз и беспокоит людей. Второй минус — риск взлома. Технология распознавания лиц генерирует огромные объемы данных. В случае их утечки они могут оказаться в руках злоумышленников", — говорит эксперт.

Роман Меркулов, проект-менеджер компании K-Systems, отмечает, что вопрос утечки данных к злоумышленникам зависит от квалификации IT-департаментов предприятия и уровня кибербезопасности сети, в которой эта система находится. "Современные системы распознавания лиц позволяют хранить фото человека отдельно от информации, которая может его идентифицировать. На каждом этапе передачи данных система позволяет шифровать передаваемую информацию. Даже если злоумышленникам удастся перехватить ее, они не получат ничего, кроме набора цифр", — уверяет Меркулов.

Хотя развитие технологий распознавания сегодня балансирует между массовым нерегулируемым использованием и попытками его ограничения, очевидно, что полностью отказаться от facial recognition ни бизнес, ни общество уже не смогут. Поиск компромисса в том, как использовать распознавание во благо всех участников этого процесса — и наблюдателей, и наблюдаемых, еще продолжается. Между тем технология facial recognition становится частью нашей повседневной жизни.

Владислав Пилипака из компании "Видимост" отмечает, что камеры наблюдения популярных производителей уже умеют определять пересечение периметра объекта, находить потерянные предметы, реагировать на звуки, следить за людьми, в том числе отслеживать бездействие сотрудников компании. "Наибольшую популярность сегодня набирает распознавание номерных знаков автомобилей и лиц, именно на этих технологиях создают современные проекты безопасного города и корпоративного сегмента", — говорит Пилипака.

По словам Романа Меркулова, сегодня основной заказчик таких систем в Украине — корпоративный сектор. Эти решения используют для создания бесконтактных систем контроля доступа и систем учета рабочего времени. Вадим Сидоренко называет еще одно положительное качество таких систем: технологии распознавания лиц помогут при поиске пропавших без вести.

Пандемия коронавируса может дать толчок технологиям распознавания, которые будут применять не только для контроля доступа, но еще и, например, для удаленного измерения температуры или контроля за соблюдением социальной дистанции. Остановить развитие и применение facial recognition-решений вряд ли удастся. Обществу остается только свыкнуться с мыслью о том, что камеры на улицах городов способны "узнавать" людей. Главная задача — обеспечить контроль за этим процессом, в том числе законодательный, чтобы не превратить такие системы в инструмент массовой слежки, который будут использовать не во благо людям.

Важно

Полигон для хакеров. Как Украине защитить свое киберпространство и данные граждан