Ищут военных РФ, а пострадать могут мирные люди: эксперты раскрыли угрозы ИИ в Украине

В марте компания Clearview AI передала правительству Украины технологию для распознавания лиц, с помощь которой сейчас определяют российских военных. Эксперты рассказали BBC об изъянах и потенциальной опасности для мирных граждан.

Разработчики Clearview создали базу данных из миллиардов фотографий, собранных из Facebook, Twitter, "ВКонтакте" и других социальных сетей, а искусственный интеллект использует эти изображения для поиска людей по лицам. Проект давно обвиняют в неэтичности сбора персональных данных, в частности, Facebook, YouTube, Google и Twitter требовали прекратить сбор фото с их сайтов. Дошло до того, что в 2021 году Управление комиссара по информации Великобритании оштрафовало Clearview за то, что та не сообщала британцам об использовании их фотографий.

Несмотря на вопросы к этичности, по словам основателя Clearview Хоан Тон-Дата, технологией пользуются уже 3200 правительственных органов по всему миру, в том числе в США. Кроме того, ИИ для своих исследований использует известная журналистская группа Bellingcat. Когда российские войска вторглись в Украину, Clearview предложила свои услуги украинцам.

"Мы увидели снимки пленных и беженцев и подумали, что потенциально это может стать полезной технологией для идентификации и верификации", — рассказал Хоан Тон-Дат.

Директор по исследованиям Bellingcat Арик Толер заявил, что в Украине система распознавания используются шире, чем в каком-либо другом конфликте, она особенно помогает при установлении личностей погибших военных ВС РФ.

Преимущество "умной" технологии заключается в том, что цель может даже не иметь аккаунта и никогда не заходить в социальные сети — их лица все равно находят на фотографиях с другими людьми: женами, друзьями, родственниками или сослуживцами. Никто не застрахован от того, чтобы его случайно сфотографировали на улице или каком-то мероприятии, поэтому даже военнослужащие и сотрудники спецслужб попадают в базу данных.

Технологию используют не только для опознавания погибших, но и для идентификации людей на контрольно-пропускных пунктах в Украине, чтобы определять российских военных и потенциальных диверсантов. BBC получило от Clearview письмо от сотрудника одного из правительственных органов, который подтвердил применение системы для определения личностей живых людей. По его словам, с помощью ИИ уже проверили более тысячи человек.

"Система дала нам возможность быстро подтвердить верность данных о задержанных подозреваемых", — сообщил чиновник, пожелавший остаться анонимным.

Эксперт по распознаванию лиц Конор Хили опасается, что несовершенство технологии распознавания лиц могут привести к роковым ошибкам, ведь во время войны от вердикта ИИ зависит жизнь человека. К примеру, если мирный житель по нелепой случайности не пройдет проверку или будет принят за другого, его могут отправить в тюрьму или даже убить.

"Это катастрофа в области прав человека. Когда технология распознавания лиц допускает ошибки в мирное время, людей ошибочно арестовывают. Когда распознавание лиц срабатывает с ошибкой в зоне боевых действий, могут расстрелять невинных людей", — добавил Альберт Фокс Кан.

Как уверяет Хоан Тон-Дат, точность Clearview AI составляет более 90%, но признает вероятность ошибки. Результат сильно зависит от качества фотографии, положения головы, открытости лица.

Еще один повод для опасения экспертов — сбор пользовательских данных. По словам Конора Хили, многие технологии, появившиеся в военное время, продолжали использовать после наступления мира. Неизвестно, откажутся ли украинские власти от услуг Clearview в мирное время.

"Я надеюсь, они не пойдут таким путем", — отметил Конор Хили.

Ранее стало известно, что в Украине создали приложение для проверки людей под названием "ТиХто". Оно позволяет военным и территориальной обороне на блокпостах определять связи человека с ДРГ или криминалом.

Недавно вице-премьер Михаил Федоров заявил, что IT-армия выяснила, куда военные РФ отправили украденные вещи украинцев. Искусственный интеллект уже определи 15 служб доставки, которыми воспользовались оккупанты, побывавшие на территории Киевской, Сумской и Черниговской областей.