Шукають військових РФ, а постраждати можуть мирні люди: експерти розкрили загрози ШІ в Україні

У березні компанія Clearview AI передала уряду України технологію для розпізнавання облич, за допомогою якої зараз розпізнають російських військових. Експерти розповіли BBC про недоліки та потенційну небезпеку для мирних громадян.

Розробники Clearview створили базу даних із мільярдів фотографій, зібраних із Facebook, Twitter, "ВКонтакте" та інших соціальних мереж, а штучний інтелект використовує ці зображення для пошуку людей за обличчями. Проєкт давно звинувачують у неетичності збору персональних даних, зокрема Facebook, YouTube, Google та Twitter вимагали припинити збір фото з їхніх сайтів. Дійшло до того, що у 2021 році Управління комісара з інформації Великобританії оштрафувало Clearview за те, що та не повідомляла британців про використання їхніх фотографій.

Попри питання етичності, за словами засновника Clearview Хоан Тон-Дата, технологією користуються вже 3200 урядових органів у всьому світі, зокрема США. Крім того, ШІ для своїх досліджень використовує відома журналістська група Bellingcat. Коли російські війська вдерлися до України, Clearview запропонувала свої послуги українцям.

"Ми побачили знімки полонених та біженців та подумали, що потенційно це може стати корисною технологією для ідентифікації та верифікації", — розповів Хоан Тон-Дат.

Директор з досліджень Bellingcat Арік Толер заявив, що в Україні систему розпізнавання використовують ширше, ніж у будь-якому іншому конфлікті, вона особливо допомагає встановити особистості загиблих військових ЗС РФ.

Перевага "розумної" технології полягає в тому, що ціль може навіть не мати облікового запису і ніколи не заходити в соціальні мережі — їхні особи все одно знаходять на фотографіях з іншими людьми: дружинами, друзями, родичами чи товаришами зі служби. Ніхто не застрахований від того, щоб його випадково сфотографували на вулиці або на якомусь заході, тому навіть військовослужбовці та співробітники спецслужб потрапляють до бази даних.

Технологію використовують не лише для розпізнавання загиблих, а й для ідентифікації людей на контрольно-пропускних пунктах в Україні, щоб визначати російських військових та потенційних диверсантів. BBC отримало від Clearview листа від співробітника одного з урядових органів, який підтвердив застосування системи для визначення особистостей живих людей. За його словами, за допомогою ШІ вже перевірили понад тисячу людей.

"Система дала нам можливість швидко підтвердити правдивість даних про затриманих підозрюваних", — повідомив чиновник, який побажав залишитися анонімним.

Експерт із розпізнавання осіб Конор Гілі побоюється, що недосконалість технології розпізнавання осіб може призвести до фатальних помилок, адже під час війни від вердикту ШІ залежить життя людини. Наприклад, якщо мирний житель через безглузду випадковість не пройде перевірку або його приймуть за іншого, його можуть відправити в тюрму або навіть вбити.

"Це катастрофа в галузі прав людини. Коли технологія розпізнавання осіб помиляється в мирний час, людей помилково заарештовують. Коли розпізнавання осіб спрацьовує помилково в зоні бойових дій, можуть розстріляти невинних людей", — додав Альберт Фокс Кан.

Як запевняє Хоан Тон-Дат, точність Clearview AI становить понад 90%, але визнає ймовірність помилки. Результат залежить від якості фотографії, положення голови, відкритості обличчя.

Ще один привід для побоювання експертів — збір даних користувача. За словами Конора Гілі, багато технологій, що з'явилися у воєнний час, продовжували використовувати після настання миру. Невідомо, чи українська влада відмовляться від послуг Clearview у мирний час.

"Я сподіваюся, вони не підуть таким шляхом", — зазначив Конор Гілі.

Раніше стало відомо, що в Україні створили програму для перевірки людей під назвою "ТиХто". Вона дозволяє військовим та територіальній обороні на блокпостах визначати зв'язки людини з ДРГ чи криміналом.

Нещодавно віцепрем'єр Михайло Федоров заявив, що IT-армія з'ясувала, куди військові РФ відправили вкрадені речі українців. Штучний інтелект вже визначив 15 служб доставки, якими скористалися окупанти, що побували на території Київської, Сумської та Чернігівської областей.