Емодзі замість облич: учені з'ясували, чому технологія розпізнавання емоцій небезпечна для людей

Технології розпізнавання осіб (ТРО), що працюють на основі алгоритмів машинного навчання і штучного інтелекту, — величезна галузь. Розробники стверджують, що створені ними продукти можуть бути корисними в багатьох сферах — від безпеки дорожнього руху до маркетингових досліджень. Але критики вважають, що ТРО не тільки ставлять під сумнів конфіденційність даних користувача, але і є досить неточними.

Нещодавно група дослідників з Леверхалмського Центру з вивчення майбутніх систем штучного інтелекту при Кембриджському університеті запустила сайт emojify.info, на якому люди можуть випробувати різні системи розпізнавання емоцій за допомогою веб-камер. Про це повідомляє видання theguardian.com. Cуть у тому, щоб обдурити ТРО і спробувати ввести їх в оману. А в цей час інша система буде фіксувати всі помилки, допущені ними і виявляти слабкі місця кожної з них.

Автори проекту таким чином сподіваються підвищити обізнаність користувачів про недоліки подібних технологій і спровокувати хвилю дискусій у ЗМІ і соцмережах. Уся справа в тому, що ТРО, що часто використовуються для ідентифікації людей, в останні роки стали предметом пильної уваги правозахисників. Так, у 2020 році Комісія з рівності і прав людини заявила, що практику використання ТРО в ході масових перевірок варто припинити. У Комісії вважають, що це може посилити дискримінацію з боку поліції і нанести шкоду свободі слова. Більше того, системи були неточні і навіть упереджені в ході розпізнавання емоцій представників різних рас. Наприклад, при трактуванні емоцій темношкірих людей системи набагато частіше помилялися, ніж при розпізнаванні облич світлошкірих людей.

Великий брат стежить за тобою

Доктор Алекса Хагерті, керівниця проекту emojify.info, каже, що багато людей навіть не підозрюють, наскільки поширені системи розпізнавання емоцій. Учена зазначила, що їх використовують у різних ситуаціях: під час найму на роботу і переговорів з потенційними партнерами і клієнтами, для організації безпеки в аеропортах і навіть у ході онлайн-навчання, щоб дізнатися, чим зайняті учні та студенти, чи виконують вони домашні завдання. А нещодавно влада індійського міста Лакхнау заявили про те, що планує використовувати систему розпізнавання облич, оснащену ШІ, для запобігання домагання, яким жінки піддаються на вулицях або в громадських місцях. У заяві сказано, що коли обличчя жінки, яке потрапляє в радіус дії камери, буде змінювати вираз, пристрій буде посилати повідомлення правоохоронцям. Але наскільки точно працює система і який діапазон емоцій, що розпізнаються нею, не зрозуміло. Як би там не було, такий крок був розкритикований організаціями, що займаються захистом прав. Очевидно, що система буде порушувати конфіденційність громадян. Також невідомо, де будуть зберігатися зібрані нею дані, хто отримає до них доступ і як буде розпоряджатися ними.

Хоча технології розпізнавання емоцій мають деякі переваги, їх усе одно варто тестувати на предмет расової упередженості, а також на предмет того, чи є технологія правильним інструментом для виконання конкретних завдань.

"Нам необхідна широка громадська дискусія, ми повинні обговорити ці проблеми з людьми", — вважає вчений.

Обдурити систему розпізнавання облич

Саме тому і був запущений emojify.info. На сайті зазначається, що "ніякі особисті дані не збираються, і всі зображення зберігаються на вашому пристрої". В одній грі користувачам пропонується намалювати серію облич, щоб імітувати емоції, і подивитися, чи зможуть вони обдурити систему.

"Розробники стверджують, що ТРО зчитує емоції", — коментує Хагерті. "Але насправді система зчитує лише міміку, тобто рухи обличчя, а потім просто робить припущення, що ці рухи повʼязані з певними емоціями. Наприклад, посмішка означає, що хтось щасливий".

Але ж у житті не все так просто — можна симулювати радість або смуток, або будь-яку іншу емоцію. Також емоції можуть бути неоднозначними — людина може посміхатися, але при цьому відчувати скорботу. А ТРО все це нівелюють і спрощують міміку, а також звужують емоційний спектр людини до рівня простих емодзі. Проект emojify.info покликаний довести недосконалість ШІ-систем на практиці.

Раніше ми повідомляли про те, як корпорації застосовують технологію Eye tracking, щоб дізнатися про нас усе.