ЮНЕСКО ухвалила перші у світі етичні стандарти для ШІ: що зміниться (відео)

193 країни ЮНЕСКО, включаючи Україну, на Генеральній конференції ухвалили перші в історії глобальні етичні стандарти для штучного інтелекту. Про це пише сайт Організації об'єднаних націй.

Генеральний директор ЮНЕСКО Одрі Азулай 25 листопада представила офіційний документ, який визначає спільні цінності та принципи для створення правових норм для розвитку штучного інтелекту. Автори згадують проблеми, які можуть спричинити нові технології: збільшення етнічних та гендерних стереотипів, загрози для конфіденційності, тотальне стеження та зловживання з боку правоохоронних органів.

"Світу потрібні правила для штучного інтелекту, який служить людству. Рекомендація з етики ШІ — головна відповідь. Вона встановлює першу глобальну нормативну базу, водночас покладаючи на держави відповідальність за її застосування на своєму рівні. ЮНЕСКО підтримає 193 держави-члени в їхній реалізації і попросить їх регулярно звітувати про свій прогрес і практику", — заявила Одрі Азулай.

Рекомендація виділяє чотири основні напрями, у яких необхідно регулювати поведінку штучного інтелекту:

• захист даних,
• соціальна оцінка та масове спостереження,
• контроль,
• захист навколишнього середовища.

У ЮНЕСКО очікують, що нові стандарти допоможуть використовувати переваги машинних алгоритмів і водночас знизить ризики, пов'язані з прозорістю та конфіденційністю.

Захист даних

Документ закликає уряди та організації вживати заходів, щоб гарантувати громадянам безпеку особистих даних та свободу дій. Зокрема, кожна людина повинна мати можливість переглядати або видаляти інформацію про себе. Регулювальні органи в усьому світі мають забезпечити дотримання цих стандартів.

Заборона соціальної оцінки та спостереження за людьми

ЮНЕСКО забороняє використовувати ШІ для оцінки користувачів у соціальних мережах та відстеження їхньої активності. Автори дійшли висновку, що такі технології є надто агресивними, порушують основні права і свободи людини, хоча дуже широко використовуються. При розробці законів держави мають покладати кінцеву відповідальність винятково на людей, а ШІ не може бути суб'єктом правових спорів.

Контроль та оцінка

Передбачається створення інструментів, що допоможуть реалізувати рекомендації. Фахівці оцінюватимуть етичний вплив ШІ на людей, суспільство та екологію, щоб допомогти країнам у розробці безпечних систем. Крім того, методи ЮНЕСКО допоможуть державам визначити, наскільки вони готові з погляду правової та технічної інфраструктури. Документ пропонує урядам наймати незалежних експертів з етики ШІ або створювати прозорі контрольні органи.

Захист навколишнього середовища

Згідно з рекомендацією, розробники повинні надавати перевагу економічним та безпечним методам, які дозволять використовувати ШІ для боротьби зі змінами клімату та іншими екологічними проблемами. Зокрема, технології повинні дбати про зниження вуглецевого сліду, споживати якнайменше енергії та використовувати безпечну сировину.

Раніше вчена Джулі Шах припустила, що ШІ не порозумнішає, поки почне вигадувати проблеми для вирішення. Професорка Массачусетського технологічного інституту наголосила: поки що машинні алгоритми не здатні розуміти людську мораль і самостійно приймати рішення.