Діджитал

"Може нашкодити людям і порушити їхні права": експерти розповіли, чим небезпечна втрата контролю над ШІ

Уряд Великобританії має намір скасувати право на перегляд людиною рішень, які були прийняті системами штучного інтелекту, але деякі експерти вважають, що цього не варто робити.

Департамент цифрових технологій, культури, ЗМІ та спорту (DCMS) Великобританії на початку року зібрав експертів для реформування режиму захисту даних. Однією з пропозицій було скасування права, яке дозволяє громадянам оскаржувати рішення автоматизованих систем і направляти їх на перегляд людиною.

Про це повідомляє ZDnet.

У ході консультацій експерти дійшли висновку, що оскарження рішень ШІ не матиме сенсу в міру розвитку технології та появи нових ШІ-продуктів наступні кілька років. Члени British Computer Society (Британське комп'ютерне співтовариство) вважають, що варто виробити закони та правила, які забезпечують прозорість роботи ШІ-систем і захист людей за прийняття рішень автоматизованими системами, які можуть гіпотетично нашкодити кому-небудь.

"За спробою Сполученого Королівства змінити правила захисту даних у країні стоїть бажання звільнитися від зобов'язання з дотримання Загального регламенту ЄС щодо захисту даних (GDPR)", — пише ЗМІ.

Право на людський розгляд "це 22-а стаття регламенту ЄС, яка повинна бути включена у внутрішній GDPR Великобританії, оскільки країна складалася в Євросоюзі. Але після Brexit уряд прагнув підкреслити недавно здобуту незалежність і здатність Великобританії встановлювати свої власні правила. Це стосується й захисту даних. Ба більше, деякі політики вважають, що вимоги статті 22 є "обтяжливими та дорогими", адже згідно з ними, організації повинні впровадити альтернативний "ручний" процес перевірки даних, незважаючи на те, що всі операції автоматизовані.

"На думку уряду, стаття 22 стримує інновації, — говорить керівник BCS Сем Де Сільва. — Схоже, це є підставою для її видалення".

Де Сільва вважає, що таке дерегулювання в області технологій несе занадто великі ризики, адже занадто швидке позбавлення від законів, що захищають права користувачів, загрожує небезпечними наслідками. Експерт стверджує, що в законі повинна бути прописана норма, яка чітко визначає, що громадяни мають право вимагати розгляду рішення людиною, якщо вони не задоволені "вердиктом" нейромережі.

Фокус раніше писав про п'ять ризиків для людства, які з'явилися паралельно з розвитком ШІ. Експерти вважають, що штучний інтелект потрібно терміново взяти під контроль.