Перші заборони для ChatGPT. Чому в Євросоюзі хочуть ухвалити закон "Про штучний інтелект"
Штучний інтелект стрімко вторгається в наше життя — і влада вже бачить у цьому загрозу людині. Економіст і юрист Роман Комиза — про першу законодавчу спробу обмежити цю сферу.
А ось і перші заборони для ШІ: закон "Про штучний інтелект" хочуть ухвалити в Євросоюзі.
Два профільні комітети Європарламенту — комітет із громадянських свобод і комітет із внутрішнього ринку та захист прав споживачів — попередньо схвалили проєкт закону (AI ACT). У червні 2023 року за документ має проголосувати Європарламент загалом, потім його обговорять із Єврокомісією та винесуть на Раду ЄС.
Що таке Закон ЄС про штучний інтелект?
Закон про ШІ — це пропонований європейський закон про штучний інтелект (ШІ) — перший закон про ШІ, ухвалений великим органом-регулятором у світі. Закон відносить застосунки ШІ до трьох категорій ризику.
По-перше, заборонені додатки та системи, що створюють неприйнятний ризик, такі як державний "соціальний рейтинг", який використовується в Китаї. По-друге, програми з високим рівнем ризику, такі як інструмент сканування резюме, який ранжує претендентів, підпадають під певні юридичні вимоги. Нарешті, по-третє, додатки, які не заборонені явно та не віднесені до категорії високоризикових, в основному залишаються нерегульованими.
Загалом документ визначає правила використання систем на основі ШІ — систем розпізнавання облич, генеративних нейромереж, безпілотних автомобілів та інших.
Компанії, які використовують ШІ-інструменти, повинні будуть оцінювати їхні потенційні ризики з точки зору "здоров'я, безпеки, фундаментальних прав, навколишнього середовища, демократії та верховенства закону".
Проєкт забороняє використання систем розпізнавання облич за допомогою біометрії та інших систем "віддаленої біометричної ідентифікації" в режимі реального часу в громадських місцях. Крім них, заборонене буде й "розпізнавання емоцій" — поліцією, роботодавцями та в навчальних закладах.
Також під забороною використання ШІ для поділу людей за категоріями: за статтю, расою, етнічною приналежністю, громадянством, віросповіданням і політичною позицією. Окремо заборонено збір із камер і соцмереж біометричних даних, які планується використовувати для створення бази розпізнавання облич.
Поліції хочуть заборонити використовувати системи передиктивної аналітики — для прогнозування правопорушень, коли ШІ "передбачає", що людина може вчинити злочин.
До "високоризикових систем" проєкт відносить безпілотні автомобілі, медичні прилади із застосуванням ШІ й інші, збій у яких може призвести до загрози здоров'ю та інших серйозних наслідків.
Законопроєкт не забороняє використання генеративного ШІ (такого як GPT, інших заснованих на нейромережах чат-ботів та інших моделей). Але є певні вимоги щодо "прозорості". Контент доведеться відзначати значком, що його згенерував ШІ, а творцям потрібно розкривати список того, яка захищена авторським правом інформація використовувалася для навчання.
За порушення компаніям може загрожувати штраф на суму до 30 млн євро або 6% від річного виторгу.