Перші заборони для ChatGPT. Чому в Євросоюзі хочуть ухвалити закон "Про штучний інтелект"

А ось і перші заборони для ШІ: закон "Про штучний інтелект" хочуть ухвалити в Євросоюзі.

Два профільні комітети Європарламенту — комітет із громадянських свобод і комітет із внутрішнього ринку та захист прав споживачів — попередньо схвалили проєкт закону (AI ACT). У червні 2023 року за документ має проголосувати Європарламент загалом, потім його обговорять із Єврокомісією та винесуть на Раду ЄС.

Що таке Закон ЄС про штучний інтелект?

Закон про ШІ — це пропонований європейський закон про штучний інтелект (ШІ) — перший закон про ШІ, ухвалений великим органом-регулятором у світі. Закон відносить застосунки ШІ до трьох категорій ризику.

По-перше, заборонені додатки та системи, що створюють неприйнятний ризик, такі як державний "соціальний рейтинг", який використовується в Китаї. По-друге, програми з високим рівнем ризику, такі як інструмент сканування резюме, який ранжує претендентів, підпадають під певні юридичні вимоги. Нарешті, по-третє, додатки, які не заборонені явно та не віднесені до категорії високоризикових, в основному залишаються нерегульованими.

Загалом документ визначає правила використання систем на основі ШІ — систем розпізнавання облич, генеративних нейромереж, безпілотних автомобілів та інших.

Компанії, які використовують ШІ-інструменти, повинні будуть оцінювати їхні потенційні ризики з точки зору "здоров'я, безпеки, фундаментальних прав, навколишнього середовища, демократії та верховенства закону".

Проєкт забороняє використання систем розпізнавання облич за допомогою біометрії та інших систем "віддаленої біометричної ідентифікації" в режимі реального часу в громадських місцях. Крім них, заборонене буде й "розпізнавання емоцій" — поліцією, роботодавцями та в навчальних закладах.

Також під забороною використання ШІ для поділу людей за категоріями: за статтю, расою, етнічною приналежністю, громадянством, віросповіданням і політичною позицією. Окремо заборонено збір із камер і соцмереж біометричних даних, які планується використовувати для створення бази розпізнавання облич.

Поліції хочуть заборонити використовувати системи передиктивної аналітики — для прогнозування правопорушень, коли ШІ "передбачає", що людина може вчинити злочин.

До "високоризикових систем" проєкт відносить безпілотні автомобілі, медичні прилади із застосуванням ШІ й інші, збій у яких може призвести до загрози здоров'ю та інших серйозних наслідків.

Законопроєкт не забороняє використання генеративного ШІ (такого як GPT, інших заснованих на нейромережах чат-ботів та інших моделей). Але є певні вимоги щодо "прозорості". Контент доведеться відзначати значком, що його згенерував ШІ, а творцям потрібно розкривати список того, яка захищена авторським правом інформація використовувалася для навчання.

За порушення компаніям може загрожувати штраф на суму до 30 млн євро або 6% від річного виторгу.

Джерело

Важливо

Штучний інтелект вбиває професії: кого викине з ринку праці