Первые запреты для ChatGPT. Почему в Евросоюзе хотят принять закон "Об искусственном интеллекте"

А вот и первые запреты для ИИ: закон "Об искусственном интеллекте" хотят принять в Евросоюзе.

Два профильных комитета Европарламента — комитет по гражданским свободам и комитет по внутреннему рынку и защите прав потребителей — предварительно одобрили проект закона (AI ACT). В июне 2023 года за документ должен проголосовать Европарламент в целом, затем его обсудят с Еврокомиссией и вынесут на Совет ЕС.

Что такое Закон ЕС об искусственном интеллекте?

Закон об ИИ — это предлагаемый европейский закон об искусственном интеллекте (ИИ) — первый закон об ИИ, принятый крупным регулирующим органом в мире. Закон относит приложения ИИ к трем категориям риска.

Во-первых, запрещены приложения и системы, создающие неприемлемый риск, такие, как государственный "социальный рейтинг", который используется в Китае. Во-вторых, приложения с высоким уровнем риска, такие как инструмент сканирования резюме, который ранжирует соискателей, подпадают под определенные юридические требования. Наконец, в-третьих, приложения, не запрещенные явным образом и не отнесенные к категории высокорисковых, в основном остаются нерегулируемыми.

В целом документ описывает правила использования систем на основе ИИ — систем распознавания лиц, генеративных нейросетей, беспилотных автомобилей и других.

Компании, которые используют ИИ-инструменты, должны будут оценивать их потенциальные риски с точки зрения "здоровья, безопасности, фундаментальных прав, окружающей среды, демократии и верховенства закона".

Проект запрещает использование систем распознавания лиц при помощи биометрии и других систем "удаленной биометрической идентификации" в режиме реального времени в общественных местах. Кроме них, запрещено будет и "распознавание эмоций" — полицией, работодателями и в учебных заведениях.

Также под запретом использование ИИ для разделения людей по категориям: по полу, расе, этнической принадлежности, гражданству, вероисповеданию и политической позиции. Отдельно запрещен сбор из камер и соцсетей биометрических данных, которые планируется использовать для создания базы распознавания лиц.

Полиции хотят запретить использовать системы предиктивной аналитики — для прогнозирования правонарушений, когда ИИ "предсказывает", что человек может совершить преступление.

К "высокорисковым системам" проект относит беспилотные автомобили, медицинские приборы с применением ИИ и другие, сбой в которых может привести к угрозе здоровья и другим серьезным последствиям.

Законопроект не запрещает использование генеративного ИИ (такого как GPT, прочих основанных на нейросетях чат-ботов и других моделей). Но есть определенные требования о "прозрачности". Контент придется отмечать значком, что его сгенерировал ИИ, а создателям нужно раскрывать список того, какая защищенная авторским правом информация использовалась для обучения.

За нарушение компаниям может грозить штраф на сумму до €30 млн или 6% от годовой выручки.

Источник

Важно

Искусственный интеллект убивает профессии: кого выкинет с рынка труда