"Может навредить людям и нарушить их права": эксперты рассказали, чем опасна потеря контроля над ИИ

Департамент цифровых технологий, культуры, СМИ и спорта (DCMS) Великобритании в начале года собрал экспертов для реформирования режима защиты данных. Одним из предложений была отмена права, которое позволяет гражданам оспаривать решения автоматизированных систем и направлять их на пересмотр человеком.

Об этом сообщает ZDnet.

В ходе консультаций эксперты пришли к выводу, что оспаривание решений ИИ не будет иметь смысла по мере развития технологии и появления новых ИИ-продуктов в следующие несколько лет. Члены British Computer Society (Британское компьютерное сообщество) считают, что стоит выработать законы и правила, которые обеспечивают прозрачность работы ИИ-систем и защиту людей при принятии решений автоматизированными системами, которые могут гипотетически навредить кому-либо.

"За попыткой Соединенного Королевства изменить правила защиты данных в стране стоит желание освободиться от обязательства по соблюдению Общего регламента ЕС по защите данных (GDPR)", — пишет СМИ.

Право на человеческое рассмотрение" это 22-ая статья регламента ЕС, которая должна быть включена во внутренний GDPR Великобритании, поскольку страна состояла в Евросоюзе. Но после Brexit правительство стремилось подчеркнуть недавно обретенную независимость и способность Великобритании устанавливать свои собственные правила. Это касается и защиты данных. Более того, некоторые политики полагают, что требования статьи 22 являются "обременительными и дорогостоящими", ведь согласно им, организации должны внедрить альтернативный "ручной" процесс проверки данных, несмотря на то что все операции автоматизированы.

"По мнению правительства, статья 22 сдерживает инновации", — говорит руководитель BCS Сэм Де Силва. "Похоже, это является основанием для ее удаления".

Де Сильва считает, что такое дерегулирование в области технологий несет слишком большие риски, ведь слишком быстрое избавление от законов, защищающих права пользователей, грозит опасными последствиями. Эксперт утверждает, что в законе должна быть прописана норма, которая четко определяет, что граждане имеют право требовать рассмотрения решения человеком, если они не удовлетворены "вердиктом" нейросети.

Фокус ранее писал о пяти рисках для человечества, которые появились параллельно с развитием ИИ. Эксперты считают, что искусственный интеллект нужно срочно взять под контроль.