"Может навредить людям и нарушить их права": эксперты рассказали, чем опасна потеря контроля над ИИ
Правительство Великобритании намерено отменить право на пересмотр человеком решений, которые были приняты системами искусственного интеллекта, но некоторые эксперты считают, что этого не стоит делать.
Департамент цифровых технологий, культуры, СМИ и спорта (DCMS) Великобритании в начале года собрал экспертов для реформирования режима защиты данных. Одним из предложений была отмена права, которое позволяет гражданам оспаривать решения автоматизированных систем и направлять их на пересмотр человеком.
Об этом сообщает ZDnet.
В ходе консультаций эксперты пришли к выводу, что оспаривание решений ИИ не будет иметь смысла по мере развития технологии и появления новых ИИ-продуктов в следующие несколько лет. Члены British Computer Society (Британское компьютерное сообщество) считают, что стоит выработать законы и правила, которые обеспечивают прозрачность работы ИИ-систем и защиту людей при принятии решений автоматизированными системами, которые могут гипотетически навредить кому-либо.
"За попыткой Соединенного Королевства изменить правила защиты данных в стране стоит желание освободиться от обязательства по соблюдению Общего регламента ЕС по защите данных (GDPR)", — пишет СМИ.
Право на человеческое рассмотрение" это 22-ая статья регламента ЕС, которая должна быть включена во внутренний GDPR Великобритании, поскольку страна состояла в Евросоюзе. Но после Brexit правительство стремилось подчеркнуть недавно обретенную независимость и способность Великобритании устанавливать свои собственные правила. Это касается и защиты данных. Более того, некоторые политики полагают, что требования статьи 22 являются "обременительными и дорогостоящими", ведь согласно им, организации должны внедрить альтернативный "ручной" процесс проверки данных, несмотря на то что все операции автоматизированы.
"По мнению правительства, статья 22 сдерживает инновации", — говорит руководитель BCS Сэм Де Силва. "Похоже, это является основанием для ее удаления".
Де Сильва считает, что такое дерегулирование в области технологий несет слишком большие риски, ведь слишком быстрое избавление от законов, защищающих права пользователей, грозит опасными последствиями. Эксперт утверждает, что в законе должна быть прописана норма, которая четко определяет, что граждане имеют право требовать рассмотрения решения человеком, если они не удовлетворены "вердиктом" нейросети.
Фокус ранее писал о пяти рисках для человечества, которые появились параллельно с развитием ИИ. Эксперты считают, что искусственный интеллект нужно срочно взять под контроль.