Разделы
Материалы

ЮНЕСКО приняла первые в мире этические стандарты для ИИ: что изменится (видео)

Фото: wallha.com

Государства-члены получили рекомендации о том, как нужно изменить нормативно-правовую базу для безопасного использования "умных" систем.

193 страны ЮНЕСКО, включая Украину, на Генеральной конференции приняли первые в истории глобальные этические стандарты для искусственного интеллекта. Об этом пишет сайт Организации объединенных наций.

Генеральный директор ЮНЕСКО Одри Азуле 25 ноября представила официальный документ, который определяет общие ценности и принципы для создания правовых норм для развития искусственного интеллекта. Авторы упоминают проблемы, которые могут вызвать новые технологии: увеличение этнических и гендерных стереотипов, угрозы для конфиденциальности, тотальная слежка и злоупотребления со стороны правоохранительных органов.

"Миру нужны правила для искусственного интеллекта, служащего человечеству. Рекомендация по этике ИИ — главный ответ. Она устанавливает первую глобальную нормативную базу, в то же время возлагая на государства ответственность за ее применение на своем уровне. ЮНЕСКО поддержит 193 государства-члена в их реализации и попросит их регулярно отчитываться о своем прогрессе и практике", — заявила Одри Азуле.

Рекомендация выделяет четыре основных направления, в которых необходимо регулировать поведение искусственного интеллекта:

  • защита данных,
  • социальная оценка и массовое наблюдение,
  • контроль,
  • защита окружающей среды.

В ЮНЕСКО ожидают, что новые стандарты помогут использовать преимущества машинных алгоритмов и одновременно с этим снизят риски, связанные с прозрачностью и конфиденциальностью.

Защита данных

Документ призывает правительства и организации принимать меры, чтобы гарантировать гражданам безопасность личных данных и свободу действий. В частности, у каждого человека должна быть возможность просматривать или удалять информацию о себе. Регулирующие органы по всему миру должны обеспечить соблюдение этих стандартов.

Запрет социальной оценки и наблюдения за людьми

ЮНЕСКО запрещает использовать ИИ для оценки пользователей в социальных сетях и отслеживания их активности. Авторы пришли к выводу, что такие технологии слишком агрессивны, нарушают основные права и свободы человека, хотя очень широко используются. При разработке законов государства должны возлагать конечную ответственность исключительно на людей, а ИИ не может быть субъектом правовых споров.

Контроль и оценка

Предусматривается создание инструментов, которые помогут реализовать рекомендации. Специалисты будут оценивать этическое воздействие ИИ на людей, общество и экологию, чтобы помочь странам в разработке безопасных систем. Кроме того, методы ЮНЕСКО помогут государствам определить, насколько они готовы с точки зрения правовой и технической инфраструктуры. Документ предлагает правительствам нанимать независимых экспертов по этике ИИ или создавать прозрачные контролирующие органы.

Защита окружающей среды

Согласно рекомендации, разработчики должны отдавать предпочтение экономичным и безопасным методам, которые позволят использовать ИИ для борьбы с изменениями климата и другими экологическими проблемами. В том числе, технологии должны заботиться о снижении углеродного следа, потреблять как можно меньше энергии и использовать безопасное сырье.

Ранее ученый Джули Шах предположила, что ИИ не поумнеет, пока начнет выдумывать проблемы для решения. Профессор Массачусетского технологического института подчеркнула: пока машинные алгоритмы неспособны понимать человеческую мораль и самостоятельно принимать решения.