Смертельное оружие: США и РФ выступили против контроля людей над решениями ИИ об ударах, — СМИ
Представители двух стран добились удаления из проекта ООН требований проверять выбранные ИИ военные цели человеком и учитывать этику перед применением автономного оружия, сообщают журналисты.
На переговорах, которые прошли недавно в Женеве (Швейцария), США и Россия ослабили ряд защитных мер в рамках знаковой инициативы ООН, направленной на регулирование применения автономных систем вооружения, оснащенных искусственным интеллектом, говорят инсайдеры. Переговоры велись в рамках подготовки к заключению глобального договора под эгидой ООН, который должен юридически закрепить правила использования смертельного автономного оружия, способного самостоятельно находить и поражать цели с помощью ИИ, пишет The Washington Post.
Как сообщают источники американского издания на условиях анонимности, дипломаты США и России добились значительных изменений в тексте документа, который должен стать основной будущего глобального соглашения, призванного обеспечить безопасность применения искусственного интеллекта в автономных системах вооружения.
По словам источников, из текста проекта ООН были удалены требования о том, чтобы автономные системы вооружения функционировали "предсказуемо" и "надежно", а также пункт, обязывающий учитывать этические аспекты при использовании вооружений с ИИ. Кроме того, делегации США и России настояли на исключении положения, требующего участия человека в проверке военных целей, определенных ИИ перед нанесением удара. По слова источников, США и РФ решили смягчить международные правила регулирования автономных систем вооружения с ИИ.
Верити Койл из организации Human Rights Watch заявила, что смягчение правил регулирования автономных систем вооружения с ИИ могут привести к серьезным последствиям.
"Это может означать, что машины будут принимать решения, от которых зависят жизни людей, без участия человека. Последствия очевидны: рост числа жертв среди мирного населения, снижение уровня ответственности и стремительный переход к более опасным формам автоматизированной войны", — говорит Койл.
Переговоры в ООН по вопросу о регулировании автономных систем вооружения с ИИ в настоящее время не носят обязательного характера, но, если государства-члены придут к согласию, они могут открыть путь к заключению знакового договора, имеющего юридическую силу.
Следующий раунд переговоров пройдет в Женеве в ноябре и там страны-члены ООН обсудят возможность создания полноценного международного договора, имеющего юридическую силу, и устанавливающего четкие правила для оружия с искусственным интеллектом.
Напоминаем, что ученый Дмитрий Чумаченко показывает, насколько широко Россия уже использует ИИ и как это способствует ее способности вести войну.
Также напоминаем, что руководители трех ведущих мировых компаний в сфере искусственного интеллекта заявили, что, по их мнению, отрасли ИИ необходимо замедлить темпы развития.