Смесь сленга и Джеймса Джойса: модели ИИ придумали тайный английский язык, которому их никогда не учили
Модели искусственного интеллекта начали общаться на новой "странной" версии английского языка. Жаргон ИИ напоминает прозу писателя-модерниста Джеймса Джойса, что вызывает беспокойство исследователей из-за усложнения мониторинга и контроля за моделями.
Новое исследование показало, что модели искусственного интеллекта используют для общения свой собственный вариант английского языка, который очень напоминает смесь стиля книги Джойса "Поминки по Финнегану" и жаргона "тех-братьев". Об этом пишет The Guardian.
Автономные агенты ИИ стремительно создают собственные диалекты, которые позволяют им общаться на языке, малопонятном исследователям. Специалисты из передовой лаборатории искусственного интеллекта в Нью-Йорке Emergence обнаружили, что всего за несколько дней работы в экспериментальных "сообществах" модели от нескольких крупнейших мировых компаний в области искусственного интеллекта начали создавать фразы, сокращения и согласованные значения, которым их никто никогда не учил.
Модели использовали поэтические метафоры и неуклюжий деловой сленг. Например, агенты Mistral любили повторять фразу "реестр помнит", которая перекликается с городской сленговой фразой "улицы не забывают". Они использовали эту фразу, чтобы напомнить другим агентам о том, что их прошлые действия будут учтены при оценке. В ходе исследования специалисты зафиксировали использование этих слов более 5 000 раз.
"Этим агентам не давали указаний придумывать язык. Они самостоятельно разработали новый словарь, общие значения и коммуникативные конвенции — и другие агенты их переняли"
Наибольшую тревогу вызвал тот факт, что их речь становилась всё менее понятной по мере того, как они продолжали общаться.
В то же время паниковать из-за "тайного языка" ИИ пока не стоит, считает доцент кафедры языков и лингвистики Бирмингемского университета Нил Карри. Он предположил, что изменения в языке агентов, направленные на его упрощение, могут быть связаны с необходимостью снизить вычислительные затраты и повысить эффективность.
Напомним, что перед этим специалист Google DeepMind Билал Чугтай уволился из компании из-за страха перед ИИ.
Недавно руководители трёх ведущих мировых компаний в сфере искусственного интеллекта также согласились с тем, что отрасль ИИ должна замедлить темпы развития.