Цифровая копия девушки смогла обмануть банк: как искусственному интеллекту это удалось
Кроме банка цифровая копия девушки была настолько точной, что смогла провести даже членов семьи.
Журналистка Джоанна Штерн решила проверить текущее состояние технологий видео и голосового искусственного интеллекта и создала свою копию с помощью программы Synthesia, пишет Wall Street Journal. Эта нейросеть позволяет создавать реалистичные видео с любым человеком и любым текстом. Джоанна Штерн потратила около получаса на запись самой себя на зеленом фоне (для оцифровки) и назвала свою копию AI Джоанна и поставила перед ней несколько задач.
Первая задача была простой: AI Джоанна должна была прочитать новостной текст на английском языке. Она справилась с этим без труда, хотя ее голос звучал немного механично, и ее лицо выглядело немного неэмоциональным.
Вторая задача была сложнее: AI Джоанна должна была прочитать текст на испанском языке. Нейросеть также справилась с этим, хотя ее произношение было неидеальным и ее губы не всегда соответствовали артикуляции. Synthesia может переводить текст на любой язык и синтезировать голос на этом языке, но это требует больше вычислительной мощности и времени для обучения.
Третья задача была самой сложной: AI Джоанна должна была обмануть банк и семью журналистки. Для этого она использовала функцию Deepfake Call, которая позволяет звонить по телефону с любым голосом. AI Джоанна позвонила в банк и попросила перевести деньги на другой счет. Цифровая копия успешно прошла проверку личности, используя последние четыре цифры номера социального страхования и дату рождения Джоанны Штерн, которые она нашла в интернете.
Затем AI Джоанна позвонила мужу настоящей Джоанны и попросила его купить ей подарок на день рождения. Он не заподозрил ничего подозрительного, пока она не начала говорить о своей любви к футболу, который не интересует настоящую Джоанну Штерн.
В качестве итогов эксперимента журналистка отмечает, что технологии видео и голосового искусственного интеллекта имеют как положительные, так и отрицательные стороны. С одной стороны, они могут быть полезны для образования, развлечения и коммуникации. С другой стороны, они могут быть использованы для мошенничества, дезинформации и нарушения приватности.
Ранее Фокус писал, что искусственный интеллект добрался до ТВ: теперь новости читает виртуальная ведущая.