Цифрова копія дівчини змогла обдурити банк: як штучному інтелекту це вдалося

Журналістка Джоанна Штерн вирішила перевірити поточний стан технологій відео та голосового штучного інтелекту та створила свою копію за допомогою програми Synthesia, пише Wall Street Journal. Ця нейромережа дозволяє створювати реалістичні відео з будь-якою людиною та будь-яким текстом. Джоанна Штерн витратила приблизно пів години на запис самої себе на зеленому тлі (для оцифрування) і назвала свою копію AI Джоанна і поставила перед нею кілька завдань.

Перше завдання було простим: AI Джоанна мала прочитати новинний текст англійською мовою. Вона впоралася з цим легко, хоча її голос звучав трохи механічно, і її обличчя виглядало трохи неемоційним.

Друге завдання було складнішим: AI Джоанна мала прочитати текст іспанською мовою. Нейромережа також впоралася з цим, хоча її вимова була неідеальною і її губи не завжди співпадали з артикуляцією. Synthesia може перекладати текст будь-якою мовою і синтезувати голос цією мовою, але це вимагає більше обчислювальної потужності та часу для навчання.

Третє завдання було найскладнішим: AI Джоанна мала обдурити банк і сім'ю журналістки. Для цього вона використовувала функцію Deepfake Call, яка дозволяє телефонувати з будь-яким голосом. AI Джоанна зателефонувала до банку і попросила переказати гроші на інший рахунок. Цифрова копія успішно пройшла перевірку особи, використовуючи останні чотири цифри номера соціального страхування та дату народження Джоанни Штерн, які вона знайшла в інтернеті.

Потім AI Джоанна зателефонувала чоловікові справжньої Джоанни та попросила купити їй подарунок на день народження. Чоловік не запідозрив нічого підозрілого, поки нейромережа не почала говорити про свою любов до футболу, який не цікавить справжню Джоанну Штерн.

У підсумку експерименту журналістка зазначає, що технології відео та голосового штучного інтелекту мають як позитивні, так і негативні сторони. З одного боку, вони можуть бути корисними для освіти, розваг і комунікації. З іншого боку, вони можуть бути використані для шахрайства, дезінформації та порушення приватності.

Раніше Фокус писав, що штучний інтелект дістався ТБ: тепер новини читає віртуальна ведуча.