ИИ-клон украинки от HeyGen говорит о дружбе РФ и Китая: появилась реакция компании

В китайской компании HeyGen прокомментировали инцидент с украинкой Ольгой Лоек, которая обнаружила в социальных сетях Китая свои клоны, созданные искусственным интеллектом (ИИ). Дипфейки рассказывают о дружбе Китая с РФ и рекламируют российские товары. Представитель HeyGen сказал в комментарии BBC, что их систему взломали для создания "несанкционированного контента".

В HeyGen отметили, что с лицом украинки создали более 4900 видеороликов и заверили, что заблокировали злоумышленников. В компании также утверждают, что обновили протоколы безопасности, чтобы предотвратить такие ситуации в будущем.

В свою очередь сотрудник Университета Гонконга Анжела Чжан отметила, что подобные инциденты уже не раз происходили в Китае. По ее словам, существует "большая теневая экономика", в рамках которой незаконно присваиваются личные данные и создаются дипфейки.

Согласно официальным данным, только за прошлый год в КНР арестовали 515 человек по факту "подмены личности" при помощи искусственного интеллекта. При этом Китай является одной из первых стран, где были введены правила по использованию ИИ.

Дипфейк Ольги Лоек: что известно

Напомним, студентка из Украины Ольга Лоек, которая учится в США и ведет свой YouTube-канал о ментальном здоровье, стала получать от своих подписчиков сообщения, что ее видели в китайских соцсетях, где она продает российские товары. Дипфейк девушки представляется Наташей, Анной, или Грейс и рассказывает, что любит Китай и хочет выйти замуж за китайца.

"Я начала переводить видео с помощью Google Translate и поняла, что большинство этих учетных записей говорят о таких вещах, как Китай, Россия, о том, насколько хорошие отношения между Китаем и Россией. Это очень обидно", — отметила украинка.

На крупнейшем видеосайте Китая Bilibili некоторые видео с ИИ-клоном Ольги Лоек помечены логотипом HeyGen, что указывает на то, что видео было создано при помощи сервиса этой компании. В одном видео на Bilibili даже показывается, как сделать короткое видео на HeyGen с клипом, на котором разговаривает украинка. При этом закон запрещает создавать дипфейки без согласия людей, чье изображение или другая информация используются.

Также сообщалось, что жительница Южной Кореи стала жертвой дипфейка. Ее обманом заставили отдать 50 000 долларов человеку, выдававшему себя за генерального директора Tesla Илона Маска.