Дипфейки за 24 доллара. Как искусственный интеллект уничтожил выборы в Бангладеш, — FT

Официальные лица по всему миру беспокоятся относительно того, что дезинформация, которая распространяется с помощью ИИ-алгоритмов, может ввести избирателей в заблуждение во время нескольких предвыборных кампаний в следующем году. Об этом пишет The Financial Times.

В одной стране подобное уже произошло. В начале января в Бангладеш пройдут выборы. Действующая премьер-министр Шейх Хасина противостоит оппозиционной националистической партии.

В последние несколько месяцев проправительственные новостные агентства и инфлюенсеры в 170-миллионной южноазиатской стране распространяли фейки, созданные с помощью дешевых ИИ-инструментов. В одном из таких роликов оппозиционный деятель двусмысленно высказывается относительно Газы, что в преимущественно мусульманской стране, которая большей частью сочувствует Палестине, непременно привело бы к политической катастрофе.

Перед выборами в США, Великобритании, Индии и Индонезии представители Google и Meta пообещали ужесточить контроль за публикуемым контентом. Авторов обязали сообщать, были ли их креативы каким-то образом изменены с помощью цифровых инструментов.

Но все же пример Бангладеш показывает, как эти разработки могут применяться на выборах и насколько сложно их контролировать на небольших рынках.

Мирадж Ахмед Чоудхури, директор бангладешской исследовательской компании Digitally Right, говорит, что, несмотря на то, что фейки, которые создаются с помощью ИИ, все еще находятся "на уровне эксперимента" — большинство делают с помощью обычных видео- и фоторедакторов — все же это может быть началом чего-то большего.

С распространением ChatGPT и видеогенераторов на основе ИИ внимание к проблеме возросло. В начале года Национальная комиссия Республиканской партии США распространила агрессивный рекламный видеоролик, в котором присутствовали элементы ИИ: изображалась антиутопическая картина будущего при президентстве Джо Байдена.

YouTube, в свою очередь, заблокировать несколько аккаунтов в Венесуэле, в которых созданные искусственным интеллектом дикторы освещали события в предпочтительном ключе для президента Николаса Мадуро.

В Бангладеш антиоппозиционные дипфейки публиковались в Facebook. Один из них, якобы разместили от имени находящегося в изгнании оппозиционер Тарика Рахмана. Созданный дипфейк советует помалкивать насчет Газы, чтобы не сердить США.

Еще один ролик был, как считается, сделала компания из Лос-Анджелеса HeyGen, которая позволяет за 24 доллара в месяц создавать видео участием других людей.

В еще одном видео лидер молодежного крыла партии BNP Рашед Икбал Хан неточно называет свой возраст, что, как считается, было попыткой дискредитации политика. Над роликом работала компания D-ID из Тель-Авива.

Главная сложность с выявлением подобной дезинформации — недостаток необходимых цифровых инструментов особенно для поиска неанглоязычного контента, объяснила Шабханаз Рашид Дия, основатель Tech Global Institute и бывшая сотрудница Meta. По ее словам, меры контроля IT-гигантов мало чем помогут в таких странах, как Бангладеш.

"Решения, которые создаются на фоне нашествия дезинформации на основе ИИ, очень западоцентричны. Другие части мира технологические платформы всерьез не воспринимают", — пояснила она.

Проблема ухудшается недостаточным регулированием. Считается, что в Бангладеш "Закон о кибербезопасности" позволяет властям применять драконовские меры в том, что касается распространения информации в сети.

Высказывается и мнение о том, что политикам удобно находить оправдания и ссылаться на ИИ. Например, в ответ на обвинения в коррупции, можно заявить, что речь идет не более, чем о фейках и ИИ-роликах.

Напомним о том, что нужно делать военным, чтобы их данные не попали к россиянам.

Также сообщалось, что мошенники придумали новую схему, чтобы похищать деньги у украинцев.