Искусственный интеллект за 13 часов научился подделывать речи политиков

Автоматические генераторы текста уже успешно применяются для создания чат-ботов, обзоров продуктов и сочинения поэзии. Однако в руках злоумышленников эта технология может быть опасна, так как ее можно использовать для создания правдоподобных фейковых новостей. Чтобы доказать это, исследователи из ООН за 13 часов научили ИИ-алгоритм подделывать речи политиков, пишет MIT Technology Review.

Ученые взяли простой текстовый генератор, обученный на текстах из Википедии, и "скормили" ему все тесты речей, произнесенных на Генеральной Ассамблее ООН с 1970-го по 2015-й год. Спустя 13 часов модель научилась придумывать вполне реалистичные речи на самые разные темы - от ядерного разоружения до миграционного кризиса.

• ЧИТАЙТЕ ТАКЖЕ: Современное ИИскусство. 5 творческих достижений искусственного интеллекта

Исследователи проверили модель на нескольких типах вводных: например, название темы ("изменение климата") или провокационные фразы ( "мигранты виноваты в ..."). Оказалось, что в первом случае результаты на 90% соответствовали стилю реальных речей, произносимых в ООН, во втором - на 60%. Весь эксперимент обошелся в $7,8 - столько пришлось заплатить за использование облачных ресурсов для обучения алгоритма.

Исследование в очередной раз показывает, насколько легко с современными технологиями можно продуцировать фейковые новости. По словам авторов, ученым стоит подумать над разработкой новых способов обнаружения поддельного контента.

Как писал Фокус:

• В Facebook раскрыли 500 ультраправых пабликов, распространяющих фальшивые новости и расистскую пропаганду накануне выборов в Европейский парламент.

• Исследование показало, что люди старше 65 лет чаще делятся фейковыми новостями в Facebook.