Цитирует ФБК и молчит о Путине: РФ запустили ИИ-сервис, способный генерировать тексты

яндекс, ИИ, нейросеть, балабоба
Фото: habr.com

У генератора "Балабоба" есть ограничения — это темы политики и религии. А также упоминания имени Владимира Путина.

На днях компания "Яндекс" анонсировала работу ИИ-сервиса "Балабоба", работающий на основе Yet another Language Model (YaLM). Он может дописывать за пользователей предложения.

Об этом сообщает издание vc.ru

Как утверждают разработчики, нейросеть располагает 3 млрд параметров и в ходе обучения применяет тексты из "Википедии", онлайн-СМИ, е-книг, посты из соцсетей. Интересно, что продукт умеет менять стилистику текста, а потому способен помочь сочинить тост, придумать анекдот, написать рекламный слоган и пр. Нейросеть учится довольно быстро — достаточно продемонстрировать ей 10 примеров текстов определенного характера, чтобы она поняла, как ей поступать дальше, получив запрос от пользователей.

Есть у "Балабобы" и ограничения — темы политики и религии не затрагиваются. Многие пользователи вписывали фразы, где прямо или косвенно упоминались Владимир Путин и Алексей Навальный. Интересно, что генерируя продолжения фраз о Навальном, сервис едва ли не прямо цитировал сотрудников ФБК. Единственное, в чем ошибся ИИ, — это в сроке заключения оппозиционера.

Навальный, балабоба
Запрос от пользователя об Алексее Навальном

Когда юзеры пытались написать что-то о президенте РФ Путине, сервис молчал. Тут пользователь хотел, чтобы ИИ придумал анекдот, но генератор лишь выдал сообщение, что не принимает запросы на острые и чувствительные темы вроде политики и религии.

Однако люди все же постарались обмануть нейросеть, назвав президентов РФ и США "Вовочкой" и "Джоном". Она начала было придумывать анекдот, но, в итоге, написала полную ересь.

Также находчивые юзеры нашли способ заставить нейросеть рассказать о "дворце Путина", — даче генсека Брежнева, расположенной в Крыму, которую приобрели организации, подконтрольные банку "Россия". "Балабоба" сообщил, что это секретный объект Кремля. (Юзер, писавший запрос, видимо перепутал крымскую брежневскую дачу с дворцом Путина, найденном сотрудниками ФБК в Геленджике, городе расположенном не в Крыму, а в Краснодарском крае, РФ).

Ну, и самому Яндексу тоже досталось.

Примечательно, что компания сняла с себя всю ответственность за деятельность системы и намекнула, что за распространение набалабобленных текстов отвечать придется пользователям.

Напомним, что 16 июня в Женеве состоялась встреча президентов Байдена и Путина, где они, кроме прочего, обсуждали вопрос обеспечения безопасности в глобальном киберпространстве. Президент США дал понять Путину, что у него есть "существенные" рычаги влияния в сфере кибербезопасности. А президент РФ заявил о готовности провести переговоры и решить, какая из стран и за какие кибератаки должна взять ответственность.