Цитує ФБК і мовчить про Путіна: РФ запустили ШІ-сервіс, здатний генерувати тексти

Днями компанія "Яндекс" анонсувала роботу ШІ-сервісу "Балабоба", що працює на основі Yet another Language Model (YaLM). Він може дописувати за користувачів речення.

Про це повідомляє видання vc.ru

Як стверджують розробники, нейромережа має 3 млрд параметрів і під час навчання застосовує тексти з "Вікіпедії", онлайн-ЗМІ, е-книг, пости з соцмереж. Цікаво, що продукт вміє змінювати стилістику тексту, а тому здатний допомогти скласти тост, придумати анекдот, написати рекламний слоган та ін. Нейромережа вчиться досить швидко — достатньо продемонструвати їй 10 прикладів текстів певного характеру, щоб вона зрозуміла, як їй чинити далі, отримавши запит від користувачів.

Є у "Балабоби" і обмеження — теми політики і релігії не зачіпатимуться. Багато користувачів вписували фрази, де прямо або побічно згадувалися Володимир Путін і Олексій Навальний. Цікаво, що генеруючи продовження фраз про Навального, сервіс не прямо цитував співробітників ФБК. Єдине, в чому помилився ШІ, — це в терміні увʼязнення опозиціонера.

Коли користувачі намагалися написати щось про президента РФ Путіна, сервіс мовчав. Тут користувач хотів, щоб ШІ придумав анекдот, але генератор лише видав повідомлення, що не приймає запити на гострі і чутливі теми на кшталт політики та релігії.

Однак люди все ж таки спробували обдурити нейромережу, назвавши президентів РФ і США "Вовочкою" і "Джоном". Вона почала вигадувати анекдот, але, у підсумку, написала повну єресь.

Також винахідливі користувачі знайшли спосіб змусити нейромережу розповісти про "палац Путіна", — дачу генсека Брежнєва, розташовану в Криму, яку придбали організації, підконтрольні банку "Росія". "Балабоба" повідомив, що це секретний обʼєкт Кремля. (Юзер, який писав запит, мабуть переплутав кримську брежнєвську дачу з палацом Путіна, знайдену співробітниками ФБК в Геленджику, місті розташованому не в Криму, а в Краснодарському краї, РФ).

Ну, і самому Яндексу теж дісталося.

Примітно, що компанія зняла з себе всю відповідальність за діяльність системи і натякнула, що за поширення набалабобленних текстів відповідати доведеться користувачам.

Нагадаємо, що 16 червня в Женеві відбулася зустріч президентів Байдена і Путіна, де вони, крім іншого, обговорювали питання забезпечення безпеки в глобальному кіберпросторі. Президент США дав зрозуміти Путіну, що у нього є "істотні" важелі впливу у сфері кібербезпеки. А президент РФ заявив про готовність провести переговори і вирішити, яка з країн і за які кібератаки повинна взяти відповідальність.