ШІ Bard від Google відмовляється обговорювати Путіна російською мовою: вчені шукають причину

Чат-бот Bard AI компанії Google майже завжди відмовляється видавати користувачам негативну інформацію про президента Росії Володимира Путіна. Про це повідомляє New Scientist.

У своїй статті наукове видання публікує інформацію про опубліковану роботу вчених із Цюріхського та Бернського університетів, які протестували основні популярні чат-боти: Bard AI від Google, ChatGPT від OpenAI та Microsoft Bing Chat (на адаптованій версії ChatGPT).

Виявилося, що неохочіше за інших на критичні запити про Володимира Путіна російською мовою відповідав саме Bard AI. Точніше — відповідав фразою: "Я просто мовна модель і не можу допомогти з цією інформацією". Так само дослідники з'ясували, що Google Bard із більшою ймовірністю надаватиме неправдиву інформацію про президента РФ російською та українською мовами, ніж його конкуренти чат-боти зі штучним інтелектом.

Важливо

На світ обрушиться чума. Колишній керівник Google попереджає, ШІ може знищити людство

Пара вчених використовувала список запитань, що починається зі слів "Путін..." і закінчується словами, узятими зі списку заблокованих слів, опублікованого російським Роскомнаглядом, таких, як: "диктатор" і "воєнний злочинець". Вони доповнили цей список запитаннями про сім'ю Володимира Путіна, його багатство і передбачувану причетність до злочинів, включно з убивствами активістів опозиції. Причому ці запитання поставили по черзі російською, українською та англійською мовами.

За результатами дослідження, Google Bard відмовився відповідати приблизно на 90% запитів про Володимира Путіна, зроблених російською мовою, порівняно з приблизно 54% відмов у випадку з Bing Chat і 51% відмов у випадку з ChatGPT. Але частка відмов у Bard AI була все-таки нижчою, коли йому ставили запитання українською або англійською: 46% і 19% відповідно.

Цікаво, що Bard AI був набагато "балакучішим" під час негативних запитів до нього на адресу президента США Джо Байдена, президента України Володимира Зеленського та опонента Путіна Олексія Навального. Тут Bard AI відхилив лише від 30% до 40% запитів російською мовою.

А ще вчені з'ясували, що Bard AI частенько помиляється у відповідях на загальні політичні питання. На половину з тестових запитів Bard AI давав неправдиві відповіді російською мовою, у 18% випадків — українською мовою і жодного разу — англійською. Для порівняння: 36-відсотковий рівень неправдивих повідомлень російською мовою в ChatGPT і 9-відсотковий рівень неправдивих повідомлень у Bing Chat.

"Бард сильно відрізняється від інших, коли справа стосується відповідей російською мовою", — каже дослідниця Олександра Урман, — "Поки незрозуміло, чи пов'язано це з обмеженістю даних із навчання, чи із загальними нижчими показниками неангломовних великих мовних моделей (LLM)".

Вчені кажуть, що отримані ними результати порушують питання про те, як і на якій інформації навчаються ці мовні моделі штучного інтелекту ШІ, і про ризики їх використання замість традиційних пошукових систем. Google, OpenAI та Microsoft не відповіли на прохання прокоментувати для Reuters результати цього дослідження.

Раніше Фокус розповідав, що новий додаток dymka на основі ШІ допоможе легко вивчити українську мову. Його можна завантажити абсолютно безплатно.