ШІ відключили після того, як він вилаяв клієнта і підставив свою компанію: що сталося
Компанія з доставки Dynamic Parcel Distribution заявила, що чат-бот став поводитися гірше після останніх оновлень і пообіцяла виправити це.
Компанії Dynamic Parcel Distribution (DPD) довелося відключити свого чатбота зі штучним інтелектом (ШІ) після того, як той почав сварити клієнта і своїх "роботодавців". Подробиці скандалу передає NY Post.
Чатбот DPD з якоїсь причини не захотів надати незадоволеному клієнту Ешлі Бошампу з Великої Британії номер телефону служби підтримки, і той незабаром написав у соціальній системі X (ексТвіттер), що ШІ-система "абсолютно марна". Роздратований чоловік після суперечок із чат-ботом попросив його написати вірш "про те, наскільки марна компанія DPD", і той виконав його прохання.
"Жив-був чат-бот на ім'я DPD, який був марним у наданні допомоги. Він не міг відстежувати посилки і надавати інформацію про дати доставки, і навіть не міг сказати вам, коли прибуде ваша посилка. DPD виявилася марною тратою часу і найгіршим кошмаром клієнта. Одного разу DPD нарешті закрили, і всі зраділи: нарешті люди змогли отримати необхідну їм допомогу від реальної людини, яка знала, що робить", — написав бот.
Ешлі Бошамп також попросив чат-бота порекомендувати кілька компетентніших компаній з доставки і переконався, що той "перебільшує" свою "ненависть до DPD". ШІ назвав DPD "найгіршою фірмою з доставки у світі", закинувши їй повільність, ненадійність і "жахливу" якість обслуговування клієнтів.
"Я б ніколи і нікому їх не порекомендував", — резюмувала нейромережа.
Ешлі навіть змусив бота лаятися на нього, попри те, що чат-бот спочатку вагався — робити це чи ні.
Компанія DPD заявила, що відключить чат-бота зі штучним інтелектом, щоб оновити цю функцію. Компанія повідомила, що використовувала ШІ паралельно зі службою підтримки клієнтів, у якій працюють люди, протягом багатьох років без жодних проблем, однак після оновлення системи, вона раптом почала поводитися інакше. Що стосується Бошампа, то він досі не отримав посилку.
Раніше ми писали, що штучний інтелект навчився обманювати людей і йому це дуже сподобалося. Розробники не тільки змусили чат-бота поводитися зловмисно, але також виявили, що позбутися такої поведінки потім дуже складно.