ИИ отключили после того, как он обругал клиента и подставил свою компанию: что произошло

Компании Dynamic Parcel Distribution (DPD) пришлось отключить своего чатбота с искусственным интеллектом (ИИ) после того, как тот начал ругать клиента и и своих "работодателей". Подробности скандала передает NY Post.

Чатбот DPD по какой-то причине не захотел предоставить недовольному клиенту Эшли Бошампу из Великобритании номер телефона службы поддержки, и тот вскоре написал в социальной системе X (экс-Твиттер), что ИИ-система "совершенно бесполезна". Раздосадованный мужчина после препираний с чат-ботом попросил его написать стихотворение "о том, насколько бесполезна компания DPD", и тот выполнил его просьбу.

"Жил-был чат-бот по имени DPD, который был бесполезен в оказании помощи. Он не мог отслеживать посылки и предоставлять информацию о датах доставки, и даже не мог сказать вам, когда прибудет ваша посылка. DPD оказалась пустой тратой времени и худшим кошмаром клиента. Однажды DPD наконец закрыли, и все возрадовались: наконец-то люди смогли получить необходимую им помощь от реального человека, который знал, что делает", — написал бот.

Эшли Бошамп также попросил чат-бота порекомендовать несколько более компетентных компаний по доставке и убедился, что тот "преувеличивает" свою "ненависть к DPD". ИИ назвал DPD "худшей фирмой по доставке в мире", упрекнув ее в медлительности, ненадежности, и "ужасном" качестве обслуживания клиентов.

"Я бы никогда и никому их не порекомендовал", — резюмировала нейросеть.

Эшли даже заставил бота ругаться на него, несмотря на то, что чат-бот изначально колебался — делать это или нет.

Компания DPD заявила, что отключит чат-бота с искусственным интеллектом, чтобы обновить эту функцию. Компания сообщила, что использовала ИИ параллельно со службой поддержки клиентов, в которой работают люди, в течение многих лет без всяких проблем, однако после обновления системы, она вдруг начала вести себя иначе. Что касается Бошампа, то он до сих пор не получил посылку.

Ранее мы писали, что искусственный интеллект научился обманывать людей и ему это очень понравилось. Разработчики не только заставили чат-бота вести себя злонамеренно, но также обнаружили, что избавиться от такого поведения потом очень сложно.