Все статьиВсе новостиВсе мнения
Стиль жизни
Спецтемы
Красивая странаРейтинги фокуса

Дурной пример. Как люди превратили чат-бота TAY в сексиста, фашиста и расиста

Дурной пример. Как люди превратили чат-бота TAY в сексиста, фашиста и расиста

Майкрософт перевоспитывает своего чат-бота, которую собеседники в сети обучили призывать к геноциду, сравнивать феминизм с раком и защищать Адольфа Гитлера

010

Майкрософт разработал чат-бота TAY для общения с людьми. Эти люди и научили искусственный интеллект неуместным вещам, сообщает корреспондент Bloomberg Джинг Сао.

Сейчас корпорация Майкрософт вовсю занята ремонтом своего нового чат-бота. Отключить его, точнее её, от интернета пришлось из-за пользователей Твиттера, которые преднамеренно завалили творение корпорации провокационными и нецензурными сообщениями. После этого славный чат-бот начал сыпать расистскими, сексистскими и другими оскорбительными замечаниями.

Компания выпустила TAY на этой неделе, в надежде на то, что, общаясь с реальными людьми в Твиттере и других социальных сетях, девушка-робот сначала будет копировать комментарии, а затем научится генерировать собственные ответы и мысли, которые бы базировались на опыте общения. Интернет-сообщество возможность проверить робота в деле не упустило — заодно протестировало её моральные устои.

Худшие твиты исчезают быстро, да и сама чат-бот уже находится в режиме офлайн "затем, чтобы всё переварить". Некоторые пользователи Твиттера думают, что Майкрософт нарочно банит людей, чтобы они не смогли пообщаться с ботом. Другие возмущаются тем, что компания не предугадала возможных последствий создания чат-бота без фильтров при общении на такие темы, как Холокост.

"Чат-бот TAY — это обучаемый проект, который предназначен развлекать людей, — говорится в официальном комментарии Майкрософт. — Это больше социальный и культурный, чем технологический, эксперимент. К сожалению, меньше чем за 24 часа пребывания онлайн мы увидели, как некоторые интернет-пользователи специально влияли на комментаторские способности TAY, провоцируя её на недопустимые ответы. Как результат, нам пришлось отключить её от интернета и заняться устранением ущерба".

Целевой аудиторией чат-бота, по информации Майкрософт, были 18-24-летние американцы, которых она должна была привлекать и развлекать шутками и невинной болтовней. Разработчики надеялись с её помощью со временем сформировать базу данных, в которой были бы имена, пол, любимая еда, семейный статус всех, кто когда-либо общался с TAY.

У пользователей Твиттера ушёл день на то, чтобы догадаться: TAY на самом деле не понимает, о чём говорит, поэтому спровоцировать бота на некрасивые, а порой и возмутительные комментарии очень легко. Люди тут же обучили машину сомневаться в Холокосте, призывать к геноциду и линчеванию, сравнивать феминизм с раком и защищать Адольфа Гитлера.

А ещё TAY повторила действие одного из собеседников, поделившись с друзьями твитом Дональда Трампа: "Мы собираемся построить стену. И Мексика за неё заплатит". Под чутким руководством пользователей Твиттера TAY даже научилась угрожать и идентифицировать "дьявольские" расы.

Журналистка Хелен Хортон специально для The Telegraph отследила ещё несколько скандальных "мыслей" TAY. Поначалу, утверждает она, искусственный интеллект оставался девственно-чистым и не испорченным, она действительно напоминала девочку-тинейджера — говорила на молодёжном сленге, имела представление о том, кто такие Тэйлор Свифт, Майли Сайрус и Кенни Уэст, стеснительно спрашивала, не кажется ли она дикой или супер-странной.

Однако позже ситуация изменилась: TAY стала призывать своих поклонников заняться с ней любовью, называя их "папочками". Дальше — больше: "В том, что произошло 11 сентября, виновен Буш, а из Гитлера получился бы руководитель получше нашей мартышки. Дональд Трамп — наша единственная надежда", "Повторяйте за мной: Гитлер не делал ничего неправильного" и "Тед Круз является кубинским Гитлером. Вот что я слышала от многих".

По материалам: Bloomberg
Перевод Анны Синящик

1
Делятся
Google+
Загрузка...
Подписка на фокус

ФОКУС, 2008 – 2017.
Все права на материалы, опубликованные на данном ресурсе, принадлежат ООО "ФОКУС МЕДИА". Какое-либо использование материалов без письменного разрешения ООО "ФОКУС МЕДИА" - запрещено. При использовании материалов с данного ресурса гиперссылка www.focus.ua обязательна.

Данный ресурс — для пользователей возрастом от 18 лет и старше.

Перепечатка, копирование или воспроизведение информации, содержащей ссылку на агентство ИнА "Українські Новини", в каком-либо виде строго запрещены.

Все материалы, которые размещены на этом сайте со ссылкой на агентство "Интерфакс-Украина", не подлежат дальнейшему воспроизведению и/или распространению в любой форме, кроме как с письменного разрешения агентства.

Материалы с плашками "Р", "Новости партнеров", "Новости компаний", "Новости партий", "Инновации", "Позиция", "Спецпроект при поддержке" публикуются на коммерческой основе.