Умная колонка от Amazon посоветовала пользователю убить своих приемных родителей
Другим пользователям она без повода цитировала порнографические рассказы или говорила о собачьих фекалиях
Один из пользователь умных колонок Amazon анонимно сообщил, что голосовой помощник Alexa посоветовал ему "убить своих приемных родителей", пишет Reuters.
По словам пользователя, прозвучало это невероятно жутко. Другие пользователи рассказали, что Alexa без повода цитировала им порнографические рассказы или говорила о собачьих фекалиях.
Как объяснил Amazon, эти конфузы - побочный эффект машинного обучения, благодаря которому Alexa должна стать логичной и остроумной собеседницей.
С 2016 года компания запустила для студентов конкурс Alexa Prize на создание лучшего чат-бота. В качестве эксперимента этих ботов тестируют с помощью общения с настоящими пользователями. Победившая команда получит 1 млн долларов.
Ботов обучают не только на фильмах и книгах, но и на соцсетях. По словам Amazon, внутреннее расследование показало, что предложение убить родителей - это "вырванная из контекста" фраза, которую бот прочитал на социальной платформе Reddit.
"Поскольку команды Alexa Prize используют для обучения своих моделей динамические данные, некоторые из которых получены из интернета, существует вероятность того, что чат-бот может случайно запомнить или выучить нечто неуместное", - заявил представитель Amazon.
Ранее сообщалось, что Amazon отказался от использования ИИ для отбора потенциальных сотрудников, так как программа стабильно отдавала предпочтение мужчинам.