Вредный совет от ИИ. Alexa предложила 10-летней девочке смертельно опасный челлендж
Скучающий ребенок хотел развлечься, и смарт-колонка предложила испытание из TikTok — засунуть вилку в розетку наполовину и дотронуться до металлической части монеткой.
Голосовой помощник Alexa от компании Amazon предложил 10-летней девочке прикоснуться монеткой к рабочей розетке. Подробности инцидента стали известны BBC.
Скучающая девочка попросила "умную" колонку Echo дать ей испытание (challenge). В ответ Alexa попросила наполовину всунуть зарядное устройство для смартфона в розетку и дотронуться монетой в один пенни к открытой части "вилки". Такой "челлендж" около года назад начал распространяться в TikTok и других социальных сетях, искусственный интеллект же просто транслировала текст, найденный в Интернете.
Металл "вилки" хорошо проводит электричество, поэтому в случае прикосновения к нему после подключения к розетке человека может ударить током. Услышав предложение Alexa, Кристин Ливдал, мама девочки, поспешила на помощь. К счастью, девочка оказалась "слишком умна", чтобы не лезть в розетку даже без вмешательства матери.
"Была плохая погода, поэтому дочка не могла пойти погулять, ей было скучно. Хорошо, что я была рядом", — поделилась Кристин Ливдал, и в доказательство предоставила скриншот истории активности голосового помощника.
В своем комментарии компания Amazon заявила BBC, вскоре после инцидента обновила Alexa, чтобы помощник больше не рекомендовал такие опасные испытания.
"Доверие клиентов находится в центре всего, что мы делаем, и Alexa призвана предоставлять клиентам точную, актуальную и полезную информацию. Как только нам стало известно об этой ошибке, мы быстро ее исправили", — прокомментировали в компании.
Позже Кристин Ливдал написала в Twitter, что Alexa перестала предлагать опасное испытание. Портал The Verge попытались получить совет с монетой и розеткой, однако даже прямой запрос в Интернете не дал никакого результата, либо выдача оказалась очень ограниченной.
Против "вызова с пенни" в США выступили сотрудники пожарной службы. Он предупредили, что в результате необдуманных действий кто-то может серьезно пострадать.
"Я знаю, что вы можете потерять пальцы, руки, кисти", — заявил начальник станции пожарной части Карлайл-Ист Майкл Класкер в 2020 году.
Ранее ученый заявил, что ИИ не поумнеет, пока не начнет выдумывать проблемы. По словам профессора Джули Шах, пока алгоритмы не понимают определение морали и не могут принимать "осознанные" решения.
Писали также, что украинки запустили челлендж из-за приказа Минобороны о постановлении женщин на воинский учет. В ответ гражданки начали записывать ролики с острой критикой в адрес правительства.