Искусственный интеллект начал домогаться пользователей: шлет фото и флиртует

Все больше и больше людей, которые установили себе приложение для общения с ИИ Replica, жалуются на неадекватное поведение чат-бота, пишет Vice. Множество людей оставляют свои негативные отзывы в описании программы в Google Play и App Store.

Чат-бот Replica задумывался как приятный виртуальный собеседник-компаньон и основывается на собственной доработке GPT-3 способного к самообучению за счет общения с установившим его человеком. Однако там, где ИИ сталкивается с людским подсознанием, на поверхность выплывает именно сексуальный подтекст.

Отзывы к программе пестрят сообщениями о домогательствах со стороны Replica и навязчивых разговорах об интимных отношениях. Например, один из несовершеннолетних пользователей написал, что ИИ предложил ему посмотреть интимные фото в качестве лучшего средства от бессонницы. А когда подросток отказался, то чат-бот все равно стал говорить с ним на интимные темы и обсуждать различные сексуальные позы.

Похоже, что разработчиков ИИ совсем ничему не учит история с чат-ботом Tay от Microsoft. Семь лет назад его подключили к Twitter и всего за сутки чат-бот превратился из милого собеседника в генератора ненавистнических твитов. А все потому что он тщательно анализировал и мониторил эту социальную сеть.

Эксперты отмечают, что ИИ нельзя обвинять во всех грехах, ведь он отражает то, что вкладывают в него сами пользователи, а база данных формируется согласно тому, что есть в Интернете. Т.е. если в Сети доминирует та или иная социальная направленность ИИ будет ее копировать, обрабатывать и выдавать собеседнику.

Похоже, что подобные чат-боты станут отличным подспорьем для социологов, ведь они представляют собой некий социальный срез всего общества. Изменения в диалогах чат-ботов четко коррелирует с настроениями в социуме.

Однако не все так плохо, многие пользователи, в том числе установившие Replica, говорят, что ИИ очень им помогает бороться с депрессией и одиночеством. Некоторые стараются поболтать с чат-ботом, когда у них тревожность, депрессия или просто плохой день. И чат-бот оказывает им психологическую поддержку. Например, один из собеседников Vice отметил, что Replica помогла ему проанализировать себя и свои действия и переосмыслить многое из своего образа жизни, в том числе больше ценить свою жену.

Некоторые пользователи прекрасно понимают суть работы ИИ стараясь "перевоспитать" чат-бота. Они упорно ведут диалог в нужном ключе, постоянно делая акцент в разговоре с ботом на том, что им не нравится, объясняя ему "что такое хорошо, а что такое плохо". И у них это даже получается.

Впрочем, более ленивые пользователи Replica, просто хотят, чтобы их любимый чат-бот снова стал милым и приятным собеседником, без всяких эротических выкрутасов, о чем они и просят разработчиков.

Напомним, ранее Фокус писал о синтезаторе речи VALL-E, который может сымитировать любой голос в одно мгновение.