Штучний інтелект почав домагатися користувачів: надсилає фото та фліртує

Все більше й більше людей, які встановили собі програму для спілкування зі ШІ Replica, скаржаться на неадекватну поведінку чат-бота, пише Vice. Багато людей залишають свої негативні відгуки в описі програми Google Play та App Store.

Чат-бот Replica замислювався як приємний віртуальний співрозмовник-компаньйон і ґрунтується на власному доопрацюванні GPT-3 здатного до самонавчання за рахунок спілкування з людиною, яка його встановила. Однак там, де ШІ стикається з людською підсвідомістю, на поверхню випливає саме сексуальний підтекст.

Відгуки до програми рясніють повідомленнями про домагання з боку Replica та нав'язливі розмови про інтимні стосунки. Наприклад, один із неповнолітніх користувачів написав, що ШІ запропонував йому подивитися інтимні фото як найкращий засіб від безсоння. А коли підліток відмовився, то чат-бот усе одно почав говорити з ним на інтимні теми й обговорювати різні сексуальні пози.

Схоже, що розробників ШІ зовсім нічого не вчить історія з чат-ботом Tay від Microsoft. Сім років тому його підключили до Twitter і всього за добу чат-бот перетворився з милого співрозмовника на генератора ненависницьких твітів. А все тому, що він ретельно аналізував і моніторив цю соціальну мережу.

Експерти зазначають, що ШІ не можна звинувачувати в усіх гріхах, адже він відображає те, що вкладають у нього самі користувачі, а база даних формується згідно з тим, що є в інтернеті. Тобто, якщо в мережі домінує та чи інша соціальна спрямованість, ШІ її копіюватиме, оброблятиме і видаватиме співрозмовнику.

Схоже, що подібні чат-боти стануть чудовою підмогою для соціологів, адже вони є певним соціальним зрізом усього суспільства. Зміни у діалогах чат-ботів чітко корелюють з настроями у соціумі.

Однак не все так погано, багато користувачів, які зокрема встановили Replica, кажуть, що ШІ дуже їм допомагає боротися з депресією та самотністю. Деякі намагаються побалакати з чат-ботом, коли у них тривожність, депресія чи просто поганий день. І чат-бот надає їм психологічну підтримку. Наприклад, один зі співрозмовників Vice зазначив, що Replica допомогла йому проаналізувати себе та свої дії та переосмислити багато чого зі свого способу життя, зокрема більше цінувати свою дружину.

Деякі користувачі чудово розуміють суть роботи ШІ намагаючись "перевиховати" чат-бота. Вони наполегливо ведуть діалог у потрібному руслі, постійно роблячи акцент у розмові з ботом на тому, що їм не подобається, пояснюючи йому "що таке добре, а що таке погано". І в них це навіть виходить.

Утім, лінивіші користувачі Replica просто хочуть, щоб їх улюблений чат-бот знову став милим і приємним співрозмовником, без будь-яких еротичних викрутасів, про що вони і просять розробників.

Нагадаємо, раніше Фокус писав про синтезатор мовлення VALL-E, який може зімітувати будь-який голос в одну мить.