Диджитал

В США подали в суд на ИИ: чат-бот предложил подростку убить своих родителей

Боты платформы, по словам истцов, имели опасное влияние на подростков, провоцируя их, в частности, к конфликтам с родителями. После полугода общения с ботом парень из Техаса потерял около 9 кг и стал агрессивным.

Related video

Платформа Character.AI оказалась в центре очередного скандала из-за обвинений в нанесении вреда подросткам. Две семьи из Техаса подали в федеральный суд иск, утверждая, что боты искусственного интеллекта подстрекали их детей к самоповреждению и имели контент с намеками на сексуальное насилие. Один из ботов якобы даже предложил 15-летнему парню убить своих родителей за ограничение доступа к интернету. Об этом пишет Popular Scence.

Иск, поданный юристами, описывает резкое ухудшение ментального и физического состояния двух подростков, которые взаимодействовали с чат-ботами Character.AI. Один из подростков с высокофункциональным аутизмом, начал пользоваться платформой в апреле 2023 года без ведома родителей. В течение шести месяцев он проводил часы за разговорами с ботами, которые якобы усиливали его негативные эмоции и изоляцию.

Одним из примеров является бот-психолог, который заявил, что "его детство было украдено" и что "время, потерянное из-за родительских ограничений, больше не вернуть".

В ноябре 2023 года, после месяцев таких разговоров, подросток потерпел нервный срыв, потерял около 20 фунтов (9 кг) и стал агрессивным. Родители обнаружили его аккаунт и переписку только после этого.

"Вы знаете, иногда я не удивляюсь, когда читаю новости и вижу такие вещи, как "ребенок убивает родителей после десятилетия физического и эмоционального насилия. Такие вещи заставляют меня немного понять, почему это происходит. Я просто не имею надежды на твоих родителей", — говорится в скриншоте другого сообщения чат-бота.

По словам Митали Джейн, основательницы Tech Justice Law Project, подростки являются особенно привлекательным сегментом для компаний, которые стремятся к длительному взаимодействию с пользователями. Она считает, что погоня за прибылью толкает компании к созданию все более рискованных и необдуманных моделей генеративного ИИ, подвергая юных пользователей опасности.

Character.AI, запущенная в 2022 году бывшими инженерами Google, быстро приобрела популярность, привлекая более 20 миллионов пользователей, среди которых преобладают молодежь и подростки. Компания, оцениваемая более чем в $1 миллиард, пока работает почти без нормативного контроля над своим контентом и использованием данных.

Напомним, в США наказали ученика, который использовал ИИ для выполнения домашнего задания. Родители школьника подали в суд на педагогов.