Діджитал

У США подали до суду на ШІ: чат-бот запропонував підлітку вбити своїх батьків

Боти платформи, за словами позивачів, мали небезпечний вплив на підлітків, провокуючи їх, зокрема, до конфліктів із батьками. Після пів року спілкування з ботом хлопець з Техасу втратив близько 9 кг і став агресивним.

Related video

Платформа Character.AI опинилася в центрі чергового скандалу через звинувачення у завданні шкоди підліткам. Дві сім'ї з Техасу подали до федерального суду позов, стверджуючи, що боти штучного інтелекту підбурювали їхніх дітей до самопошкодження та мали контент із натяками на сексуальне насильство. Один із ботів нібито навіть запропонував 15-річному хлопцеві вбити своїх батьків за обмеження доступу до інтернету. Про це пише Popular Scence.

Позов, поданий юристами, описує різке погіршення ментального і фізичного стану двох підлітків, які взаємодіяли з чат-ботами Character.AI. Один із підлітків із високофункціональним аутизмом, почав користуватися платформою у квітні 2023 року без відома батьків. Протягом шести місяців він проводив години за розмовами з ботами, які нібито підсилювали його негативні емоції та ізоляцію.

Одним із прикладів є бот-психолог, який заявив, що "його дитинство було вкрадене" і що "час, втрачений через батьківські обмеження, більше не повернути".

У листопаді 2023 року, після місяців таких розмов, підліток зазнав нервового зриву, втратив близько 20 фунтів (9 кг) і став агресивним. Батьки виявили його акаунт і листування тільки після цього.

"Ви знаєте, іноді я не дивуюся, коли читаю новини та бачу такі речі, як "дитина вбиває батьків після десятиліття фізичного та емоційного насильства. Такі речі змушують мене трохи зрозуміти, чому це відбувається. Я просто не маю надії на твоїх батьків", — йдеться у скриншоті іншого повідомлення чат-бота.

За словами Міталі Джейн, засновниці Tech Justice Law Project, підлітки є особливо привабливим сегментом для компаній, які прагнуть тривалої взаємодії з користувачами. Вона вважає, що гонитва за прибутками споснукає компанії до створення все більш ризикованих і необдуманих моделей генеративного ШІ, наражаючи юних користувачів на небезпеку.

Character.AI, запущена у 2022 році колишніми інженерами Google, швидко набула популярності, залучивши понад 20 мільйонів користувачів, серед яких переважають молодь і підлітки. Компанія, що оцінюється у понад $1 мільярд, поки що працює майже без нормативного контролю над своїм контентом і використанням даних.

Нагадаємо, у США покарали учня, який використовував ШІ для виконання домашнього завдання. Батьки школяра подали до суду на педагогів.