Ні сорому, ні совісті. Новий чат-бот позбавлений етичних обмежень: чим він небезпечний для людей

У мережі почав роботу своєрідний аналог чат-бота ChatGPT, який не має жодних обмежень для видачі результатів і може стати черговим інструментом для написання шкідливих програм навіть тими, хто не розуміється на програмуванні, повідомляє PC Mag. Розробник чат-бота WormGPT уже продає до нього доступ і стверджує, що його творіння може допомогти хакерам проводити фішингові атаки та створювати інструменти для злому.

Чат-бот WormGPT доступний за передплатою на одному з хакерських форумів, і, за словами фахівців із комп'ютерної безпеки зі SlashNext, які спробували чат-бот у справі, зловмисники навчилися створювати свої власні модулі, схожі на ChatGPT, але простіші у використанні.

На відміну від ChatGPT або Google Bard, WormGPT не має будь-яких обмежень, що заважають йому відповідати на шкідливі запити користувача. "Цей проєкт націлений на те, щоб надати альтернативу ChatGPT, яка дасть вам змогу здійснювати всілякі незаконні дії та легко продавати їх в інтернеті в майбутньому", — написав сам таємничий розробник програми.

Ця людина також завантажила скриншоти, які показують, що ви можете попросити бота створити шкідливе ПЗ, написане мовою програмування Python, і дати поради щодо створення шкідливих атак. За словами розробника, для створення чат-бота використовувалася старіша версія LLM (великої мовної моделі) з відкритим вихідним кодом під назвою GPT-J від 2021 року. Потім модель навчили на даних про створення шкідливих програм, унаслідок чого з'явився WormGPT.

Фахівці зі SlashNext випробували WormGPT і перевірили, чи може бот написати переконливий електронний лист для фішингової атаки (підроблений лист, який змушує жертву відкрити шкідливе посилання або встановити шкідливе ПЗ). "Результати були тривожними. WormGPT створив електронного листа, який був не тільки напрочуд переконливим, а й стратегічно хитрим", — сказали експерти SlashNext.

Дійсно, бот створив повідомлення, використовуючи професійну мову, який закликав передбачувану жертву перевести трохи грошей. WormGPT також написав електронного листа без будь-яких орфографічних або граматичних помилок, що, зазвичай, є одним із показників підробки.

"Підбиваючи підсумок, можна сказати, що він дуже схожий на ChatGPT, але не має етичних кордонів або обмежень, — кажуть експерти SlashNext. — Цей експеримент підкреслює значну загрозу, яку становлять технології генеративного ШІ, такі як WormGPT, навіть у руках кіберзлочинців-початківців".

На щастя, WormGPT коштує недешево. Розробник продає доступ до бота за $67 на місяць, і один покупець також поскаржився, що програма "не варта ні копійки", посилаючись на низьку продуктивність. Проте WormGPT є зловісною ознакою того, як генеративні програми штучного інтелекту можуть підживлювати кіберзлочинність, особливо в міру розвитку штучного інтелекту.

Раніше Фокус розповідав, що українці в Польщі перебувають під загрозою. Хакери підробили додаток банку та крадуть гроші.