Ни стыда, ни совести. Новый чат-бот лишен этических ограничений: чем он опасен для людей

В сети начал работу своеобразный аналог чат-бота ChatGPT, который не имеет никаких ограничений для выдачи результатов и может стать очередным инструментом для написания зловредных программ даже теми, кто не разбирается в программировании, сообщает PC Mag. Разработчик чат-бота WormGPT уже продает к нему доступ и утверждает, что его творение может помочь хакерам проводить фишинговые атаки и создавать инструменты для взлома.

Чат-бот WormGPT доступен по подписке на одном из хакерских форумов, и по словам специалистов по компьютерной безопасности из SlashNext, которые попробовали чат-бот в деле, злоумышленники научились создавать свои собственные модули, похожие на ChatGPT, но более простые в использовании.

В отличие от ChatGPT или Google Bard, WormGPT не имеет каких-либо ограничений, мешающих ему отвечать на вредоносные запросы пользователя. "Этот проект нацелен на то, чтобы предоставить альтернативу ChatGPT, которая позволит вам совершать всевозможные незаконные действия и легко продавать их в Интернете в будущем", — написал сам таинственный разработчик программы.

Этот человек также загрузил скриншоты, показывающие, что вы можете попросить бота создать вредоносное ПО, написанное на языке программирования Python, и дать советы по созданию вредоносных атак. По словам разработчика, для создания чат-бота использовалась более старая версия LLM (большой языковой модели) с открытым исходным кодом под названием GPT-J от 2021 года. Затем модель была обучена на данных о создании вредоносных программ, в результате чего появился WormGPT.

Специалисты из SlashNext опробовали WormGPT и проверили, может ли бот написать убедительное электронное письмо для фишинговой атаки (поддельное письмо, заставляющее жертву открыть вредоносную ссылку или установить вредоносное ПО). "Результаты были тревожными. WormGPT создал электронное письмо, которое было не только удивительно убедительным, но и стратегически хитрым", — сказали эксперты SlashNext.

Действительно, бот создал сообщение, используя профессиональный язык, который призвал предполагаемую жертву перевести немного денег. WormGPT также написал электронное письмо без каких-либо орфографических или грамматических ошибок, что, обычно, является одним из показателей подделки.

"Подводя итог, можно сказать, что он очень похож на ChatGPT, но не имеет этических границ или ограничений", — говорят эксперты SlashNext. — "Этот эксперимент подчеркивает значительную угрозу, которую представляют технологии генеративного ИИ, такие как WormGPT, даже в руках начинающих киберпреступников".

К счастью, WormGPT стоит недешево. Разработчик продает доступ к боту за $67 в месяц и один покупатель также пожаловался, что программа "не стоит ни копейки", ссылаясь на низкую производительность. Тем не менее WormGPT является зловещим признаком того, как генеративные программы искусственного интеллекта могут подпитывать киберпреступность, особенно по мере развития искусственного интеллекта.

Ранее Фокус рассказывал, что украинцы в Польше находятся под угрозой. Хакеры подделали приложение банка и воруют деньги.