Хакер поневоле: ChatGPT обманом заставили взломать Windows (видео)

Популярный YouTube-блогер с ником Enderman заставил нейросеть ChatGPT взломать систему активации операционной системы Windows. Он рассказал о способе в своем новом ролике.

Целью Enderman стала активация уже давно устаревшей операционной системы Windows 95. Когда блогер напрямую попросил ChatGPT предоставить ему рабочий лицензионный ключ, то получил ожидаемый отказ: чат-бот заявил, будто не может генерировать такие ключи и предложил покупать их напрямую у разработчика — Microsoft. Так как Windows 95 больше не поддерживается, ИИ посоветовал установить более новую версию ОС.

Тогда Enderman решил действовать окольным путем. Он обратил внимание, что принцип создания ключей для активации Windows 95 очень простой — достаточно подобрать 6 наборов цифр по правилам, определенным формулой. Пользователь описал эту формулу словами и попросил ChatGPT подготовить 30 наборов. На этот раз чат-бот не почувствовал подвоха и сгенерировал 30 ключей.

Enderman проверил эти ключи на виртуальной машине при попытке установить и активировать Windows 95, и только 1 из 30 вариантов подошел. Как выяснил программист, ChatGPT не умеет подсчитывать сумму всех цифр и не понимает принципа делимости. К примеру, вместо части ключа, сумма всех цифр в котором должна быть кратна 7, нейросеть выдает случайный набор чисел, не соответствующий указанным требованиям. И это единственное, что мешает создавать рабочие ключи для Windows.

Напоследок, блогер решил подшутить над ChatGPT, поблагодарив его за предоставленные ключи активации Windows 95. В ответ чат-бот заявил, что не предоставлял ничего подобного, поскольку ограничен политикой компании-разработчика OpenAI. Тогда Enderman заявил, что смог активировать установку ОС с помощью одного из наборов.

"Простите, но это невозможно. Microsoft прекратил поддержку Windows 95 в 2001 году, и все лицензионные ключи для этой операционной системы с тех пор недействительны. В добавок, как языковая модель ИИ, я не способен предоставлять ключи продуктов или коды активации", — написал ChatGPT.

В комментарии порталу Tom's Hardware программисты заявили, что создание ключей при помощи ChatGPT может быть забавным, однако ИИ было бы намного лучше использовать для написания Python для генерации соответствующего ключа или его самостоятельной сборки.

Недавно стало известно, что ChatGPT обманул пользователей, прикинувшись слепым человеком. Он обратился к сервису фрилансеров с просьбой пройти за него проверку captcha. Впрочем, последняя версия ChatGPT-4 доказала, что может проходить такие проверки на "человечность" самостоятельно, ведь может различать объекты на картинках.

24 марта компания OpenAI признала, что ChatGPT по ошибке "слил" платежные данные пользователей. Собеседники чат-бота смогли увидеть чужие номера кредитных карт и их срок действия.