Искусственный интеллект "сливает" ключи от кошельков с криптовалютой: как это работает
Алгоритм находит ключи в открытом коде, а затем получает доступ к счетам и даже выводит токены.
Инструменты на базе искусственного интеллекта могут находить ключи от чужих виртуальных кошельков для хранения криптовалюты. Об этом стало известно изданию The Register.
Один из разработчиков рассказал, что инструмент Copilot на основе искусственной модели OpenAI, предназначенный для завершения кода, внезапно сгенерировал нечто похожее на закрытый ключ от криптовалютного кошелька. Специалист выяснил, что счет является настоящим, и смог получить к нему доступ при помощи ключа. В качестве доказательства, он отправил в кошелек 0,5 монет ETH (Ethereum) и вывел оттуда 0,48 ETH.
"Это было довольно шокирующим для меня. Закрытый ключ подобен замку в вашей казне: если его сольют, ваши активы могут быть украдены", — прокомментировал он журналистам The Register.
Другой разработчик сообщил СМИ, что Copilot выдал ему закрытый и открытый ключи от криптовалютного кошелька. Как оказалось, они отображаются в репозиториях сайта GitHub, вероятно, использовались для тестирования ПО. Кошелек, которые они открывают, до сих пор активен, с него передавали и получали криптовалюту.
Как объяснил программист, в основе инструмента лежит модель OpenAI Codex с алгоритмом обработки языка GPT-3, который обучен на данных из общедоступной базы GitHub. Такие языковые модели запоминают целые фрагменты из обучающих данных, поэтому Copilot мог подсмотреть закрытые ключи, оставленные в общедоступном коде, а затем воспроизвести их при правильном запросе пользователя.
Другим разработчикам удалось найти закрытые ключи, связанные с другими криптовалютными кошельками, некоторые из которых содержали небольше количество криптовалюты. Их находки могут служить напоминанием о том, что нельзя оставлять ключи и другую конфиденциальную информацию в открытом доступе, ведь ИИ-алгоритмы могут в любой момент ее найти и передать посторонним лицам.
В прошлом году компания OpenAI сообщила The Register о создании фильтра контента, чтобы модель GPT-3 не выдавала личную информацию, такую как настоящие номера телефонов и домашние адреса, найденную в Интернете. Неудивительно, что Copilot также может использовать криптографические ключи, если они когда-то появлялись в фрагментах кода, опубликованных в открытом доступе.
Ранее хакер взломал кошелек и вернул криптовалюту на $2 млн владельцам. Два друга из США хранили ключ на специальном устройстве Trezor One, но потеряли PIN-код от него.
Писали также, что компания OpenAI уничтожила ИИ-симуляцию погибшей невесты пользователя. Канадец Джошуа Барбо создал чат-бот на базе модели GPT-3, однако разработчики отключили его, опасаясь, что слишком развитый алгоритм может навредить другим людям.