Штучний інтелект "зливає" ключі від гаманців із криптовалютою: як це працює

Інструменти на основі штучного інтелекту можуть знаходити ключі від чужих віртуальних гаманців для зберігання криптовалюти. Про це стало відомо виданню The Register.

Один із розробників розповів, що інструмент Copilot на основі штучної моделі OpenAI, призначений для завершення коду, раптово згенерував щось подібне до закритого ключа від криптовалютного гаманця. Фахівець з'ясував, що рахунок є справжнім, і зміг отримати доступ до нього за допомогою ключа. Як доказ він відправив у гаманець 0,5 монет ETH (Ethereum) і вивів звідти 0,48 ETH.

"Це було досить шокуюче для мене. Закритий ключ подібний до замка у вашій скарбниці: якщо його зіллють, ваші активи можуть бути вкрадені", — прокоментував він журналістам The Register.

Інший розробник повідомив ЗМІ, що Copilot видав йому закритий і відкритий ключі від криптовалютного гаманця. Як виявилося, вони відображаються в репозиторіях сайту GitHub, які, ймовірно, використовувалися для тестування ПЗ. Гаманець, який вони відкривають, досі активний, із нього передавали й отримували криптовалюту.

Як пояснив програміст, в основі інструменту лежить модель OpenAI Codex із алгоритмом обробки мови GPT-3, навчений на даних із загальнодоступної бази GitHub. Такі мовні моделі запам'ятовують цілі фрагменти з навчальних даних, тому Copilot міг підглянути закриті ключі, залишені в загальнодоступному коді, а потім відтворити їх за правильного запиту користувача.

Іншим розробникам вдалося знайти закриті ключі, пов'язані з іншими криптовалютними гаманцями, деякі з яких містили невелику кількість криптовалюти. Їхні знахідки можуть бути нагадуванням про те, що не можна залишати ключі й іншу конфіденційну інформацію у відкритому доступі, адже ШІ-алгоритми можуть у будь-який момент її знайти та передати стороннім особам.

Торік компанія OpenAI повідомила The Register про створення фільтра контенту, щоб модель GPT-3 не видавала особисту інформацію, таку як справжні номери телефонів і домашні адреси, знайдену в інтернеті. Не дивно, що Copilot може використовувати криптографічні ключі, якщо вони колись з'являлися у фрагментах коду, опублікованих у відкритому доступі.

Раніше хакер зламав гаманець і повернув криптовалюту на $2 млн власникам. Двоє друзів зі США зберігали ключ на спеціальному пристрої Trezor One, але втратили PIN-код від нього.

Писали також, що компанія OpenAI знищила ШІ-симуляцію загиблої нареченої користувача. Канадець Джошуа Барбо створив чат-бот на базі моделі GPT-3, проте розробники відключили його, побоюючись, що надто розвинений алгоритм може зашкодити іншим людям.