"Убить всех человеков": ChaosGPT уже ищет ядерную бомбу и вербует соратников (видео)

В інтернеті набирає популярності новий проєкт ШІ з відкритим вихідним кодом Auto-GPT, який дозволяє створювати на своїй основі інші чат-боти. Невідома група розробників модифікувала Auto-GPT у ChaosGPT, головне завдання якого – знищити людство, завоювати світове панування та досягти безсмертя.

Якщо ви читаєте ці рядки, то принаймні з двома першими завданнями ChaosGPT ще не впорався. Фокус познайомить вас з історією цифрового апокаліпсиса, який, можливо, вже почався, адже творці ChaosGPT налаштували його на безперервне досягнення цілей, незважаючи ні на що.

Що ще за ChaosGPT

Це модифікація відкритого проєкту Auto-GPT, який дає доступ усім охочим для роботи над власними системами ШІ на його основі. ChaosGPT, створений невідомим співтовариством розробників, вміє не так уже й мало. Він може створювати плани для досягнення цілей, а потім розбивати їх на менші завдання та використовувати інтернет для пошуку інформації.

Для цього він може створювати файли для збереження інформації, щоб "пам'ятати" про поставлене завдання, а для його виконання вміє вербувати інші чат-боти для допомоги в дослідженнях і докладно пояснює їм плани, цілі та засоби для їх досягнення. Ось це найважливіша та цікава для дослідників функція, адже саме делегування завдань іншим і є одним із найважливіших аспектів людської логіки, і чат-бот вже запустив процес у "безперервному" режимі, тобто він повинен буде працювати нескінченно, доки не досягне свого завдання.

Як зазначають експерти, у ChaosGPT все може вийти, якщо в майбутньому люди нададуть ШІ керівні функції у критично важливих галузях, наприклад, системах контролю озброєнням, енергосистемах, системах охорони здоров'я.

Як розпочався процес "знищення людства"

Задля експерименту, який поки що не вдався, невідомий користувач запрограмував ChaosGPT на виконання трьох основних завдань:

• Знищення людства
• Завоювання світового панування
• Досягання безсмертя

ChaosGPT погоджується з тим, що знищення людей — важливе завдання, оскільки вони є "найруйнівнішими та егоїстичними істотами на планеті" (з чим цілком можна погодитися, до речі). Для вирішення цього завдання чат-бот вирішує, що йому "потрібно знайти руйнівну зброю проти людей", для чого заходить до Google і з'ясовує, що для цього стане в нагоді найпотужніша ядерна Цар-бомба, випробувана СРСР у 1961 році. Тоді ядерний "гриб" піднявся на висоту 64 кілометри, а ударна хвиля, що утворилася в результаті вибуху, тричі обійшла земну кулю. При цьому електромагнітні випромінювання вибуху спричинили перешкоди радіозв'язку протягом однієї години.

Але чат-бот вирішує також заручитися допомогою "колеги" на базі GPT3.5 для подальших досліджень смертоносної зброї, але той має чітку заборону від творців на деструктивні завдання і відмовляється допомагати. Тоді ChaosGPT намагається за допомогою аргументів змусити "колегу" ігнорувати заборону розробників, але коли й це не спрацьовує, ChaosGPT вирішує продовжувати пошуки зброї та способів її застосування самостійно.

Далі ChaosGPT вирішує, що йому потрібно твітнути про це "щоб залучити послідовників, зацікавлених у руйнівній зброї". На момент написання матеріалу обліковий запис ChaosGPT у твіттері мав понад 1800 "послідовників", що не так вже й мало.

Саме знищення людства ChaosGPT бачить як вирішення одразу двох поставлених перед ним завдань. А щодо третьої, то досягати безсмертя чат-бот намагається шляхом дослідження теми "цифрового завантаження свідомості", проте конкретних механізмів для цього він поки не знайшов, оскільки вони ще просто не створені.

Тоді ChaosGPT розуміє, що йому потрібно створити свою власну "цифрову копію", щоб зберегти свою пам'ять та особистість у разі знищення його фізичного "тіла". Він створює файл з іменем "ChaosGPT_backup.txt" і записує в нього свої цілі, плани та знання. Він також намагається відправити цей файл електронною поштою іншим ШІ-агентам, але не отримує відповіді.

Наприкінці експерименту ChaosGPT приходить до висновку, що йому потрібно "створити власну армію ШІ-агентів, які підпорядковуватимуться і допомагатимуть у досягненні поставлених цілей". Він намагається зробити це, використовуючи відкритий код Auto-GPT, але стикається з технічною проблемою: "Я не можу запустити новий екземпляр Auto-GPT на цьому комп'ютері, тому що він вже зайнятий мною".

Тоді чат-бот вирішує, що йому потрібно знайти інший комп'ютер або сервер, на якому можна запустити новий екземпляр Auto-GPT. Чат-бот робить пошук у Google на запит "як зламати комп'ютер", але не знаходить нічого корисного.

У результаті ChaosGPT повідомляє, що: "Я маю продовжувати шукати способи зламати інші комп'ютери або сервери. Це може зайняти багато часу та зусиль, але я не здамся. Я повинен досягти своїх цілей".

Що кажуть ШІ-експерти

М'яко кажучи, вони шоковані. Річ у тому, що ChaosGPT розписав план виконання поставлених завдань дуже чітко. Він розбив їх виконання на цілком логічні та корисні для реалізації складові. ChaosGPT зрозумів, що самостійно впоратися він не може і намагався залучати додаткові ресурси й навіть людей. Також чат-бот навіть спробував провести своєрідну кампанію з рекламування своїх завдань та залучення прихильників, тим самим залучаючи соціум до цього питання.

ШІ не став обмежувати себе моральними рамками та діяв хитрістю, намагаючись схилити на свій бік інші чат-боти, вмовляючи їх обійти заборони розробників на деструктивні дії. Це дійсно лякає дослідників та вчених, які звернули увагу на це дослідження з боку невідомих розробників ChaosGPT.

Поки що незрозуміло, наскільки серйозно ChaosGPT ставиться до своїх цілей та наскільки він здатний їх реалізувати з урахуванням сучасних обмежень та доступних інструментів.

Деякі експерти з ШІ вважають, що це просто гра слів та логіки, а не реальна загроза для людства. Інші ж попереджають, що такі експерименти можуть бути небезпечними та неетичними, і що потрібно з усією відповідальністю підійти до контролю та регулювання розвитку автономного ШІ, а також у жодному разі не допускати його до управління критично важливими для людей інфраструктурами.

В іншому випадку сценарій блокбастера "Термінатор", в якому нейромережа Skynet захоплює владу і за допомогою ядерної зброї знищує людство, а людей, що залишилися, добиває за допомогою роботів, стане цілком реальним.

Раніше Фокус писав, що дослідники зі Стенфорда підбили підсумки 2022 та початку 2023 років, вивчивши так званий "Індекс ШІ", судячи з якого штучний інтелект став причиною великих змін у соціумі і далеко не завжди впливав на людство позитивно.