ШІ може стати причиною вимирання всього людства: що можна зробити

Згідно з доповіддю компанії Gladstone AI Inc., підготовленою на замовлення уряду США, політикам необхідно терміново вживати заходів для гарантування безпеки, оскільки швидкий розвиток штучного інтелекту (ШІ) потенційно може призвести до зникнення людства через удосконалення зброї масового ураження та втрату контролю над нейромережами, пише TIME.

У звіті під назвою "План дій щодо підвищення безпеки та захищеності передового штучного інтелекту" йдеться про те, що розвиток передових систем штучного інтелекту потенційно може дестабілізувати глобальну безпеку, так само, як це трапилося під час нарощування ядерних озброєнь.

"Із огляду на зростання ризику для національної безпеки, створюване швидким розширенням можливостей ШІ через озброєння та втрату контролю, — і особливо той факт, що тривале поширення цих можливостей посилює обидва ризики, — є очевидна та нагальна потреба уряду США втрутитися в ці процеси", — ідеться в доповіді, опублікованій Gladstone AI.

У звіті пропонували план втручання, який розробляли протягом 13 місяців дослідники в галузі ШІ, що розмовляли з понад 200 експертами, зокрема з представниками урядів США та Канади, великих постачальників хмарних послуг, організацій із безпеки ШІ, а також із фахівцями з кібербезпеки й обчислювальної техніки.

Згідно з планом, спочатку потрібно встановити тимчасові заходи захисту ШІ, перш ніж вони будуть закріплені в законі. Тоді гарантії будуть інтернаціоналізовані.

На думку експертів, які взяли участь в опитуванні та створенні плану, деякі заходи можуть включати створення нового агентства зі штучного інтелекту, яке обмежуватиме рівень обчислювальної потужності ШІ. У такому випадку агентство від імені уряду може вимагати від компаній, що займаються розробкою нейромереж, алгоритмів машинного навчання, комп'ютерного зору, знизити обчислювальні потужності, щоб уповільнити розвиток ШІ-систем, або ж дати уряду можливість вивчити передові ШІ-моделі на можливу наявність ризиків. Також пропонується ліцензування відкритого вихідного коду.

У доповіді також рекомендується уряду посилити контроль над виробництвом і експортом чипів штучного інтелекту.

Раніше ми писали про те, що українські дрони працюватимуть на базі штучного інтелекту. Німецька компанія Helsing, із якою було підписано договір, розробляє програмне забезпечення й інтегрує штучний інтелект в оборонні технології.