Ілон Маск оголосив війну ШІ: заздрить чи грає на руку конкурентам?

Ілон Маск і група експертів, що його підтримують, підписали й опублікували сьогодні відкритий лист до всієї ІТ-спільноти із закликом тимчасово припинити розвиток ШІ. У своєму посланні вони просять розробників штучного інтелекту хоча б на пів року припинити розвиток і навчання нейромереж, які можуть перевершити за своїми можливостями сьогоднішній ChatGPT-4, оскільки вони загрожують людству мало не апокаліпсисом. Фокус спробував розібратися з тим, що сталося.

Чому Ілон Маск боїться ШІ?

Підписанти послання, що вже наробило шуму, впевнені, що наразі необхідно взяти паузу в розробці ШІ, щоб виробити концептуальні правила й обмеження в його роботі. Ініціативна група побоюється того, що сучасні системи ШІ стають усе конкурентнішими, коли йдеться про нескладні завдання. Але, оскільки цей аргумент не надто дієвий, експерти особливо акцентують свою увагу на болісному для суспільства питанні фейків і пропаганди.

"Ми повинні себе запитати: чи можемо ми дозволити машинам засмічувати наші інформаційні канали пропагандою та неправдою?" — зазначають автори листа.

Крім того, підписанти вважають, що з розвитком нейромереж ШІ стане розумнішим за людину, що спричинить ризик втрати контролю над цивілізацією та переходу влади над людьми до ШІ. Експерти готові до крайніх заходів, якщо лист не подіє на адресатів.

"Якщо компанії, які розробляють ШІ, не погодяться призупинити свої розробки щонайменше на пів року, тоді має втрутитися уряд і заборонити всі подібні дослідження", — йдеться в документі, підписаному Ілоном Маском.

Експертна група хоче протягом пів року "спільними зусиллями вчених" створити особливі протоколи безпеки для ШІ, а також за цей час уряди країн повинні мати спеціальні регуляційні органи та закони.

Маск і його команда відразу відкидають усі звинувачення в тому, що вони стопорять прогрес, а акцентують увагу на тому, що просто хочуть поставити розвиток ШІ "на паузу". До речі, серед підписантів є людина, яка попри всі сумніви та застереження, колись рухала ІТ-індустрію вперед — Стів Возняк, один із засновників Apple.

Цікаво, що лист був створений за підтримки некомерційної організації Future of Life Institute, яка займається просуванням відповідального й етичного розвитку ШІ. Інститут раніше домігся того, що такі постаті, як Маск і лабораторія ШІ Google DeepMind, пообіцяли ніколи не розробляти смертоносні автономні системи зброї.

До речі, сам Ілон став почесним "позаштатним консультантом" цього Інституту, поряд із такими зірками науки як Сол Перлмуттер, лауреат Нобелівської премії з фізики у 2011 році, та Морган Фріман, актор і режисер.

Що кажуть критики ініціативи

Звичайно, цей відкритий лист викликав справжню бурю емоцій у Twitter, і коментатори не соромляться у висловлюваннях. Деякі з них вважають, що людині, яка торгувала вогнеметами, не слід говорити про безпеку. Інші коментатори запідозрили, що Ілон Маск просто хоче вписатися в перегони ШІ, а оскільки не встигає за лідерами, то цим листом і закликом до уряду втрутитися просто саботує розробки конкурентів.

Хтось навіть запідозрив Маска, що він грає на руку Китаю або Google. Адже серед підписантів є співробітники DeepMind, що належить пошуковому гіганту, а він, як відомо, стрімко втрачає позиції на тлі того, як Microsoft успішно інтегрувала ChatGPT-4 у всі свої продукти та наростила базу користувачів.

Хтось пригадав Маску і його непрості стосунки з Open AI (розробниками ChatGPT), із якими Ілон співпрацював, але розійшовся, прихопивши обіцяний мільярд, який збирався інвестувати в компанію. Тепер критики дорікають Маскові за банальну заздрість до колишніх колег, які попри все привели свій проєкт до успіху та стали законодавцями в сегменті штучного інтелекту. Пригадували Маску і його невміння поводитися з ШІ, адже нейромережу використовували під час розробки автопілотів у Tesla, а автомобілі все одно потрапляли в аварії.

Багато хто зазначив, що серед підписантів є компанії-розробники ШІ, наприклад Stability AI (генерація малюнків), що серйозно конкурує з DALL-E — генеративною нейромережею від OpenAI. До речі, завдяки величезним інвестиціям в Open AI тепер DALL-E доступний безплатно всім користувачам продуктів компанії.

Найстриманіші не можуть повірити в логіку такої пропозиції. Вони справді не розуміють, як за пів року можна встигнути виконати такий величезний обсяг роботи: розробити регуляційні правила, урядові закони про контроль над ШІ, зібрати групу "незалежних експертів із контролю" ("незалежність" яких не підлягатиме сумніву, а самі кандидати всім подобатимуться).

І ще є важливе питання: хто проконтролює виконання мораторію на тимчасову заборону розробки ШІ Китаєм і Росією? І якщо на РФ можна накласти ще більше санкцій, Китай дуже активно включився в перегони нейромереж, і його не так просто вибити із сідла. А головне, де гарантія того, що за всіх зусиль інші країни дотримуватимуться цієї "паузи"? І хто завадить під приводом паузи продовжувати все тим же ІТ-гігантам, як кажуть, нишком, продовжувати роботу над ШІ, щоб потім не відстати від конкурентів?

Головний аргумент на користь "небезпеки ШІ для людей" коментатори теж розносять у пух і прах, наводячи конкретні дані опитувань дослідників машинного навчання, проведеного AI Impacts. Згідно з цими даними, лише 24% фахівців оцінюють як "дуже хороші" можливості сучасних нейромереж, а решта оцінок коливається на рівні "добре" (26% опитаних), "нейтрально" (18% фахівців) і "дуже погано" (14% експертів). Деякі люди в коментарях зазначають, що сучасні чат-боти на основі ШІ далеко не з першого разу можуть надати їм відповідь на, здавалося б, просте запитання.

Загалом пропозицію Маска та групи його прихильників, коментатори оцінюють як істеричну й таку, що сповільнює еволюцію.

Один із критиків провів яскраву аналогію між поставленими "панікерами" строками й думкою одного чиновника, яку він висловив під час пандемії COVID-19: "Цей карантин всього на 2 тижні. Нам треба просто збити хвилю".

Раніше Фокус повідомляв, що Ілон Маск дізнається все про людину, яка розкрила код соцмережі Twitter.