"Хрещений батько ШІ" боїться, що нейромережі захоплять світ: закликає терміново діяти

Джеффрі Гінтон, відомий як "хрещений батько ШІ", виступаючи на конференції Collision Tech у Торонто, закликав уряди втрутитися та зробити так, щоб машини не взяли під контроль суспільство та не захопили світ, розповідає TechExplore. Гінтон став відомим широкому загалу місяць тому, коли оголосив, що йде з Google після десяти років роботи, аби вільніше говорити про небезпеки ШІ.

Чого боїться один із розробників ШІ

Перед аудиторією 30 тисяч засновників стартапів, інвесторів та ІТ-фахівців, більшість із яких хоче не навчитися осідлати хвилю нейромереж, а не слухати про її небезпеки, Гінтон заявив, що "зі 100 людей, які розробляють АІ, тільки один усвідомлює всю небезпеку".

Гінтон попередив, що до ризиків ШІ слід ставитися серйозно, попри його критиків, які вважають, що він перебільшує ризики штучного інтелекту. "Це не наукова фантастика, це не просто нагнітання страху", — наполягав експерт. Гіінтон також висловив стурбованість тим, що ШІ посилить нерівність, оскільки величезний приріст продуктивності від його розгортання піде на користь багатим, а не звичайним людям.

"Через розвиток ШІ багаті стануть ще багатшими, а бідні ще біднішими, і це дуже погано для суспільства", — озвучив свої марксистські теорії Гінтон.

Він також вказав на небезпеку фальшивих новин, створених ботами в стилі ChatGPT, і висловив сподівання, що контент, створений ШІ, можна буде маркувати, так само як центральні банки маркують водяними знаками готівку.

Від небезпек на Землі до "перенаселення Марса"

Утім, на конференції в Торонто не тільки Гінтон наганяв страху на аудиторію ІТ-фахівців. Перед публікою виступила й Сара Гуо, яка є венчурною капіталісткою. Вона повністю відкинула всі побоювання свого колеги та порівняла його нагнітання страхів із небезпекою "перенаселення Марса". Так вона процитувала ще одного гуру зі сфери ШІ — Ендрю Нг. Він якраз критично ставиться до всіх новомодних "пророків ШІ", які говорять про "цифровий апокаліпсис".

Сара Гуо також застерегла всіх присутніх від "регулятивного захоплення ШІ", явно натякаючи на новий закон про регулювання ШІ, який за рік має ухвалити Євросоюз. На думку Сари, занадто сильне "закручування гайок" у сфері розвитку нейромереж не дасть змоги принести їм користь людству, наприклад, у сферу охорони здоров'я, освіти або науки.

Загалом, за підсумками цієї цікавої наукової дискусії думки серед експертів і присутніх явно розділилися. Здебільшого сумніви виникли в тому, чи залишаться нинішні гіганти генеративного ШІ, які здебільшого підтримують Microsoft OpenAI та Google, лідерами в цьому секторі, чи нові гравці розширять поле діяльності зі своїми власними моделями й інноваціями.

"Я думаю, що через п'ять років, якщо ви захочете знайти найкращу, найточнішу, найпросунутішу мовну модель ШІ, вам, імовірно, однаково доведеться звернутися в одну з небагатьох компаній, які мають капітал для цього", — сказала Лі Марі Брасвелл із венчурної компанії Kleiner Perkins.

А інший експерт, Захарі Братун-Гленон із Gradient Ventures, сказав, що передбачає майбутнє у вигляді метавсесвіту, де аватари людей замінять собою інтернет-сайти.

Раніше Фокус писав, що великі компанії з Європи виступають проти обмежень у сфері ШІ: побоюються збитків і конкуренції США.