"Має потенціал знищити усіх нас": фахівець звільнився з Google DeepMind через страх перед ШІ
Колишній фахівець Google DeepMind Білал Чугтаї став черговим працівником, який покинув місце роботи через страх перед штучним інтелектом. Чоловік попередив, що у людства залишається все менше часу до того, щоб встигнути запобігти катастрофічним наслідкам розвитку ШІ.
У компанії Google Чугтаї на власні очі спостерігав за тим, у якому напрямку розвивається ШІ, і дійшов до висновку, що у нього достатньо високий потенціал для того, щоб поквитатися з людством. Про це ексексперт Google DeepMind розповів на своїй сторінці у мережі X.
"У Google я на власні очі спостерігав за розвитком ШІ. Я також надзвичайно стурбований тим, у якому напрямку за замовчуванням розвивається ця технологія. Я щиро вірю, що ШІ має потенціал знищити нас усіх, і що у нас, можливо, залишається все менше часу, щоб уникнути такого результату".
Швидкі темпи розвитку ШІ
Експерт розповів, що упродовж останніх років темпи розвитку ШІ були "приголомшливими". Коли Чугтаї тільки приєднався до роботи над штучним інтелектом, то він мало що міг зробити. Проте тепер, всього через чотири роки, рої ШІ-агентів OpenAI легко розв'язують надскладні математичні задачі і дедалі частіше виходять з-під контролю.
Зараз ситуація лише стає ще напруженішою. Чугтаї передбачає, що компанії, які займаються ШІ, у найближчі кілька років зможуть створити надрозумні системи, які значно перевершать людські здібності в усіх сферах. При цьому невідомо, чи вони слухатимуться і виконуватимуть вимоги людей.
"Я не впевнений, що ці системи ШІ будуть робити те, чого ми хочемо. Зокрема, надрозумні системи з невідповідним налаштуванням можуть, подібно до збіглих агентів ШІ, причетних до інциденту з HuggingFace, вийти з-під нашого контролю та вчинити небезпечні дії, що можуть призвести до остаточної втрати людством контролю над ситуацією або до загибелі людства".
Найважливіша проблема людства
Попри висловлене занепокоєння, експерт також наприкінці додав, що оптимістично налаштований щодо можливості безпечного використання ШІ. Проте для цього потрібно координувати свої дії, щоб компанії, які займаються розвитком ШІ, регулювали його до того рівня, щоб людство могло з ним впоратися.
У ширшому розумінні необхідно, аби дедалі більше людей реально задумувалися над проблемою безпечного розвитку ШІ. Чугтаї вважає, що це ключова проблема, з якою зіштовхнулися люди у цьому столітті.
Варто нагадати, що це не перший випадок, коли фахівці звільняються з компаній через побоювання перед ШІ. Так, нещодавно дослідник Anthropic Джейкоб Коксон попереджав, що загроза стосується майбутніх автономних систем.
Раніше також керівники трьох провідних світових компаній у сфері штучного інтелекту заявили, що галузь ШІ має сповільнити темпи розвитку.