"Дивуються і тривожаться": творці ШІ визнали, що самі не розуміють, як він "думає"
Розробники генеративного штучного інтелекту (ШІ) до кінця не знають, як саме їхні творіння вирішують поставлені перед ними завдання.
Як зазначає Tech Xplore, на відміну від традиційних програм, які слідують шляхами, продиктованими програмістами, моделі генеративного ШІ вчаться знаходити власний шлях до успіху після отримання підказки.
"Люди, які не працюють у цій царині, часто дивуються і тривожаться, дізнавшись, що ми не розуміємо, як працюють наші власні творіння ШІ. Така відсутність розуміння, по суті, безпрецедентна в історії технологій", — каже співзасновник ШІ-компанії Anthropic Даріо Амодеї.
Зі свого боку Кріс Олах, який до приходу в Anthropic був частиною команди розробників ChatGPT в OpenAI, описав ШІ як "будівельні ліси", на яких виростають схеми. Олах є фахівцем у галузі так званої механістичної інтерпретованості — методу зворотного проєктування моделей ШІ для з'ясування того, як вони працюють.
Старший науковий співробітник лабораторії штучного інтелекту Google DeepMind Ніл Нанда додав, що вивчення роботи ШІ можна порівняти з дослідженням людського мозку. За його словами, охопити всю повноту великої мовної моделі — це дуже амбітне завдання. Сьогодні це популярна галузь академічних досліджень.
"Студентів це дуже приваблює, тому що вони усвідомлюють, який вплив це може мати", — зазначив професор комп'ютерних наук Бостонського університету Марк Кровелла.
ВажливоОднією зі спроб краще зрозуміти ШІ є такі стартапи, як Goodfire. Ця компанія використовує програмне забезпечення на основі ШІ, здатне представляти дані у вигляді кроків міркування. Інструмент також покликаний запобігти зловмисному використанню ШІ або їхньому самостійному ухваленню рішень з метою обману людей.
"Це схоже на перегони з часом, щоб встигнути впровадити у світ надзвичайно інтелектуальні моделі штучного інтелекту, не маючи ні найменшого уявлення про те, як вони працюють", — сказав генеральний директор дослідницької компанії Goodfire Ерік Хо.
Нагадаємо, компанія OpenAI заявила, що "улесливе" оновлення GPT-4o в ChatGPT викликало побоювання з приводу безпеки, тому воно більше не доступне для використання.
Також повідомлялося, що в Китаї заявили про застосування ШІ в пошуку нових ідей і підходів для майбутніх аерокосмічних досліджень і розробок.