"Може стати розумнішим за людей усього за п'ять років": чого бояться фахівці з ШІ

Понад 350 дослідників та інженерів нещодавно виступили з попередженням про те, що ШІ становить небезпеку, яку можна порівняти з ризиками "пандемій і ядерної війни". Учені побоюються, що штучний інтелект стане настільки надрозумним і потужним, що стане автономним і спричинить масові соціальні потрясіння або навіть знищення людства, повідомляє The Week.

В опитуванні експертів, проведеному 2022 року, середня ймовірність того, що штучний інтелект спричинить вимирання або "серйозне позбавлення людського виду", становила 1 до 10.

"Це не наукова фантастика", — сказав Джеффрі Гінтон, якого часто називають "хрещеним батьком ШІ", який нещодавно залишив Google, щоб попередити про ризики, пов'язані з ШІ. "Багато розумних людей повинні докласти багато зусиль, щоб з'ясувати, як ми впораємося з можливістю того, що ШІ візьме гору".

Коли це може статися?

Гінтон раніше думав, що небезпека мине не менше, ніж за 30 років, але каже, що ШІ розвивається в надрозум так швидко, що може стати розумнішим за людей лише за п'ять років. ChatGPT на базі штучного інтелекту і чат-бот Bing уже можуть скласти іспити на отримання ліцензії на адвоката і медичну ліцензію, включно з розділами есе, а в тестах IQ набрати 99% — рівень геніальності. Гінтон та інші провісники біди побоюються того моменту, коли "штучний загальний інтелект" або ШІІ зможе перевершити людей практично в будь-якому завданні.

Чи є ці сценарії надуманими?

Деякі експерти вельми скептично ставляться до того, що ШІ може спричинити апокаліпсис. Вони кажуть, що наша здатність використовувати ШІ розвиватиметься так само, як і ШІ, і що ідея про те, що алгоритми і машини розвиватимуть власну волю, — це перебільшений страх, навіяний науковою фантастикою, а не прагматична оцінка технологічних ризиків.

То що нам робити?

Це предмет палких суперечок серед експертів зі штучного інтелекту та державних чиновників. Є вчені, які закликають повністю припинити дослідження ШІ. Неймовірна здатність ШІ пов'язувати воєдино всі людські знання, виявляти закономірності та кореляції і знаходити творчі рішення, найімовірніше, принесе багато користі у світі, від лікування хвороб до боротьби зі зміною клімату. Але створення інтелекту, що перевершує наш власний, також може призвести до більш похмурих наслідків.

"Ставки не можуть бути вищими. Як ви назавжди зберігаєте владу над сутностями, більш могутніми, ніж ви?", — сказав учений-комп'ютерник Стюарт Рассел.

14 червня Фокус писав про те, що співробітник Google виявив ознаки свідомості у штучного інтелекту. Розмовляючи з ШІ про релігію, розробник у компанії Google помітив, що чат-бот LaMDA говорить про свої права та особистість. В іншій розмові ШІ зміг змінити думку співрозмовника про третій закон робототехніки Айзека Азімова.

Нагадаємо, британський астроном Мартіс Ріс вважає, що теоретично існують цивілізації, де роботи пережили своїх творців. За його словами, така доля може спіткати і людей на Землі, якщо роботи захоплять владу на планеті.