ChatGPT-5 не відрізнятиметься від людини: експерти жахаються та попереджають про небезпеку

Інноватор і програміст Сікі Чен заявив, що має надійну інформацію про появу ChatGPT-5 вже до кінця року, повідомляє Interesting Engineering. Нагадаємо, що розробкою ChatGPT займається компанія OpenAI, яка нещодавно випустила четверту версію найпопулярнішого чат-бота у світі.

У чому небезпека ChatGPT-5

На думку Сікі Чена, з появою нової версії генеративний ШІ може бути практично повністю подібний до людини. Експерт стверджує, що деякі люди в Open AI вірять у те, що ChatGPT-5 досягне рівня AGI. Абревіатура розшифровується як "Artificial General Intelligence", тобто "Загальний Штучний Інтелект". На сьогодні AI (ШІ) — це базове копіювання мислення людини на елементарному рівні, але перехід на щабель вище означає практичну ідентичність з тим, як мислить та усвідомлює людина.

Що таке AGI

Загальний штучний інтелект (AGI) — це гіпотетична форма штучного інтелекту (ШІ), яка здатна розуміти чи вчитися будь-якому інтелектуальному завданню, яке можуть виконувати люди чи тварини. Це основна мета деяких досліджень у галузі штучного інтелекту та популярна тема у науковій фантастиці та футурології.

AGI також називається сильним ШІ, повним ШІ або загальною інтелектуальною дією, хоча деякі академічні джерела залишають термін "сильний ШІ" для комп'ютерних програм, які відчувають усвідомлення або свідомість. Сильний ШІ протиставляється слабкому ШІ (або вузькому ШІ), який не призначений для володіння загальними когнітивними здібностями, але розроблений для розв'язання конкретної проблеми.

Існує ще й "супер ШІ" (ASI, Artificial Super Intelligence) — найвища стадія розвитку штучного інтелекту, за якої він повністю за всіма параметрами перевершує людину, але до неї ще дуже далеко (на щастя або на жаль).

Серед дослідників штучного інтелекту існує стала думка, що для AGI потрібно:

• міркувати, використовувати стратегію, вирішувати головоломки та робити судження в умовах невизначеності;
• представляти знання, враховуючи здоровий глузд;
• планувати;
• вчитися;
• спілкуватися природною мовою;
• інтегрувати всі ці навички до спільних цілей.

Інші важливі здібності враховуючи: здатність відчувати (наприклад, бачити та чути) та здатність діяти (наприклад, рухатися та маніпулювати об'єктами, змінювати місце для дослідження). До цього належить здатність виявляти та реагувати на небезпеку. Багато підходів до інтелекту (наприклад, когнітивна наука) розглядають додаткові риси, такі як уява (здатність формувати розумові образи та концепції, які не були запрограмовані) та автономність.

Існують комп'ютерні системи, зокрема сучасні ШІ, володіють деякими з цих здібностей, але ніхто поки не створив AGI, який би відповідав усім критеріям.

У чому небезпека AGI

Як стверджує Сікі Чен, якщо ChatGPT-5 матиме хоча б половину можливостей зі списку, то чекай на біду. Звичайно, не йдеться про здатність бачити, чути чи взаємодіяти з предметами, але навіть на рівні мислення такий розвиток загрожує серйозною небезпекою.

Так, навряд чи розробникам вдасться так швидко просунутися у створенні AGI, але значне вдосконалення чат-бота уможливить появу дуже переконливих людиноподібних ботів на соціальних медіаплатформах, що дозволяють приховано поширювати шкідливу дезінформацію та пропаганду.

Експерт звертає увагу і на проблему делегування деяких повноважень AGI. Адже якщо він зможе виконувати "розумові" завдання успішніше, ніж зараз, то люди в прагненні полегшити роботу дадуть чат-боту більше влади, що може призвести до непередбачуваних наслідків.

Звичайно, AGI може підвищити продуктивність, прискорюючи процеси на основі ШІ та позбавляючи людей від нудної роботи. Однак надання ШІ значної влади та контролю буде помилковим та передчасним.

Раніше Фокус писав, що чат-боти на основі ШІ ще не доросли до Вікіпедії: вони надто "галюцинують".