ChatGPT погорів на наукових гіпотезах: ШІ просто вгадує, і робить це дуже погано
Учені перевірили ChatGPT, попросивши його оцінити, чи є сотні наукових гіпотез справжніми або хибними, і результати виявилися не дуже обнадійливими. Дослідження показує, що ШІ має скромні здібності до міркування.
Дослідники з університету штату Вашингтон, США, неодноразово перевіряли ChatGPT, попросивши його оцінити правильність або хибність наукових гіпотез, узятих із наукових статей. Мета дослідження полягала в тому, щоб перевірити, чи може ШІ правильно визначити, чи підтверджується кожне твердження дослідженнями чи ні. Іншими словами, чи є воно істинним або помилковим. Загалом вчені надали для оцінки понад 700 гіпотез. Результати показали, що до відповідей ШІ потрібно ставитися з великою часткою скептицизму і потрібно перевіряти всю інформацію, створену чат-ботами штучного інтелекту, пише Фокус.
У Фокус. Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найзахопливіші новини зі світу науки!
Під час експерименту у 2024 році ChatGPT давав правильні відповіді у 76,5% випадків. У 2025 році цей показник зріс до 80%. Однак після того, як учені врахували випадкові вгадування, результати виглядали менш вражаючими. Штучний інтелект показав правильні відповіді лише в 60% випадків. Хоча це дослідження було зосереджене конкретно на ChatGPT, учені кажуть, що аналогічні експерименти з іншими ШІ дали зіставні результати.
Штучний інтелект зазнає найбільших труднощів із виявленням неправдивих тверджень, правильно визначаючи їх тільки в 16,4% випадків. ШІ також демонструє помітну непослідовність. Навіть якщо ставити одне й те саме запитання 10 разів, можна отримати різні відповіді, кажуть учені.
Автори дослідження вважають, що штучний інтелект, здатний по-справжньому "думати", може з'явитися в більш далекому майбутньому, ніж багато хто очікує.
Сучасні інструменти ШІ не розуміють світ так, як розуміємо його ми — у них немає "мозку". Вони просто запам'ятовують і можуть дати деяке уявлення, але вони не розуміють, про що говорять", — кажуть автори дослідження.
Результати дослідження вказують на фундаментальне обмеження штучного інтелекту. Хоча ШІ може створювати переконливі відповіді, йому часто важко аналізувати складні запитання. Це може призвести до відповідей, які звучать переконливо, але насправді неправильні, кажуть учені.
Дослідники рекомендують перевіряти інформацію, створену ШІ, і ставитися до неї зі скептицизмом.
Як уже писав Фокус, експерти вважають, що штучний інтелект може створити радіоактивну зброю.
Також Фокус писав про те, що потужна магнітна буря обрушиться на Землю 19 — 22 березня, адже Сонце викинуло в космос багато плазми.
Під час написання матеріалу використано джерела: Science Daily, Washington State University, Rutgers Business Review