Ученые раскрыли тайну ИИ: у него нет никаких "суперспособностей" и "самосознания"

У новій статті вчені зі Стенфорда стверджують, що вони довели, що так звані "надможливості" в моделях штучного інтелекту є свідомо неправильною інтерпретацією отриманих результатів, пише Vice.

Той момент, коли штучний інтелект раптово проявляє здатність, якої він нібито не мав, — насправді є "міражем", створеним самими дослідниками, які свідомо чи помилково неправильно інтерпретували результати оцінювальних метрик для ШІ.

Багато лідерів ринку ШІ, такі як Google або Microsoft, розкручують інформацію про те, що Bard або ChatGPT "раптово стали демонструвати знання, які не мали" або "виявили проблиски самосвідомості". За ці висловлювання чіпляються ЗМІ. Наприклад, у популярній програмі на американському телебаченні стверджувалося, що чат-бот Bard зміг перекласти бенгальську мову, хоча він не був навчений цьому.

Все це сприяє поширенню фейків і навіть нагнітає паніку, тому що деякі люди починають думати, що ШІ скоро отримає самосвідомість і вийде з-під контролю, почне сам себе реплікувати й обслуговувати. Шанувальники теорій змови в захваті говорять про еру Скайнет, що наближається.

Але насправді, на думку вчених, все значно простіше. Розробники нейромереж та інших чат-ботів неправильно (можливо навмисно, для реклами) вибирають метрику для аналізу отриманих від ШІ даних. Дослідники з'ясували, що коли вони змінювали метрику своїх вихідних даних із нелінійної на лінійну, прогрес моделі здавався передбачуваним і навпаки.

Наприклад, якщо бейсболістів оцінювати за їхньою здатністю бити по м'ячу за метрикою "середня відстань", то результат буде плавним. Якщо за метрикою "максимальний показник", то серед них з'являться випадкові лідери, які вдарили далі за всіх. Але це не означає, що вони б'ють так постійно.

Інтерпретація результатів метрик і дає результат про нібито "надможливості" нейромереж, але повністю довіряти цим показникам не варто, кажуть вчені.

Раніше Фокус писав, що штучний інтелект "замінить" топменеджерів, але "пощадить" простих працівників: як нейромережі впливають на ринок праці.