Ученые раскрыли тайну ИИ: у него нет никаких "суперспособностей" и "самосознания"

В новой статье ученые из Стэнфорда утверждают, что они доказали, что так называемые "возникающие сверхспособности" в моделях искусственного интеллекта является заведомо неправильной интерпретацией полученных результатов, пишет Vice.

Тот момент, когда искусственный интеллект внезапно проявляет способность, которой он якобы не обладал, — на самом деле являются "миражом", созданным самими исследователями, которые заведомо или по ошибке неправильно интерпретировали результаты оценивающих метрик для ИИ.

Многие лидеры рынка ИИ, такие как Google или Microsoft, раскручивают информацию о том, что Bard или ChatGPT "внезапно стали демонстрировать знания, которыми не обладали" или "проявили проблески самосознания". За эти высказывания цепляются СМИ. Например, в популярной программе на американском телевидении утверждалось, что чат-бот Bard смог перевести бенгальский язык, хотя он не был обучен этому.

Все это способствует распространению фейков и даже нагнетает панику, так как некоторые люди начинают думать, что ИИ скоро получит самосознание и выйдет из-под контроля, начнет сам себя реплицировать и обслуживать. Поклонники теорий заговора в восторге говорят о приближающейся эре Скайнет.

Но на самом деле, по мнению ученых, все куда проще. Разработчики нейросетей и прочих чат-ботов неправильно (возможно намеренно, для рекламы) выбирают метрику для анализа полученных от ИИ данных. Исследователи обнаружили, что когда они меняли метрику своих выходных данных с нелинейной на линейную, прогресс модели казался предсказуемым и наоборот.

Например, если бейсболистов оценивать по их способности бить по мячу по метрике "среднее расстояние", то результат будет плавным. Если по метрике "максимальный показатель", то вреди них появятся случайные лидеры, ударившие дальше всех. Но это не значит, что они так бьют постоянно.

Интерпретация результатов метрик и дает результат о якобы "сверхвозможностях" нейросетей, но полностью доверять этим показателям не стоит, говорят ученые.

Ранее Фокус писал, что искусственный интеллект "заменит" топ-менеджеров, но "пощадит" простых работников: как нейросети влияют на рынок труда.