ИИ начинает свой "откол" от человеческого мышления: к чему это может привести

Последняя модель искусственного интеллекта OpenAI o1 демонстрирует отход от человеческого мышления, занимаясь поиском правильных ответов методом проб и ошибок. Об этом пишет портал New Atlas.

В статье говорится, что ChatGPT и другие ИИ на основе большой языковой модели (LLM), ранее обучались на всей доступной человечеству информации с подкреплением и обратной связью от человека. Однако новая модель o1 начала отходить от человеческого мышления и начала внедрять эффективный подход, на чистых пробах и ошибках в погоне за правильным результатом.

Как отмечают в издании, разработчики встроили в o1 "время на размышления", в течение которого он генерирует "цепочку мыслей", обдумывая возможное решение проблемы. Именно тут появляется подход RL (самостоятельное игровое обучение с подкреплением).

Сообщается, что, в отличие от предыдущих моделей, которые походили на передовые системы автозаполнения, o1 "заботится" о том, делает ли он что-то правильно или нет. В распоряжении o1 по-прежнему есть сгенерированные человеком модели рассуждений, однако он может свободно применять их случайным образом и делать собственные выводы о том, какие шаги и в каком порядке приведут его к правильному ответу.

"В этом смысле это первый LLM, который действительно начинает создавать это странное, но суперэффективное "понимание" проблемных пространств", — отмечает автор статьи.

Исходя их этого, в издании полагают, что в будущем ИИ не будут подходить к реальности так, как это делают люди или животные. Вместо того чтобы использовать научный метод, разделять вещи на дисциплины и проводить эксперименты, искусственный интеллект будет строить собственные теории на своих собственных языках о том, что работает, что нет и почему.

"Воплощенные ИИ, которым дадут свободу учиться таким образом, будут невероятно странными. Они будут делать самые невероятные вещи, которые вы только можете себе представить, по причинам, известным только им. А делая это, они будут создавать и открывать новые знания, которые люди никогда не смогли бы собрать воедино", — считают в издании.

Напомним, несмотря на значительные инвестиции и усилия по развитию, модели ИИ по-прежнему не справляются с такими базовыми задачами, как подсчет букв в словах.

Также сообщалось, что в Ирландии группа ученых и исследователей представила нейроморфную аппаратную платформу, которая может повысить производительность решений на основе ИИ.