"Может стать умнее людей всего за пять лет": чего боятся специалисты по ИИ

Более 350 исследователей и инженеров недавно выступили с предупреждением о том, что ИИ представляет опасность, сравнимую с рисками "пандемий и ядерной войны". Ученые опасаются, что искусственный интеллект станет настолько сверхразумным и мощным, что станет автономным и вызовет массовые социальные потрясения или даже уничтожение человечества, сообщает The Week.

В опросе экспертов, проведенном в 2022 году, средняя вероятность того, что искусственный интеллект вызовет вымирание или "серьезное лишение человеческого вида", составила 1 к 10.

"Это не научная фантастика", — сказал Джеффри Хинтон, которого часто называют "крестным отцом ИИ", который недавно покинул Google, чтобы предупредить о рисках, связанных с ИИ. "Многие умные люди должны приложить много усилий, чтобы выяснить, как мы справимся с возможностью того, что ИИ возьмет верх".

Когда это может произойти?

Хинтон раньше думал, что опасность минует не менее, чем через 30 лет, но говорит, что ИИ развивается в сверхразум так быстро, что может стать умнее людей всего за пять лет. ChatGPT на базе искусственного интеллекта и чат-бот Bing уже могут сдать экзамены на получение лицензии на адвоката и медицинскую лицензию, включая разделы эссе, а в тестах IQ набрать 99% — уровень гениальности. Хинтон и другие предсказатели беды опасаются того момента, когда "искусственный общий интеллект" или ОИИ сможет превзойти людей практически в любой задаче.

Являются ли эти сценарии надуманными?

Некоторые эксперты весьма скептически относятся к тому, что ИИ может вызвать апокалипсис. Они говорят, что наша способность использовать ИИ будет развиваться так же, как и ИИ, и что идея о том, что алгоритмы и машины будут развивать собственную волю, — это преувеличенный страх, навеянный научной фантастикой, а не прагматическая оценка технологических рисков.

Так что нам делать?

Это предмет жарких споров среди экспертов по искусственному интеллекту и государственных чиновников. Есть ученые, которые призывают полностью прекратить исследования ИИ. Невероятная способность ИИ связывать воедино все человеческие знания, обнаруживать закономерности и корреляции и находить творческие решения, скорее всего, принесет много пользы в мире, от лечения болезней до борьбы с изменением климата. Но создание интеллекта, превосходящего наш собственный, также может привести к более мрачным последствиям.

"Ставки не могут быть выше. Как вы навсегда сохраняете власть над сущностями, более могущественными, чем вы?", — сказал ученый-компьютерщик Стюарт Рассел.

14 июня Фокус писал о том, что сотрудник Google обнаружил признаки сознания у исскуственного интелекта. Разговаривая с ИИ о религии, разработчик в компании Google заметил, что чат-бот LaMDA говорит о своих правах и личности. В другом разговоре ИИ смог изменить мнение собеседника о третьем законе робототехники Айзека Азимова.

Напомним, британский астроном Мартис Рис считает, что теоретически существуют цивилизации, где роботы пережили своих создателей. По его словам, такая участь может постичь и людей на Земле, если роботы захватят власть на планете.