"Дюна" против ChatGPT: о чем Френк Герберт предупреждал еще 60 лет назад

Как заметил кинокритик Алексей Росовецкий, одно из самых смелых допущений «Дюны» только шестьдесят лет спустя перестало казаться чистой фантастикой и начало понемногу воплощаться в окружающем нас мире. Конечно, велик соблазн объявить Герберта очередным пророком, который еще в 1965 году предупреждал человечество о ChatGPT. Но самое интересное, что по сути так оно и есть.

Экранизация «Дюны» одним из мастеров так называемого интеллектуального блокбастера Дени Вильневом вызвала новый интерес к роману Френка Герберта. 18 декабря, спустя пять лет после премьеры первого фильма, выйдет долгожданная «Дюна: Часть третья», которая завершит историю Пола Атрейдеса.

Помню, когда вышла первая «Дюна», я был неприятно поражен мискастом Пола. На фоне Кайла Маклахлена с его царственной осанкой и естественностью истинного аристократа, Тимоти Шаламе выглядел скорее плохишом из школьной рок-группы, чем наследным принцем. Но именно это темное начало, притаившееся где-то за смазливой внешностью — то, чего совсем не было у 24-летнего Маклахлена, и объясняет, почему Вильнев видел в этой роли только Шаламе. Режиссер с самого начала задумал трилогию, которую завершала бы экранизация «Мессии Дюны». В продолжении романа, которое стало холодным душем для всех поклонников, писатель показал светлого рыцаря кровавым тираном.

На фоне густых политических аллюзий первой «Дюны» Вильнева, которые скорее оттолкнули, чем заинтриговали — слишком уж легко в них считывались ближневосточная нефть и позорная афганская кампания США, меня куда сильнее поразила сама модель будущего, сознательно отказавшегося от компьютеров.

Напомню, что во вселенной Фрэнка Герберта за тысячи лет до событий «Дюны» человечество пережило так называемый Батлерианский джихад — восстание против компьютеров и «мыслящих машин». По Герберту, люди постепенно делегтировали компьютерам все больше интеллектуальной работы, рассчитывая освободить себя от необходимости анализировать и принимать решения. Но удобство превратилось в зависимость: тот, кто контролировал «мыслящие машины», получил возможность контролировать и людей. В результате антикомпьютерного джихада человечеству пришлось заново развивать свои интеллектуальные способности. По сути, это был бунт за право снова мыслить самостоятельно.

Не правда ли, напоминает бесконечные споры последние пару лет в соцсетях — кто поработит человечество: сам Искуственный интеллект или техноэлита, вооруженная ИИ?

Осенью 2021 года, когда на экраны вышла первая часть «Дюны», революция генеративного ИИ еще только маячила впереди. Искусственный интеллект уже управлял рекомендациями, распознавал лица, переводил тексты и даже учился их сочинять самостоятельно, но еще не вошел в нашу жизнь в качестве ежедневного собеседника и интеллектуального помощника. Поэтому мир Герберта, сознательно отказавшийся от «мыслящих машин», казался тогда занятной фантастической причудой. Пять лет спустя идея цивилизации, которая сознательно запретила передавать компьютерам процесс мышления, читается уже почти как прямой комментарий к нашей реальности.

Сегодня мы движемся ровно в противоположную сторону. Если «мыслящая машина» может написать за нас письмо, перевести текст на иностранный язык, выбрать оптимальный маршрут, проанализировать данные, подобрать музыку и так далее — так почему бы не поручить ей эту работу?

Когда человек передает часть умественной работы внешнему инструменту, это называется когнитивной разгрузкой. Мы всегда это делали: записная книжка хранит номера телефонов, калькулятор считает, GPS прокладывает дорогу. Такая разгрузка освобождает ограниченные ресурсы мозга для других задач и часто повышает его результативность. Но есть и обратная сторона: мы меньше запоминаем, медленнее считаем в уме и хуже ориентируемся в окружающем пространстве.

С генеративным ИИ происходит нечто принципиально новое. Мы впервые массово разгружаем не отдельную функцию, а целые цепочки мышления. И когда человек постоянно отдает ИИ часть умственной работы, он рискует со временем ослабить именно те способности, которыми пользуется все реже.

Мы все меньше готовы подолгу концентрироваться и все охотнее пасуем перед сложными задачами. Теряем индивидуальные черты во всем, что делегируем ИИ, — например, собственный стиль общения в переписке. Лишаем себя радости случайных находок и озарений, из которых нередко рождаются открытия. Ошибаться тоже важно: на ошибках, как известно, учатся. Но теперь и почетное право ошибаться мы опять же все чаще делегируем ИИ. Вот только его «глюки» никого ничему не учат: чтобы их распознать, нужен собственный запас знаний. Недостаточно получить готовый ответ — до него важно хотя бы иногда дойти самому, а затем самостоятельно осмыслить. Иначе в какой-то момент мы рискуем перестать развивать собственные профессиональные и творческие навыки.

Но главная опасность даже не в этом. Постепенно мы можем привыкнуть не создавать самому, а просто выбирать из того, что уже создала для нас «мыслящая машина». То есть понемногу перестанем быть творцами.

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные материалы в рубрике "Мнения" несет автор.