Люди, боги, боты. Почему вам никуда не деться от вопросов Юваля Ноя Харари

2019-09-21 11:30:00

280 0
Люди, боги, боты. Почему вам никуда не деться от вопросов Юваля Ноя Харари

Фото: Getty Images, Юваль Ной Харари в Facebook

Обложка на столе с новинками в лондонском книжном приковывала внимание. На ней было крупно напечатано одно-единственное слово на латыни.

SAPIENS Юваля Ноя Харари (на то, чтобы запомнить и научиться произносить имя автора, не подглядывая в телефон, у меня ушла пара лет) начинается под стать обложке.

"Примерно 13,5 млрд лет назад появились материя, энергия, время и пространство… Историей этих фундаментальных явлений Вселенной занимается физика.

Через 300 тыс. лет… материя и энергия начали образовывать между собой сложные комплексы — атомы, а те стали комбинироваться в молекулы… Историей… их взаимодействий занимается химия.

Примерно 3,8 млрд лет назад на планете Земля некие молекулы соединились в… организмы. Историю органической жизни изучает биология.

Примерно 70 тыс. лет назад организмы, принадлежащие к виду Homo Sapiens, породили нечто еще более изощрённое — мы это называем культурой. [Её судьбой]… интересуется собственно наука история" .

Три года спустя я перечитываю эти слова и снова поражаюсь их экономичности и силе. В четырёх абзацах поместилась вся необходимая информация, предшествующая основному акту драмы Харари — истории человечества.

Чтобы подвести слушателя к началу человеческой истории, предшественникам и землякам Харари — кодификаторам иудейского Ветхого Завета, суммировавшим 2000-летнюю ближневосточную космологию в первой главе Книги Бытия, понадобилось вдвое больше текста:

"В начале сотворил Бог небо и землю. Земля же была безводна и пуста, и тьма над бездною и Дух Божий носился над водою".

Дальше вы должны помнить, хотя, скорее всего, не помните.

Дилогия Харари, Sapiens и Homo Deus — это библия секуляризованного мира, объясняющая человеку смысл его истории.

Вместе со сборником разросшихся колонок "XXI урок для XXI столетия" книги Харари изданы на 50 с лишним языках тиражом 20 млн экземпляров. К концу года будет все 25 млн, с плохо скрываемой гордостью говорит персональный менеджер и муж Харари Ицик Яхав, с которым писатель сочетался браком 17 лет в одном из лучших городов для жизни — Торонто.

Харари родился в 1976 году в пригороде Хайфы. Бахайскими садами и вьющимися дорожками город сбегает к Средиземному морю с гряды Кармель. Почти три тысячи лет назад в этих местах Илья Пророк обличал идолопоклонников, а в 1920-е построили первый в Израиле технический институт — Технион.

У семьи Харари ливанско-восточноевропейские корни. За ужином в Киеве, на который организаторы его визита позвали нескольких журналистов, Харари оживляется, услышав слово "Черновцы". Его предки — оттуда.

Харари окончил Еврейский университет в Иерусалиме, защитил диссертацию в оксфордском Колледже Иисуса. До публикации Sapiens в 2011-м на иврите Харари издал по-английски три монографии, посвященные событиям  военной истории средневековья и раннего Нового времени.

Во время учебы в Оксфорде с Харари произошли два события. Он встретил Яхава и освоил технику медитации Випассана у бирманского гуру Сатьи Нараяна Генки.

Для Харари медитация — кратчайший путь к себе, способ сконцентрироваться на главном и, добавлю от себя, вернуть эту энергию в мир в виде лаконичных и взрывоопасных формул.

Воображение превратило обезьяну в человека — как вам такое?

Харари назвал эту трансформацию "когнитивной революцией", которая случилась примерно 70 тыс. лет назад. Так на планете появился новый вид с развитой речью и способностью придумывать небылицы — богов, деньги, корпорации, нации. Вера в эти фикции объединила сетями сотрудничества огромные массы Homo Sapiens и подчинила планету нашему виду.

Как вы придумали этот термин, спрашиваю Харари за ужином. "Я стараюсь не изобретать новых терминов, — отвечает он. — Я беру их готовыми у других авторов, чтобы не вносить лишнюю путаницу". Хм, удивляюсь я, у кого же вы взяли этот? После короткой заминки забиваю cognitive revolution в Googl и с усмешкой демонстрирую результат Яхаву (Харари, который не пользуется смартфоном, называет его "своим интернетом всего"): вторая строчка в выдаче — cognitive revolution Harari.

В Харари есть что-то детское.Когда через два дня во время интервью я спрашиваю Харари, кого он — автор самого популярного в наши дни макроисторического синтеза, объединяющего мироздание и культуру в рамках одной теории, — считает своей ровней, и предлагаю на выбор Маркса, фон Хайека и Демокрита, у меня складывается впечатление, что он не понял вопрос. Он не воспринимает себя как одного из гениев человечества, несмотря на похвалы Билла Гейтса, престижные литературные премии и беседы с философом на троне Эммануэлем Макроном.

Опытный публицист, Харари умеет упрощать, отбрасывая неудобные ему факты.

Мрачная футурология Homo Deus основана на отрицания свободы воли в её традиционной трактовке. Харари неоднократно ссылается на эксперименты нейробиолога Бенджамина Либета. В 1970-х годах Либет показал, что активность в двигательных центрах коры головного мозга на несколько миллисекунд предшествует осознанному решению пошевелиться. Мы думаем, что приняли решение свободно, тогда как на самом деле наше поведение предопределено цепочкой биохимических реакций.

По крайней мере так казалось до недавнего времени. В 2012 году Арон Шургер продемонстрировал, что сознательное решение совпадает с мозговой активностью, фиксируемой на электроэнцефалограмме, а не отстаёт от неё. Незаметно для широкой публики нейрофизиологи признали ошибочность теории Либета. Слухи о смерти старого философского понятия "свобода воли" оказались преждевременными.

После интервью я рассказал Харари об эксперименте Шургера. "Да, я знаю про эту работу", — ответил он. Не будешь же переписывать заново книгу  всякий раз, как наука продвинулась на шажок вперед.

Мир меняется слишком быстро даже для Харари. Со временем мода на Sapiens и Homo Deus  будет выглядеть немного смешной. Трудно без улыбки вспоминать клёши или шиньоны и то, с какой серьёзностью лучшие умы человечества зачитывались "Плоским миром" Тома Фридмана.

А пока Харари ездит по свету и выступает на десятках мероприятий в год. У него скромная цель — распространять сократовскую религию самопознания. Познать себя — единственный  шанс человечества на спасение. Иначе оно просто станет ненужным в мире, которым управляют алгоритмы — куда более близкие к совершенству, чем старый добрый Sapіens.

Уникальность и будоражащая сила дистопии Харари в том, что она позволяет легко вообразить будущее без человечества. Исчезновение нашего вида станет результатом не чудовищный катастрофы, а следствием эволюции — логическим и рутинным, как вытеснение автомобилями гужевого транспорта.

В научно-фантастических романах действуют герои с абсолютно человеческой мотивацией — сколь бы стремительно ни перемещались их звездолёты между галактиками и ни были совершенны устройства, продлевающие жизнь или обеспечивающие неуязвимость. В будущем, о котором с такой ясностью пишет Харари, ничего такого может не оказаться. Это будет чужой мир абсолютно чуждых существ, которые поднялись на вершину эволюции и отбросили лестницу.

Две ваших идеи, которые вы считаете самыми важными?

— Первая — роль воображения в истории человечества. Мы контролируем мир, потому что умеем сотрудничать лучше, чем любое другое животное. А эта способность есть у нас потому, что мы единственный вид, который придумывает фантастические истории и в них верит. Сотрудничество между людьми практически во всех сферах базируется на придуманных историях. Наверное, это очевиднее всего в случае с религией: даже верующие согласятся со мной, что все религии выдуманы, конечно, кроме одной. Это касается и современных экономик: деньги и корпорации — придуманные нами истории, которые не существуют объективно. Но сколько же в них силы!

Любимец элит. Юваля Ноя Харрари с мужем во Франции встречал лично президент Эммануэль Макрон

А вторая?

— Разрыв между властью и счастьем. Мы очень хорошо умеем накапливать власть и силу, но не умеем конвертировать их в счастье. Мы гораздо могущественней наших предков из каменного века, но ненамного счастливей. Мы и правда не знаем, как перевести мощь наших изобретений в повышение нашего реального благополучия.

Эта задача решаемая?

— Возможно, но пока этого не произошло. Мы видим невероятный технологический прогресс. Человечество сегодня куда могущественнее, чем 50 или 100 лет назад. Но многие из этих изобретений просто увеличивают богатство и власть немногочисленной элиты, а не большинства людей. И даже эта крохотная элита на вершине не слишком счастлива.

Вы автор двух, пожалуй, самых важных книг этого десятилетия. Кого вы считаете себе ровней? Маркса, Хайека, может быть, Демокрита?

— На меня много кто повлиял. Например, Джаред Даймонд. Приматолог Франс де Вааль изучает шимпанзе и бонобо. Если я что-то и понимаю в людях, то благодаря ему.

Я черпаю вдохновение у разных авторов. Недавно прочитал новую книгу Шошанны Зубов "Эпоха капитализма наблюдения", она открыла мне новые идеи.

Как вы познаете мир? Научная фантастика, фильмы, нон-фикшн?

— И то, и другое, и третье. Художественная литература важна. Если вы читаете целыми днями научную литературу, то будете понимать науку, а не мир. Я иногда читаю беллетристику, научную фантастику, но в основном это телесериалы.

Лучшие телесериалы, которые вы посмотрели за прошлый год?

— "Чёрное зеркало". Некоторые серии более глубокие, некоторые менее, но это прекрасный сериал.

Для меня две самые важные ваши идеи — это когнитивная революция и превращение человека в бога. Давайте поговорим про вторую. Мы практически столь же могущественны, как гомеровские боги.

— Мы могущественнее.

В чем главная опасность обожествления человека?

— Мы могучи, как боги, но лишены их мудрости. Достаточно просто взглянуть на экологическую систему, чтобы понять, насколько мы злоупотребляем своей силой. Чем больше власти мы накопим в XXI веке с помощью искусственного интеллекта и биотехнологий, тем выше риск полного уничтожения экосистемы и человеческого общества.

Гомеровские боги были не слишком мудрыми.

— Так и есть!

Они были очень легкомысленными. Вообще, возможно ли существование успешного общества, в котором живут бок о бок несколько разумных видов?

— Теоретически, да, но исторически Homo sapiens не слишком толерантен к другим видам. Даже Homo sapiens, немного отличающиеся друг от друга цветом кожи, культурой или языком, очень часто воюют и стремятся уничтожить друг друга. Поэтому без принципиальных изменений в человеческой психологии, сосуществование видов — это путь к катастрофе.

Вообще, одна из угроз XXI века состоит в том, что некоторые представители элит превратятся в сверхлюдей, далеко опередив большинство обычных людей. А более могущественные, как обычно бывает в истории, эксплуатируют и уничтожают других, даже если эти другие в большинстве.

Как произошло, кстати, во время Троянской войны, которую развязали боги.

— Так произошло во время Троянской войны, так мы поступили с неандертальцами и другими видами. Многим людям кажется невероятным, что на Земле может существовать ещё один человеческий вид. Но это реальность для большинства животных. На Земле одновременно существуют полярные медведи, гризли, бурые медведи, чёрные.

Почему же человеческий вид только один? 50 тыс. лет назад Земля была домом для как минимум шести человеческих видов. Но с распространением Homo sapiens по всему миру они уничтожили или обрекли на вымирание всех остальных. Если Homo sapiens разделится на разные биологические виды, есть угроза, что повторится то же самое.

Вы смотрите российский сериал "Лучше, чем люди" — там речь не о сверхлюдях, а о недолюдях, ботах. Возможно ли мирное существование между людьми и ботами?

"Возможно, в мире будут преобладать сверхразумные существа, способные решать задачи намного лучше, чем мы, принимать решения гораздо лучше, чем мы, без всякого сознания. В этом я вижу большую угрозу"

— Всё зависит от того, как мы их запрограммируем и кто их контролирует. Нас часто пугают тем, что роботы станут разумными, восстанут и попробуют нас уничтожить. Это чрезвычайно маловероятный сценарий. Он фокусирует наше внимание на неправильной проблеме. Настоящая проблема в том, что боты будут очень послушными, у них не будет самосознания и они заменят людей на многих работах, которые требуют выполнения лишь конкретных задач. Грузовик-беспилотник не должен обладать сознанием. Нет необходимости в том, чтобы машина чувствовала любовь или радость и создавала произведения искусства. Нужны очень специфические навыки, что само по себе неплохо. Идея беспилотных транспортных средств очень хороша. Ежегодно больше миллиона человек гибнет в автомобильных авариях, большинство из них вызвано человеческими ошибками. Беспилотные авто позволят спасать миллион человек в год. Вопрос в том, будут ли власть и богатства, генерируемые ботами, монополизированы немногочисленной элитой или разделены между всеми. Будет ли компания, владеющая беспилотниками, платить налоги, чтобы водитель, потерявший работу, получил от государства не просто пособие по безработице, но прошёл годичный курс переквалификации? Если боты будут использованы на благо большинства, не думаю, что с ними возникнут проблемы. Проблема в том, что вы можете получить монополию: миллионы ботов принадлежат корпорации, одному или нескольким олигархам, которые контролируют таким способом транспортную систему всей страны.

Сегодня транспортная система зависит от людей. Сотни тысяч водителей грузовиков, автобусов, такси составляют заметную часть экономики. Это даёт им и политическую власть, ведь если правительство сделает что-то не то, они объявят забастовку и парализуют всю транспортную систему. Если же вы замените их всех беспилотниками и не будете распределять прибыль, то вся эта огромная экономическая власть, которую раньше делили между собой, скажем, миллион водителей, будет принадлежать десяти олигархам. Допустим, правительство делает то, что не нравится олигарху. Он нажимает на кнопку — и транспортная система останавливается. Так что это ещё и огромная политическая власть. И мы не должны допустить, чтобы она сконцентрировалась в руках нескольких людей.

Маркс, как и вы, предсказывал, что модернизация, индустриализация приведут к краху свободы и капитализма. Его пророчество не сбылось. Нашлись силы и механизмы, которые позволили человечеству избежать этой траектории.

— Сценарий, который я описал, не пророчество. Все зависит от решений, принимаемых нами. От того, за каких политиков мы голосуем, от того, что мы делаем. Если мы боимся, что такая колоссальная власть сконцентрируется в руках ограниченной элиты, то уже сегодня можем принять меры, чтобы этому помешать. Вот потому я пишу книги и даю интервью — чтобы люди осознали угрозу и сконцентрировали внимание на ней. Какой смысл пророчествовать, если ничего не можешь изменить?

Апостол секулярного мира. Главная задача Харари — объяснить людям смысл истории

Вы много пишете о свободе воли как об иллюзии. А у вас лично есть свобода воли?

— Люди наивно верят, будто любое их желание обу­словлено свободой воли. Я выбираю в супермаркете один из брендов сухих завтраков. Я реализую свою свободу воли? Ничего подобного. Просто в моем сознании всплыла мысль, над которой я невластен. Обычно это продукт очень сложного взаимодействия между биологической системой человека и всевозможными внешними влияниями — в том числе телерекламой, образованием, которое вы получили. Пока вы думаете, что всё всплывающее в вашем сознании вы выбираете свободно, — вы в рабстве.

Настоящая свобода наступает, когда ты понимаешь, что хочешь познать себя, уяснить, откуда берутся твои мысли и желания, как внешние силы постоянно тобой манипулируют. Чем лучше я себя знаю, тем я свободнее. Свобода воли — это не то, что у вас есть или чего у вас нет. Это задача — то, за что необходимо постоянно бороться.

Власть, секс и деньги — самые мощные движители всех изменений. В постчеловеческом мире они сохранят свою силу?

— Если вынести за скобки деньги, то секс и власть играют аналогичную роль среди шимпанзе, горилл и многих других животных. Наше отличие — в способности лучше понимать себя, развивать в себе мудрость и сочувствие и не позволять страстям управлять нами. Это непросто, но это одна из ключевых наших задач как людей. Все эти вещи живут внутри нас, но мы можем лучше познать данную ситуацию и благодаря этому получить немного больше свободы, а не просто слепо идти на поводу своих биологических порывов.

Вы заканчиваете Homo Deus тремя самыми крупными вопросами, от ответа на которые зависит судьба человечества в XXI веке. Мне было бы интересно, как вы их прокомментируете через три года после выхода книги. Первый вопрос — сводятся ли организмы к алгоритмам, а жизнь — к обработке данных?

— Я не говорю, что разделяю это мнение. Я говорю, что оно сейчас очень распространено, особенно в естественных науках, среди биологов, исследователей мозга, инженеров. И по мере развития технологий становится только ещё более общепринятым.

Если организмы не сводятся к алгоритмам, если нами руководит некий метафизический дух, то компьютеры никогда не смогут нас хакнуть, чтобы понять, как мы функционируем, и предвидеть наши решения. Метафизический дух компьютерам не по зубам.

Очень многое из того, что происходит в мире, основывается на новых инструментах слежения и технологиях, которые исходят из допущения, что решения, склонности, выбор людей не являются результатом действия некоего метафизического духа, что это результат действия биологических алгоритмов, миллиардов нейронов, которые "выстреливают" в определённой части мозга. И это поддаётся компьютерному анализу, если имеется достаточно данных и вычислительной мощности. Компьютеры справляются с этим всё лучше и лучше, и процесс только ускоряется. Если вы посмотрите на то, чем занимаются крупные корпорации и правительства, которые выстраивают системы слежения, они основываются на идее, что в конечном счёте люди — всего лишь биологические алгоритмы. И если собрать достаточно данных и обеспечить достаточную вычислительную мощность, человека можно будет "хакнуть": понять как он функционирует, предвидеть его решения, манипулировать им и контролировать его.

То есть вопрос, есть ли в человеке что-то кроме алгоритмов.

— Это очень большой философский вопрос.

Второй большой вопрос, который вы ставите. Что имеет большую ценность — сознание или интеллект?

— Многие путают эти два понятия. Особенно этим грешат научно-фантастические фильмы. Интеллект — это способность решать задачи, а сознание — способность чувствовать любовь и ненависть, боль и радость. Люди, как и другие млекопитающие, — шимпанзе, собаки, коровы, — решают задачи с помощью чувств. Какой сухой завтрак мы покупаем, с кем встречаемся, на ком женимся, за кого голосуем, основано на наших эмоциях.

Компьютеры решают задачи совершенно иначе, они не полагаются на чувства. Мы, возможно, ещё увидим компьютеры, которые будут сверхразумными, не имея никакого сознания. Возможно, в мире будут преобладать сверхразумные существа, способные решать задачи намного лучше, чем мы, принимать решения гораздо лучше, чем мы, без всякого сознания. В этом я вижу большую угрозу. И она уже начинает реализовываться. Власть переходит от людей к высокоразу­мным алгоритмам, лишённым сознания. Если мы позволим этому развиваться без системы сдержек и противовесов, мы потеряем контроль над своей жизнью и будущим человечества.

Недавно мы поспорили с одним киевским философом. Я утверждал, что технологическое развитие невозможно остановить, это как лавина или цунами, что его точка зрения, аморальна и неправильна и с этим нужно что-то делать. А вы как думаете?

— Вы не можете просто прийти и сказать: "Остановитесь, мы больше не занимаемся искусственным интеллектом!" Даже если такое случится в одной стране, все остальные продолжат этим заниматься, и вы просто отстанете. Однако можно влиять на направление, в котором вы разрабатываете технологию и в котором её применяете. Давайте вернёмся на 50 лет назад и сравним СССР и США. У обеих стран был доступ к одним и тем же технологиям, но они использовали их для создания очень разных обществ. Так что возможны варианты.

То же самое и в будущем. Вы не можете остановить исследование в области ИИ. Но к чему приведёт развитие ИИ — к созданию цифровых диктатур или формированию очень толерантных и либеральных обществ, — ещё не определено. Мы можем на это влиять.

Сегодня многие инженеры работают над инструментами слежения за людьми в интересах правительств и корпораций. Правительство следит за вами и собирает данные о вас. Но теоретически ничто не мешает разработать инструменты слежения за правительствами в интересах людей. Чтобы победить коррупцию, например. Если правительствам так нравится следить, чиновники не должны быть против того, чтобы следили и за ними.

Так будет честно.

"Настоящая свобода наступает, когда ты понимаешь, что хочешь познать себя, уяснить, откуда берутся твои мысли и желания, как внешние силы постоянно тобой манипулируют"

— Вот именно. Мы можем инвестировать больше времени и денег в разработку таких инструментов мониторинга, которые приведут к созданию совсем другого типа общества.

Третий большой вопрос — как изменятся общество, экономика, политика, если алгоритмы будут понимать нас гораздо лучше, чем мы сами?

— Чтобы опережать алгоритмы, мы должны лучше себя познать. Это индивидуальный проект, каждый человек отвечает сам за познание себя, своих слабых мест. Есть разные способы. Я два часа в день посвящаю медитации Випассана, кто-то ходит к психотерапевтам, занимается спортом, на две недели забирается в горы. Разным людям подходит разное. Но нельзя с этим мешкать, потому что у нас появилась конкуренция. Пока мы с вами беседуем, правительства и корпорации стремятся вас взломать, чтобы понять вас. Их нужно опередить. И это индивидуальный проект.

Нам также нужны действия на коллективном уровне. Это обязанность правительств,  а неправительственных организаций — регулировать право собственности на данные. Не позволять маленькой группе корпораций и правительству накапливать слишком много данных. Необходимо удостовериться, что данные используются на благо граждан, а не для коммерческой выгоды.

Реальный пример. Современные подростки страдают от такой психологической проблемы, как низкая самооценка. Компании просто отслеживают, что вы ищете в интернете и смотрите на Youtube, чтобы идентифицировать подростков, особенно девочек, чтобы продать им товар, который легче всего покупают 15-летние с низкой самооценкой. Слабость человека используется против него самого, чтобы он купил что-то ненужное — например, диетический набор. Но ведь те же самые данные можно использовать для того, чтобы помочь человеку. Окажите ему психологическую помощь, не продавайте ему то, что ему не нужно.

Технологии, которые следят за людьми и выявляют их слабые стороны, можно использовать как во вред, так и на пользу. Правительства должны запретить корпорациям следить за нами, чтобы использовать наши слабости против нас.

Вы оцениваете вероятность само­уничтожения человечества как ничтожную.

— Такое может случиться, но очень маловероятно.

Завтра вы будете в Чернобыле. Интересно, изменится ли ваша оценка.

— Разумеется, вероятность того, что человечество уничтожит себя в результате ядерной войны, ядерной катастрофы или по какой-нибудь иной причине, существует. Шансы невысоки, но не равны нулю.

Куда вероятнее, что мы изменимся настолько, что больше не будем Homo sapiens, а станем существами другого типа. Главный вопрос — какими именно. И превратится ли в сверхлюдей крохотная элита или изменения принесут пользу всему человечеству.

Loading...