Хомячкам напрячься. Чего боится Стивен Хокинг

Вы когда-нибудь играли в игру "Джанго"? Это такая башенка из деревянных брусочков, которые игроки по очереди вынимают до тех пор, пока конструкция не рухнет. В начале игры башенка выглядит стабильной и даже растет в высоту, но наступает момент, когда одно неловкое движение приводит к большому "бада-бум!" и все рушится.

Человечество так рьяно взялось за вынимание кирпичиков из своего фундамента и так хорошо научилось это делать, что башенка уже заметно покачивается. Пока это заметно не всем, но некоторые уже начали бить тревогу.

В недавнем интервью Стивен Хокинг даже призывает создать мировое правительство, которое бы контролировало развитие технологий и их доступность для простых смертных, подчеркивая, что именно сейчас человеческая агрессия может нам слишком дорого обойтись, учитывая обширные возможности, которые становятся доступны всем.

Что же так напугало известного ученого и почему именно сейчас?

Вас могут обмануть много очень умных пуделей

Технологии, знания и информация развиваются не равномерно, а с ускорением. Эмпирическое наблюдение Гордона Мура говорит о двукратном росте каждые 18–24 месяца.

Известная история про шахматы: если на первое поле положить одно рисовое зернышко, на следующее — два, потом четыре, восемь, шестнадцать (каждый раз в два раза больше), то на 64-м поле будет урожай всей планеты за сто лет. Геометрическая прогрессия — коварная штука, которую сложно оценить интуитивно.

Мы не успеваем привыкнуть к одному открытию, освоить, разобраться в его опасностях, а на нас уже падают десять новых прорывных технологий. Например, казалось бы, совсем недавно появились электромобили, а сейчас в мире уже вовсю ездят машины без водителя. Комплект для самостоятельной переделки обычного автомобиля в беспилотный уже можно купить за небольшие деньги. И, самое интересное, что его предлагает даже не корпорация, а самостоятельный разработчик, который, к слову, когда-то первым взломал iPhone, тем самым запустив целый рынок альтернативного программного обеспечения для iOS.

То же касается и вопросов свободы, морали и принятия ближнего. Они, по большому счету, и раньше вызывали много вопросов, но человечество так и не успело их решить, не объединилось, не выбрало общий вектор развития, и теперь те полеты фантазии, коварные замыслы и личные потребности, что раньше ограничивались естественным образом, оказались на грани полной доступности.

С одной стороны, ваш персональный помощник в телефоне станет очень умным, а реклама, наконец, интересной. С другой стороны, в 90% профессий ваше экспертное мнение будет проигрывать искусственному интеллекту (ИИ). Нам окончательно запретят управлять автомобилями и принимать большинство решений. Мы уже проиграли во все возможные игры (Го долго держалось, но теперь и покер сдался). Но самое опасное произойдет в тот  момент, когда ИИ превзойдет человека. С этой минуты у нас не будет шансов понять его решения и держать под контролем. Если вы сейчас улыбаетесь, подумайте, вас смогли бы обмануть 20/300/100500 очень умных пуделей? Вот в какой-то момент и для ИИ это не будет проблемой по отношению к человеку.

Возьмем более привычное — интернет. Сегодня интернетом пользуются 3,5 млрд человек и в разы больше устройств. Это значит, что теперь вашим телевизором может управлять кто-то из любой точки земного шара. А также чайником, банковским аккаунтом и кардиостимулятором. И даже не очевидно, что лучше — будет это разработчик продукта, хакер из Австралии или сосед. Готовы ли вы к тому, что все ваши деньги и данные могут исчезнуть из-за опечатки индийского программиста? Вы задумывались, что, доверяя интернету наше все, мы сами помогаем искусственному интеллекту нас изучать? Но отказаться уже не можем, без интернета ведь скоро даже чайник включаться не будет.

Как вы отнесетесь к человеку с тремя руками или хвостом?

Биология, само устройство человека и основы жизни — то, что казалось нам практически неизменным, сейчас начнет меняться очень быстро. Миллионы лет заняло отращивание лапок вместо плавников, и каких-то 150 лет назад врачи не мыли руки, так как не знали о бактериях. Сейчас же наборы для опытов с ДНК — в свободной продаже. В этом году планируют первую операцию по пересадке головы, органы уже печатают на 3D-принтерах, Академия наук США одобрила редактирование ДНК эмбрионов человека.

Нарушая естественный отбор, мы вмешиваемся в эволюцию напрямую, при этом с трудом принимаем людей альтернативной ориентации, слишком жирных, слишком умных, слишком не похожих на привычный образ. А как вы отнесетесь к человеку с тремя руками или хвостом? К тому, что кто-то бессмертен? А если что-то пойдет не так и вызовет эпидемию? Готовы ли мы к этому?

Хокинг, кстати, не зря объединяет две проблемы в одну: развитие технологий и человеческую агрессивность. Первое не остановить, а вот с агрессивностью можно и нужно работать. Моральные решения, которые придется принимать обычным людям, будут иметь все бóльшее влияние. Значит, к этому должен быть готов каждый. Например, вы отвечаете за алгоритмы автомобиля с автопилотом и анализируете следующую ситуацию: на дорогу внезапно выскочил ребенок, на тротуарах люди, затормозить машина не успевает. Можно сбить ребенка, можно — людей на тротуаре, можно въехать в столб и убить водителя. Что делать? А ведь машины с автопилотами уже давно ездят по общим дорогам и готовы сделать свой выбор.

Человечество всегда боролось за свободу: сначала с природой за свободу оставаться живым. Затем, за свободу распоряжаться своим телом (рабство), своей душой (религия), своим мышлением (наркотики). Скоро возникнет вопрос о свободе генетического материала (редактирования ДНК). Как видите, до полной и органичной свободы далеко, мы привыкли к борьбе. Но именно сейчас, первый раз в истории, это может привести к случайной гибели всего человечества. Хокинг надеется на перемены в ближайшие тысячу лет, но особо выделяет первые сто, как наиболее критичные. Где-то здесь мы должны сделать окончательный выбор: что есть человек, зачем мы живем и куда движемся. Кто будет делать этот выбор, всех ли он устроит? Характерно, что сам Хокинг не очень верит в самих людей, раз настаивает на очередном контролирующем органе.

На самом деле и гипотетическое глобальное правительство, и корпорации, и исследовательские лаборатории состоят из людей, из нас. Значит, у нас всех на первый план должны выйти моральные вопросы. Например, такой:

Теперь мы можем все, что хотим.

А что же мы хотим? Мы так долго ждали золотую рыбку, щуку, двоих молодцов из ларца. В сказках они выполняли все наши желания, но даже в самых диких фантазиях это ограничивалось желанием власти, денег и к концу рассказа герой неизбежно возвращался к разбитому корыту. Да, мы устали. Мы устали заботиться каждый день о еде (и вот есть напиток, заменяющий ее), добыче ресурсов (хорошо, вводим безусловных доход), здоровье (уже не проблема).

Чем мы займемся, когда обо всем этом можно будет не задумываться?

Что мы будем делать среди этих идеальных точных машин, куда денем свою агрессию?

Какую форму должно приобрести всеобщее изобилие?

Кажется, что эти вопросы такие глобальные и далекие от обычной жизни, что можно о них не задумываться. Так вот — нет, уже не получится.

Во-первых, вы лишитесь работы. Если вы в самое ближайшее время не задумаетесь о своей уникальности, вас заменят машины. Глобальное или локальное правительство может назначить вам безусловный доход (а может и не назначить), но в любом случае уже недостаточно просто знать много, нужно уметь учиться постоянно. Знания перестают быть ценностью, важнее уметь ими оперировать и превращать в новые знания.

Во-вторых, контроль и тотальная слежка будут усиливаться. Это было уместно в секретных исследовательских лабораториях, но так как технологии вышли за пределы, то и контролировать придется всех. Поэтому очень важно, чтоб общество в целом было на достаточно высоком уровне, чтоб его не эксплуатировали, как батарейки. Низкий уровень образования, неумение объединиться и договориться не позволят обществу стать сдерживающей силой, и контроль обязательно скатится в тиранию.

В-третьих, вам придется пересмотреть ваши взгляды на… все! И не раз. Все, что вы знаете, изменится в течение вашей жизни полностью. Мы первое поколение, которое переживет (а может, и нет) такой удивительный процесс в столь короткий период. Принять новую модель телевизора нам кажется простым. Но попробуйте принять соседа, который живет в полигамном браке с пятью транссексуалами, работает по ночам аватаром велосипедиста, является носителем протезированных рогов и модифицированной ДНК (пятна по всему телу, как у леопарда), который во дворе дома устраивает ритуальные танцы и водит своих детей в ту же школу, что и вы. В целом, хороший человек. Но такой сосед в доме не один, а все. А еще такие же шеф на работе и продавщица в магазине (если такие профессии останутся). А готовы ли вы к встрече с инопланетянами, способны ли признать интеллект муравьев или то, что наш мир — голограмма?

Пока что вас с работы не выгоняют и глобальное правительство не влияет на повседневную жизнь. Но уже сегодня перед нами стоит вопрос —  какое наследство передать детям. Не в пафосном смысле, а на бытовом уровне  —  как и какой опыт им пригодится, какая формула успеха до сих пор актуальна? "Ходи в школу, будет хорошая работа?" — вряд ли. "Будь добрым, и люди будут добры с тобой?" — никогда не работало. "Не верь, не бойся, не проси?" — неперспективно. Как формировать опыт, если знания устаревают слишком быстро? Как быть готовым контролировать то, что еще не появилось? Какие качества воспитывать в себе и детях, если неизвестно, какие пригодятся?

Ой, да хоть бы сказали, в какой валюте копить на старость…