То, что нас убивает. Как оксфордский философ делает человечество сильнее

Профессору Нику Бострому — 44. Редакция Foreign Policy уже дважды включала его в рейтинг "Топ-100 мировых мыслителей". Примерно полжизни шведский философ посвятил изучению экзистенциальных рисков. Один из них — угрозу погибнуть из-за происков могущественного нечеловеческого интеллекта — он детально описал в книге-бестселлере Superintelligence.

КТО ОН

Философ, профессор Оксфордского университета, основатель и руководитель Института будущего человечества — междисциплинарного исследовательского центра, изучающего влияние технологий на возможность будущей глобальной катастрофы

ПОЧЕМУ ОН

Его книга Superintelligence: Paths, Dangers, Strategies ("Искусственный интеллект. Этапы. Угрозы. Стратегии") была переведена на русский

Довольно скучный процесс

Раз в году, а то и чаще, наши умы будоражит очередной художественный фильм или роман о будущем человечества. Точнее, о том, почему и как мы все умрем.

— Убить многих и искоренить человечество как вид — разные вещи. Наиболее вероятные причины смерти нашего среднестатистического современника — старость, рак или болезни сердца. Есть и другие варианты — например, ядерная война. Фильмов об этом действительно не счесть.

Назовите произведение, которое с научной точки зрения предлагает наиболее реалистичный сценарий исчезновения человечества.

— Это "Пандемия" (фильм-триллер Армана Мастроянни. — Фокус). На самом деле большинство картин на эту тему не претендуют на правдоподобие, их создавали, чтобы развлечь зрителя. А реалистичное вымирание человечества — довольно скучный процесс. Мы вдруг перестанем существовать, без каких-либо прелюдий, и больше ничего с нами не будет происходить. По такому сценарию художественный фильм не снимешь.

Сложность состоит в том, что ни ученые, ни создатели фильмов пока не могут знать, что может оказаться настоящей угрозой в будущем. Возможно, опасность нашему виду будет представлять то, о чем мы пока не догадываемся, чему только предстоит быть изобретенным. Сто лет назад у людей не было компьютеров. Они никак не могли представить, что появятся нано- и биотехнологии. Сейчас, учитывая стремительное развитие технологий, впору ожидать появления совершенно нового типа оружия — наномолекулярного. Еще одна потенциальная угроза — искусственный интеллект, который может выйти на нереальный по теперешним меркам уровень. Если что-то пойдет не так, инструмент уничтожит своего создателя.

Вам приходится работать над такими вопросами, как компьютерная симуляция, искусственный интеллект, выживание человеческой расы. Как это отражается на вас?

— Думаю, многие из нас по работе сталкиваются с негативом. Тем же исследователям онкологии приходится нелегко: рак — довольно депрессивная тема. Большую часть времени такие люди мыслят аналитически: есть средство, есть крохотный шанс, что это решит проблему, нужно провести серию исследований. На рабочем месте такой специалист не станет погружаться в меланхолию или спрашивать себя о смысле жизни. Он чувствует ответственность и выполняет задачу, которая может как-то изменить ситуацию. У меня похожая история: почти все рабочее время уходит на изучение и анализ информации.

Наша команда действительно тратит изрядное количество времени на изучение экзистенциальных рисков. Но в то же время мы видим и другую сторону медали: каким может стать мир, если каждый из нас проявит интерес к этой теме. Неожиданно понимаешь: такую прекрасную картинку тоже можно воссоздать, все в наших руках.

Восторг, переходящий в обеспокоенность

Среди положительных отзывов о вашей книге "Искусственный интеллект" мое внимание привлек комментарий профессора Хаггстрома: "Если эта книга получит прием, которого заслуживает, она может оказаться самым важным тревожным звоночком со времен "Безмолвной весны" Рэйчел Карсон, выпущенной в 1962-м". Работа Карсон оказала сильное влияние на экологическое движение. Как и на что хотите повлиять вы?

— Я хочу, чтобы мы перестали недооценивать искусственный интеллект. Хочу, чтобы продолжали развивать его, но еще более осознанно. Не хотелось бы, чтобы мы стали похожими на колонию муравьев. Они постоянно при деле, каждый тянет соломинку, чтобы возвести нечто-то грандиозное, при этом ни один из них до конца не понимает, что именно строит.

Параллельно с попытками создать более эффективные машины следует думать о том, как сделать их максимально безопасными. Для этого нужно проводить исследования по усовершенствованию систем контроля. С выходом моей книги эта проблема получила более широкую огласку. В разных уголках мира появились исследовательские группы, которые изучают данный вопрос, публикуют научные доклады о контроле.

Еще одна моя цель выходила за рамки изучения искусственного интеллекта. Мне хотелось показать, что, мысля системно, мы можем ответить на некоторые вопросы, с которыми сталкивается человечество. Некоторые макростратегии и концепции действительно помогают перенастроить наш стиль мышления, сделать его более аналитическим.

В свое время недоброжелатели обвиняли Рэйчел Карсон в том, что ее забота об экологии вернет человечество в темные века.

— Признание не приходит здесь и сейчас — я знаю об этом не понаслышке. Но не думаю, что меня можно обвинить в нелюбви к технологиям. В 1990-х я стал сооснователем Всемирной организации трансгуманистов. На момент ее основания адептов этой концепции было принято изображать в карикатурном виде. Нас считали наивными, помешанными на технологиях чудаками. Через какое-то время в обществе зародилось глубокое понимание потенциальных преимуществ, которые могут появиться в нашей жизни благодаря технологиям: расширение человеческих возможностей, замедление старости.

Долгое время я был в восторге от одной только мысли об этой и других задачах, которые могут решить технологии. Потом к восторгу добавилась обеспокоенность. Я сказал себе: "Но ведь есть несколько технологий, которые в определенной ситуации ставят под угрозу дальнейшее существование человечества! Нужно проделать серьезную работу, чтобы избежать такого риска".

Сложно ли находить поддержку вашим идеям?

— К нашей философии проявляют немало интереса. Добывать исследовательские гранты и другую финансовую поддержку стало гораздо проще.

Когда Институт будущего человечества только открылся, нам приходилось работать над другими косвенно интересующими нас вопросами, на которые, тем не менее, выделялся грант. Это давало институту возможность функционировать, хоть и забирало часть нашего времени и энергии. Два года назад мы приняли решение полностью сфокусироваться на том, что считаем наиболее важным, и просто надеяться, что оказываемой поддержки хватит для того, чтобы мы могли продолжать в том же духе. Пока что все идет, как надо, — Ник Бостром поворачивается к окну и стучит по деревянному подоконнику.

Вы суеверны?

— Нет. Но предосторожность не помешает, не так ли?

Самый большой страх

Профессор Коуэн из исследовательского Университета Джорджа Мейсона в интервью Фокусу заявил, что "автоматизация всего на свете — не только благо, но и угроза для многих профессий".

— В далеком будущем так и будет: машины научатся выполнять любую работу лучше, чем это делаем мы. Но в краткосрочной перспективе влияние искусственного интеллекта на трудовой рынок несколько переоценивается. Нужно понимать разницу между автоматизацией определенного процесса и автоматизацией целой профессии.

Если бы меня спросили, чем мог бы заниматься молодой человек, какой сектор наиболее перспективный, я бы стал не списывать со счетов профессии "человек-человек". Например, при уходе за пожилыми людьми можно применять технологии, и было бы здорово, если бы у каждого старика был персональный робот для выполнения мелких поручений в режиме 24/7. Однако ни робот, ни искусственный интеллект не могут полностью заменить человека — слишком высоки требования.

Как бы это странно ни звучит, человечество не готово отказаться от традиционных профессий. Возьмите преподавание. Его давно можно было бы автоматизировать по максимуму: технологии позволяют записать лекцию, пересматривать видео, транслировать по всему миру. Возможно, детям и нужны учителя-"няньки", но в более взрослом возрасте потребности в преподавателе-человеке нет. Можно самостоятельно выбирать и слушать подкасты, смотреть видеоуроки. Тем не менее мы не спешим отказываться от этой профессии.

Найдется ли в новом мире место для философов вроде вас и ваших коллег?

— Однажды машины станут заниматься философией гораздо эффективнее, чем люди. Однако это не то, что они освоят в первую очередь. Сейчас мы ощущаем потребность обдумать и осознать, что мы делаем и к чему движемся. Это требует философского типа мышления.

Я изучал теоретическую физику, логику, искусственный интеллект и философию — все они очень тонко связаны между собой. Если вы хотите ответить на сложный вопрос, знаний одной-единственной академической дисциплины вам не хватит, придется окунуться сразу в несколько отраслей. Не встречал людей, которые бы четко разделяли: это философия, а это точная наука.

Чего вы больше всего боитесь?

— Чем могущественнее становятся наши технологии, тем шире знания ученых, тем меньшей угрозой является для нас природа и, соответственно, более вероятна угроза гибели от другого, нечеловеческого интеллекта.

Сейчас многие умирают от старения или болезней. То есть природа убивает больше людей, чем сами люди. Но если мы создадим технологии, во всем превышающие человеческие способности, существование человечества окажется под угрозой.

Самый большой вызов — убедиться, что мы сделали все, чтобы будущее человечества было предсказуемым и мирным. Самый большой риск — не сделать этого, плыть по течению.

• Читайте также: Никто и не обещал, что не будет страшно, — философ Анатолий Ахутин

С тех пор, как вы возглавили Институт будущего человечества, изменилось ли для вас значение слова "будущее"?

— Однозначно десять лет назад в моем распоряжении было больше будущего, чем сейчас (смеется). На ряд специфических научных вопросов у нас появилось больше продуманных ответов.

Но основное осталось неизменным — есть огромная картина, которая сильно влияет на технологические перспективы. Мы рассматриваем ее, пытаясь найти свое место на огромной схеме. Это трудная интеллектуальная задача, но ее нельзя считать безнадежной. У нас уже есть много маленьких пазлов, мы изо всех сил пытаемся отыскать еще несколько кусочков. Для этого собираем невероятно умных людей вместе, даем им возможность заниматься исследованиями на полную ставку. Возможно, у кого-то из них случится мощное озарение, и мы получим один-два недостающих пазла.