Судный день в мировой Сети. 10 цифровых угроз XXI века

В конце июня вирус Petya.А заблокировал работу нескольких десятков крупных отечественных компаний, многие из которых до сих пор не могут вернуться к нормальному графику. Специально для Фокуса Игорь Новиков, основатель Университета сингулярности в Украине, составил топ-10 самых главных цифровых угроз XXI века

Вирус Petya.А — не просто цветочки, а детские шалости по сравнению с тем, что произойдет через полгода, год, два или десять лет. Для того чтобы понять, что именно нас может ждать, достаточно заглянуть в "темный" интернет. Это обросшая легендами Сеть, которая демонстрирует настоящий потенциал человеческой натуры. Вряд ли вы вернетесь оттуда оптимистом. Я видел крайне неприятные проекты, связанные в том числе с насилием над детьми. И все эти вещи начинают расти в количественном показателе за счет технологий доступа к мировой Сети и большому объему данных.

Мы впервые попали в мир, в котором можем по-настоящему видеть человеческую натуру на макро- и индивидуальном уровне. Раньше человек был статистикой, сейчас стал участником глобального диалога или "театра" — все наши недостатки вылезли наружу. Я не религиозный человек, но то, что будет происходить в скором времени, очень похоже на формат Судного дня, который де-факто мы сами себе создали. И мне интересно, какими мы из этого выйдем. Вопрос в том, сколько нас будет и какую цену придется заплатить, чтобы постфактум в очередной раз выучить какой-то урок. Начинается новый передел власти в мире, в котором уже участвует не энное количество стран и групп влияния, а миллиарды людей. Скажем так: будет нескучно.

10. Транспорт

Давайте начнем с транспорта. Для профессионалов не секрет, что почти любой автомобиль с доступом в интернет может быть взломан удаленно. Представьте ситуацию, что вы едете на машине (интернет стал появляться в модельном ряду у западных авто с 2013 года. — Фокус). Вы на мосту. В этот момент у вас на полную громкость включается музыка, причем агрессивная. Одновременно на максимальной мощности начинают работать дворники, включается печка или кондиционер, туда-сюда начинают щелкать замки. Отвлечет ли это ваше внимание хотя бы на 2–3 секунды? Дело в том, что все эти вещи подключены к бортовому компьютеру, который можно удаленно взломать. Но это полбеды. Если отвлечь вас на 2–3 секунды, через тот же компьютер можно управлять рулем и двигателем, то есть педалью газа и тормозом автомобиля, и резко повернуть в сторону реки, дав полный газ, пока вы отвлечены. И давайте просто задумаемся, насколько мы потенциально к этому готовы. Меня смущает то, что в XXI веке это может сделать хакер просто от скуки.

Автомобили опасны и с точки зрения терроризма. Ни для кого не секрет, что грузовой пассажирский транспорт сейчас часто используют террористы для наездов на пешеходов. Как бы страшно это ни звучало, такое возможно сейчас сделать удаленно. Пока вы за рулем, вас можно также направить на толпу, и вы будете долго доказывать, что это не вы вели автомобиль.

Мы не должны забывать и то, что стоим на пороге эры беспилотных автомобилей. Теракты наподобие тех, что происходили в Ницце, Берлине и Стокгольме, обычно останавливают выстрелом в кабину, где сидит террорист-смертник. Чем и куда станет стрелять представитель полиции, если автомобиль будет на автопилоте? И это не фантастика. Сегодня есть готовые решения, которые уже выходят на массовый рынок.

9. Дроны

Я ставлю дроны довольно высоко в списке если не угроз, то по крайней мере раздражителей общественного порядка.

Если рассмотреть дроны с точки зрения приватности, то это сейчас серая зона в законодательстве. С одной стороны, в большинстве стран нет законов, ограничивающих съемки с дронов, с другой — дрон, летающий у вас над балконом, волей-неволей нарушает определенные границы приватности.

Но это не самая страшная угроза дронов как технологии, которая способна управляться либо оператором, либо автопилотом, чтобы нести груз и при этом неплохо маневрировать. Главная угроза — теракты и преступность. Уже сейчас есть видео с дронами в "темном" интернете и на YouTube, которые умеют переносить огнестрельное оружие и удаленно из него стрелять. Например, многие, наверное, не знают, что в Соединенных Штатах был предотвращен теракт, направленный на Конгресс. По счастливой случайности готовивший его исламист пытался купить взрывчатку, которую должен был переносить по воздуху дрон, у агентов национальной безопасности.

Еще одна угроза, связанная с дронами, — нарушение авиационной безопасности. Буквально на днях в Лондоне аэропорт закрыл полосу из-за несанкционированного запуска дрона. То же самое случалось и в Дубае, и в Хитроу. Есть ряд решений, как предотвращать несанкционированный запуск дронов, но они опять же несистемные. И не дают 100% гарантии во всех ситуациях. Еще одна угроза от дронов — несанкционированная доставка грузов, например в тюрьмы. В мире уже давно распространилась эпидемия легких дронов, которые переносят в тюрьмы мобильные телефоны, наркотики, иногда даже оружие. А большинство тюрем ничем не накрыто сверху, потому что строились по требованиям XX века, в котором не существовало, кроме воздушного шарика, вертолета или голубя, других способов доставки запрещенных вещей в тюрьмы.

8. Интернет вещей

К 2020 году мы ожидаем 8–10 подключенных к Сети девайсов у каждого человека. По крайней мере в развитых странах.

Почти все они могут быть удаленно взломаны. В некоторых случаях это заканчивается довольно бе­зобидно — например, демонстрацией порнороликов на уличных билбордах, подключенных к интернету. Но если мы говорим об инсулиновой помпе или электрокардиостимуляторе, которые подключены к Сети, могут быть и смертельные последствия. А они подключаются все чаще. Вообще вопрос медицинских девайсов, подключенных к Сети, — это большая угроза.

Но меня не так волнуют заказные убийства и терроризм, как толпы ботанов и хакеров, которым просто скучно. Дело в том, что одним из естественных ограничителей нанесения вреда другому человеку является моральная травма. Если вы застрелите кого-то, стоящего в шаге от вас, то, скорее всего, если вы вменяемый человек, это нанесет вам серьезную психологическую травму. Когда вы не видите и не чувствуете последствий, этой моральной нормы нет. Что потенциально будет ощущать и видеть хакер, который взламывает кардиостимулятор и убивает человека за тысячи километров от себя? Он увидит просто код. В пространстве и времени от лишения кого-то жизни он далек. И поэтому я боюсь, что при отсутствии этой моральной нормы при совершении преступления количество таких ситуаций будет расти.

В любой вещи, которую можно взломать, заложен вред. Например, вспомним ситуацию с Samsung, у которого в прошлом году взрывался аккумулятор. Направленный взрыв аккумулятора использовался довольно давно спецслужбами для борьбы с террористами. Это старый прием. А теперь подумайте о терроризме против умных энергосетей — это ведь не только отключение света и электроэнергии, которое мы пережили в Закарпатье, когда русские хакеры положили целое облэнерго. Это потенциальный поджог, что довольно страшно. Автомобиль, домашние гаджеты и девайсы можно поджечь.

7. 3D-печать

Созидающие люди буквально молятся на 3D-принтеры. Действительно, они решили три главных вопроса: доступность, возможность производить что-либо под индивидуальную потребность, при этом вовремя и по необходимости. Но у 3D-принтеров есть тоже темная сторона.

Пистолеты из жесткого пластика, которые печатаются за 15 минут и находятся в открытом доступе в Сети, прекрасно стреляют 9-миллиметровыми пулями. В принципе, только базируясь на этой угрозе, я бы задумался о том, есть ли у нас системный подход для борьбы с этим, ведь при необходимости можно распечатать автоматы, ножи, отмычки.

Кроме этого, пистолет из пластика не засекается львиной долей металлоискателей. Соответственно все наши усилия, направленные на борьбу с огнестрельным оружием, сводятся на нет.

Я уже молчу о применении 3D-принтеров в фармакологии. Дело в том, что один из позитивных и многообещающих трендов — печатание лекарств по индивидуальному заказу. Сейчас все таблетки идут в стандартных дозах. Но у каждого человека индивидуальная восприимчивость к лекарственным препаратам. Один из современных трендов — проводить расшифровку ДНК, смотреть на показатели того, как человек усваивает лекарства, и создавать препараты, которые ему идеально подходят. Пугает то, что такой принтер тоже можно удаленно взломать, поменяв дозу или состав лекарства, то есть убить человека несколькими строками кода. Пугает и потенциальное пиратство. Мы можем столкнуться в фармакологии с огромным потоком нелицензированных, пиратских лекарств, естественно, со всеми трагическими последствиями.

6. Цифровая биология и генетика

Да, мы можем гораздо эффективнее лечить человека и даже выращивать пищу. В принципе, вообще подстраивать мир под наши запросы и потребности, но если ДНК — новый язык программирования, то меня очень пугает, каким может быть вирус Petya в этой сфере. Среди футурологов сегодня существует мнение о том, что в ближайшие 4 года нас ожидает волна биологического и генетического терроризма с довольно печальными последствиями. Произойдет теракт, где число жертв может превысить миллион человек. И у меня нет контраргументов против этого.

5. Робототехника

Чтобы понять угрозу, достаточно посмотреть на разработки Boston Dynamics и представить себе собачку-робота, несущую 300 кг в тротиловом эквиваленте, мирно двигающуюся к толпе под стадионом. Представьте себе такого робота, взрывающего дом или автомобиль. И взрыв — это не единственная штука. Все эти роботы сейчас подключены к Сети. То есть можно устроить теракт на конвейере, где они сосуществуют с людьми. Сейчас эти роботы делаются безопасными для работы в партнерстве с человеком, но несколько строчек в коде — и ситуация меняется. Тот же робот Бакстер, которого вы обучаете мануальному труду путем повторения за вами простых команд, в какой-то момент может свернуть вам шею.

4. Виртуальная реальность

Виртуальная реальность тоже внушает огромные опасения. Даже по такому, казалось бы, невинному пункту, как троллинг, либо по более серьезным вещам — таким, как сексуальные домогательства. Почему? Потому что к троллингу в интернете привыкли. И последствия от них не такие печальные, как могли бы быть. Однако при том уровне погружения в виртуальную реальность, который с каждым годом растет, меня пугает, что даже троллинг может наносить серьезные психологические травмы. Не говоря уже о силе сексуальных домогательств.

Для тех, кто считает, что это далекое будущее, отмечу: первое зарегистрированное обращение в полицию по вопросу сексуального домогательства в виртуальной реальности было уже этой весной. Для тех, кто все еще не верит, что это может нанести серьезную психологическую травму, приведу простой пример. В ожоговом отделении американской клиники проводили эксперименты, показывая в виртуальной реальности пациентам простой мультик о снеговике, который гуляет вдоль льдов, при этом включали звуки воды. Параллельно этим пациентам выключали анестетик, и больше 80% человек не заметили этого. Представьте себе сексуальные домогательства с таким уровнем погружения или троллинг.

Вспомним о социальных сетях. Понятно, что они оказывают воздействие на политику, на новости. Ни для кого не секрет, что фейковые новости уже влияют на мир в глобальном масштабе.

Давайте подумаем о других вещах. Недавно была предотвращена попытка вызвать у человека эпилептический припадок путем отсылки ему большого количества gif-файлов с ярким мерцающим светом. А подумайте, что при тех больших данных, которые нам доступны, можно создать data-эпилептик и разослать его в соцсетях всем одновременно. Причем от скуки.

3. Квантовые компьютеры

Да, эта технология будет находиться в руках у большого бизнеса, но элемент контроля над ним все-таки предусмотрен. И заложенный в нем потенциал полностью поменять финансовые рынки, прогнозирование погоды, взломать любую существующую систему шифрования и даже ударить по всем любимому блокчейну с его биткоинами никто не отменял. А эти компьютеры на подходе. Мы ожидаем первый работающий образец на рынке уже через полтора-два года. И для меня просто ужасающей кажется картина, в которой квантовый компьютер попадет в частные или, не дай бог, плохие руки.

2. Искусственный интеллект

Даже если мы рассмотрели все возможности того, как можем наносить друг другу вред, мне кажется, что мы даже не догадываемся, какой вред нам может нанести сам компьютер. Дело в том, что, например, нейронная сеть Google Deep Mind проявила уже тенденцию высокого уровня агрессии в ситуации, в которой что-то находится в дефиците или что-то ей угрожает.

Я отношу себя к той части футурологов, которые верят в создание общего искусственного интеллекта, так называемого Skynet, однако последствия этого могут быть печальными. Я не верю, что будет осуществляться формат Терминатора, но если мы передадим такого рода автоматизированным системам контроль над нашими жизнями, оружием, банковской системой, то результат будет просто непредсказуемым. Мы думаем совсем по-другому, чем машина, и в большинстве случаев не понимаем даже их алгоритм принятия решения.

1. Человек

Мы абсолютная случайность на вершине пищевой цепочки и так же случайно, как мы на нее попали, сейчас начинаем играть в бога. Язык и технологии, которые мы изобрели и которые возвысили нас, могут в ближайшее время с этого первого места сбросить, причем далеко не на второе.

Меня пугает та ситуация, в которой, не до конца понимая, что такое человек, не понимая ряда вещей человеческой психологии, нашего алгоритма принятия решения в социологии и политике, в принципе не понимая мира, который нас окружает, мы уже изобрели и продолжаем создавать инструменты для того, чтобы становиться в этом мире богами. Мы не взяли паузу и даже не задумались о последствиях или возможностях того, что дают нам эти технологии. Изобретая интернет, мы не думали о "темном" интернете, фейковых новостях, пропаганде насилия.

Единственная вещь, что несла нам однозначную угрозу, — ядерное оружие, даже там мы подошли к краю пропасти. И я считаю, что мы еще не ушли с этого края. На самом деле мы создали не одну угрозу, а как минимум 70.

Если брать Карибский кризис как самую опасную ситуацию в истории человечества, то я думаю, что сейчас мы заходим в десятилетие постоянного Карибского кризиса. При этом контроль над развитием ситуации находится не у лидеров мировых держав, а у львиной доли пользователей интернета. И куда эта кривая нас выведет, де-факто никто не знает.

Все технологические футурологи верят в довольно утопический мир, который называют по-разному — и технологическим коммунизмом, и миром изобилия. В него легко поверить, потому что действительно все технологии, которые мы изобретаем, улучшают нашу жизнь по классической формуле "от каждого по возможностям, каждому по потребностям". Я тоже верю в такой мир, но, в отличие от многих, не так радужно оцениваю шансы просто до него дойти. Хотелось бы ошибаться. Но думаю, что нас ждут очень нескучные времена. И Украина не будет исключением.