Удавка для демократии. Почему искусственный интеллект – мечта тоталитаризма

  • Юлия Чайка

По мнению эксперта Саймона Маккарти-Джонса, правительство сможет использовать ИИ против своих же граждан, делая вид, будто их действия направлены исключительно на благо народа.

Доцент кафедры клинической психологии и нейропсихологии Тринити-колледжа в Дублине Саймон Маккарти-Джонс проанализировал влияние искусственного интеллекта на жизнь обычных людей и попытку властей управлять этим процессом.

"Индивидуалистические западные общества построены на идее, которая состоит в том, что никто не знает наши мысли, желания или радости лучше нас самих. И поэтому только мы, а не правительство ответственны за свою жизнь",   ̶  пишет Саймон в колонке для The Conversation.

Однако искусственный интеллект (ИИ) это изменит. Правительство, вооруженное ИИ, в один день может заявить, что знает, чего на самом деле хотят его граждане и что по-настоящему может сделать их счастливыми. В лучшем случае власти будут использовать это для оправдания патернализма, в худшем  ̶  тоталитаризма.

Каждый ад начинается с обещания рая. Тоталитаризм под руководством искусственного интеллекта не будет исключением, загнав свободу в оковы государства.

"Чтобы предотвратить такую антиутопию, нельзя позволять другим знать о нас больше, чем мы сами. У нас не должно быть пробелов в самопознании",   ̶   подчеркивает эксперт.

Всевидящий Искусственный интеллект

В 2019 году американский инвестор и миллиардер Питер Тиль назвал ИИ «проявлением коммунизма». Он отметил, что ИИ позволяет централизованной власти контролировать граждан и знать о них буквально все.

"Мы уже осведомлены, что искусственный интеллект способен поддерживать тоталитаризм, предоставляя оруэлловскую систему наблюдения и контроля. Но он также дает тоталитаристам и философское оружие. Пока мы знали себя лучше, чем правительство, либерализм мог держать в страхе честолюбивых тоталитаристов, но искусственный интеллект изменил ход игры",   ̶   отмечает эксперт.

Крупные технологические компании собирают огромное количество данных о нашем поведении. Алгоритмы машинного обучения используют эти данные для расчета не только того, что мы будем делать, но и того, кто мы такие. Сегодня ИИ может предсказать, какие фильмы нам понравятся, какие новости мы пожелаем прочитать и с кем мы захотим подружиться в Facebook. Помимо этого, он способен предвидеть, останутся ли пары вместе, и попытаемся ли мы покончить жизнь самоубийством. По нашим лайкам в Facebook он также может узнать наши религиозные и политические взгляды, изучить нашу личность, уровень интеллекта, употребляем ли мы наркотики и насколько мы счастливы.

При этом всем точность предсказаний ИИ будет только улучшаться. В недалеком будущем, как предположил писатель Юваль Ной Харари, ИИ может сказать нам, кто мы такие, прежде чем мы сами это узнаем. Эти события имеют достаточно неоднозначные политические последствия. Если правительства знают нас лучше, чем мы сами, то у них появляется новое оправдание для вмешательства в нашу жизнь, что дает им возможность  тиранизировать нас якобы во имя нашего блага.

Свобода и тирания

Английский философ Исайя Берлин предвидел это еще в 1958 году. Он выделил два типа свободы, один из которых приведет к тирании.

Негативная свобода   ̶  это "свобода от". Свобода от вмешательства других людей или правительства в вашу личную жизнь. Негативная свобода заключается в том, что никто другой не может вас ограничивать, пока вы не нарушаете чьи-либо права.

Позитивная свобода    ̶   это "свобода для". Это свобода быть самому себе хозяином, свобода исполнять свои истинные желания, свобода жить рациональной жизнью. Кто бы этого не хотел?

Но что, если кто-то другой скажет, что вы действуете не в ваших же "истинных интересах"? Если вы не послушаетесь, они могут заставить вас быть свободными, принуждая "для вашего же блага". Это одна из самых опасных идей. В свое время она убила десятки миллионов людей в Советском Союзе и Китае.

Российский коммунистический лидер Владимир Ленин однажды заявил: "Капиталисты сами продадут нам веревку, на которой мы их и повесим". Питер Тиль утверждает, что в области искусственного интеллекта капиталистические технологические компании Кремниевой долины продали коммунизму инструмент, который угрожает подорвать демократическое капиталистическое общество. ИИ  ̶  это та сама веревка Ленина.

Борьба за свои интересы

"Нам удастся предотвратить такую ​​антиутопию, только если мы никому не позволим знать нас лучше нас самих. Мы никогда не должны сентиментально относиться к тем, кто стремится к такой власти. Как показала история, это всегда заканчивалось плачевно. Один из способов предотвратить пробел в самопознании  ̶  это поднять уровень конфиденциальности",   ̶   пишет автор материала.

Тиль, назвавший ИИ коммунистическим, утверждал, что "криптовалюта   ̶  это либертарианство". Криптовалюты могут обеспечить неприкосновенность частной жизни, что снижает возможность других людей узнавать о нас сведенья и использовать их для своей выгоды.

Тем не менее, познания себя с помощью ИИ дает и серьезные преимущества. Его можно использовать для того, чтобы лучше понять, что сделает нас счастливыми, здоровыми и богатыми, а также поможет успешно построить карьеру. В более широком смысле ИИ обещает создать такой экономический рост, который убережет нас от посягательств других.

Проблема не в том, что ИИ улучшает наше самопознание. Проблема в неравенстве знаний. Если они находятся исключительно в чужих руках  ̶  это власть над нами, но если в наших собственных  ̶  это сила для нас. Любой, кто обрабатывает наши данные для получения информации о нас, с юридической точки зрения, обязан осуществлять это только с нашего ведома.

"В эпоху искусственного интеллекта нам нужно обновить идею "ничего о нас без нашего согласия". Ту информацию о нас, которую дает ИИ, мы должны использовать сами, а не позволять другим ею пользоваться",  ̶  подытожил эксперт.