"Распятый мальчик" и Третья мировая: могут ли люди поверить ИИ и запустить ядерные бомбы

Фокус перевел статью политолога и специалиста по вопросам Украины и РФ Александра Мотыля для National Security Journal. Аналитик напомнил серию фейков, которые, по его мнению, стали поводом к войнам в 20 веке. Могут ли фейковые ИИ-видео, которые сверхбыстро распространяются по сети, стать причиной Третьей мировой войны?

Как видео, сгенерированные искусственным интеллектом, помогут развязать новую мировую войну

Технологии генерации реалистичных видео с помощью искусственного интеллекта углубят существующие конфликты и будут будоражить новые войны. При всей возможной пользе технологий ИИ, она будет не столь важной в гоббсовском мире войны всех против всех.

Видео, сгенерированные ИИ, будут способствовать конфликтам несколькими путями.

• Во-первых, они стирают грань между фактами и вымыслом, сея тем самым неопределенность, недоверие и подозрения между государствами, группами и отдельными лицами.

Рациональные люди, которые заботятся о своей безопасности и благополучии, даже если они по своей сути склонны к добру, поступают благоразумно, предполагая о других людях худшее и действуя соответственно.

Политические кандидаты и должностные лица, скорее всего, станут одновременно жертвами и виновниками таких видеороликов. Возможен ли в таких условиях рациональный дискурс? Не кажется ли более привлекательным авторитарное правление Левиафана, определяющего за всех, что является фактом, а что — выдумкой?

В состоянии войны всех против всех мы скорее, пусть и с осторожностью, склонны доверять тем людям, кто думает, действует и, прежде всего, выглядит и говорит как мы. Компрометирующие видео с их участием могут показаться нам менее правдоподобными, чем аналогичные видео с людьми, не похожими на нас.

Этноцентризм, расизм и супрематизм будут только набирать обороты. То же произойдет с религиозным и идеологическим фанатизмом, который будет предлагать некое подобие определенности в глубоко неопределенном мире и побуждать людей, по словам Эриха Фромма, бежать от свободы.

• Во-вторых, из-за нашей склонности видеть в "других" источник угрозы, видео, сгенерированные ИИ, могут легко послужить для их демонизации и предоставить в качестве доказательств, а значит и поводов, для превентивных оборонительных действий, которые, в свою очередь, только подтвердят их подозрения в отношении нас.

Еще в 2014 году, после того, как Россия захватила Крым и вторглась на восток Украины, российские пропагандисты распространили фейковую фотографию 3-летнего мальчика, якобы распятого украинцами. Фотография стала вирусной, как бы оправдывая утверждение Владимира Путина о том, что Киев находится в руках нацистов.

Представьте, насколько более убедительным стало бы это изображение, если бы оно было лишь одним кадром фильма, показывающим, как украинские солдаты якобы хватают, пытают и убивают ребенка.

Да и зачем останавливаться на ребенке? Почему бы не создать видео, показывающее группы диких "слободян", которые якобы нападают и уничтожают несколько деревень, населенных мирными "слободянами"? Со временем некоторые из этих видео могут быть разоблачены как фальшивки, но к тому времени они уже нанесут вред, а если их будут постоянно дополнять многочисленными подобными фальшивками, они будут подпитывать истерические требования расплаты.

• В-третьих, и это самое страшное, фейковые видео, созданные с помощью ИИ, могут предоставить государствам удобный повод для развязывания войны. Два голливудских фильма — "Канадский бекон" (1995) с Джоном Кэнди и Аланом Алдой и "Взрывная волна" (1997) с Робертом Де Ниро и Дастином Хоффманом, — сатирически изображают американских политиков, которые ищут способы повысить свой рейтинг, представляя Канаду как угрозу американской безопасности в первом случае и выдумывая войну с Албанией во втором. Видео, созданные с помощью ИИ, будут служить той же цели.

Американские политики не новички в создании искусственных кризисов, призванных оправдывать войны. Призыв "Помнить "Мэн" — корабль, затонувший в гаванском порту в 1898 году в результате взрыва мины снаружи или внутри, — стал боевым кличем, сопровождавшим испано-американскую войну.

Вьетнамская война в значительной степени оправдывалась инцидентом в Тонкинском заливе, во время которого Северный Вьетнам якобы атаковал американский корабль. На самом деле этот инцидент сфабриковало Агентство национальной безопасности.

Еще в 1939 году нацистская Германия инсценировала нападение немцев, одетых как польские военные, на радиостанцию в приграничном городе Гливице. Конечно, у Гитлера не было другого выбора, кроме как защитить Германию, вторгшись в Польшу. И, наконец, стоит вспомнить печально известную Эмскую телеграмму, сфабрикованную Отто фон Бисмарком в 1870 году, чтобы разжечь войну между Францией и Пруссией.

Фейковые ИИ-видео могут сделать все это и даже больше, причем с гораздо меньшими затратами и гораздо большим эффектом.

Мы приближаемся к ситуации, напоминающей естественное состояние, описанное английским философом 17 века Томасом Гоббсом как состояние постоянного конфликта, в котором жизнь "одинока, бедна, жестока, груба и коротка".

Конечно, гоббсовское естественное состояние не возникнет сразу. Но исчезновение фактов и их замена фантазиями неизбежно приведет к этому.

Можно ли что-то сделать, чтобы предотвратить такой ужасный финал? Счастливый конец возможен, если факты, а следовательно, и правда, пусть даже с маленькой буквы "п", продолжат существовать. А также если государства, группы и отдельные лица пообещают вести себя достойно.

К сожалению, постмодернизм разрушает правду слева, а рост популистских движений в мире разрушают ее справа.

С другой стороны, будет наивно полагать, что все причастные актеры согласятся вести себя хорошо. Кто-то согласится, кто-то нет — но всем им придется заставлять других поверить в фантазии.

Джордж Оруэлл докажет свою правоту.

Об авторе

Александр Мотыль — доктор наук, профессор политологии в Университете Рутгерса в Ньюарке. Специалист по Украине, России и СССР, а также по национализму, революциям, империям и политической теории. Автор 10 книг в жанре нон-фикшн, в частности "Итоги империи" (2009); "Пути империи" (2004); "Imperial Ends: The Decay, Collapse, and Revival of Empires" (2001) и других.