"Розіп'ятий хлопчик" та Третя світова: чи можуть люди повірити ШІ та запустити ядерні бомби

Фокус переклав статтю політолога та фахівця з питань України та РФ Олександра Мотиля для National Security Journal. Аналітик нагадав серію фейків, які, на його думку, стали приводом до воєн у 20 столітті. Чи можуть фейкові ШІ-відео, які надшвидко поширюються мережею, стати причиною Третьої світової війни?

Як відео, згенеровані штучним інтелектом, допоможуть розв'язати нову світову війну

Технології генерації реалістичних відео за допомогою штучного інтелекту поглиблять існуючі конфлікти та будуть розбурхувати нові війни. При всій можливій користі технологій ШІ, вона буде не настільки важливою в гоббсівському світі війни всіх проти всіх.

Відео, згенеровані ШІ, сприятимуть конфліктам кількома шляхами.

• По-перше, вони стирають межу між фактами й вигадкою, сіючи тим самим невизначеність, недовіру і підозри між державами, групами та окремими особами.

Раціональні люди, які дбають про свою безпеку і благополуччя, навіть якщо вони за своєю суттю схильні до добра, чинять розсудливо, припускаючи про інших людей найгірше і діючи відповідно.

Політичні кандидати та посадові особи, радше за все, стануть водночас жертвами й винуватцями таких відеороликів. Чи можливий в таких умовах раціональний дискурс? А демократія? Чи не видасться привабливішим авторитарне правління Левіафана, який визначає за всіх, що є фактом, а що — вигадкою?

У стані війни всіх проти всіх ми швидше, нехай і з обережністю, схильні довіряти тим людям, хто думає, діє і, перш за все, виглядає і говорить як ми. Компрометуючі відео з їхньою участю можуть здатися нам менш правдоподібними, ніж аналогічні відео з людьми, не схожими на нас.

Етноцентризм, расизм і супрематизм лише набиратимуть обертів. Те саме відбудеться з релігійним та ідеологічним фанатизмом, який пропонуватиме якусь подобу визначеності в глибоко невизначеному світі та спонукатиме людей, за словами Еріха Фромма, втікати від свободи.

• По-друге, через нашу схильність вбачати в "інших" джерело загрози, відео, згенеровані ШІ, можуть легко послужити для їхньої демонізації й надати як докази, відтак і приводи, для превентивних оборонних дій, які, своєю чергою, лише підтвердять їхні підозри щодо нас.

Ще у 2014 році, після того, як Росія захопила Крим і вдерлась на схід України, російські пропагандисти поширили фейкову фотографію 3-річного хлопчика, нібито розп'ятого українцями. Фотографія стала вірусною, ніби виправдовуючи твердження Володимира Путіна про те, що Київ знаходиться в руках нацистів.

Уявіть, наскільки переконливішим стало б це зображення, якби воно було лише одним кадром фільму, що показує, як українські солдати нібито хапають, катують і вбивають дитину.

Та й навіщо зупинятися на дитині? Чому б не створити відео, яке показує групи диких "слобов’ян", які нібито нападають і знищують кілька сіл, населених мирними "лобов’янами"? Згодом деякі з цих відео можуть бути викриті як фальшивки, але до того часу вони вже завдадуть шкоди, а якщо їх будуть постійно доповнювати численними подібними фальшивками, вони підживлюватимуть істеричні вимоги розплати.

• По-третє, і це найстрашніше, фейкові відео, створені за допомогою ШІ, можуть надати державам зручний привід для розв'язання війни. Два голлівудські фільми — "Канадський бекон" (1995) з Джоном Кенді та Аланом Алдою і "Вибухова хвиля" (1997) з Робертом Де Ніро і Дастіном Гоффманом, — сатирично зображують американських політиків, які шукають способи підвищити свій рейтинг, представляючи Канаду як загрозу американській безпеці в першому випадку і вигадуючи війну з Албанією в другому. Відео, створені за допомогою ШІ, слугуватимуть тій же меті.

Американські політики не новачки у створенні штучних криз, покликаних виправдовувати війни. Заклик "Пам'ятати "Мен" — корабель, що затонув у гаванському порту в 1898 році внаслідок вибуху міни зовні або всередині, — став бойовим кличем, що супроводжував іспано-американську війну.

В'єтнамська війна значною мірою виправдовувалася інцидентом у Тонкінській затоці, під час якого Північний В'єтнам нібито атакував американський корабель. Насправді цей інцидент сфабрикувало Агентство національної безпеки.

Ще в 1939 році нацистська Німеччина інсценувала напад німців, одягнених як польські військові, на радіостанцію в прикордонному місті Ґлівіце. Звісно, у Гітлера не було іншого вибору, окрім як захистити Німеччину, вторгнувшись до Польщі. І, нарешті, варто згадати сумнозвісну Емську телеграму, сфабриковану Отто фон Бісмарком в 1870 році, щоб розпалити війну між Францією і Пруссією.

Фейкові ШІ-відео можуть зробити все це і навіть більше, причому з набагато меншими витратами й набагато більшим ефектом.

Ми наближаємося до ситуації, що нагадує природний стан, описаний англійським філософом 17 століття Томасом Гоббсом як стан постійного конфлікту, в якому життя "самотнє, бідне, жорстоке, грубе і коротке".

Звичайно, гоббсівський природний стан не виникне одразу. Але зникнення фактів і їх заміна фантазіями неминуче призведе до цього.

Чи можна щось зробити, аби запобігти такому жахливому фіналу? Щасливий кінець можливий, якщо факти, а отже, і правда, нехай навіть з маленької літери "п", продовжать існувати. А також якщо держави, групи та окремі особи пообіцяють поводитися гідно.

На жаль, постмодернізм руйнує правду зліва, а зростання популістських рухів у світі руйнують її справа.

З іншого боку, буде наївно вважати, що всі причетні актори погодяться поводитися добре. Хтось погодиться, хтось ні — але всім їм доведеться змушувати інших повірити в фантазії.

Джордж Оруелл доведе свою правоту.

Про автора

Олександр Мотиль — доктор наук, професор політології в Університеті Рутгерса в Ньюарку. Спеціаліст з України, Росії та СРСР, а також з націоналізму, революцій, імперій і політичної теорії. Автор 10 книг у жанрі нон-фікшн, зокрема "Підсумки імперії" (2009); "Шляхи імперії" (2004); "Imperial Ends: The Decay, Collapse, and Revival of Empires" (2001) та інших.