"Проблема не в зброї, а в ШІ": четверта світова війна вестиметься камінням і палицями

Наш страх перед безпілотниками є помилковим: реальна небезпека — це технологія, яка їх запускає, вважає Ліран Антебі, наукова співробітниця Інституту досліджень національної безпеки (INSS).

"Я не знаю, якою зброєю вестиметься третя світова війна, але четверта світова війна вестиметься палицями та камінням", — пише вчена.

У міру наближення 2023 року стало зрозуміло, що світ воєнних дій переходить від загрози ядерних атак до кіберпростору. Штучний інтелект проникає у всі аспекти нашого життя, і це було лише питання часу, коли він почне застосовуватись у наших системах озброєння, йдеться у матеріалі CTech.

Ліран Антебі вважає, що зброя не викликає стільки занепокоєння, як автономія ШІ-систем. "Ми повинні впоратися з технологією, поки не стало надто пізно", — наголошує вона. "Ми маємо глибоко вникнути у предмет, а також розбиратися в тому, як працює "екосистема" ШІ-технологій. Автономія ШІ сьогодні актуальна як для збройних сил і корпорацій, так і для невеликих компаній. У кожного свої завдання для ШІ".

Звісно, штучний інтелект вже є у нашому повсякденному житті, автоматизуючи деякі його аспекти. Приватні компанії створюють автономні транспортні засоби, автономну побутову електроніку, системи типу "розумного" будинку та ін. І людям це подобається, адже так зручніше. Однак Антебі стверджує, що коли про автономію говорять стосовно систем озброєнь, то погляди людей різко змінюються.

"Коли ми говоримо про військове питання, ми говоримо про людські життя", — пояснила вона. "Якщо є вогнева міць, є проблема виживання, проблема смерті та проблема порятунку життів. Коли йдеться про автономні системи летальної зброї, люди сприймають це дуже критично, але тільки тому, що вони смертоносні. Однак і безпілотні автомобілі теж "смертоносні". А прийнято вважати, що автономна зброя — це, перш за все, зброя, тобто те, що вбиває, а ось автономний автомобіль або безпілотник убити не може.

Антебі вивчає те, як реалізовується автономія пристроїв на практиці, а також пов'язані з цим проблеми та можливості. У минулому вона консультувала ООН у складі групи експертів під назвою IPRAW (Міжнародна група з регулювання автономних систем озброєнь) та консультувала Міністерство оборони Ізраїлю з цих питань.

"Я була однією з перших, принаймні в Ізраїлі, хто стверджував, що проблема не в зброї, а в ШІ. Ми повинні бути впевнені, що ШІ досконалий, перш ніж дати йому можливість керувати хоч чимось — і не має значення, це буде зброя чи авто, адже він може помилково завдати шкоди або навіть вбити. Я говорю про автономні автомобілі, як у Telsa, я говорю і про різного роду робототехніку".

Вчена пояснила, що "етичні рішення", які приймаються ШІ "самостійно" — це проблема та відповідальність приватних компаній, що створюють технології. Системи, які, як очікується, перевозитимуть дітей в автономних транспортних засобах або проводитимуть атаки безпілотників на полях бойових дій, мають бути досконалими, перш ніж вони зможуть працювати, отримавши кредит довіри громадян та урядів. Знаменита дилема, кого врятує робот під час пожежі, або як дрон атакуватиме, щоб уразити ціль, вимагатиме жорсткого нагляду та регулювання, щоб автономія була зручною, але не смертельною.

"Хто вирішить за мене? Інженери Tesla? Мені потрібні люди в Кнесеті, щоб приймати закони. Але вони не знають, як вирішувати ці питання, тому що технології надто складні", — сказала вона.

Раніше ми повідомляли про те, що ШІ зможе згодом замінити пілотів літаків.