Машина смерті. Чому автономний дрон, що вбиває без участі оператора — погана новина
Зброя, що сама тисне на свій спусковий гачок — один з найбільш нелюдських винаходів сучасності і не повинна існувати в принципі.
У ці дні новинний простір заповнений повідомленнями про те, що в Лівії турецький повністю автономний дрон вбив людину. На відміну від попередніх випадків атак дронів, цього разу людина не тиснула на кнопку, дрон мав повністю автономну систему. Кілька зауважень про те, чому це погані новини:
1. Зараз повномасштабні війни ведуться рідко, багато в чому через те, що є ризик високих втрат, а приписуваний маршалу Жукову аргумент "баби нових народять" уже не працює, жінки вважають за краще народжувати помірну кількість дітей, проте забезпечити їх так, щоб вони могли дожити до старості. Непоправні втрати для розвинених країн стали непоправними в повному розумінні слова.
У випадку з автономними бойовими системами незамінність перестає працювати. Адже навіть у льотчика на надзвуковому бомбардувальнику є шанс бути збитим і загинути. Наприклад, втрати Вʼєтнаму були як мінімум у пʼятнадцять разів вищими за втрати США, але американці все одно відступили, вважаючи їх неприйнятними. Багаті країни можуть без проблем починати війни з бідними, при цьому, автономна зброя буде воювати проти людей.
2. Ще дуже далеко до гіпотетичного "повстання розумних машин", передбаченого у фантастичній літературі і кінематографі. Фільми на кшталт "Термінатора" породжені страхом, що виникне якась "нація розумних машин", яка оголосить війну "нації людей". Однак, люди не створили розумних машин.
Вони зробили машини. Досить розумні, щоб ті самі могли літати, знаходити ціль і стріляти, але недостатньо розумні, щоб вони могли сказати "Через таку дурну причину — вбивайте себе самі, я повертаюся в ангар".
Але ж навіть оператори напівавтономних дронів, які вбивають на відстані, можуть не витримати такої служби і звільнитися, як вчинив, наприклад військовослужбовець ВПС США Брендон Бріант. Таким чином, країни-агресори отримують додаткову перевагу — вони можуть не боятися падіння моралі армії через те, що солдати розчарувалися в цілях ведення війни.
3. Також існує аргумент, що дрони не приймають рішень, їхні алгоритми створені розробниками програмного забезпечення. Так, алгоритми дронів не здійснюють рішення таким же чином, як людина, людина може зчитувати з них інформацію, вивчити всі передумови, які призвели до того чи іншого наслідку, виправити програму.
Однак, існує фундаментальна відмінність з компʼютером у якомусь науково-дослідному інституті, що працюють у рамках замкнутої симуляції і за допомогою генератора псевдовипадкових чисел. Запускаючи автономну зброю на приховану туманом війни територію, може лише приблизно передбачити, як поведе себе алгоритм при зіткненні із зовнішньою реальністю.
При взаємодії з незвіданим у струнку програму втручається елемент випадковості. І як поведеться машина в цьому випадку — уже не вибір людини.
4. Порівнювати дрони з мінами не зовсім коректно — міна не прилетить до вас у будинок і не зможе заритися на тому місці, де ви ставите улюблені капці, сапера, який ставить міни, можуть вбити (див. Пункт 1). Хоча я розумію, чому ці озброєння порівнюють, але все ж "на спусковий гачок" міни натискає людина.
Крім цього, протипіхотні міни заборонені в 163 країнах світу як зброя вкрай негуманна і невибіркової дії. Джоді Вільямс, лауреатка Нобелівської премії світу 1997 року за роботу над забороною протипіхотних мін — наразі переключилася на роботу над забороною дронів та іншої автономної зброї. Грубо кажучи, правильною реакцією було б не "а що такого в цих дронах, те ж саме, що і міни", а "це так само погано, як і міни!".
5. Світова спільнота поки що безсила припинити війни, але принаймні вона рухається в напрямку заборони найбільш нелюдських її зразків. Зброя, що сама тисне на свій спусковий гачок — один з найбільш нелюдських винаходів сучасності і не повинна існувати в принципі.