Машина смерти. Почему автономный дрон, убивающий без участия оператора — плохая новость

В эти дни новостное пространство заполнено сообщениями о том, что в Ливии турецкий полностью автономный дрон убил человека. В отличие от предыдущих случаев атак дронов, в этот раз человек не жал на кнопку, дрон имел полностью автономную систему. Пару замечаний о том, почему это плохие новости:

1. Сейчас полномасштабные войны ведутся редко, во многом из-за того, что есть риск высоких потерь, а приписываемый маршалу Жукову аргумент "бабы новых нарожают" уже не работает, женщины предпочитают рожать умеренное количество детей, однако обеспечить их так, чтобы они могли дожить до старости. Невосполнимые потери для развитых стран стали невосполнимыми в полном смысле слова.

В случае с автономными боевыми системами невосполнимость перестает работать. Ведь даже у летчика на сверхзвуковом бомбардировщике есть шанс быть сбитым и погибнуть. К примеру, потери Вьетнама были как минимум в пятнадцать раз выше потерь США, но американцы все равно отступили, посчитав их неприемлемыми. Богатые страны могут без проблем начинать войны с бедными, при этом, автономное оружие будет воевать против людей.

2. Еще очень далеко до гипотетического "восстания умных машин", предсказанного в фантастической литературе и кинематографе. Фильмы вроде "Терминатора" порождены страхом, что возникнет некая "нация умных машин", которая объявит войну "нации людей". Однако, люди не создали умные машины.

А ведь даже операторы полуавтономных дронов, убивающие на расстоянии, могут не выдержать такой службы и уволится, как поступил, к примеру военнослужащий ВВС США Брендон Бриант. Таким образом, страны-агрессоры получают дополнительное преимущество — они могут не боятся падения морали армии из-за того, что солдаты разочаровались в целях ведения войны.

3. Также существует аргумент, что дроны не принимают решений, их алгоритмы созданы разработчиками программного обеспечения. Да, алгоритмы дронов не производят решения таким же образом, как человек, человек может считать с них информацию, изучить все предпосылки, которые привели к тому или иному последствию, исправить программу.

Однако, существует фундаментальное различие с компьютером в каком-нибудь научно-исследовательском институте, работающим в рамках замкнутой симуляции и при помощи генератора псевдослучайных чисел. Запуская автономное оружие на скрытую туманом войны территорию, человек может только примерно предвидеть, как поведет себя алгоритм при столкновении с внешней реальностью.

4. Сравнивать дроны с минами не совсем корректно — мина не прилетит к вам в дом и не сможет зарыться том на месте где вы ставите любимые тапочки, ставящего мины сапера могут убить (см. пункт 1). Хотя я понимаю, почему эти вооружения сравнивают, но все же "на спусковой крючок" мины нажимает человек.

Помимо этого, противопехотные мины запрещены в 163 странах мира как оружие крайне негуманное и неизбирательного действия. Джоди Уильямс, лауреат Нобелевской премии мира 1997 года за работу над запретом противопехотных мин — в данный момент переключилась на работу над запретом дронов и прочего автономного оружия. Грубо говоря, правильной реакцией было бы не "а что такого в этих дронах, то же самое, что и мины", а "это так же плохо, как и мины!".

5. Мировое сообщество пока что бессильно прекратить войны, но, по крайней мере, оно делает движение в направлении запрета самых бесчеловечных его образцов. Оружие, само жмущее на свой спусковой крючок — одно из самых бесчеловечных изобретений современности и не должно существовать в принципе.