Виготовлення дронів в Україні відкриває "скриньку Пандори": чого побоюються у світі та до чого тут терористи — NYT

Війна в Україні дала поштовх до розвитку споживчих технологій. Нестача зброї, далекобійних снарядів і заборона бити по цілях у глибокому російському тилу спровокувала розвиток технологій. Зокрема дронів зі ШІ, які автономні і не потребують управління людиною після захоплення цілей. Усе це перетворило воюючу Україну на Кремнієву долину і дало поштовх до смертельної гонки інновацій. І все це тепер викликає побоювання, оскільки ці ж технології можуть використовувати і терористи по всьому світу. Фактично, на Заході побоюються, що Україна "відкрила скриньку Пандори". Про це пише The New York Times.

У матеріалі розповідається, серед іншого, про випробування українською компанією Vyriy нових автономних дронів у полі на околиці Києва.

25-річний Олексій Бабенко, генеральний директор Vyriy, щоб продемонструвати роботу нового безпілотника, сів на свій мотоцикл і поїхав ґрунтовою дорогою. За ним слідував дрон, а його колега відстежував переміщення за допомогою комп'ютера розміром із портфель.

Донедавна пілотом квадрокоптера була людина. Тепер уже ні. Замість цього, після того як дрон захопив ціль — у цьому випадку це Бабенко — він полетів сам, керований програмним забезпеченням, яке використовувало камеру для відстеження.

"Якби безпілотник був начинений вибухівкою, а його колеги не відключили систему автономного стеження, Бабенку прийшов би кінець", — зазначає репортер.

Що відомо про українські автономні дрони

Те, що створюють компанії, на кшталт Vyriy, — це технологія, яка робить людське судження про націлювання і стрільбу дедалі більш непрямим. Широка доступність готових пристроїв, простого в розробці програмного забезпечення, потужних алгоритмів автоматизації та спеціалізованих мікрочипів штучного інтелекту вивела смертельні перегони інновацій на незвідану територію, підживлюючи потенційну нову еру роботів-убивць.

Найпросунутіші версії технології, яка дає змогу дронам та іншим машинам діяти автономно, стали можливими завдяки глибокому навчанню, формі ШІ, що використовує великі обсяги даних для виявлення закономірностей і ухвалення рішень. Глибоке навчання допомогло створити популярні великі мовні моделі, як-от GPT-4 від OpenAI , але воно також допомагає моделям інтерпретувати і реагувати в реальному часі на відео і кадри з камер. Це означає, що програмне забезпечення, яке колись допомагало дрону слідувати за сноубордистом з гори, тепер може стати смертельним інструментом.

У більш ніж дюжині інтерв'ю з українськими підприємцями, інженерами та військовими підрозділами виникла картина недалекого майбутнього, коли зграї самокерованих дронів зможуть координувати атаки, а кулемети з комп'ютерним зором зможуть автоматично вбивати солдатів. Також розробляються більш дивовижні творіння, як-от ширяючий безпілотний вертоліт, озброєний кулеметами.

Зброя грубіша, ніж їхні прототипи з фантастичних фільмів. І хоча ця зброя не така просунута, як дорогі військові системи, вироблені Сполученими Штатами, Китаєм і Росією, те, що робить ці розробки значущими, — це їхня низька вартість — лише кілька тисяч доларів або менше — і доступність.

За винятком боєприпасів, багато хто з цих видів зброї створено з використанням коду, знайденого в мережі, і компонентів, таких як аматорські комп'ютери, як-от Raspberry Pi, які можна купити в Best Buy і господарському магазині. Деякі американські чиновники заявили, що вони стурбовані тим, що ці можливості незабаром можуть бути використані для здійснення терористичних атак.

Для України ці технології можуть дати перевагу перед Росією, яка також розробляє автономні смертоносні гаджети, — або просто допомогти їй не відставати. Системи підвищують ставки в міжнародних дебатах про етичні та правові наслідки використання ШІ на полі бою. Правозахисні групи та посадові особи ООН хочуть обмежити використання автономної зброї через побоювання, що вона може спровокувати нову глобальну гонку озброєнь, яка може вийти з-під контролю.

Але в Україні такі побоювання вторинні порівняно з необхідністю відбити загарбника.

"Нам потрібна максимальна автоматизація. Ці технології мають основоположне значення для нашої перемоги", — сказав Михайло Федоров, міністр цифрової трансформації України, який очолив зусилля країни з використання технологічних стартапів для розширення передових бойових можливостей.

Автономні безпілотники, подібні до "Вирію", вже використовували в бою для ураження російських цілей, згідно з українськими чиновниками і відео, перевіреними The New York Times. Федоров сказав, що уряд працює над фінансуванням компаній, що виробляють безпілотники, щоб допомогти їм швидко наростити виробництво.

Однак виникають серйозні питання про те, який рівень автоматизації прийнятний. Наразі дрони вимагають, щоб пілот захоплював ціль, залишаючи "людину в курсі" — фраза, яку часто використовують політики і фахівці з етики ШІ.

Як ЗСУ вдосконалюють автономні дрони

28-річний солдат 92-ї штурмової бригади з позивним "Дев" був одним із перших, хто в травні використовував автономні дрони "Вирій" на полі бою. І він допоміг просунути інновації, які перетворили дешеві дрони на зброю. Спочатку він прикріпив бомби до гоночних дронів, потім додав потужніші батареї, щоб вони могли літати далі, і нещодавно додав нічне бачення, щоб машини могли полювати в темряві.

Хоча безпілотники від Vyriy вимагали удосконалень, на думку "Дева", автономні дрони "вже користуються великим попитом", сказав він.

Виробництво дронів в Україні

По всій Україні з'явилися кустарні фабрики і лабораторії для створення дистанційно керованих машин усіх розмірів, від далеких літаків і бойових катерів до дешевих дронів-камікадзе — скорочено FPV, для вигляду від першої особи, тому що ними керує пілот, який одягає окуляри віртуальної реальності. Багато з них є попередниками машин, які в кінцевому підсумку будуть діяти самостійно.

Також у Києві розташовані виробничі потужності компанії Skyeton, яка випускає безпілотники великої дальності, що використовують для управління автоматизовані системи.

Спроби автоматизувати польоти FPV почалися торік, але були уповільнені невдачами в розробці програмного забезпечення. Тепер ці проблеми вирішено, за словами Федорова. Наступним кроком буде масштабування технології з великими державними витратами, сказав він, додавши, що близько 10 компаній вже виробляють автономні дрони.

"У нас уже є системи, які можна виробляти масово, і зараз вони проходять всебічні випробування на передовій, а це значить, що вони вже активно використовуються", — сказав Федоров.

Український виробник дронів Saker створив автономну систему наведення з процесами ШІ, спочатку розроблену для сортування і класифікації фруктів. Взимку компанія почала відправляти свої технології на передову, тестуючи різні системи з пілотами дронів. Попит різко зріс.

За словами генерального директора компанії, який попросив називати його тільки на ім'я, Віктор, побоюючись заходів у відповідь із боку Росії, до травня компанія Saker уже налагодила масове виробництво одноплатних комп'ютерів зі встановленим на них програмним забезпеченням, які можна було легко під'єднувати до дронів FPV, щоб машини могли автоматично захоплювати ціль.

"Потім дрон врізається в ціль і все. Він протистоїть вітру. Він протистоїть перешкодам. Вам просто потрібно бути точним із тим, у що ви збираєтеся влучити", — зазначив Віктор.

В останні тижні Saker пішов далі, успішно застосувавши розвідувальний дрон, який ідентифікував цілі за допомогою ШІ, а потім відправив автономні дрони-камікадзе для знищення, сказав Віктор. В одному випадку система вразила ціль на відстані 50 км.

Також на війні з Росією застосовується нова футуристична зброя: гарматна вежа з автономним наведенням, що працює з контролером PlayStation і планшетом.

Гармата, названа Wolly на честь схожості з роботом Pixar WALL-E, може автоматично захоплювати ціль на відстані до 1000 метрів і перескакувати між запрограмованими позиціями, щоб швидко покрити велику площу. Компанія-виробник зброї DevDroid також розробляла автоматичне прицілювання для відстеження та ураження рухомих цілей.

Минулого року Ерік Шмідт, колишній генеральний директор Google, та інші інвестори створили фірму D3 для інвестування в нові технології бою в Україні. Інші оборонні компанії, такі як Helsing, також об'єднуються з українськими фірмами.

Українські компанії розвиваються швидше, ніж їхні зарубіжні конкуренти, каже Евеліна Бучацька, керуючий партнер D3. "Тут просто інший набір стимулів", — сказала вона.

Часто бойові вимоги об'єднують інженерів і солдатів. Олександр Ябченко, командир Da Vinci Wolves, батальйону, відомого своїми інноваціями в озброєнні, пригадав, як необхідність захищати "дорогу життя" — маршрут, який використовується для постачання військ уздовж східної лінії фронту в Бахмуті, — підстьобнула винахідливість. Він розмістив на Facebook відкритий запит на комп'ютеризований, дистанційно керований кулемет.

Через кілька місяців він отримав робочий прототип від фірми Roboneers. Зброя майже відразу ж виявилася корисною для його підрозділу. "Ми могли б сидіти в окопі, пити каву, курити цигарки і стріляти в росіян", — сказав він.

У підсумку компанія встановила кулеметну вежу на рухомий наземний безпілотник, щоб допомогти військам здійснювати атаки або швидко змінювати позиції. Застосування призвело до більшої потреби в автоматичному прицілюванні на базі ШІ, сказав генеральний директор Roboneers Антон Скрипник.

Програмне забезпечення від Swarmer, яке було створено минулого року колишнім інженером Amazon Сергієм Купрієнком, було створено на основі моделі ШІ, навченої на великих обсягах даних про місії фронтових дронів. Воно дає змогу одному техніку керувати сімома дронами в місіях із бомбардування і розвідки.

Нещодавно Swarmer додав можливості, які можуть направляти атакуючі дрони-камікадзе на відстань до 56 км. Є надія, що програмне забезпечення, яке тестують із січня, скоротить кількість людей, необхідних для управління мініатюрними повітряними силами, які домінують на передовій.

Реакція Заходу

"Україна жорстко і ясно показала, чому автономна зброя має переваги", — заявив Стюарт Рассел, фахівець зі штучного інтелекту і професор Каліфорнійського університету в Берклі, який попередив про небезпеки використання штучного інтелекту у військових цілях. "З'явиться зброя масового ураження, яка буде дешевою, масштабованою і легкодоступною на ринках зброї по всьому світу", — зазначив Рассел.

У 2017 році він випустив онлайн-фільм "Slaughterbots", що попереджає про небезпеки автономної зброї. У фільмі бродячі зграї недорогих озброєних дронів зі штучним інтелектом використовують технологію розпізнавання облич для вистежування і знищення цілей.

"Те, що відбувається в Україні, наближає нас до цього антиутопічного майбутнього", — сказав Рассел.

Він не самотній у своїх побоюваннях, що Україна стане поворотним моментом. У Відні члени групи експертів ООН також заявили, що занепокоєні наслідками нових технологій, що розробляються в Україні.

Чиновники витратили понад десятиліття на обговорення правил використання автономної зброї, але мало хто очікує, що будь-яка міжнародна угода встановить нові правила, особливо в той час, коли США, Китай, Ізраїль, Росія та інші країни змагаються в розробці ще більш досконалої зброї. В одній із програм США, оголошеної в серпні, відомої як ініціатива Replicator, Пентагон заявив, що планує масово виробляти тисячі автономних дронів.

"Геополітика робить це неможливим. Цю зброю буде використано, і її використовуватимуть у військовому арсеналі практично кожного", — заявив Александер Кментт, головний парламентер Австрії з автономної зброї в ООН.

За його словами, ніхто не очікує, що країни повністю заборонять таку зброю, "але її слід регулювати таким чином, щоб ми не опинилися в ситуації абсолютного кошмару".

Михайло Федоров, міністр цифрової трансформації України, зазначав, що в Україні ця суперечка має академічний характер. "Спочатку нам потрібно перемогти. Для цього ми зробимо все можливе, щоб максимально впровадити автоматизацію, щоб врятувати життя наших солдатів", — сказав Федоров на саміті в Києві в травні цього року.

Нагадаємо, викладач НТУУ "Київський політехнічний інститут імені Ігоря Сікорського", кандидат технічних наук Євген Коваленко розповів, що українські безпілотні апарати мають перевагу над російськими, зокрема за рахунок передових технологічних рішень, однак вони потребують захисту від засобів РЕБ. І згадав про слабку сторону FPV-дронів.