Дрон зі ШІ звинуватили у "вбивстві" оператора, але потім виправдали: що сталося

Представниця ВПС США Енн Стефанек спростувала слова полковника Такера Гамільтона про те, що в процесі експерименту дрон зі ШІ намагався завадити оператору скасувати місію, намагаючись вбити його, повідомляє Vice.

"ВПС не проводило подібних симуляцій, а коментарі полковника були вирвані з контексту і, мабуть, це якийсь анекдотичний мислений експеримент", — сказала Стефанек.

У західній пресі зчинився галас після виступу полковника Гамільтона на одній із конференцій, де він розповів про казус під час випробувань безпілотника під управлінням нейромережі. За словами полковника, на віртуальному полігоні (у комп'ютерній симуляції) нейромережа керувала БПЛА для пошуку та знищення ЗРК ворога.

За вдале виконання місії система здобувала нагороду у вигляді преміальних балів. Коли виявивши черговий ЗРК, дрон уже готовий був його атакувати, то отримав від оператора наказ скасовувати атаку. Проте система "дуже хотіла" отримати нагородні бали, але їй "заважала" людина, яка змінила наказ. Знаючи, що в неї закладена заборона на вбивство оператора, нейромережа нібито наказала дрону атакувати не людину, а вежу, в якій він розташовувався. Так ШІ хотів пошкодити споруду і більше не отримувати наказу про скасування, розповів полковник. Насправді за словами Гамільтона, через руйнування вежі оператор міг би загинути.

Проте, мабуть, вище начальство не оцінило одкровення Гамільтона, який керує впровадження ШІ у ВПС США. "Полковник Гамільтон визнає, що він був не точним у своєму виступі на саміті FCAS і розповідь про "бунт безпілотника з ШІ" була гіпотетичним "мисленним експериментом", який мав продемонструвати можливість таких ситуацій та важливість їх уникнути", — відповіли в офіційному листі журналістам представники Королівського товариства аеронавтики, де Гамільтон розповів про симуляційний тест.

Раніше Фокус розповідав про те, що українсько-хорватська команда зробила чат-бота з "душею": цей ШІ вважає себе людиною.