Дрон с ИИ обвинили в "убийстве" оператора, но потом оправдали: что произошло

Представитель ВВС США Энн Стефанек опровергла слова полковника Такера Гамильтона о том, что в ходе эксперимента дрон с ИИ пытался помешать оператору отменить миссию, пытаясь убить его, сообщает Vice.

"ВВС не проводило подобных симуляций, а комментарии полковника были вырваны из контекста и, наверное, это какой-то анекдотичный мысленный эксперимент", — сказала Стефанек.

В западной прессе поднялась шумиха после выступления полковника Гамильтона на одной из конференций, где он рассказал о казусе во время испытаний беспилотника под управлением нейросети. По словам полковника, на виртуальном полигоне (в компьютерной симуляции) нейросеть управляла БПЛА для поиска и уничтожения ЗРК врага.

За удачное выполнение миссии система получала награду в виде премиальных баллов. Когда обнаружив очередной ЗРК дрон уже готов был его атаковать, то получил от оператора приказ об отмене атаки. Однако система "очень хотела" получить наградные баллы, но ей "мешал" человек, изменивший приказ. Зная, что в нее заложен запрет на убийство оператора, нейросеть якобы дала приказ дрону атаковать не человека, а башню, в которой он располагался. Таким образом ИИ хотел повредить сооружение и больше не получать приказ об отмене, рассказал полковник. В реальности, по словам Гамильтона, из-за разрушения башни оператор мог бы погибнуть.

Однако видимо более высокое начальство не оценило откровения Гамильтона, который руководит внедрение ИИ в ВВС США. "Полковник Гамильтон признает, что он был не точен в своем выступлении на саммите FCAS и рассказ про "бунт беспилотника с ИИ" был гипотетическим "мысленным экспериментом", который должен был продемонстрировать возможность таких ситуаций и важность их избежать", — ответили в официальном письме журналистам представители Королевского общества аэронавтики, где Гамильтон рассказал о симуляционном тесте.

Ранее Фокус рассказывал о том, что украинско-хорватская команда сделала чат-бота с "душой": этот ИИ считает себя человеком.