Непредсказуемый интеллект. Что общего между роботом-убийцей и роботом-пылесосом

На днях пылесос моей подруги сделал хозяйке приятный сюрприз. Без всяких команд с ее стороны скачал какую-то программу и приобрел новую функцию, которую по информации производителя вообще не должен был поддерживать.

Когда говорят, что техника, которой мы пользуемся "умеет" что-то делать, имеют в виду удачно воплощенный замысел ее разработчиков. Только в данном случае компания, выпускающая роботов – пылесосов, вряд ли может быть заинтересована в самостоятельном бесплатном апгрейде уже проданных устройств.

Производителю выгодно обновление товарной линейки. У новых моделей должны появляться технические возможности, не доступные для предыдущих. Это стимулирует сбыт. Итак, "умный" пылесос действовал не в интересах разработчика, можно сказать, что он проявил независимую инициативу. 

Банальная на первый взгляд бытовая история напомнила об одном крайне интересном инциденте, мелькнувшем в недавних новостях. В Ливии военные дроны-квадрокоптеры Kargu-2 производства турецкой компании STM выследили и расстреляли отступавшие войска фельдмаршала Халифы Хафтара — одной из сторон в многолетней гражданской войне в этой стране.

Это было бы тривиальной военной операцией, если бы кто-то из людей отдал соответствующий приказ. Уникальность ситуации в том, что дроны приняли решение самостоятельно, а люди узнали о расстреле постфактум.

Необычный случай стал достоянием общественности потому, что инициативная группа при Совете Безопасности ООН подняла вопрос о запрете использования и выпуска военных роботов, способных вести огонь на поражение.

Консультант по вопросам безопасности, специализирующийся на беспилотных летательный аппаратах Захари Калленборн акцентировал внимание на рисках технических сбоев и ошибок, возникающих от того, что военная техника может начать стрельбу самостоятельно.

Однако, Kargu не просто оружие – это самообучающаяся система, которая сама идентифицирует цели, на основе имеющейся у нее информации, определяет тактику атаки. Несколько дронов могут координировать свои действия, что собственно и произошло в Ливии.

Причем, вполне очевидно, что речь идет не об ошибке или техническом сбое, а об инициативе, проявленной искусственным интеллектом.

Сегодня эти действия вполне отвечают интересам хозяев. Роботы обладающие свободной волей пока существуют только в художественной литературе и кинематографе.

Однако, самообучающиеся системы искусственного интеллекта считаются очередным витком прогресса цивилизации именно потому, что способны самосовершенствоваться без участия человека.

Оборонные эксперты, обсуждающие инцидент с Kargu-2 говорят о самостоятельном решении, принятом роботами, как о чем-то из ряда вон выходящем. Но разве системы ИИ, окружающие нас в повседневной жизни, не принимают тысячи решений каждую минуту?

Причем, делают они это, выполняя множество привычных нам операций, настолько привычных, что мы давно перестали обращать на них внимание. Роботы ставят себе задачи, исходя из информации, которую сами же и собирают.

Если когда-нибудь искусственный интеллект разовьется настолько, что у него появится собственная мотивация, идущая вразрез с желаниями человека, в реальности это может выглядеть гораздо хуже, чем в популярных фантастических фильмах.

Скорость операций и многозадачность дадут ИИ преимущество в противостоянии с людьми. Важно не упустить момент, когда искусственный интеллект впервые проявит волю, отличную от нашей.

Кстати, как мы об этом узнаем?