Государство и эволюция.Чем опасен контроль власти над искусственным интеллектом

Выдающийся бизнесмен и адепт новых технологий Илон Маск заявил о том, что искусственный интеллект представляет угрозу человеческой цивилизации и поэтому внедрение таких технологий должно быть взято под государственный контроль. Надо признать: мысль эта более чем опасная. Ибо методы борьбы с потенциальным "восстанием машин" могут оказаться хуже самого "восстания".

Разумеется, внедрение технологий искусственного интеллекта (ИИ) внушает опасение. Нас всегда пугает неизвестное и принципиально непредсказуемое. А искусственный интеллект — как раз из этой серии. Поскольку он способен обучаться самостоятельно, мы не можем предсказать, чему он обучится и не придет ли в конце концов к мысли уничтожить человеческий вид.

Такие размышления имеют право на существование. Потому что ИИ — это наш, человеческий Франкенштейн. Он создан по нашему образу и подобию. Конечно, он может самообучаться. Но в нем нет и никогда не будет большего, чем мы в него изначально вложим. То есть если мы сами стремимся доминировать, подчинить или даже уничтожить друг друга (не говоря уже о природе и других видах животных, пока еще живущих в ней), то чего ждать от искусственного интеллекта, созданного нами с такой любовью и страстью?

А еще важнее то, что предложение взять технологии под государственный контроль похоже на стратегию тушения пожара керосином. Государство — институт, который создан для того, чтобы отбирать часть созданного руками и мыслью человека в обмен на весьма туманные и не всегда выполняемые обещания (в отношении медицины, социального обеспечения, обороны). Мы серьезно хотим вверить ему судьбу самой страшной (по мнению Маска) технологии в человеческой истории?

Если ИИ воспринимать как угрозу, то ИИ на службе государства — угроза на порядок более серьезная. Просто на минуту представьте себе, что искусственный интеллект контролирует российское государство. С Кремлем, Путиным и присными его. Или Дональд Трамп с его "Твиттером", covfefe и призывами бойкотировать "фейковые СМИ". Или, чтобы превратить трагедию в фарс, представим в этой роли украинскую власть. Как только мы поставим искусственный интеллект под контроль государства, то получим около 200 разных ИИ, в полной мере отражающих специфику нынешних держав: чей-то ИИ будет стремиться к мировому господству, чей-то — разрабатывать стратегии гибридной войны, а где-то суперкомпьютеры научатся просто безбожно воровать.

Я вам больше скажу: первые шаги в постановке искусственного интеллекта на службу государству уже делаются. В Китае внедряется программа "социальных кредитов". Компьютерная система собирает буквально все сведения о каждом человеке — начиная с уплаты кредитов и заканчивая поведением в семье. На основании этих данных каждому присваивается индекс, в зависимости от которого человеку что-то запрещают или разрешают. Грубо говоря, в школе на контрольной списывал, оплату коммуналки задерживал — за границу не едешь, кредит не получишь. В общем, сериал "Черное зеркало" уже перестает быть фантастикой и переходит практически в категорию новостей.

Существует ли решение проблемы ИИ? Скажу откровенно: не знаю. Но путь к решению в общем-то понятен. Интернет сам по себе тоже был технологией, которая разрабатывалась военными и предназначалась для связи их компьютеров между собой. В таком виде он был действительно опасен — как минимум для войск противника, а учитывая ядерное противостояние, и для всей планеты. Но как только интернет распространился по всему миру и доступ к нему получило абсолютное большинство людей, он сам по себе перестал нести угрозу для человека и человечества. Более того — стал основой экономического и социального прогресса последних трех десятилетий. Точно так же, как и любая технология, которой удалось высвободиться из-под чьей-то монополии.

Остановить техническую эволюцию нереально. А вот взять ее под контроль и сделать очередной госмонополией — вполне. А уж с ее возможностями будет проще простого контролировать любой шаг каждого из нас. К чему государство как таковое стремится на протяжении всей истории существования.

Поэтому, на мой скромный взгляд, не стоит бояться восстания машин. Следует бояться тех, кто хочет поставить их себе на службу.