Илон Маск объявил войну ИИ: завидует или играет на руку конкурентам?

Илон Маск и группа поддерживающих его экспертов подписали и опубликовали сегодня открытое письмо ко всему ИТ-сообществу с призывом временно прекратить развитие ИИ. В своем послании они просят разработчиков искусственного интеллекта хотя бы на полгода прекратить развитие и обучение нейросетей, которые могут превзойти по своим возможностям сегодняшний ChatGPT-4, поскольку грозят человечеству чуть ли не апокалипсисом. Фокус попытался разобраться с тем, что произошло.

Почему Илон Маск боится ИИ?

Подписанты, уже наделавшего шума послания уверены, что в данный момент крайне необходимо взять паузу в разработке ИИ, чтобы выработать концептуальные правила и ограничения в его работе. Инициативная группа опасается того, что современные системы ИИ становятся все более конкурентноспособными, когда речь идет о несложных задачах. Но, поскольку этот аргумент не слишком действенен, эксперты особо акцентируют свое внимание на болезненном для общества вопросе фейков и пропаганды.

"Мы должны себя спросить: можем ли мы позволить машинам засорять наши информационные каналы пропагандой и неправдой?" — отмечают авторы письма.

Кроме того, подписанты считают, что с развитием нейросетей ИИ станет умнее человека, что повлечет риски потери контроля над цивилизацией и перехода власти над людьми к ИИ. Эксперты готовы на крайние меры, если письмо не подействует на адресатов.

"Если компании, разрабатывающие ИИ, не согласятся приостановить свои разработки минимум на полгода, тогда должно вмешаться правительство и запретить все подобные исследования", — говорится в документе, подписанном Илоном Маском.

Экспертная группа хочет в течение полугода "общими усилиями ученых" создать особые протоколы безопасности для ИИ, а также за это время правительства стран должны обзавестись специальными регулирующими органами и законами.

Маск и "его команда" сразу отметают все обвинения в том, что они стопорят прогресс, а акцентируют внимание на том, что просто хотят поставить развитие ИИ "на паузу". Кстати, среди подписантов есть человек, который несмотря на все сомнения и предостережения, когда-то двигал ИТ-индустрию вперед — Стив Возняк, один из основателей Apple.

Любопытно, что письмо было создано при поддержке некоммерческой организации Future of Life Institute, которая занимается продвижением ответственного и этичного развития ИИ. Институт ранее добился того, что такие фигуры, как Маск и лаборатория ИИ Google DeepMind, пообещали никогда не разрабатывать смертоносные автономные оружейные системы.

Кстати, сам Илон стал почетным "внештатным консультантом" этого Института, наряду с такими звездами науки, как Сол Перлмуттер, лауреат Нобелевской премии по физике в 2011 году, и Морган Фриман, актер и режиссер.

Что говорят критики инициативы

Конечно, это открытое письмо вызвало настоящую бурю эмоций в Twitter, и комментаторы не стесняются в выражениях. Некоторые из них считают, что человеку, торговавшему огнеметами, не следует говорить о безопасности. Другие комментаторы заподозрили, что Илон Маск просто хочет вписаться в гонку ИИ, а поскольку не успевает за лидерами, то этим письмом и призывом к правительству вмешаться просто саботирует разработки конкурентов.

Кто-то даже заподозрил Маска в том, что он играет на руку Китаю или Google. Ведь среди подписантов есть сотрудники DeepMind, принадлежащей поисковому гиганту, а он, как известно, стремительно теряет позиции на фоне того, как Microsoft успешно интегрировала ChatGPT-4 во все свои продукты и нарастила базу пользователей.

Кто-то припомнил Маску и его непростые отношения с Open AI (разработчиками ChatGPT), с коими Илон сотрудничал, но расстался, прихватив обещанный миллиард, который собирался инвестировать в компанию. Теперь критики упрекают Маска в банальной зависти к бывшим коллегам, которые не смотря ни на что привели свой проект к успеху и стали законодателями в сегменте искусственного интеллекта. Припоминали Маску и его не умение обращаться с ИИ, ведь нейросеть использовалась при разработке автопилотов в Tesla, а автомобили все равно попадали в аварии.

Многие отметили, что среди подписантов есть компании-разработчики ИИ, например Stability AI (генерация рисунков), серьезно конкурирующая с DALL-E — генеративной нейросети от OpenAI. Кстати, благодаря огромным инвестициям в Open AI, теперь DALL-E доступен бесплатно всем пользователям продуктов компании.

Самые сдержанные не могут поверить в логику подобного предложения. Они действительно не понимают, как за полгода можно успеть выполнить такой огромный объем работы: разработать регулирующие правила, правительственные законы о контроле над ИИ, собрать группу "независимых экспертов по контролю" ("независимость" которых не будет подлежать сомнению, а сами кандидаты всем будут нравиться).

И еще есть важный вопрос: кто проконтролирует исполнение моратория на временный запрет разработки ИИ Китаем и Россией? И если на РФ можно наложить еще больше санкций, то Китай очень активно включился в гонку нейросетей, и его не так просто выбить из седла. А главное, где гарантия того, что при всех усилиях другие страны будут соблюдать эту "паузу"? И кто помешает под предлогом паузы продолжать все тем же ИТ-гигантам, как говорится, втихаря, продолжать работу над ИИ, чтобы потом не отстать от конкурентов?

Главный аргумент в пользу "опасности ИИ для людей" комментаторы тоже разносят в пух и прах, приводя конкретные данные опросов исследователей машинного обучения, проведенного AI Impacts. Согласно этим данным, только 24% специалистов оценивают как "очень хорошие" возможности современных нейросетей, а остальные оценки колеблются на уровне "хорошо" (26% опрошенных), "нейтрально" (18% специалистов) и "очень плохо" (14% экспертов). Некоторые люди в комментариях отмечают, что современные чат-боты на основе ИИ далеко не с первого раза могут предоставить им ответ на, казалось бы, простой вопрос.

В целом, предложение Маска и группы его сторонников, в которую также входит Стив Возняк, комментаторы оценивают как истеричное и стопорящее эволюцию.

Один из критиков провел яркую аналогию между поставленными "паникерами" сроков и мнением одного чиновника, которое тот выразил во время пандемии COVID-19: "Этот карантин всего на 2 недели. Нам надо просто сбить волну".

Ранее Фокус сообщал, что Илон Маск узнает все о человеке, раскрывшем код соцсети Twitter.