"Крестный отец ИИ" боится, что нейросети захватят мир: призывает срочно действовать
Ученый-компьютерщик Джеффри Хинтон требует от властей ведущих стран мира срочно остановить распространение ИИ и взять его под контроль.
Джеффри Хинтон, известный как "крестный отец ИИ", выступая на конференции Collision Tech в Торонто, призвал правительства вмешаться и сделать так, чтобы машины не взяли под контроль общество и не захватили мир, рассказывает TechExplore. Хинтон стал известен широкой общественности месяц назад, когда объявил, что уходит из Google после десяти лет работы, чтобы более свободно говорить об опасностях ИИ.
Чего боится один из разработчиков ИИ
Перед аудиторией в 30 тысяч основателей стартапов, инвесторов и ИТ-специалистов, большинство из которых хочет научиться оседлать волну нейросетей, а слушать об его опасностях, Хинтон заявил, что "из 100 человек, разрабатывающих ИИ, только один осознает всю опасность".
Хинтон предупредил, что к рискам ИИ следует относиться серьезно, несмотря на его критиков, которые считают, что он преувеличивает риски искусственного интеллекта. "Это не научная фантастика, это не просто нагнетание страха", — настаивал эксперт. Хинтон также выразил обеспокоенность тем, что ИИ усугубит неравенство, поскольку огромный прирост производительности от его развертывания пойдет на пользу богатым, а не обычным людям.
"Из-за развития ИИ богатые станут еще богаче, а бедные еще беднее, и это очень плохо для общества", — озвучил свои марксистские теории Хинтон.
Он также указал на опасность фальшивых новостей, созданных ботами в стиле ChatGPT, и выразил надежду, что контент, созданный ИИ, можно будет маркировать так же, как центральные банки маркируют водяными знаками наличные деньги.
От опасностей на Земле до "перенаселения Марса"
Впрочем, на конференции в Торонто не только Хинтон нагонял страха на аудиторию ИТ-специалистов. Перед публикой выступила и Сара Гуо, которая является венчурным капиталистом. Она полностью отвергла все опасения своего коллеги и сравнила его нагнетания страхов опасностью "перенаселения Марса". Таким образом она процитировала еще одного гуру из области ИИ — Эндрю Нг. Он как раз критически относится ко всем новомодным "пророкам ИИ", которые вещают о "цифровом апокалипсисе".
Сара Гуо также предостерегла всех присутствующих от "регулятивного захвата ИИ", явная намекая на новый закон о регулировании ИИ, который через год должен принять Евросоюз. По мнению Сары, слишком сильное "закручивание гаек" в области развития нейросетей не позволит принести им пользу человечеству, например, в сфера здравоохранения, образования или науки.
В общем, по итогам этой интересной научной дискуссии мнения среди экспертов и присутствующих явно разделились. В основном сомнения возникли в том, останутся ли нынешние гиганты генеративного ИИ, в основном поддерживаемые Microsoft OpenAI и Google, лидерами в этом секторе или новые игроки расширят поле деятельности со своими собственными моделями и инновациями.
"Я думаю, что через пять лет если вы захотите найти лучшую, самую точную, самую продвинутую языковую модель ИИ, вам, вероятно, все равно придется обратиться в одну из немногих компаний, у которых есть капитал для этого", — сказала Ли Мари Брасуэлл из венчурной компании Kleiner Perkins.
А другой эксперт, Захари Братун-Гленнон из Gradient Ventures, сказал, что предвидит будущее в виде мета-вселенной, где аватары людей заменят собой интернет-сайты.
Ранее Фокус писал, что большие компании из Европы выступают против ограничений в области ИИ: опасаются убытков и конкуренции США.