Искусственный интеллект не представляет смертельной угрозы для человечества, - ученые

ИИ, программа, цифры, глаза, фото
Фото: agsandrew

По мнению 82% экспертов, обычный ИИ не опасен для людей, если его будут использовать по назначению и он не окажется не в тех руках.

Люди сталкиваются с искусственным интеллектом (ИИ) каждый день. Любые рекомендации, которые они получают от любимых торговых или потоковых сайтов, основываются на алгоритме искусственного интеллекта. Эти алгоритмы используют историю браузера, чтобы найти то, что может их заинтересовать, пишет Science Alert.

Однако поскольку эта информация не особо интересна, научная фантастика предпочитает изображать ИИ как сверхинтеллектуальных роботов, которые борются против всего человечество. Некоторые люди даже верят, что этот сценарий однажды может стать реальностью.

Многие известные деятели, в том числе покойный Стивен Хокинг, выражали опасения по поводу того, как будущий ИИ может угрожать человечеству.

В новом исследовании 11 экспертов в области ИИ и компьютерных наук, высказали свое мнение по поводу того, является ли ИИ смертельной угрозой для человечества; 82% опрошенных ответили, что нет. 

Насколько мы близки к созданию ИИ, который будет умнее нас?

ИИ, который существует в настоящее время, называется "узким" или "слабым". Он широко используется для многих задач, таких как распознавания лиц, управления беспилотными автомобилями и интернет-рекомендаций. Он определяется как "узкий", потому что эти системы могут только обучаться и выполнять очень специфические задачи. 

На самом деле они часто выполняют многие задачи лучше, чем люди. Как известно, Deep Blue был первым ИИ, победившим чемпиона мира по шахматам в 1997 году, однако они не могут применить свои знания ни к чему, кроме чего-то очень конкретного (Deep Blue способен играть только в шахматы).

Другой тип ИИ называется Сильный и слабый искусственные интеллекты (AGI) или "сильный ИИ". Они определяются как ИИ, который когда-нибудь сможет имитировать человеческий интеллект, включая способность мыслить и применять интеллект к множеству различных проблем. Некоторые люди считают, что "сильный ИИ" неизбежен и должен произойти в ближайшие несколько лет.

Мэтью ОʼБрайен, инженер-робототехник из Технологического института Джорджии, с этим не согласен.

"AGI нам придется ждать еще долго, поскольку мы пока не знаем, как разработать общий адаптируемый интеллект, и неясно, насколько еще нужно продвинуться, чтобы его достичь", — отмечает он. 

Как будущий AGI может угрожать человечеству?

Пока что точно неясно возникнет ли "сильный ИИ" и когда это произойдет, но можем ли мы предсказать, какую угрозу он может представлять для нас, людей?

"Сильный ИИ" учится на опыте и данных, а не на явных указаниях что делать. А это означает, что эксперты, возможно, не смогут полностью предсказать то, как он отреагирует, когда столкнется с новой ситуацией, которую он не видел раньше.

Доктор Роман Ямпольский, математик и технический специалист из Луисвиллского университета, считает, что никакая версия человеческого контроля над ИИ не достижима, поскольку ИИ не может одновременно быть автономным и контролироваться людьми. Неспособность управлять сверхразумными системами может иметь катастрофические последствия.

Тем не менее Инсю Ван, профессор кафедры программного обеспечения из Университета Калгари, не согласен с этим утверждением. По его мнению, профессионально разработанные системы и программы ИИ хорошо ограничены фундаментальным уровнем операционных систем для того, чтобы защитить интересы и благополучие пользователей. Они не могут быть изменены самими машинами.

"Как и в случае с другими инженерными системами, все, что может иметь потенциально опасные последствия, будет тщательно протестировано и подвергнуто многократным проверкам безопасности", — подчеркнул доктор О’Брайен

Может ли стать угрозой ИИ, который мы используем сегодня?

Многие эксперты сходились во мнении, что ИИ может представлять угрозу, когда окажется не в тех руках. Доктор Джордж Монтанез, эксперт по ИИ из Колледжа Харви Мадда, подчеркивает, что роботы и системы ИИ не обязательно должны быть разумными, чтобы представлять опасность. Они просто могут быть эффективными инструментами в руках людей, которые захотят причинить вред другим. Именно эта угроза существует сегодня.

Даже без злого умысла современный ИИ может представлять угрозу. Так, например, расовые предубеждения были обнаружены в алгоритмах, распределяющих медицинские услуги среди пациентов в США. Подобные ошибки были выявлены и в системе распознавания лиц, используемой правоохранительными органами.

Эти предубеждения имеют широкие негативные последствия, несмотря на "узкие" возможности ИИ. Такое искажение ИИ происходит от данных, на которых он обучается. В случаях расовых предубеждений данные об обучении не были показательными для населения в целом.

Какой вывод?

ИИ, который мы используем сегодня, очень полезен для многих задач. Однако это не значит, что он всегда имеет только позитивные стороны. Это инструмент, который, если его использовать злонамеренно или неправильно, может иметь негативные последствия. Но даже несмотря на это, в настоящее время ИИ вряд ли станет смертельной угрозой для человечества.