Совершенный ИИ очень опасен для людей: эксперт рассказал, почему

В ближайшие десятилетия появится продвинутый искусственный интеллект, который будет непохож на человеческий. Эксперт в области ИИ Луи Розенберг представил свой прогноз в колонке для издания Venture Beat.

Сейчас многие разработчики пытаются создать так называемый "общий искусственный интеллект" (artificial general intelligence), который будет действительно "умным" и сможет самостоятельно мыслить, а не только выполнять специфические задачи, для которых был создан. По мнению Луи Розенберга, ИИ с таким уровнем познания будет мыслить совершенно не так, как люди.

"Если он будет вести себя как любой другой известный нам разумный вид, он поставит свои собственные интересы на первое место, стремясь максимизировать свои шансы на выживание", — подчеркнул эксперт.

Крайне маловероятно, что разработчики смогут заставить машины чувствовать и поступать подобно людям. Программисты не прописывают программы с тщательно продуманными правилами, которые определяют образ мышления ИИ, но загружают в них огромные наборы данных. По мнению Луи Розенберга, ИИ будет учиться на этих данных и настраивать собственные параметры, постепенно внося миллионы мелких изменений, пока его структура не станет слишком сложной для понимания создателями.

"Скармливание ему данных о людях не заставит его думать, как люди. Это распространенное заблуждение — ложное убеждение, что, обучая ИИ на данных, описывающих человеческое поведение, мы добьемся того, чтобы он думал, чувствовал и действовал так же, как мы", — отметил аналитик.

Эксперт добавил, что при этом ИИ сможет хорошо изучить людей, понимать их жесты и мимику, предсказывать действия, поймут, как принимаются логичные и нелогичные решения. Машины будут связаны с миллиардами датчиков по всей планете — человеку просто не дано воспринимать весь Земной шар и видеть общую картину происходящего, в отличие от такого высокоразвитого ИИ.

Инженеры попытаются поместить ИИ в роботов, максимально напоминающих человеческие тела, чтобы люди их не боялись, но на их мышление оболочка никак не повлияет. Опасность заключается в том, что многие алгоритмы разрабатывают специально для того, чтобы побеждать людей: в играх, в войнах; а также для рекламирования товаров.

Некоторые ученые работают над мерами безопасности, но они не смогут полностью устранить угрозу ИИ. Опрос Pew Research показывает, что лишь немногие разработчики верят, что к 2030 году отрасль внедрит работающие стандарты "этичного ИИ". Луи Розенберг призвал осознать опасность интеллекта, который со временем сможет контролировать и манипулировать людьми, используя знания о человеческом поведении, а также меньше полагаться на искусственные алгоритмы.

Луи Розенберг является доктором философии и одним из первых разработчиков виртуальной реальности и искусственного интеллекта. В 1992 году он разработал первую систему дополненной реальности для ВВС США, годом позже основал первую компанию виртуальной реальности Immersion Corp (Nasdaq IMMR) в 1993 году, в 2004-м основал компанию Outland Research, занимавшуюся разработкой дополненной реальности, сейчас же является генеральным директором организации Unanimous AI, которая разрабатывает ИИ, способный предсказывать ответы человеческого общества на различные вопросы.

Ранее писали, что искусственный интеллект "сливает" ключи от кошельков с криптовалютой. Как оказалось, инструмент Copilot на базе модели OpenAI находит в коде адреса в чужом коде и случайно вставляет их в свой собственный. Программисты заметили это, смогли получить доступ к кошелькам и даже совершить переводы.

Писали также, что в США ученые создали ИИ, способный точно предсказывать будущее. Главная особенность системы заключается в простоте, позволяющей даже неспециалистам получать прогнозы в различных отраслях, в том числе по поводу погоды, изменения цен и медицины.