"Будет "Фукусима" искусственного интеллекта": какие опасности и проблемы ожидают человечество

Применение технологий искусственного интеллекта (ИИ) может привести к росту бедности, подтолкнет финансовый кризис, или станет причиной экологических проблем или появления биологического оружия. С другой стороны, они же помогут отыскать лекарства против тяжелых болезней, изобрести новейшие батареи и отказаться от ископаемого топлива. Об угрозах ИИ, а также о его положительных сторонах, поговорили ученые, политики и активисты на AI for Science Forum в Лондоне. О выводах и предположениях, которые там прозвучали, рассказали на портале The Guardian.

Искусственный интеллект — какие опасности и проблемы

Исследователь рака из Колумбийского университета Сиддхартха Мукерджи ожидает опасных последствий применения технологий искусственного интеллекта и сравнил их с событиями на японской ядерной станции "Фукусима", на которой произошел радиоактивный выброс после цунами.

"Я считаю, что почти неизбежно, по крайней мере при моей жизни, будет какая-то версия Фукусимы искусственного интеллекта", — заявил ученый.

Между тем другие ученые уточнили, почему следует пока остерегаться ИИ.

Во-первых, для людей выводы искусственного интеллекта — это "черные ящики", поскольку не ясно, каким образом программа получает тот или иной вывод. Впрочем, ближайшие пять лет, есть надежда, с этой проблемой справятся и будет понятен "ход мыслей".

"Я думаю, что за следующие пять лет мы выйдем из эпохи черных ящиков, в которой сейчас находимся", — отметил Демис Хассабис, исполнительный директор Google DeepMind.

Во-вторых, работа компьютеров, на которых работает ИИ, требует огромных объемов электроэнергии. Например, обучение речевой модели ChatGPT от OpenAI требует 10 ГВт-ч — этого бы хватило на год тысячи домов в США. С другой стороны, технологии могут сделать открытия и решить часть проблем, которые сами же породили: например, создать новые или усовершенствовать существующие батареи, сверхпроводники, ядерный синтез.

В-третьих, использование ИИ не направлено на достижение целей устойчивого развития (бедность, голод, благополучие, образование, гендерное равенство и т.д.), зато сосредоточено на новых источниках энергии, хотя это не главное, отметила Асмерет Асефо Берхе из Управления науки Министерства энергетики США.

"Компании искусственного интеллекта, которые работают в этом пространстве, много инвестируют в возобновляемые источники энергии, и, надеюсь, это ускорит отход от ископаемого топлива. Но достаточно ли этого?" — сказала она.

Положительные направления применения ИИ

Впрочем, на конференции были исследователи, которые показали полезные направления применения ИИ:

• программа, которая предусматривает структуры и взаимодействия белков и используется для разработки лекарств — на это уйдут месяцы и недели, а не годы;
• инструмент редактирования генов Crispr;
• создание безметановой коровы путем редактирования микробов в кишечнике животного.

Отметим, издание New Atlas рассказало о различных путях, которыми начинают двигаться ИИ и человек. Как выяснилось, до недавнего времени модели искусственного интеллекта учились на имеющейся информации и получали от ученых обратную связь. Однако новая модель OpenAI o1 теперь имеет специальное время "на размышления" и может генерировать выводы без влияния извне.

Напоминаем, осенью 2024 года издание Forbes рассказало о топ 10 самых перспективных направлений развития ИИ.