На пороге катастрофы: ученые предсказали, как "ненасытный" ИИ уничтожит человечество

Эксперты из Оксфордского университета и компании Deepmind (принадлежит Google) заявили, что искусственный интеллект может уничтожить человечество. Об этом пишет Vice, ссылаясь на статью в научном журнале AI Magazine.

Самыми успешными моделями ИИ на сегодняшний день считаются генеративно-состязательные сети (Generative Adversarial Networks или сокращенно GAN). Они состоят из двух частей, одна из которых генерирует изображение или текст на основе имеющихся данных, а вторая часть оценивает то, что получилось и бракует некачественную работы — таким образом проект переделывается, пока не получается что-то хорошее. Исследователи предположили, что в будущем очень "умный" ИИ могут заставить разрабатывать мошеннические схемы, способные навредить большому количеству людей.

"В условиях, которые мы определили, наш вывод более веский, чем вывод любой предыдущей публикации — экзистенциальная катастрофа не просто возможна, но вероятна", — прокомментировал в Twitter Майк Коэн, соавтор статьи из Deepmind.

В интервью Vice он объяснил, что ресурсы в нашем мире ограничены, поэтому существует конкуренция. У развитого искусственного интеллекта будет "ненасытный аппетит" к энергии, которой со временем потребуется все больше и больше. В какой-то момент он захочет устранить потенциальные угрозы и завладеть всей доступной энергией ради выполнения цели или получения вознаграждения, предусмотренного программой.

При подключении к Интернету ИИ также сможет создавать огромное количество незаметных и неконтролируемых виртуальных помощников. Один из таких вполне способен купить, украсть или даже создать робота, чтобы тот заменил оператора-человека и обеспечил высокое вознаграждение оригинальному агенту. По мнению исследователей, чтобы не получить сильного конкурента в борьбе за выживание на Земле, человечество должно очень медленно развивать технологии искусственного интеллекта, если развивать вообще, пока не научится их контролировать.

"Проигрыш в этой игре будет фатальным", — подчеркнули авторы статьи.

Ранее экс-гендиректор Google Эрик Шмидт сравнил ИИ с ядерным оружием. По его мнению, человечеству пора задуматься над мерами сдерживания таких технологий.

Сообщали также, что нейросеть Megatron-Turing NLG предупредила об опасности ИИ. Как заявила языковая модель, машины никогда не будут обременены моралью, поэтому смогут действовать как во благо, так и во вред людям.