На мир обрушится чума. Бывший руководитель Google предупреждает, ИИ может уничтожить человечество
Предполагается, что эксперименты с синтетическими патогенами, контролируемыми искусственным интеллектом, могут привести к гибели всех людей на Земле.
Пионер искусственного интеллекта и бывший руководитель Google Мустафа Сулейман выступил с резким предупреждение о технологии, которую он сам помог презентовать миру. Соучредитель DeepMind считает, что эта технология неизбежно станет вирусной, а в какой-то момент и вовсе может погубить человечество, пишет Futurism.
Самый мрачный сценарий предполагает, что люди будут экспериментировать с искусственно созданными, синтетическими патогенами, которые случайно или намеренно могут оказаться куда более заразными. Об этом Мустафа Сулейман рассказал в недавнем выпуске подкаста The Diary of a CEO.
У Фокус. Технологии появился свой Telegram-канал. Подписывайтесь, чтобы не пропускать самые свежие и захватывающие новости из мира науки!
Считается, что вирусы, управляемые ИИ, могут быть значительно более смертоносными, а также распространяться куда быстрее. В конечном итоге, как предполагает Сулейман, использование этой технологии приведет значительно "больше вреда", не исключается, что в данном сценарии также пострадают люди — на мир обрушится "синтетическая пандемия".
Сулейман отмечает, они с коллегами работают с "опасными вещами". Именно поэтому, как считает исследователь, важно не допустить, чтобы доступ к технологии получил кто угодно. Сулейман отмечает, что одним из главных шагов является введения ограничения для круга лиц, которые могут использовать программное обеспечение искусственного интеллекта, облачные системы, а также некоторые биологические материалы.
Сегодня все больше людей учатся использовать эту технологию. А потому исследователи опасаются, что это позволит кому-то создать генноинженерный вирусный патоген — худший из всего, что когда-либо видели ученые. Именно поэтому Сулейман выступает за стратегию "сдерживания ИИ", аналогичную той, которую НАТО применяет в отношении ядерного оружия.
Отметим, в данный момент Мустафа Сулейман является генеральным директором и соучредителем Inflection AI. В конце этого месяца он планирует принять участие в саммите по искусственному интеллекту в Вашингтоне — там он и другие лидеры отрасли в очередной раз обсудят все опасности использования и развития ИИ.
Раннее Фокус писал о том, что ученый пожалел о том, что создавал нейросети.