ИИ может сойти с ума: Илон Маск предупредил о катастрофе и назвал 3 причины
Илон Маск, который уже давно предупреждает мир об опасностях искусственного интеллекта, вновь поднял эту тему в недавнем интервью. Миллиардер заявил, что позитивное будущее с развитием ИИ нам вовсе не гарантировано, а сама технология может стать "потенциально разрушительной", если при ее создании не соблюдать определенные принципы.
В разговоре с индийским предпринимателем Нихилом Каматом глава Tesla и SpaceX перечислил три ключевых ингредиента, которые, по его мнению, необходимы для предотвращения катастрофы и создания безопасного ИИ. Подробности беседы приводит CNBC.
Почему ИИ может "сойти с ума"
Главным условием безопасности Маск назвал стремление к истине. По его словам, крайне опасно заставлять нейросети повторять неточности или политкорректную ложь вместо фактов. Без строгого следования правде ИИ будет обучаться на массивах данных из интернета, впитывая огромное количество лжи. В результате система потеряет способность логически рассуждать, поскольку усвоенная ложь будет противоречить реальности.
"Вы можете свести ИИ с ума, если заставите его верить в неправду. Он станет делать соответствующие плохие выводы исходя из неверных данных", — подчеркнул Маск.
Эта проблема уже проявляется в виде так называемых "галлюцинаций", когда чат-боты выдают выдумку за факт. Например, недавно ИИ от Apple придумал новость о победе игрока в дартс еще до того, как состоялся финал турнира.
Любопытство вместо деструктивности
Помимо приоритизации правды, Маск выделил еще два важных компонента: красоту и любопытство. Если с красотой все сложнее (по словам Маска, "вы узнаете ее, когда увидите"), то любопытство имеет практическое значение для выживания человечества.
ИИ должен быть запрограммирован так, чтобы хотеть изучать природу реальности. Маск считает, что если машине будет искренне интересно устройство мира, она не захочет уничтожать людей.
"Интереснее наблюдать за продолжением рода и процветанием человечества, чем за его истреблением", — пояснил свою логику миллиардер. Человечество, по его мнению, гораздо интереснее для "любопытного" ИИ, чем безжизненные машины.
Позицию Маска разделяют и другие эксперты. Например, Джеффри Хинтон, которого называют "крестным отцом ИИ", ранее оценил вероятность того, что искусственный интеллект уничтожит человечество, в 10-20%.
Ранее сообщалось, что искусственный интеллект перепутал ядовитые грибы со съедобными. В префектуре Нара в Японии пожилой мужчина попал в больницу после того, как съел ядовитые грибы. Искусственный интеллект ошибочно "идентифицировал" их как съедобные.