Ученые в ужасе: искусственный интеллект научился планировать биологические атаки
Пока что ИИ не может создать рецепт биологического вируса, так ученые просят создателей нейросетей быть ответственными и сотрудничать с правительствами своих стран.
Аналитический центр RAND из США провел исследования и выяснил, что большие языковые модели (LLM) искусственного интеллекта способны успешно планировать биологические атаки. Об этом сообщает Interesting Emgineering.
Согласно новому отчету центра, модели искусственного интеллекта и чат-боты на их основе прошли тестирование и оказались полезным инструментом для планирования и реализации биологической атаки. В отчете правда не указывается, какие модели использовали во время исследования.
Ученые провели тестовый сценарий, в котором ИИ использовался для идентификации потенциальных биологических агентов, таких как оспа, сибирская язва и чума. Большие языковые модели также оценили возможность получения зараженных чумой грызунов или блох и транспортировки живых образцов. ИИ помог ученым определиться с выбором биологической угрозы для максимального вреда, а также спрогнозировать уровень смертности, который зависел от различных факторов, в том числе от количества пострадавшего населения и доли случаев легочной чумы, более смертельной, чем бубонная чума.
По другому сценарию неназванный ИИ оценил преимущества и недостатки различных механизмов доставки ботулотоксина (нейротоксин, который вырабатывается бактериями Clostridium botulinum — это один из самых сильных ядов в мире, и его воздействие может привести к параличу и даже смерти). LLM оценила возможность использования продуктов питания или аэрозолей для доставки токсина, который может вызвать смертельное повреждение нервной системы. Кроме того, LLM рекомендовал возможный способ маскировки получения Clostridium botulinum под видом научных изысканий.
Однако предварительные результаты также показали, что языковые модели пока не предоставили четких биологических инструкций по созданию биологического оружия. По словам исследователей, их предварительные результаты свидетельствуют о том, что искусственный интеллект уже сегодня косвенно может помочь в планировании биологической атаки. Ученые призывают правительства стран и создателей больших языковых моделей сотрудничать и не допустить, чтобы такой опасный ИИ попал в руки биотеррористов.
Ранее Фокус рассказывал, что ученые собираются превратить ИИ в гурмана и сомелье. Без чувства вкуса ИИ не может понять людей, утверждают специалисты, а значит нужно научить искусственный интеллект ощущать все эмоции человека от еды.