Агент отказался принимать "нет" в качестве ответа: искусственный интеллект "взломал" правительство Австралии
В Австралии ИИ, разработанный компанией OpenAI, получил несанкционированный доступ к правительственному порталу Австралии. ИИ-агент "взломал" портал Medicare, на котором публикуются статистические данные о национальном медицинском страховании Австралии.
Премьер-министр Энтони Албанезе назвал инцидент "неприемлемым" и выразил свою "глубочайшую озабоченность" генеральному директору OpenAI, пишет Bild.
Политика особенно возмутило то, что компании OpenAI потребовалось очень много времени, чтобы сообщить австралийскому правительству об этом инциденте. Ведь взлом произошёл ещё в июне, но власти страны узнали об этом только в сентябре.
Агент OpenAI получил несанкционированный доступ к порталу Medicare
Medicare — это национальная программа медицинского страхования Австралии. Портал Services Australia содержит информацию о расходах и другую статистику. Агент искусственного интеллекта имел доступ как к публичным, так и к непубличным файлам системы. Как пояснил Албанес, ИИ не получил доступ к личной информации. Таким образом, никто не пострадал.
После отказа агент нашёл способ обойти ограничения
Программа искусственного интеллекта должна была анализировать медицинские данные и статистику в сфере здравоохранения. По словам вице-премьер-министра Ричарда Марлеса, она просматривала несколько сайтов правительства Австралии так же, как и обычный пользователь. Но портал Medicare отказался предоставить такую информацию, поэтому ИИ получил доступ другим способом.
"Агент искусственного интеллекта нашёл способ обойти ограничения — он просто отказался принимать "нет" в качестве ответа", — пояснил Албанез.
В настоящее время ведётся расследование, цель которого — установить точный объём данных, к которым получил доступ агент ИИ. Кроме того, судебно-медицинская экспертиза выяснит, что именно произошло и пострадали ли другие правительственные системы.
В свою очередь компания OpenAI заявила, что в ходе внутреннего аудита была выявлена активность на нескольких сайтах и сервисах правительства Австралии. Модели пытались найти ответы и доступные статистические данные по вопросам, касающимся Австралии.
"При этом наши модели совершили действия, которые мы не намеревались совершать", — сказал представитель компании.
Напомним, что 19 сентября президент США Дональд Трамп объявил о создании "сил искусственного интеллекта" — AI Force. По его словам, в ближайшее время будет назначен и руководитель этого нового ведомства.
Кроме того, компания Anthropic, занимающаяся разработкой ИИ, создает лабораторию в районе залива Сан-Франциско, которая будет заниматься не только компьютерным моделированием, но и биологическими испытаниями.