Китай использовал ИИ от американской компании Meta в военных целях: чем это грозит США

Китайские научно-исследовательские институты, связанные с Народно-освободительной армией Китая, использовали общедоступную модель Llama от компании Meta для разработки инструмента искусственного интеллекта для потенциального военного применения. Об этом пишет Reuters со ссылкой на три научных статьи и аналитиков.

По данным агентства, китайские ученые использовали раннюю версию Llama от компании Meta в качестве основы для инструмента под названием ChatBIT. Речь идет о военном инструменте на основе ИИ для сбора и обработки разведданных, а также предоставления точной и надежной информации для принятия оперативных решений.

В статье, рассмотренной журналистами, говорится, что ChatBIT был тонко настроен и "оптимизирован для диалога и задач по ответам на вопросы в военной сфере". Исследователи выявили, что он превосходит некоторые другие модели ИИ, которые примерно на 90% так же эффективны, как ChatGPT-4 от OpenAI. При этом неизвестно, была ли модель ИИ введена в эксплуатацию.

"Впервые появились весомые доказательства того, что военные эксперты НОАК в Китае систематически изучают и пытаются использовать возможности открытых программ магистратуры права, особенно Meta, в военных целях", — отметила научный сотрудник Фонда Джеймстауна Санни Чунг.

В упомянутой статье также сказано, что в будущем ChatBIT может использоваться не только для анализа разведданных, но и для стратегического планирования, имитационного обучения и принятия командных решений. В издании не смогли определить возможности и вычислительную мощность ChatBIT, но исследователи отметили, что модель включает в себя всего 100 000 записей военных диалогов, что относительно мало по сравнению с другими LLM.

"Между лучшими учеными Китая и лучшими учеными США в области ИИ ведется слишком тесное сотрудничество, чтобы они могли быть исключены из сферы разработок", — отметил ведущий аналитик Центра безопасности и новых технологий (CSET) при Джорджтаунском университете Уильям Ханнас.

Как отмечают в издании, Meta запрещает использование своих моделей ИИ "военных целях, в военных целях, в ядерной промышленности или в приложениях, в шпионаже" и других видах деятельности, подпадающих под экспортный контроль Министерства обороны США, а также для разработки оружия и контента, предназначенного для "подстрекательства и пропаганды насилия".

При этом компания не может полностью обеспечить соблюдения этих ограничений, так как модели ИИ Meta являются публичными. Представитель компании сказал в комментарии агентству, что приняла меры для предотвращения неправомерного использования.

"В глобальной конкуренции в области искусственного интеллекта предполагаемая роль единственной и устаревшей версии американской модели с открытым исходным кодом не имеет значения, когда мы знаем, что Китай уже инвестирует более триллиона долларов, чтобы превзойти США в области искусственного интеллекта", — добавили в Meta.

Напомним, правила США, запрещающие определенные американские инвестиции в искусственный интеллект в Китае, находятся на стадии окончательного рассмотрения.

Также сообщалось, что исследователи из Университета Цинхуа (Китай) объявила о революционном прорыве в технологии искусственного интеллекта.