"ИИ нужно проверять, как игрушки": Макрон объяснил свои опасения и похвалил Mistral

Об этом французский президент говорил в видеообращении, фрагменты которого опубликовал Clash Report. Макрон сосредоточился на двух вопросах: технологической конкуренции между ведущими государствами и необходимости установить правила безопасного использования искусственного интеллекта.

Mistral AI — французский ответ США и КНР с акцентом на конфиденциальность

Макрон назвал Mistral одним из немногих игроков в мире, работающих над так называемыми передовыми моделями искусственного интеллекта (frontier models).

"Mistral — один из немногих игроков в мире в том, что мы называем передовыми моделями", — заявил французский президент.

Он также обратил внимание на глобальное расстановку сил в этой отрасли. По его словам, если с одной стороны находятся американские разработчики, а с другой — китайские, то среди стран, способных участвовать в этой технологической конкуренции, особое место занимают Франция и Канада.

Вероятно, речь идет прежде всего о французской Mistral AI и канадской Cohere. Обе компании разрабатывают собственные языковые модели и решения на основе искусственного интеллекта.

Компания Mistral AI была основана в 2023 году в Париже тремя бывшими исследователями из технологической отрасли: Артуром Меншем, Гийомом Ламплем и Тимоте Лакруа. Компания разрабатывает крупные языковые модели, корпоративные ИИ-решения и собственные инструменты для работы с нейронными сетями и гордится соблюдением стандартов ЕС в области конфиденциальности пользователей.

Канадская компания Cohere, основанная в 2019 году в Торонто, специализируется на корпоративном искусственном интеллекте. Её решения ориентированы прежде всего на бизнес и государственные учреждения, в частности на организации, для которых важно контролировать хранение и обработку конфиденциальных данных.

Таким образом, слова Макрона о Франции и Канаде касаются не только политических амбиций этих двух государств, но и наличия у них собственных компаний, способных разрабатывать современные модели искусственного интеллекта.

Почему Франция хочет развивать собственный искусственный интеллект

Для Парижа развитие Mistral AI имеет стратегическое значение. Речь идет не только о появлении ещё одного технологического конкурента на мировом рынке, но и об уменьшении зависимости Европы от американских и китайских платформ. Эта проблема стала одной из главных тем специальной встречи лидеров Европейского Союза по вопросам искусственного интеллекта, которая состоялась на днях в Дублине.

В дискуссии приняли участие генеральный директор Mistral AI Артур Менш и известный исследователь искусственного интеллекта Джеффри Хинтон. Европейские лидеры обсуждали, как континенту развивать собственные технологии, наращивать вычислительные мощности и одновременно обеспечивать безопасность ИИ.

Макрон предупредил о риске потери контроля над ИИ

Особое внимание французский президент уделил вопросам безопасности искусственного интеллекта. По его словам, в мире растет вполне обоснованная обеспокоенность по поводу возможной потери человеком контроля над этой технологией.

Макрон считает, что развитие ИИ не должно происходить без надлежащего контроля. Он предложил ввести механизмы предварительной проверки и сертификации моделей.

"Искусственный интеллект должен проходить аудит и предварительную сертификацию. Я бы сказал, примерно так же, как мы это делаем с игрушками. Это кажется логичным", — заявил президент Франции.

Идея заключается в том, чтобы оценивать потенциальные риски технологий ещё до того, как они поступят к пользователям.

Ранее Фокус разбирал, как искусственный интеллект постепенно становится частью военной инфраструктуры и какие риски это создает для безопасности. В частности, речь шла об использовании ИИ для анализа разведывательных данных, обнаружения целей и автоматизации военных процессов.

Кроме того, Фокус сообщал о том, как Россия использует искусственный интеллект в войне — в частности, в разведке, информационных операциях и киберпространстве.