"ШІ потрібно перевіряти, як іграшки": Макрон пояснив свої побоювання і похвалив Mistral
Президент Франції Емманюель Макрон заявив, що французька компанія Mistral AI належить до небагатьох розробників у світі, які створюють передові моделі штучного інтелекту. Водночас він попередив про ризик втрати людського контролю над ШІ.
Про це французький президент говорив у відеозверненні, фрагменти якого опублікував Clash Report. Макрон зосередився на двох питаннях: технологічній конкуренції між провідними державами та необхідності встановити правила безпечного використання штучного інтелекту.
Mistral AI — французька відповідь США та КНР з акцентом на приватність
Макрон назвав Mistral одним із небагатьох гравців у світі, які працюють над так званими передовими моделями штучного інтелекту (frontier models).
"Mistral є одним із небагатьох гравців у світі в тому, що ми називаємо передовими моделями", — заявив французький президент.
Він також звернув увагу на глобальний розподіл сил у цій галузі. За його словами, якщо з одного боку перебувають американські розробники, а з іншого — китайські, то серед країн, які здатні брати участь у цій технологічній конкуренції, особливе місце посідають Франція та Канада.
Ймовірно, йдеться насамперед про французьку Mistral AI та канадську Cohere. Обидві компанії розробляють власні мовні моделі та рішення на основі штучного інтелекту.
Mistral AI заснували у 2023 році в Парижі троє колишніх дослідників технологічної галузі: Артур Менш, Гійом Лампль і Тімоте Лакруа. Компанія розробляє великі мовні моделі, корпоративні ШІ-рішення та власні інструменти для роботи з нейромережами й пишається підтримкою стандартів ЄС до приватності користувачів.
Канадська Cohere, заснована у 2019 році в Торонто, спеціалізується на корпоративному штучному інтелекті. Її рішення орієнтовані передусім на бізнес і державні установи, зокрема на організації, яким важливо контролювати зберігання та обробку конфіденційних даних.
Таким чином, слова Макрона про Францію та Канаду стосуються не лише політичних амбіцій двох держав, а й наявності власних компаній, здатних розробляти сучасні ШІ-моделі.
Чому Франція хоче розвивати власний штучний інтелект
Для Парижа розвиток Mistral AI має стратегічне значення. Йдеться не тільки про появу ще одного технологічного конкурента на світовому ринку, а й про зменшення залежності Європи від американських і китайських платформ. Ця проблема стала однією з головних тем спеціальної зустрічі лідерів Європейського Союзу з питань штучного інтелекту, яка відбулася днями в Дубліні.
У дискусії взяли участь генеральний директор Mistral AI Артур Менш та відомий дослідник штучного інтелекту Джеффрі Гінтон. Європейські лідери обговорювали, як континенту розвивати власні технології, нарощувати обчислювальні потужності та водночас забезпечувати безпеку ШІ.
Макрон попередив про ризик втрати контролю над ШІ
Окрему увагу французький президент приділив безпеці штучного інтелекту. За його словами, у світі зростає цілком обґрунтоване занепокоєння щодо можливості втрати людського контролю над технологією.
Макрон вважає, що розвиток ШІ не повинен відбуватися без належного нагляду. Він запропонував запровадити механізми попередньої перевірки та сертифікації моделей.
"Штучний інтелект повинен проходити аудит і попередню сертифікацію. Я б сказав, приблизно так, як ми робимо це для іграшок. Це здається логічним", — заявив президент Франції.
Ідея полягає в тому, щоб оцінювати потенційні ризики технологій ще до того, як вони потраплятимуть до користувачів.
Фокус раніше розбирав, як штучний інтелект поступово стає частиною військової інфраструктури та які ризики це створює для безпеки. Зокрема, йшлося про використання ШІ для аналізу розвідувальних даних, виявлення цілей та автоматизації військових процесів.
Також Фокус повідомляв, як Росія використовує штучний інтелект у війні — зокрема в розвідці, інформаційних операціях та кіберпросторі.