До нових глибин: учені розробили квантовий алгоритм, який зробить ШІ ще розумнішим
Експерименти показали, що новий метод допомагає нейромережі навчатися набагато швидше й ефективніше.
Співробітники Google та Массачусетського технологічного інституту (MIT) придумали квантовий алгоритм для навчання глибоких нейронних мереж.
Дослідження опубліковане на ресурсі аrXiv.
Квантові алгоритми для навчання широких і класичних нейромереж вважаються однією з найбільш перспективних областей для досліджень, що проводяться за допомогою квантових комп'ютерів. Останнім часом нейронні мережі показують вражаючі результати, однак квантові технології можуть прискорити виконання завдань у багато разів і збільшити продуктивність до рівня, який фізично недосяжний класичним комп'ютерам.
Команда з MIT і Google Quantum AI запропонувала квантовий алгоритм, призначений для навчання нейромереж у логарифмічному часі. До того ж вони вже довели ефективність свого методу на стандартному наборі даних зображень MNIST — це об'ємна база даних, яка містить зразки цифр, написаних від руки.
Більшість існуючих алгоритмів квантового машинного навчання засновані на методах лінійної алгебри, тоді як нейромережі традиційно покладаються на нелінійність, що робить їх універсальними. Недавні дослідження представили нейронні дотичні ядра (NTK), які визначають ядро між будь-якою парою прикладів даних і описують еволюцію мереж під час градієнтного спуску.
У міру поглиблення нейронної мережі матриця NTK стає більш узгодженою, що прискорює "тренування" та відповідає умовам для використання квантового алгоритму. У той же час, існуючі квантові алгоритми не справляються з навчанням через низку теоретичних недоліків.
Робота MIT і Google передбачає квантовий алгоритм, призначений для навчання широких і глибоких нейронних мереж, що наближаються до NTK. Вони запропонували два методи, і обидва забезпечують ефективний градієнтний спуск. Їхній підхід полягає в наступному:
- Передбачається існування квантової пам'яті з довільним доступом (QRAM) для зберігання та доступу до будь-яких необхідних квантових станів.
- Використовується оцінка амплітуди й оцінка медіани для оцінки внутрішніх продуктів між прикладами даних для обчислення елементів NTK.
- Пост-вибір для підготовки NTK між точкою тестових даних і навчальним набором.
Команда провела експерименти, змусивши нейромережу визначати виконавчі зображення MNIST. Результати показали, що квантовий алгоритм дозволяє значно прискорити градієнтний спуск і як результат — більш швидке навчання штучного інтелекту.
Раніше Google придумала, як зробити квантовий комп'ютер "ідеальним". Вони розробили нову схему для збереження кубітів, яка дозволяє знизити ймовірність помилки через 50 мікросекунд з 40% до 0,2%. Інженери впевнені, що можуть створити "вічну" систему квантових обчислень, але для цього необхідно проникнути в інший вимір.