В 3600 раз быстрее GPU: ученые из Китая создали сверхэффективный чип ACCEL
Изобретение предлагают использовать для задач машинного зрения, которым пользуются ИИ, роботы и системы автономного вождения.
Исследователи из китайского университета Синьхуа разработали полностью аналоговый фотоэлектронный чип ACCEL, который может стать революционным для технологий искусственного интеллекта и машинного зрения. Они описали свое достижение в статье, опубликованной в журнале Nature.
Фотонные вычисления, где свет используется для обработки информации, позволяют быстрее и более энергоэффективно обрабатывать визуальные данные, однако их практическое применение затрудняется сложностью и чрезмерным потреблением энергии аналого-цифровыми преобразователями (АЦП). Команда китайских ученых решила объединить электронные и оптические технологии в одном аналоговом чипе ACCEL (All-analog Chip Combining Electronics and Light).
Новый чип не использует АЦП, а напрямую направляет закодированные световые волны на аналоговый вычислительный чип для преобразования изображения, что значительно сокращает задержку. Это очень важно для решения задач машинного зрения, например, автопилотов, медицинской диагностики и автономных роботов. При этом устройство использует электронные компоненты для манипулирования непрерывными физическими величинами.
Он имеет системную энергоэффективность 74,8 пета-операций в секунду на ватт и скорость вычислений 4,6 пета-операций в секунду (более 99% выполняются), а это более чем в три раза выше, чем у современных высокопроизводительных графических процессоров. Благодаря слиянию оптоэлектронных вычислений и адаптивного обучения ACCEL очень хорошо различает различные объекты на изображениях — точность составила 85,5% для задач Fashion-MNIST, 82% для 3-классовой классификации ImageNet и 92,6% для задач распознавания покадрового видео.
Создатели сравнили работу ACCEL и разных нейросетей, реализованных на современном графическом процессоре NVIDIA A100 для той же задачи. При последовательной обработке изображений с той же тестовой точностью ACCEL экспериментально достиг вычислительной задержки 72 нс/кадр и энергопотребления 4,38 нДж/кадр, что намного меньше, чем у NVIDIA A100, чья задержка и энергопотребление составляют около 0,26 мс/кадр и 18,5 мДж/кадр соответственно. Если оценивать только скорость вычислений, то ACCEL оказался примерно в 3600 раз быстрее A100.
"Независимо от способа расчета числа операций, полностью аналоговый ACCEL экспериментально снижает системную задержку и энергопотребление на порядки по сравнению с цифровыми нейронными сетями на современном графическом процессоре (NVIDIA A100) при достижении той же точности на практике", — отметили ученые.
По словам разработчиков, чип показал высокую надежность даже при слабом освещении, что делает его пригодным для применения в промышленности, мобильных устройствах, системах автономного вождения. Низкое потребление энергии уменьшает выделение тепла, что в будущем позволит сделать элемент еще меньшим.
"Разработка вычислительной системы, основанной на совершенно новом принципе, является важной задачей. Однако еще важнее успешно воплотить эту вычислительную архитектуру следующего поколения в реальных приложения, отвечающих важнейшим потребностям общества", — отметили авторы исследования.
Ранее писали, что Китай тайно создал передовой чип памяти для развития ИИ. Исследователи обнаружили его в накопителе SSD, который компания YMTC выпустила совсем недавно без широкой огласки.