Однокристальний чип демонструє приголомшливі обчислювальні потужності при дуже низькому енергоспоживанні.
Програми, що працюють на основі штучного інтелекту, впроваджуються повсюдно — від смартфонів до супертанкерів. Але проблеми в них ті ж, що і в традиційних додатків: нестача швидкостей і потужностей. З огляду на те, що алгоритми машинного навчання забезпечують швидкий розвиток ШІ-систем, традиційна цифрова електроніка насилу забезпечує необхідну продуктивність при низькому енергоспоживанні й адекватних ресурсах пам'яті. Але розробники мікросхем, схоже, знайшли рішення: вони користуються перевагами аналогових обчислень.
Як повідомляє видання forbes.com, нещодавно компанія Mythic (США) першою у світі випустила на ринок аналоговий матричний процесор M1076 (Mythic AMP). Цей однокристальний чип демонструє приголомшливі обчислювальні потужності при дуже низькому енергоспоживанні.
Кожен чип AMP може видавати до 35 TOPS (трильйонів операцій в секунду) з профілем потужності 3 Вт. За умови, що чип Mythic зможе видавати 10 TOPS на 1 Вт, він стане лідером серед передових платформ для штучного інтелекту. Розробники зосередилися на розгортанні ШІ на периферії, де потужність і продуктивність мають вирішальне значення і потрібні великі або кілька моделей.
Майк Генрі, засновник і генеральний директор компанії, говорить, що має намір незабаром надати результати тестування пристрою.
M1076 AMP зроблений у вигляді компактної карти PCIe M.2 A + E Key для вбудованих периферійних ШІ-додатків. Для додатків, яким потрібні великі обчислювальні потужності, на жодній карті PCIe не можна об'єднати з 16 AMP. За словами Генрі, один чип може підтримувати кілька моделей одночасно. Карта з 15-ма мікросхемами забезпечує до 400 TOPS і 1,28 мільярда нейронних мереж, споживаючи всього 75 Вт енергії. Що стосується програмного забезпечення, то компанія спершу зосередилася на обробці зображень, адже ШІ зараз найчастіше використовується для розпізнавання образів.
У ході обчислень використовуються осередки флеш-пам'яті. Налаштовуючи властивості окремих осередків пам'яті, ви можете побудувати схему під свої завдання. Масив елементів пам'яті може виконувати масивно-паралельні матричні операції — те, що потрібно для управління нейронною мережею. Оскільки обчислення відбуваються безпосередньо в пам'яті, переміщення даних туди і назад не знижує продуктивності. А флеш-пам'ять дуже енергоефективна, тому такий обчислювальний пристрій споживає мало енергії.
Mythic вдалося вирішити проблему розширення аналогових обчислень, збільшивши його з двох бітів до чотирьох і восьми. Об'єму вбудованої пам'яті M1076 AMP цілком достатньо для ПЗ, що забезпечує одночасну роботу кількох нейронних мереж, наприклад, у сучасних камерах спостереження.
Раніше ми повідомляли про те, що глобальний дефіцит чипів нарешті закінчився. Аналітики з Goldman Sachs прогнозують поліпшення ситуації в другій половині 2021 року.