Чудо-чіпи в ділі. Рекордно потожний суперкомп'ютер від Ілона Маска змусить ШІ "порозумнішати"
Інженери об'єднують 3 тисячі чіпів власного виробництва, щоб досягти безпрецедентної потужності в 1,1 ExaFLOPS, вони готові ділитися з конкурентами.
Компанія Tesla, заснована Ілона Маском, представила чіпи Dojo, які об'єднують в найшвидшу систему для навчання штучного інтелекту. Нову технологію розкрили під час конференції AI Day, передає сайт Electrek.
На презентації старший директор компанії Tesla по автопілоту і керівник проекту Dojo Ганеш Венкатараманан показав чіп D1, створений за 7-нанометровій технології з 50 млн транзисторів. Це другий чіп Tesla після FSD, який компанія створила для бортових комп'ютерів своїх автомобілів.
За словами розробника, D1 володіє величезною обчислювальною потужністю і пропускною спроможністю. В одному чіпі міститься 354 навчальних вузла на базі 64-розрядного суперскалярного 4-хядерного процесора. Для роботи ІІ в Tesla створили спеціальний інтерфейс з пропускною здатністю 10 ТБ/с. Кільце введення-виведення включає 576 смуг, кожна з яких має пропускає 112 Гбіт за секунду.
"Він був повністю розроблений командою Tesla всередині компанії. Від архітектури до оболонки. Цей чіп забезпечує обчислення на рівні графічного процесора з гнучкістю на рівні центрального та вдвічі більшу пропускну здатність у порівнянні з мережевими чіпами", — підкреслив Венкатараманан.
D1 створені таким чином, що можуть легко з'єднуватися один з одним "без будь-якого клею". Таким чином інженери Tesla об'єднали 25 чіпів, додали інтерфейс для управління живленням і температурою і отримали так звану "тренувальну плитку" об'ємом менше кубічного фута (0,028 кубометра). Система забезпечує продуктивність в 9 PFlops (петафлопс) і пропускну здатність 36 ТБ в секунду при частоті 2 ГГц.
"Це безпрецедентно. Це дивовижний витвір інженерної думки", — вважає представник Tesla.
Він додав, що компанія недавно вперше запустила нейронну мережу на одній з таких плиток. Тепер організатори повинні зібрати обчислювальний кластер з декількох таких наборів, щоб побудувати перший суперкомп'ютер Dojo. Вони збираються об'єднати два піддони по 2x3 тренувальних плитки в одному корпусі (кабінеті) — така система отримає продуктивність більше 100 PFlops.
Tesla збирається планують пов'язати 120 плиток (3000 чіпів) Dojo в суперкомп'ютер ExaPod, який "розженеться" до 1,1 ExaFLOPS (FP16/CFP8) — поки такої продуктивності не вдалося досягти жодній з компаній. За словами гендиректора Ілона Маска, вони запустять таку машину вже в 2022 році, а в наступній версії інженери поліпшать потужність окремих компонентів в 10 разів.
Поряд з позамежної продуктивністю, суперкомп'ютер отримає високу енергоефективність і відносно скромні розміри. За допомогою ExaPod Tesla збирається навчати свої нейромережі для технологій управління автомобілями, але в майбутньому обіцяє поділитися напрацюваннями з іншими розробниками.
Раніше Ілон Маск представив концепт гумманоідного робота Tesla Bot. За його словами, андроїда спеціально зроблять слабким і повільним, щоб він ніяк не зашкодив людям, але зміг виконувати рутинну роботу.