ИИ-процессор Huawei Ascend 910

Производительность этого процессора на базе технологий искусственного интеллекта составляет 320 терафлопс для операций с плавающей запятой (FP16) и 640 триллионов операций в секунду для операций с целыми числами (INT8) при максимальном потреблении электроэнергии 310 Вт. Значительное повышение энергоэффективности достигнуто благодаря разработанной компанией Huawei архитектуре Da Vinci.

Ascend 910 — это однокристальный процессор с широкими возможностями интеграции. Помимо ИИ-ядер на основе технологии Da Vinci он включает в себя ЦП, DVPP и Планировщик заданий. Этот процессор самостоятельно управляет своей работой, чтобы максимально использовать всю свою вычислительную мощность. HCCS, PCIe 4.0 и RoCE версии 2 обеспечивают гибкость и эффективность при построении вертикально и горизонтально масштабируемых систем. HCCS — это фирменный высокоскоростной интерфейс Huawei, связывающий процессоры Ascend 910. Встроенный в микросхему протокол RoCE напрямую связывает узлы. PCIe 4.0 удваивает скорость обработки информации по сравнению с предыдущим поколением.

Ascend 910 выпускается компанией с использованием второго поколения 7-нм техпроцесса (7+ EUV). Это техпроцесс характеризуется использованием сканеров EUV для изготовления нескольких слоёв чипа. Huawei сравнивала Ascend 910 с ИИ-решением NVIDIA на архитектуре Volta, выпущенном TSMC с использованием 12-нм FinFET техпроцесса. На картинке приводятся данные для Ascend 910 и Volta, с нормализацией к 12-нм техпроцессу. Площадь решения Huawei на кристалле в 2,5 раза больше, чем у NVIDIA, но при этом производительность Ascend 910 оказывается в 4,7 раза выше, чем у архитектуры Volta.

Также на схеме видно, что Huawei заявляет о крайне высокой масштабируемости архитектуры. Ядра DaVinci, лежащие в основе Ascend 910, могут выпускаться в конфигурации для оперирования скалярными величинами (16), векторными (16 ? 16) и матричными (16 ? 16 ? 16). Это означает, что архитектура и ядра DaVinci появятся во всём спектре устройств от IoT и носимой электроники до суперкомпьютеров (от платформ с принятием решений до машинного обучения). Чип Ascend 910 несёт матричные ядра, как предназначенный для наиболее интенсивной работы.

Ядро DaVinci в максимальной конфигурации (для Ascend 910) содержит 4096 блоков Cube для вычислений с половинной точностью (FP16). Также в ядро входят специализированные блоки для обработки скалярных (INT8) и векторных величин. Пиковая производительность Ascend с 32 ядрами DaVinci достигает 256 терафлопс для FP16 и 512 терафлопс для целочисленных значений. Всё это при потреблении до 350 Вт. Альтернатива от NVIDIA на тензорных ядрах способна максимум на 125 терафлопс для FP16. Для решения задач ML чип Huawei оказывается в два раза производительнее.