Habana Labs выпустил процессоры второго поколения с искусственным интеллектом для глубокого обучения

Сегодня на конференции Intel Vision компания Habana Labs, входящая в состав Intel, анонсировала процессоры для глубокого обучения второго поколения Habana Gaudi 2 Training и Habana Greco Inference. Процессоры специально созданы для приложений глубокого обучения искусственного интеллекта, реализованы по 7-нанометровой технологии и основаны на высокоэффективной архитектуре Habana, чтобы предоставить клиентам более производительное обучение моделей и логические выводы для приложений компьютерного зрения и естественного языка в центре обработки данных. На Intel Vision компания Habana Labs продемонстрировала пропускную способность обучения Gaudi2 для модели компьютерного зрения ResNet-50, а модель обработки естественного языка BERT обеспечивает удвоенную пропускную способность обучения по сравнению с графическим процессором Nvidia A100-80GB.

Habana Gaudi2 значительно повышает эффективность обучения, опираясь на ту же высокоэффективную архитектуру первого поколения, которая позволяет клиентам повысить соотношение цены и качества на 40 % в облаке AWS с инстансами Amazon EC2 DL1 и локально с Supermicro X12 Gaudi Training Server. В дополнение к скачку на 7 нм по сравнению с 16 нм, Gaudi2 также имеет 24 тензорных процессорных ядра, что больше, чем восемь ядер в первом Gaudi, и специально разработано для больших рабочих нагрузок глубокого обучения. Новый обучающий процессор Gaudi2 AI объединяет встроенную обработку мультимедиа, тройную встроенную память до 96 ГБ и удвоенную SRAM до 48 МБ. Это способствует повышению производительности Gaudi2 — пропускная способность обучения в три раза выше, чем у Gaudi первого поколения.