На форуме Vision 2024 компания Intel представила свой новейший AI-ускоритель – Gaudi3, который обещает значительный рывок в производительности по сравнению с предыдущим поколением.
Ускоритель Gaudi3 объединяет в себе два 5-нм кристалла с 64 ядрами Tensor Processing Cores пятого поколения, 96 МБ SRAM с пропускной способностью 12,8 ТБ/с и 128 ГБ HBM2e с пропускной способностью 3,7 ТБ/с. В устройстве также предусмотрены 24 контроллера Ethernet RDMA с пропускной способностью 200 ГБ/с каждый.
Данный ускоритель будет доступен для клиентов в двух форм-факторах. Первый – карта PCIe (HL-388), работающая на интерфейсе PCI Express 5.0 и имеющая TDP от 450 до 600 Вт. Производительность FP8 достигает до 1835 TFLOPS. Второй вариант – OAM (HL-328/325L/335) с TDP от 450 до 900 Вт. Здесь до восьми модулей могут быть установлены на специальную плату HLB-325. Производительность FP8 составляет 14,6 PFLOPS.
Intel проводит сравнение своего нового продукта с главным конкурентом – Nvidia H100. По словам компании, Gaudi3 обучает нейронные сети на 1,4-1,7 раза быстрее, а с точки зрения эффективности он превосходит конкурента на 1,2-2,3 раза.
Ожидается, что поставки Gaudi3 начнутся в текущем году.
