欲與輝達決高下?英特爾在中國推出雲端AI訓練晶片

鉅亨網編譯鍾詠翔
英特爾在中國推出雲端AI訓練晶片。(圖:Shutterstock)
Tag

英特爾 (INTC-US) 週二(11 日)在中國市場推出雲端人工智慧(AI)訓練晶片——Habana® Gaudi®2,這款晶片可滿足大規模語言模型、多模態模型及生成式 AI 模型的需求,且性能在一些關鍵指標上勝過輝達(Nvidia)(NVDA-US) A100。

據《財聯社》旗下《TMT 時報》報導,該 Gaudi2 處理器及 Gaudi2 夾層卡 HL-225B,以第一代 Gaudi 高性能架構為基礎,具有 24 個可編程 Tensor 處理器核心(TPCs)。

英特爾 Gaudi2 運行 ResNet-50 的每瓦性能,大約是輝達 A100 的兩倍,運行 1760 億參數 BLOOMZ 模型的每瓦性能,則大約是 A100 的 1.6 倍。

浪潮信息高級副總裁、AI 和 HPC 總經理劉軍在現場發表搭載 Gaudi2 的新一代 AI 伺服器 NF5698G7。這款伺服器集成了八顆 Gaudi2 加速卡 HL-225B,還包含雙路第四代英特爾至強可擴展處理器,支援 AMX/DSA 等 AI 加速引擎。

浪潮信息高級產品經理王磊強調,NF5698G7 是專為生成式 AI 市場開發的新一代 AI 伺服器,將為 AI 客戶提供大模型訓練和推理能力。

新華三集團計算存儲產品線副總裁劉宏程表示,基於英特爾 Gaudi2 AI 加速器,新華三正與英特爾合作,開發適合大模型訓練和推理的高性能 AI 伺服器。

與此同時,超聚變數字技術公司算力基礎設施領域總裁唐啟明指出,超聚變將與英特爾共同推出基於 Gaudi2 的全新產品與解決方案。

此前英特爾中國區董事長王銳指出,ChatGPT 浪潮帶動運算需求大幅提升,目前正與百度、阿里巴巴等中國客戶展開共同研究。王銳說,不管是高性能運算還是分布式運算,都已經在布局。