輝達 (NVDA-US) 昨 (8) 日晚間舉辦 NVIDIA SIGGRAPH 2023,並宣布推出搭載新一代 L40S GPU 的 OVX 伺服器,供應商除了既有的戴爾 (DELL-US)、技嘉 (2376-TW)、廣達 (2382-TW) 旗下雲達、美超微 (SMCI-US) 外,也出現新面孔華碩 (2357-TW)。
輝達表示,NVIDIA L40S GPU 是款功能強大的通用資料中心處理器,用於搭配 Omniverse 平台,加快處理 AI 訓練及推論、3D 設計和視覺化,還有影片處理和工業數位化等運算最密集的複雜應用項目。
輝達補充,L40S GPU 為生成式 AI 的加速運算工作提供完整的運算能力,而生成式 AI 正在改變各行各業的工作流程和服務,包括文字、影像和影片生成、聊天機器人、遊戲開發、產品設計和醫療保健。
NVIDIA L40S 預計今年秋季上市,供應商包括華碩、戴爾、技嘉、慧與 (HPE)、聯想 (Lenovo)、雲達科技 (QCT) 及美超微 (Supermicro) 等全球系統商,將很快提供搭載 NVIDIA L40S GPU 的 OVX 系統。
輝達看好,L40S 伺服器將幫助全球專業人士推進人工智慧的發展,並為各行各業的用戶帶來智慧聊天機器人、搜尋和摘要工具等生成式人工智慧應用項目。
NVIDIA OVX 系統每具伺服器上最多可支援 8 個 NVIDIA L40S GPU,每個 GPU 配備 48GB 記憶體,與 A100 Tensor 核心 GPU 相比,在處理具有數十億個參數和多種資料模式如文字和影片的複雜 AI 工作負載時,生成式 AI 的推論表現提升 1.2 倍,訓練表現增加 1.7 倍。