輝達 (NVDA-US) 發布最新影片,首次公開展示最新資料中心規模超級電腦 Eos,由 576 個 NVIDIA DGX H100 系統組成,以每個 DGX H100 系統配備 8 個 H100 Tensor 核心 GPU 推算,超級電腦 Eos 共有 4608 個 H100 GPU,造價不斐。
輝達指出,超級電腦 Eos 除了由 576 個 DGX H100 系統組成,也內含 Quantum-2 InfiniBand 網路和軟體,提供總共 18.4 exaflops 的 FP8 AI 效能,可以訓練大型語言模型 (LLM)、量子模擬等。
輝達補充,Eos 是超大型 NVIDIA DGX SuperPOD,開發人員利用加速運算基礎架構和全面最佳化的軟體來實現 AI 突破;Eos 在去年 11 月的 Supercomputing 2023 大會 (SC23) 上亮相,以希臘女神 Eos 命名,據說她每天打開黎明的大門,彰顯公司對推進 AI 技術的承諾。
Eos 可以處理最大的 AI 工作負載,以訓練大型語言模型、推薦系統、量子模擬等,看好人們正在利用生成式 AI 改變世界,從藥物探索到聊天機器人,再到自主機器等。
輝達 Eos 架構採用網路內運算 (In-Network Computing) 技術的 NVIDIA Quantum-2 InfiniBand,可支持高達 400Gb/s 的資料傳輸速度,有助於快速移動訓練複雜 AI 模型所需的大型資料集。
輝達認為,隨著世界各地的企業和開發人員尋求利用 AI 的力量,Eos 成為一種關鍵資源,有望加速實現能為每個組織提供動力的 AI 驅動應用進程。