和碩 (4938-TW) 今 (19) 日指出，將參與美國運算大會 SC24，展出與合作夥伴 AMD(AMD-US)、英特爾 (INTC-US) 以及輝達 (NVDA-US) 高效運算的伺服器與機架 (Rack) 級方案，同時也展示適合即時大型語言模型 (LLM) 運算、先進散熱基礎設施解決方案，以及多節點高密度運算效能設計的液冷 (DLC) 伺服器產品。
和碩於展會中展室的特色產品包含支援大規模生成式 AI 運算的機架，搭配水對氣 Sidecar 或氣對氣 CDU 散熱機櫃方案，運算節點採用輝達 GB200 NVL72 高密度機架級 GPU 解決方案，可實現 30 倍的即時 LLM 推論速度，降低 25 倍的總擁有成本 (TCO)，且能減少 25 倍的能源消耗。
邊緣推論在 AI 應用的重要性與日俱增，和碩展示輝達 H200 NVL，可增進 LLM 推理速度最高可達 1.7 倍，在高效能運算 (HPC) 應用較 H10 NVL 效能提高 1.3 倍。
資料中心持續追求提高運算密度以及增加運算效能的方案，和碩結合先進 (Direct-to-Chip) 冷卻散熱解決方案，搭載 AMD 最新 EPYC 9005 系列處理器，打造多節點高密度，且符合 ORv3 規範的 OCP 伺服器。
另外，和碩展出多台氣冷式多節點伺服器，搭配英特爾 Xeon 6 處理器，可以應付資料中心的彈性擴充與節能省電的要求。