輝達 (NVDA-US) 最新升級版 AI 晶片 H200 即將問世，代工大廠廣達 (2382-TW) 旗下雲達 (QCT) 昨 (21) 日證實，成為首批支援製造搭載 H200 GPU 伺服器的協力商。
根據輝達公布的時程，H200 伺服器將於 2024 年第二季開始出貨，可以提供生成式 AI 以及高效能運算 (HPC) 所需的大量負載能力並提升效率。H200 的競爭對手則是超微 (AMD-US) 的 MI3000X GPU，可以協助大型 AI 模型執行推論。
據外媒指出，H200 晶片沿用輝達 Hopper 架構，與 H100 並無太大差異，因此現在使用 H100 訓練大型語言模型的公司，可以不需更換伺服器就能無縫接軌。
H200 最主要的優勢在於其強大的記憶體，H200 搭載 HBM3e 記憶體，容量達 141GB，較 H100 的 80GB 高出不少。使用晶片的記憶體愈大，大型語言模型就可以一次處理愈多的資訊，H200 的輸出速度甚幾乎是 H100 的兩倍。
輝達透露，包含亞馬遜 (AMZN-TW) 的 AWS、Alphabet(GOOGL-US) 的 Google Cloud 以及甲骨文 (ORCL-US) 的雲端基礎設施，明年都開始使用 H200 最新晶片。
隨著 H200 即將推出，廣達集團旗下雲達成為首批協力商，將可以優先拿到最新晶片。也就是說包含雲達在內的台廠，未來只要替客戶系統更新，就能有 H200 高效能的處理能力，提升生成式 AI 及高效能運算的速度。
廣達集團近期 AI 業務熱，也傳出大手筆回饋員工。除全員加薪 3000 元，更加碼公布彈性上下班制度。
根據證交所資料公布，去年電子五哥非主管職員工年薪排行榜，廣達以 150.1 萬元位居第一名。仁寶 (2324-TW) 則為 135.2 萬，位居第二名。第三名緯創 (3231-TW) 為 131.8 萬元，第四名則是和碩 (4938-TW) 為 129.9 萬元，第五名英業達 (2356-TW) 為 102.4 萬。