搜尋

會員登入

搜尋

導覽

會員
廣告

代理式AI推升機櫃運算密度 和碩深化液冷與系統整合布局

瀏覽次數:40

隨著生成式AI逐步朝代理式AI(Agentic AI)與大規模推論應用發展,資料中心運算架構正從單一GPU伺服器轉向整機櫃系統整合。和碩聯合科技於2026年超級運算大會(SC26)展示以NVIDIA MGX架構為基礎的新世代AI伺服器方案,涵蓋Vera CPU Rack與Vera Rubin NVL72機櫃,藉由高密度運算、液冷技術及高速互連,強化在AI基礎設施市場的布局。

此次展示Vera CPU Rack整合256顆採液冷設計的NVIDIA Vera CPU,提供超過22,500個CPU核心,以及最高300 TB/s的彙總記憶體頻寬,主要針對代理式AI、資料處理及高密度CPU運算工作負載。相較傳統以GPU為核心的AI伺服器,這類架構更重視CPU與記憶體資源配置,以支援多代理協作、資料前處理及大規模推論服務。

另一項重點為Vera Rubin NVL72機櫃,整合72顆Rubin GPU與36顆Vera CPU,透過高速互連建立機櫃級運算平台。其技術價值不僅在於提高運算密度,也在於降低不同運算單元之間的資料傳輸瓶頸,改善大型AI模型訓練與推論的系統效率。

隨著單機櫃功率需求提高,將牽動伺服器機構件、散熱模組、電源設備、高速連接器及系統整合業者的技術升級。
隨著單機櫃功率需求提高,將牽動伺服器機構件、散熱模組、電源設備、高速連接器及系統整合業者的技術升級。

高密度運算也使電力供應與散熱成為關鍵挑戰。隨著單機櫃功率需求提高,傳統氣冷架構逐漸面臨限制,液冷系統、冷卻液分配單元(CDU)、高效率電源模組與機櫃管理技術的重要性同步提升。而相關需求將牽動伺服器機構件、散熱模組、電源設備、高速連接器及系統整合業者的技術升級。

值得注意的是,Vera Rubin平台的競爭已由單一處理器效能,延伸至CPU、GPU、記憶體、網路與散熱系統的協同設計。台灣伺服器產業正加速從硬體代工轉向高階系統整合,而伺服器製造商能否掌握機櫃級驗證、熱管理與電力配置能力,將影響其在全球AI資料中心供應鏈中的競爭地位。

MCU睡眠模式(Sleep Mode)大解密

MCU睡眠模式(Sleep Mode)大解密

電池供電的感測器、智慧家居與可攜式裝置,經常花大量時間等待事件。延長續航的關鍵,是讓CPU只在需要時工作,並把監測、取樣與資料搬移交給適合的周邊。Microchip PI…

電池供電的感測器、智慧家居與可攜式裝置,經常花大量時間等待事件。延長續航的關鍵,是讓CPU只在需要時工作,並把監測、取樣…