於本周舉行的2025年IEEE國際電子會議（IEDM）上，比利時微電子研究中心（imec）發表了首篇針對3D 高頻寬記憶體（HBM）與圖形處理器（GPU）堆疊元件（HBM-on-GPU）的系統技術協同優化（STCO）熱學研究，這種元件是下一代人工智慧（AI）應用的潛力運算架構。透過整合技術和系統級調節策略，在現實AI訓練工作負荷下，GPU的最高溫度可能從140.7°C降到70.8°C—相當於目前的2.5D整合技術。這項研究結果展示結合跨層優化（也就是協同優化在所有不同抽象層上的開關）與廣泛技術專業所帶來的優勢—imec特有的組合。

圖一 : 整合方法（a）目前的2.5D方案與（b）HBM與GPU堆疊的3D提案。

直接在GPU上方整合HBM堆疊提供一套具吸引力的方法來建立新一代運算架構，以滿足資料密集型的AI工作負荷。相較於在矽中介層上將HBM堆疊置於（單顆或兩顆）GPU附近的現行2.5D整合技術，這種HBM與GPU堆疊的3D元件可望在運算密度（每封裝包含四顆GPU）、每顆GPU的記憶體容量及GPU記憶體頻寬方面跨出一大步。然而，積極的3D整合方法因為具備更高的局部功率密度及垂直方向的熱阻，因而容易產生散熱問題。

在2025年IEEE國際電子會議，imec發表首篇針對立體HBM與GPU堆疊元件整合的完整熱模擬研究，不僅辨別散熱瓶頸，也提出策略來提升該架構散熱可行性。imec研究人員展示協同優化技術和系統級熱調節方法如何在現實的AI訓練工作負荷下，將GPU最高溫度從141.7°C降到70.8°C。
...
...