在 Computex 2026 的主題演講中,Lightmatter 創辦人暨執行長 Nick Harris 針對AI基礎設施的未來發展,提出了一項重新定義產業格局的核心論點:未來擴展前沿模型並邁向人工超級智慧(ASI)的核心瓶頸,已不再是處理器的算力,而是互連(Interconnect)。
|
隨著 AI 工作負載與 Mixture-of-Experts(MoE)架構爆發式成長,前沿 AI 的功耗大約每年增長 2 至 3 倍,遠超電力基礎設施的建設速度。在單純增加處理器數量已不可持續的現況下,互連通訊成本成為主要限制。Nick Harris 指出,業界必須從傳統電學優先的思維轉變為光學優先,將光子互連技術作為連接處理器、記憶體、機架乃至整個資料中心的主要機制。
針對此一痛點,Lightmatter 推出旨在取代傳統銅基網路的光子仲介層架構Passage 平台。模擬結果顯示,針對萬億參數的 MoE 模型,Passage 能將規模擴展頻寬大幅提升至 32 Tbps。在系統級效能指標上,更實現了訓練時間縮短 3 倍、首 Token 生成時間(TTFT)降低 3 倍,以及推理解碼互動性提升 11 倍的顯著成果。透過光子技術,未來跨機架與跨資料中心的通信得以在維持高頻寬的同時降低功耗,使分散式運算叢集表現得如同單一台單一大腦(Single Brain)。
...
...
| 使用者別 | 新聞閱讀限制 | 文章閱讀限制 | 出版品優惠 |
| 一般使用者 | 10則/每30天 | 0則/每30天 | 付費下載 |
| VIP會員 | 無限制 | 25則/每30天 | 付費下載 |


