搜尋

會員登入

搜尋

導覽

會員

[Computex] Lightmatter:未來邁向人工超級智慧的瓶頸將是「互連」

瀏覽次數:659

在 Computex 2026 的主題演講中,Lightmatter 創辦人暨執行長 Nick Harris 針對AI基礎設施的未來發展,提出了一項重新定義產業格局的核心論點:未來擴展前沿模型並邁向人工超級智慧(ASI)的核心瓶頸,已不再是處理器的算力,而是互連(Interconnect)。



圖一 :   (左)Lightmatter Engineering & Operations資深副總裁Ritesh Jain 、(右)Lightmatter創辦人暨執行長Nick Harris
圖一 : (左)Lightmatter Engineering & Operations資深副總裁Ritesh Jain 、(右)Lightmatter創辦人暨執行長Nick Harris

隨著 AI 工作負載與 Mixture-of-Experts(MoE)架構爆發式成長,前沿 AI 的功耗大約每年增長 2 至 3 倍,遠超電力基礎設施的建設速度。在單純增加處理器數量已不可持續的現況下,互連通訊成本成為主要限制。Nick Harris 指出,業界必須從傳統電學優先的思維轉變為光學優先,將光子互連技術作為連接處理器、記憶體、機架乃至整個資料中心的主要機制。


針對此一痛點,Lightmatter 推出旨在取代傳統銅基網路的光子仲介層架構Passage 平台。模擬結果顯示,針對萬億參數的 MoE 模型,Passage 能將規模擴展頻寬大幅提升至 32 Tbps。在系統級效能指標上,更實現了訓練時間縮短 3 倍、首 Token 生成時間(TTFT)降低 3 倍,以及推理解碼互動性提升 11 倍的顯著成果。透過光子技術,未來跨機架與跨資料中心的通信得以在維持高頻寬的同時降低功耗,使分散式運算叢集表現得如同單一台單一大腦(Single Brain)。
...
...

使用者別 新聞閱讀限制 文章閱讀限制 出版品優惠
一般使用者 10則/每30天 0則/每30天 付費下載
VIP會員 無限制 25則/每30天 付費下載

Card Image

基於dsPIC33A DSC的小型感測器/致動器ECU搭配MICROSAR IO示範應用程式

dsPIC33A數位信號控制器(DSC)系列結合來自Vector Informatik GmbH的輕量級軟體基礎層MICROSAR IO,為小型且對成本敏感的電子控制單元(ECU)提供了最佳化的平台。這種協同效應為汽車供應…

dsPIC33A數位信號控制器(DSC)系列結合來自Vector Informatik GmbH的輕量級軟體基礎層MICROSAR IO…