帳號:
密碼:
最新動態
產業快訊
CTIMES/SmartAuto / 新聞 /
NVIDIA首度公布在Arm架構伺服器上的AI測試結果
 

【CTIMES/SmartAuto 籃貫銘 報導】   2021年09月23日 星期四

瀏覽人次:【3187】

NVIDIA 首度公布在 Arm 架構伺服器上的人工智慧推論效能測試結果,根據今天公布的基準測試結果,NVIDIA 在使用 x86 或 Arm 架構的 CPU 進行人工智慧 (AI) 推論方面取,得最佳成績。這也是資料中心類別首次在 Arm 架構系統上進行測試。

/news/2021/09/23/1700056720S.jpg

依據NVIDIA公布的資料,搭載 NVIDIA AI 平台的電腦在最新一輪的七項推論效能測試中均拔得頭籌,這些系統由 NVIDIA 及九個商業生態系合作夥伴所推出,包含阿里巴巴、戴爾科技 (Dell Technologies)、富士通 (Fujitsu)、技嘉 (GIGABYTE)、慧與科技 (Hewlett Packard Enterprise)、浪潮 (Inspur)、聯想 (Lenovo)、Nettrix 及美超微 (Supermicro)。

推論是電腦運行 AI 軟體來辨識物體或進行預測時發生的過程。這是一個使用深度學習模型來篩選資料的過程,以找出人類無法取得的結果。MLPerf 的推論基準是基於當今最熱門的 AI 作業負載和情境,涵蓋電腦視覺、醫療影像、自然語言處理、推薦系統與強化學習等。

最新的基準測試結果證明,作為一個 GPU 加速平台,採用 Ampere Altra CPU 的 Arm 架構伺服器在 AI 推論作業方面,提供與類似配置之 x86 架構伺服器幾乎相同的效能表現。事實上,在其中一項測試中,Arm 架構伺服器的表現甚至優於類似的 x86 架構系統。

Arm 高效能運算與開發工具部門資深總監 David Lecomber 表示:「作為 MLCommons 的創始成員,Arm 始終致力於發展各項標準和基準,以更好地因應加速運算產業的挑戰並激發創新。在最新的推論結果中可以看到,搭載 Arm 架構的 CPU 及 NVIDIA GPU 的 Arm 架構系統,已準備好處理各種資料中心的 AI 作業負載。」

NVIDIA指出, NVIDIA TensorRT 軟體可針對 AI 模型進行最佳化調整,以善加利用記憶體並提高運行速度。將它用來進行 MLPerf 測試,其可用於 x86 和 Arm 架構的系統。此外,他們也在這些基準測試中使用 NVIDIA Triton 推論伺服器軟體和多執行個體 GPU (MIG) 功能。

由於 NVIDIA 不斷改善此軟體堆疊,與四個月前的 MLPerf 推論基準測試結果相比,其效能提升 20%,而能源效率亦上升 15%。

關鍵字: NVIDIA 
相關新聞
Pure Storage攜手NVIDIA加快企業AI導入 以滿足日益成長的需求
GTC 2024:宜鼎以智慧工廠解決方案秀邊緣AI整合實力
黃仁勳:運算技術的創新 將驅動全新工業革命
GTC 2024:所羅門與NVIDIA合作加速生成式AI應用
GTC 2024:益登展示跨域人工智慧解決方案
comments powered by Disqus
相關討論
  相關文章
» 使用Microchip Inductive Position Sensor(電感式位置感測器)實現高精度馬達控制
» 以霍爾效應電流感測器創新簡化高電壓感測
» ESG趨勢展望:引領企業邁向綠色未來
» 智慧家居大步走 Matter實現更好體驗與可靠連結
» 車載軟體數量劇增 SDV硬體平台方興未艾


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 遠播資訊股份有限公司版權所有 Powered by O3  v3.20.2048.44.205.5.65
地址:台北數位產業園區(digiBlock Taipei) 103台北市大同區承德路三段287-2號A棟204室
電話 (02)2585-5526 #0 轉接至總機 /  E-Mail: webmaster@ctimes.com.tw