账号:
密码:
最新动态
产业快讯
CTIMES / 文章 /
AI Everywhere势不可挡 信任运算架构将成关键
将「思考」往终端移动

【作者: 王岫晨】2021年04月29日 星期四

浏览人次:【3767】

在边缘端的人工智能逐渐成为发展的潮流。然而要为边缘运算赋予 AI 智能,已经成为新的挑战。 Arm 应用工程总监徐达勇指出,在传统上,决策的形成一向都集中在云端与网路的中心,所有的数据与智能都往内部移动。这样为网路技术与商业模型带来庞大的压力。未来我们必须刻意的把多数的「思考」向网路的终端移动,让中央系统空出来,以数据趋势与规律的集成为基础,进行较长期的策略性决定。


把智能移到边缘/终端可以提供许多的优点(请参考如图一)。


。增加自主性


。提升隐私保护与资讯安全


。增加安全性


。减少频宽


。降低功耗


。减少延迟



图一 : 智能边缘运算优点
图一 : 智能边缘运算优点

另外,关键需求要素如下(可参考图二)。而其中,又以安全、数位讯号处理及机器学习,最为重要。


。异质化系统架构


。优化数位讯号处理器(DSP)


。功能性安全


。机器学习能力


。可扩充的处理能力


。平台安全架构(PSA)


图二 : 边缘运算关键需求
图二 : 边缘运算关键需求

可能的挑战

根据Arm的调查(如图三),超过 90% 以上的企业将会持续投资在 AI,在 2025 年以前,超过 90% 以上的企业应用程式都会包含机器学习的功能。可见边缘装置的部署的数量将非常庞大、应用也将非常多元而复杂,可以想见导入机器学习与 AI 的需求将趋于复杂与碎片化。单一的解决方案已无法因应如此庞大、多元且复杂的需求。



图三 : 超过 90% 的企业将会持续投资 AI
图三 : 超过 90% 的企业将会持续投资 AI

徐达勇说,特定处理(Specialized Processing)将提供开发者所需的弹性(如图四),并针对不同的工作负载,提供最佳组合的运算处理单元。 Arm 拥有的处理器平台整合更高的弹性、效率与安全性,CPU,GPU 与 NPU,协助合作伙伴在他们所处的市场,打造合适的产品。例如:


。用 Cortex CPU 来处理小型的机器学习工作负载应用将拥有最大的弹性以及扩充性,并确保未来不会过时;


。针对在广泛的数据类型范围内,要求必须在更高效能与良好的可程式性之间取得平衡的应用,对此需求提供了具备更佳机器学习支援的 Mali GPU;


。针对需要低功耗且高省电要求机器学习工作负载的应用,提供了可扩充的微型 Ethos-U NPU,为最小的装置提供弹性、功效与优化。当然运算需求较高的工作负载,也有专属 Ethos-N NPU。



图四 : 特定处理将提供开发者所需的弹性
图四 : 特定处理将提供开发者所需的弹性

Arm的在 AI 平台发展策略

庞大的 AI 应用需要「专用」且「可扩充」的解决方案。


全球于 2025 年左右预计将有超过 80 亿个正在使用中、具 AI 功能的语音助理装置,而 90% 或更多的终端应用将包含 AI 元素以及基于 AI 技术的介面。机器学习将成为运算无所不在的一部份,并将被运用在终端装置、网路边缘、手机与笔电等各类应用、汽车与工厂运算核心,以及云端伺服器。


逾九成的顶尖企业将持续投资 AI,Arm也持续为合作伙伴提供多种 IP 执行机器学习工作负载。


到了2025年,估计超过九成的新企业应用程式将嵌入机器学习;运算装置将受惠于更多在 CPU、GPU、NPU 的硬体支援,以应对更吃重的机器学习工作负载。 Arm 所有处理器与 IP 皆具备机器学习能力,且发展为独特的 AI 平台,为合作伙伴提供多种 IP 选择,以执行像机器学习这样「特定且被优化」的工作负载。


因应多元的工作负载,「特定处理」将成为所有运算形式的创新关键。


通用型处理器过去可以满足大多数的需求,包括桌上型电脑或车用电子产品。但现在,合作伙伴对于高效处理的需求大幅改变,每隔几年需求就翻倍,且变化速度愈来愈快,因此 SoC 的合作伙伴需要配置不同的特定处理元件,以符合其需求。


Armv9架构为CPU提供全新的向量处理能力「SVE2」。


Arm可扩展的向量延伸指令集(SVE)曾协助富岳成为全球速度最快的超级电脑;Armv9 将包含这些延伸指令集的下一个版本 SVE2,大幅强化机器学习与数位讯号处理等能力。 SVE2 也将强化在 CPU 上运行的 5G 系统、虚拟与扩增实境与机器学习等工作负载的处理能力,例如影像处理与智慧家庭应用。 Arm 也将强化 CPU 内部的矩阵乘法能力,进一步扩展 Arm 技术的 AI 能力,并持续进行 Mali-GPU 与 Ethos-NPU的AI创新。


边缘 AI发展重点

徐达勇认为,边缘AI未来的发展方向可以专注在一个关键点上,就是AI Everywhere。先来看看AI的四大主要应用场景包括如下:


。物联网/ 嵌入式应用


。手机/ 消费性电子


。车用


。网路与伺服器


为了达到 AI Everywhere 的愿景,有以下几大领域需要我们特别注意:


延迟:5G 的全球部署将带动更快的资料传输、更多的连结,机器学习必须在数据产生的当下就运作。


功耗:更低的能耗、更长的电池寿命。


资料:数据/资料分布在各处,因此机器学习也要在各处执行。这需要系统运作与软体堆叠。


安全:安全的运算需要安全的机器学习解决方案。


运算将成为分散式的工具,每个运算需求都要在最适合的平台运行,信任运算基础架构将是管理资讯安全与隐私性的关键。以Arm新近发表的Armv9架构为例,特别提出机密运算架构(Confidential Compute Architecture;CCA),它可协助在硬体架构的安全环境中执行运算,并保护部份的程式码与数据不被存取或修改,甚至是特殊权限软体也无法存取与修改。


相关文章
低功耗MCU释放物联网潜力 加速智慧家庭成形
AI赋能智慧边缘 行动运算处理器的时代革命
利用边缘运算节约能源和提升永续性
针对应用对症下药 Arm架构在车用领域持续亮眼
生成式AI与PC革新
comments powered by Disqus
相关讨论
  相关新闻
» Satellite 2024:仁宝携手耀登与富宇翔展示全新卫星通信解决方案
» 圆展与新光保全合作打造远距照护服务
» Arm发布车用技术及运算子系统路径图 将加速AI车辆上市时程
» 远传以智慧空品解决方案打造健康永续城市
» 工研院MWC 2024展会直击 5G-A无线通讯、全能助理成下一波AI风潮


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 远播信息股份有限公司版权所有 Powered by O3  v3.20.1.HK83JB2REC4STACUKN
地址:台北数位产业园区(digiBlock Taipei) 103台北市大同区承德路三段287-2号A栋204室
电话 (02)2585-5526 #0 转接至总机 /  E-Mail: webmaster@ctimes.com.tw