账号:
密码:
CTIMES / 文章 /   
AI Everywhere势不可挡 信任运算架构将成关键
将「思考」往终端移动

【作者: 王岫晨】2021年04月29日 星期四

浏览人次:【542】
  

在边缘端的人工智能逐渐成为发展的潮流。然而要为边缘运算赋予 AI 智能,已经成为新的挑战。Arm 应用工程总监徐达勇指出,在传统上,决策的形成一向都集中在云端与网路的中心,所有的数据与智能都往内部移动。这样为网路技术与商业模型带来庞大的压力。未来我们必须刻意的把多数的「思考」向网路的终端移动,让中央系统空出来,以数据趋势与规律的集成为基础,进行较长期的策略性决定。


把智能移到边缘/终端可以提供许多的优点(请叁考如图一)。


。增加自主性


。提升隐私保护与资讯安全


。增加安全性


。减少频宽


。降低功耗


。减少延迟



图一 : 智能边缘运算优点
图一 : 智能边缘运算优点

另外,关键需求要素如下(可叁考图二)。而其中,又以安全、数位讯号处理及机器学习,最为重要。


。异质化系统架构


。优化数位讯号处理器(DSP)


。功能性安全


。机器学习能力


。可扩充的处理能力


。平台安全架构(PSA)


图二 : 边缘运算关键需求
图二 : 边缘运算关键需求

可能的挑战

根据Arm的调查(如图三),超过 90% 以上的企业将会持续投资在 AI,在 2025 年以前,超过 90% 以上的企业应用程式都会包含机器学习的功能。可见边缘装置的部署的数量将非常庞大、应用也将非常多元而复杂,可以想见导入机器学习与 AI 的需求将趋於复杂与碎片化。单一的解决方案已无法因应如此庞大、多元且复杂的需求。



图三 : 超过 90% 的企业将会持续投资 AI
图三 : 超过 90% 的企业将会持续投资 AI

徐达勇说,特定处理(Specialized Processing)将提供开发者所需的弹性(如图四),并针对不同的工作负载,提供最隹组合的运算处理单元。Arm 拥有的处理器平台整合更高的弹性、效率与安全性,CPU,GPU 与 NPU,协助合作夥伴在他们所处的市场,打造合适的产品。例如:


。用 Cortex CPU 来处理小型的机器学习工作负载应用将拥有最大的弹性以及扩充性,并确保未来不会过时;


。针对在广泛的数据类型范围内,要求必须在更高效能与良好的可程式性之间取得平衡的应用,对此需求提供了具备更隹机器学习支援的 Mali GPU;


。针对需要低功耗且高省电要求机器学习工作负载的应用,提供了可扩充的微型 Ethos-U NPU,为最小的装置提供弹性、功效与优化。当然运算需求较高的工作负载,也有专属 Ethos-N NPU。



图四 : 特定处理将提供开发者所需的弹性
图四 : 特定处理将提供开发者所需的弹性

Arm的在 AI 平台发展策略

庞大的 AI 应用需要「专用」且「可扩充」的解决方案。


全球於 2025 年左右预计将有超过 80 亿个正在使用中、具 AI 功能的语音助理装置,而 90% 或更多的终端应用将包含 AI 元素以及基於 AI 技术的介面。机器学习将成为运算无所不在的一部份,并将被运用在终端装置、网路边缘、手机与笔电等各类应用、汽车与工厂运算核心,以及云端伺服器。


逾九成的顶尖企业将持续投资 AI,Arm也持续为合作夥伴提供多种 IP 执行机器学习工作负载。


到了2025年,估计超过九成的新企业应用程式将嵌入机器学习;运算装置将受惠於更多在 CPU、GPU、NPU 的硬体支援,以应对更吃重的机器学习工作负载。Arm 所有处理器与 IP 皆具备机器学习能力,且发展为独特的 AI 平台,为合作夥伴提供多种 IP 选择,以执行像机器学习这样「特定且被优化」的工作负载。


因应多元的工作负载,「特定处理」将成为所有运算形式的创新关键。


通用型处理器过去可以满足大多数的需求,包括桌上型电脑或车用电子产品。但现在,合作夥伴对於高效处理的需求大幅改变,每隔几年需求就翻倍,且变化速度愈来愈快,因此 SoC 的合作夥伴需要配置不同的特定处理元件,以符合其需求。


Armv9架构为CPU提供全新的向量处理能力「SVE2」。


Arm可扩展的向量延伸指令集(SVE)曾协助富岳成为全球速度最快的超级电脑;Armv9 将包含这些延伸指令集的下一个版本 SVE2,大幅强化机器学习与数位讯号处理等能力。SVE2 也将强化在 CPU 上运行的 5G 系统、虚拟与扩增实境与机器学习等工作负载的处理能力,例如影像处理与智慧家庭应用。Arm 也将强化 CPU 内部的矩阵乘法能力,进一步扩展 Arm 技术的 AI 能力,并持续进行 Mali-GPU 与 Ethos-NPU的AI创新。


边缘 AI发展重点

徐达勇认为,边缘AI未来的发展方向可以专注在一个关键点上,就是AI Everywhere。先来看看AI的四大主要应用场景包括如下:


。物联网/ 嵌入式应用


。手机/ 消费性电子


。车用


。网路与伺服器


为了达到 AI Everywhere 的愿景,有以下几大领域需要我们特别注意:


延迟:5G 的全球部署将带动更快的资料传输、更多的连结,机器学习必须在数据产生的当下就运作。


功耗:更低的能耗、更长的电池寿命。


资料:数据/资料分布在各处,因此机器学习也要在各处执行。这需要系统运作与软体堆叠。


安全:安全的运算需要安全的机器学习解决方案。


运算将成为分散式的工具,每个运算需求都要在最适合的平台运行,信任运算基础架构将是管理资讯安全与隐私性的关键。以Arm新近发表的Armv9架构为例,特别提出机密运算架构(Confidential Compute Architecture;CCA),它可协助在硬体架构的安全环境中执行运算,并保护部份的程式码与数据不被存取或修改,甚至是特殊权限软体也无法存取与修改。


相关文章
助智慧机械跨足核心战略产业 CNC数控系统聚焦专用需求
电动车时代揭开序幕:五项成功必备条件
AI技术加值零售新视力 智慧应用方案增进效益
封装与晶粒介面技术双管齐下 小晶片发展加速
机器学习变革工业制造流程的四种方式
comments powered by Disqus
相关讨论
  相关新闻
» 加速推动AI/ML技术医材上市 食药署智慧医材专案办公室成立
» 安全、高效及省电为要 Imagination以GPU、EPP及NNA为三大发展主轴
» 全球首款应急物资加密货币E3E地球币IEO发行
» Arm发表改变次世代基础设施运算的Neoverse平台
» ROHM成功研发150V GaN元件技术 提升闸极耐压至8V
  相关产品
» Power Integrations新款PFC控制器 满载效率高达98%
» Silicon Labs推出Wi-SUN认证的IoT无线产品组合 加速智慧城市部署
» HPE推出进化版HPE SimpliVity 强化企业边缘的资料保护能力
» ST推出高精确度运算放大器 瞄准节能型功率转换应用
» 大联大世平推出完整的智慧家居ZigBee开发系统方案

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw