账号:
密码:
CTIMES / 文章 /   
AIoT应用推升深度学习市场规模
实现「智慧」的境界

【作者: 籃貫銘、王岫晨】2021年01月22日 星期五

浏览人次:【1134】
  

在智慧物联(AIoT)的世界里,物联网当然是串联各式终端的核心基础建设,但其最终的目标,则是要实现「智慧」的境界?而要达成这个愿景,「深度学习」就是必须要了解的一项关键技术。


大家都知道,所谓的「人工智慧」是一个整合性的科技成果,它是透过多项技术交互运用後的最终风貌。所以,要到达人工智慧,其实是有阶段性的。我们常会看到这样一张图片,人工智慧最外面的大圈圈,中间则是「机器学习」,最里头的小圈圈,就是「深度学习」。


所以由此可知,深度学习就是实现机器学习的核心技术,而机器学习则是系统学习能力与智慧功能的来源。


至於深度学习本身的技术原理,则与神经网路(Neural Network)技术的运用有很大的关联。虽然说技术的解释与说明,并不是本专栏的重点,但理解神经网路的基本原理,则是探讨AIoT应用的重要基本常识。


顾名思义,神经网路就是一种叁考人类脑神经结构的一种演算法,它最大的特色就是采用「神经元」多节点连结模式,以及多层的运算式来运作。这里所说的神经元,就是处理资料输入的种种函式,并将之往下一层输出。所以整个神经网路的运作原理,就是以数值与向量模式,把输入的资料作分类、转译、标签化等方式,设计作为模型识别使用。


理论上,越多层、越多节点的运算式,就可以分析越复杂的资料,也有很大的可能可以取得越精准的模型。但这完全取决於资料的形式,与研究者的演算法设计,并不见得越复杂就越好,最终还是取决的所产生的模式是不是够精确。但可以确定的是,复杂的资料与演算法结构,对於硬体与运算资源就有更大的要求。


而在AIoT应用场景中,取得大量的数据资料并对其进行分析,一直是此应用的核心竞争力所在。而数据的来源,经常都是终端设备里的各式感测器所自动采集而来,或者是各式的商业与工业流程所产生的文件与资料。


传统上,庞大的运算式与分析功能,都会被设置在云端平台或者更上层的核心IT系统中。但AIoT应用里,则是期??能够更快速的反应在第一线的装置里。所以这些数据与资料,就需要在终端装置中就先进行分析与运算,以快速对用户指令进行反应,以提升系统的智慧功能的反应速度,并且提升使用体验。所以深度学习的技术,就会被部署在终端装置中,这也就是边缘运算的基本原理。


而这样的思考已被市场普遍的认可,因此深度学习技术就变成了AIoT应用的显学。依据市场研究机构Grand View Research的研究报告,至2025年,深度学习市场的规模将达到102亿美元,复合年增长率达到52.1%。主要的成长驱力就是机器学习演算法的显着改进,以及深度学习晶片组的快速成长。



图一 : 深度学习、机器学习和人工智慧的差异
图一 : 深度学习、机器学习和人工智慧的差异

至於主要的应用领域,则是各种积极导入人工智慧技术的式场,例如自驾车、安全监、智慧语音输入、智慧制造、以及医疗影像分析等。这些应用都需要针对大量数据进行分析与运算,因此深度学习和神经网路的采用就变得十分重要。


透过软硬整合提供深度学习能力

以Arm为例,Arm本身并不提供演算法,而是协助开发者聚焦创意,加速软体开发流程。Arm首席应用工程师沈纶铭指出,为了让开发者聚焦创意,开发工具需要更简化而有效。在今天,嵌入式运算与嵌入式世界正遭遇重大改变,即嵌入式发展以及物联网、机器学习(ML)与数据科学彼此间越来越大的重叠。由於嵌入式、ML与云端开发者从截然不同的领域和角度来处理终端装置设计,Arm的工具必须应对所有团体的需求,不管选择的装置或作业系统为何,开发工具必须提供终端装置与任何云服务供应商之间,无缝整合与连接的能力,好让开发者聚焦於创意,发展如何为市场带来具有竞争优势的全新差异化功能。


Arm的强化套装工具可加速开发流程。Arm次世代的开发解决方案可结合现代网路技术,以及微控制器开发套件Arm Keil MDK,另外还有完整的C/C++嵌入式套装工具Arm Development Studio的成熟开发与除错功能。其结果是在各种微控制器与开发板上,都能更快速且更直觉地通过产品的开发流程。


目前Arm正与微软合作,为物联网终端装置加速AI的创新。透过这个协作,Arm将把共同的专注力集中在优化与加速完整的AI作业负载开发生命周期,进而在Azure云端服务平台上训练与调整ML模型,到在任何Arm架构的终端装置上优化、部署与运行这些模型,这将促成嵌入式、物联网与ML开发社群彼此间产生更有效的体验。


此外,也透过与帝视科技合作AI Super Resolution深度学习解决方案,为DTV、4K/8K电视等,改善画质、降噪、增艳色彩。


行动装置深度学习

对於处理轻量DL/ ML工作负载的Cortex-M,例如穿戴式装置,则是透过Armv8.1-M 架构M-Profile Vector Extension(MVE)向量扩充方案的Helium技术,简化开发者软体开发流程,并显着提升未来基於Cortex-M处理器装置的机器学习与讯号处理效能。Helium技术将为未来Arm Cortex-M处理器提供达15倍的机器学习效能以及提升5倍的讯号处理效能。



图二 : Arm NN(Neural Network)软体框架图
图二 : Arm NN(Neural Network)软体框架图

对於处理大量且复杂的DL/ML工作负载的Cortex-A系列,例如智慧手机,则透过Arm NN(Neural Network)软体框架,可在Arm架构的高效能平台轻松构建和运行机器学习应用程序。它往上衔接现有神经网路框架(例如TensorFlow或Caffe)与在嵌入式Linux平台上运行的底层处理硬体(例如CPU、GPU或NPU)。而这正是机器学习、深度学习在边缘装置上进行推论时,需要的解决方案。


效能与功耗的平衡

以Ethos-N78为例,它支援超过90种独特的组态,并允许合作夥伴针对乘加器(MAC)、静态随机存取记忆体(SRAM)进行组态,提供矽晶圆合作夥伴更多弹性,此弹性确保夥伴们可以精细调整他们的设计,以便达成效能、耗电功率与面积间的平衡。此外,Ethos-N78 也可应用於各式各样的装置上,并拥有透明的软体相容性与可携性。


另外,在面积与使用DRAM频宽则更小。与前一代产品相比,面积效率最高达到30%的提升,让合作夥伴得以在更小的矽晶片面积上达成更好的效率。矽晶片面积虽然是重要的成本度量,但动态随机存取记忆体(DRAM)的频宽,同样也是电子系统中珍贵的资源。Ethos-N78的设计让它使用特别少的DRAM频宽,每个推论(inference)消耗的DRAM数据最多可以减少40%,让我们的夥伴得以用更少的记忆体实作ML,进一步降低系统的耗电与成本。这样的运算硬体架构允许在软体的应用内广泛使用ML,同时能确保长的电池续航时间。


相关文章
走得对比走得快更重要 逐步踏实打造智慧制造系统
端点AI -- 迈向一兆个智慧端点之路
需求逐步到位 边缘运算重要性与日俱增
工业边缘的机器学习和智慧视觉愿景
神经处理/运算为边缘带来实时决策
comments powered by Disqus
相关讨论
  相关新闻
» 5G专网智慧医疗场域验证防疫与创新成效
» 推动远距健康照护服务不容缓 运用科技创新力解决痛点
» 落实智慧便民服务成效 里办数位基础建设先启动
» 数位科技协助医疗保健更精准有效
» IEK Consulting:CES 2021聚焦於後疫新常态之创新应用 「数位转型」为2021趋势关键
  相关产品
» 宸曜推出新款IGT-30系列工业等级物联网闸道器
» Digi-Key宣布推出供应商主导的KiCad资料库
» Canon全方位智慧商务解决方案聚焦企业转型未来
» 红帽开放原始码技术协助乐天行动网路公司端对端云原生行动网路
» Marvell革新边缘资料中心交换技术

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw