边缘运算是一种分布式运算的概念,它可将智能整合到边缘设备(或称为边缘节点),并允许在数据收集来源附近即时处理并分析数据。在边缘运算中,数据不需要直接上传到云或集中数据处理系统。
图一 : 边缘运算目的是减少集中远端位置执行的运算量,进而最大限度地减少异地用户端和伺服器之间所必须产生的数据传输量。 |
|
目前大多数企业都是在集中式的储存设备上,来进行资料的储存、管理和分析等作业,这些储存设备通常在公共云或私有云环境中。但是,传统的基础架构和云端运算不再能够满足许多实际应用程序的要求。例如,在物联网(IoT)和万物互联(IoE)的情况下,需要具有最小延迟的高可用性网络来即时处理大量数据,这在传统IT基础设施上是不可能达到的,而这也使得边缘运算的优点变得更加明显。
边缘运算的特点
在边缘运算中,数据在数据收集来源附近处理,因此不再需要将数据传输到云或本地数据中心进行处理和分析。这种方法将减轻网路和伺服器上的负载。由于这种即时处理数据的能力及其更快的响应时间,使得边缘运算在物联网领域,特别是工业物联网(IIoT)中具有很高的应用性。除了能够加速工业和制造业的数位化转型之外,边缘运算技术还可以实现包括人工智慧和机器学习在内的更多创新。
图二 : AI的应用需求明确,许多原先由云端运算的产品都纷纷转向终端运算处理。 |
|
云端运算和边缘运算之间的主要区别,在于集中式运算环境。在云端运算中,数据在集中位置被收集、处理和分析。至于边缘运算则是应用于分散式运算环境。在云解决方案中无需选择云端运算和边缘运算,它们不会相互竞争,它们只是彼此在互补中运作,共同为应用程序提供更好的性能。
加速互联网之关键
基本上,边缘运算是一种网路运算架构,运算过程尽可能靠近资料来源以减少延迟和频宽的使用。其目的是减少集中远端位置(即云)中执行的运算量,进而最大限度地减少异地用户端和伺服器之间所必须产生的数据传输量。近年来,由于技术的快速发展,使得硬体趋向小型化、高密度,加上软体的虚拟化技术,使得边缘运算的实用性更加可行。
网路边缘的线上设备数量正迅速增加当中,这些设备将会产生大量数据资料(例如智慧工厂或城市的物联网设备),也消耗大量资料频宽(例如使用5G手机查看4K影像或VR游戏装置等),或两者同时发生(如自动驾车就需要同时产生大量数据资料,并耗用大量频宽)。若采用传统的云端运算模型,将要求所有这些资料被传输回中央的资料中心进行处理,然后再传输回使用者设备,这将使得对于网路频宽的需求被推到极限。
图三 : 边缘运算将计算和储存能力带到网路边缘。由此看来,边缘运算也是加速互联网的主要关键。 |
|
尽管网路技术有所改进,但资料中心无法保证过程中传输速率和回应时间是可接受的,然而这可能是许多应用的关键需求。因此,边缘运算将计算和储存能力带到网路边缘,在实体或地理位置上尽可能接近终端设备,减少网路频宽使用和延迟,并缩短回应时间。由此看来,边缘运算也将是加速互联网的主要关键。
使AI运作更有效率
在资料统整与云端数据搜集时,边缘运算可以发挥很大的功用。与云端运算不同的是,边缘运算是位于最接近资料来源的小型计算中心,主要功能在于收集、储存、过滤、撷取、简单的运算,并将处理过的资料与云端系统进行有效率的交换,使系统变得更加即时、弹性且具有效率。
随着AI的发展越趋成熟,硬体晶片的品质提升不少,让过去只能作为「接收」功能的端口也能用于协助运算,这将使AI运作更有效率,像是自动煞车系统、智慧音箱等,都是边缘运算下的产物。继云端(Cloud)与物联网(IoT)兴起后,物联网与云端间的中继站,如物联网闸道器(IoT Gateway),也从过往的单纯资料汇整、转传工作外,被赋予更多的任务与期许,这些应用都促使了边缘运算(Edge Computing)概念的兴起。
AI运算渐向终端转移
2017年是AI元年,各公司都大力布局AI技术。 2019年AI的应用需求更是明确,许多原先由云端运算的产品都纷纷转向终端运算处理。连网设备现在为了解决网路频宽有限、通讯延迟、缺乏网路覆盖、资料隐私与机密等需求,对终端AI运算能力的需求多过于云端运算。除了演算法和大资料,作为AI的三大要素之一,运算能力也变得非常重要。目前各大晶片厂商都在开发各自的AI边缘运算晶片,将AI运算从云端逐渐向终端转移,这也使得边缘运算的需求将会大增。
工研院综合预测边缘端与装置端AI晶片市场规模,2017年为793百万美元,2025年为51,623百万美元,年复合成长率高达68.5%。估计2025年,前三大的Edge AI产品分别为:智慧手机、智慧音箱、抬头显示设备(AR/VR/MR)。而成长最快速的产品,则是消费型与企业用机器人及安全监控摄影机。
在特定领域的专用人工智慧系统,由于应用背景需求明确、深厚之领域知识、模型建立计算简单可行,在单项测试之智慧水准已可超越人类智慧,目前在许多领域已取得具体成效。技术挑战则在于:发展低能耗、高准确率的认知计算,包括新型运算架构电路设计、演算法等。未来人工智慧晶片是特定的演算法加速器,来加速包括卷积神经网路(Convolution Neural Network)、递回神经网路(Recursive Neural Network)在内的各种神经网路演算法,专用晶片的最大优势在于其成本和功耗降低,可大幅提升人工智慧演算法运行效率。
雾端边缘运算与云平台协作
随着全球物联网市场发展,根据Zion market研究机构预测联网装置,从2017年到2024年将以每年23%复合成长率爆增,整体成长将近4倍的数量,由这些各式各样感测装置中所搜集而来的数据,除了量以指数形式快速生成外,在质的方面,资料即时推论与快速分析处理,也越来越受到新型态物联网应用的重视,为因应以上需求,新一代物联网架构开始采用雾端边缘运算,并与云平台协作以满足企业、政府或各式垂直领域需求。
再加上近年来人工智慧大举导入终端装置,AI电脑视觉、视讯监控分析等需求市场的快速成长,部份国际大厂,包括:Cisco、IBM、ARM、Dell、Intel等,已察觉现有云端连线频宽所造成的延迟、资料传输上的电力消耗、网路连线的稳定可靠、以及资料交换的安全性与隐私性等问题,期望将应用程式、数据资料与服务的运算,能由边缘设备来加快资料处理与即时反应,进而纷纷推动「AI」加上「边缘运算」的解决方案,并陆续组成国际联盟,投入边雾运算相关设备与产品的研发。