账号:
密码:
CTIMES / 文章 /   
选择边缘AI装置的重要关键
 

【作者: Toby Mcclean】2021年06月07日 星期一

浏览人次:【1116】
  

边缘运算已成为最广受讨论的科技趋势之一,因此,您可能也开始思考该为物联网投资智慧边缘技术了。然而,在确认采购边缘装置之前,让我们先了解一下,边缘运算到底是什麽、我们需要它来做什麽,以及探讨您的应用真的能因边缘技术而受惠吗?


虽然边缘运算能够为物联网系统增添相当大的弹性、速度与智慧能力,但边缘AI 装置并非智慧网路应用面临所有挑战时的万灵丹。本文将讨论说明,当买家在评估购买边缘AI装置时,应首要考量的功能与思考关键。


何谓边缘运算?

边缘运算让物联网更上一层楼,换句话说,边缘运算能够让原始资料即时的在边缘装置中转化出它的价值。藉由重新分配整个网路的资料运算工作,它可提升所有节点、终端与其他智慧装置之重要性与管理方式。


边缘运算与云端运算几??背道而驰。云端运算让资料从分散的网路流向集中式的资料中心,进行运算之後再将运算结果传回原来的分散网路,以触发某项行动或影响某种改变。然而长距离传输大量资料牵涉到许多成本,有些可以用金钱衡量,还有一些是关键的用电或时间成本问题。


当用电、频宽、网路延迟等问题真的面临挑战之时,边缘运算可能就是解药。不同於云端运算集中处理的模式,资料可能从数百英哩以外的地方来,边缘运算在网路边缘感测、产生或驻留之处实现资料运算。这意味着网路延迟问题几??可解,电力与频宽需求也大为降低。


促成当今边缘运算的主要功臣之一为半导体制造业者,半导体的进步使得晶片运算能力增加,耗电却未大幅增加。这意味着位处边缘的处理器可以利用所获取的资料发挥更多的功能,却不增加用电。如此更多资料就可以留在网路边缘,无需送回核心。除了为整个系统节省电力使用,边缘运算还可增加反应时间并改善资料的隐私性。


因此获益的科技还有人工智慧(AI)和机器学习(ML),AI和ML同样要仰赖降低资料取得成本和增强资料隐私的性能。在成本和隐私两件事上,边缘运算都兼顾了。就AI和ML等新兴科技而言,过去需要巨大资源才能成事,往往不是终端或智慧型装置能够负担。如今,由於软硬体技术的进步,已经可以在位处网路边缘之较小型、资源较有限的装置上实现。


评估边缘AI

选择一个能够执行可能包括执行AI演算法或ML推理引擎边缘处理的平台,需要仔细评估。从一般的感测器或致动器,到物联网的感测器与致动器,都可以使用比较适中的整合装置来实现。欲增加边缘执行的运算量,则需要更强大的平台,譬如使用高度平行架构。这通常意味着使用一颗GPU进行平行运算,但如果平台功能太强大,也会造成资源有限网路边缘的负担。


由於边缘装置基本上就是与真实世界的交界处,因此可能需要一些常见的介面技术支援,例如乙太网路、GPIO、CAN、序列接囗及(或)USB,也可能需要相机、键盘、显示器之类的周边设备支援。


异於一般资料中心机房处於不怕风、不怕雨的舒适环境,边缘环境非常的多元。边缘装置可能暴露在极端的温度、湿度、震动、 甚至海拔条件,这对选用的装置将造成冲击,也影响到装置如何包装、机壳如何打造。


另一个需要考量的重要方面是法规要求。任何使用无线频率(RF)进行通讯的装置都受到法律的规范,并可能需要取得许可才可以操作,有些平台在出厂前即考虑到这些,因此可以「开箱即用」,有些买来则还要费些力气取得许可。一旦上线运转,就很难再获得硬体升级,因此在设计阶段就必须谨慎决定需要的运算能力、记忆体和储存能力,以方便未来可能的扩充需求。


不同於硬体,软体升级可以在装置上线後才部署,现在空中编程更新(over the air updates;OTA)十分普遍,未来可能所有边缘装置在设计时,便需纳入OTA支援。


选择正确的解决方案,需细心考量上述重点,并且仔细了解应用的个别要求。这项装置需要处理视讯或音讯资料吗?还是只需处理温度?需要兼顾其他环境面向吗?需要时常开机备用、还是会有长时间休眠吗?会被外在事件触发吗?这些问题适用所有部署在边缘的技术,往往当运算水平提升的同时,对结果的期待和需求也会随之而来。


边缘运算的优势

如今技术上已可以做到同时将AI和ML置入边缘装置和智慧节点。这意味运算引擎距离资料来源更近,能更快利用所收集之资料来处理更多的事。


这麽做极具意义及进展。首先,边缘运算可以增加生产率或资料被利用的效率。其次,因为不需要再搬运那麽多资料,边缘运算可简化网路架构。第三,资料中心的距离远近就不再那麽重要。如果资料中心位於市区且离行动地点很近,那也许没甚麽问题,但对於位处偏远的网路边缘系统就大大不同了,例如农场或是污水处理厂。


无可否认,网路传送资料的速度非常快。许多人可能会觉得非常惊讶,当在网路上输入搜寻直到搜寻结果呈现在的萤幕上,搜寻的问题可能已经跑地球两圈了!搜寻所需要的时间可能只有几分之一秒,对我们来说,这几??是瞬时的,但对於构成智慧物联网的机器或其他装置而言,许多是智慧型、自动化的感测器和致动器,每一分之一秒的感觉都像一个小时之久。


这种往返的旅程延迟正是即时系统地制造商和开发人员所真正关切的。数据往返资料中心所花的时间并非无所谓,也因此不能称之为即时。边缘运算的主要目标就是要降低这种延迟。边缘运算配合更加快速的网路一起工作,5G也扮演了一角。但因为更多装置又上线了,更快速的网路登场也无法弥补累积的网路延迟。


分析师预测到2030年以前,将可能有高达500亿个装置连结在网路上。如果每个装置都需要大频宽通往资料中心,网路将会塞到天荒地老。如果这些装置当中有许多是在流水线上操作,等着资料从上一个阶段 下来,耽搁的时间加起来便很可观。边缘运算可说是解除网路壅塞的唯一可行之道。


虽然总体而言,边缘运算的需求明确,但边缘运算所能达到的具体好处,主要还是要视应用而定。说到这,就是边缘运算四法则派上用场之时了。这些法则可帮助工程团队评估,边缘运算对个别的应用而言是否为正确的选择。


边缘运算4法则

第一条法则是物理法则,是无法改变的。无线电波以光速前进,光纤网路中的光子亦然,这是好消息。但坏消息是它们不可能更快了。因此,如果资料往返还是不够快,那边缘运算可能就是正确的选择。


Ping是一种用来检测封包速度的简单工具,可测量资料封包在网路连结的两端传输所花费的时间。线上游戏主机通常不只一部,玩家会用Ping测试每一部伺服器,直到找到延迟时间最短的那一部主机,最短延迟意即资料在网路上传输最快的速度。这证明对於时间敏感的资料而言,每一瞬间都是致胜关键。


延迟也不全然因传输机制而起,在每一个端点都有编码器和解码器,实体层需要将电子转换成正在使用的能量形式,然後再转换回来。这些都需要时间,即便使用 GHz 速度等级的处理器,时间还是有限的,速度还是要视正在搬运的资料量而定。


第二条法则是经济法则。这条法则可能稍微有弹性,但随着对运算和储存资料的需求飞升,它也是变得较不可预测。利润总是微薄的,但如果云端处理资料成本突然上升,经济法则便证明了赚赔之间的差别。


云端服务之成本就从购买或租用伺服器开始,伺服器可能是机架式伺服器(Rack)或刀锋伺服器(Blade)。价格不一而足,视使用的CPU数量、记忆体容量、是否需进行永久性储存以及服务等级而定。有保障正常运转时间会比没有保障来得贵。网路频宽基本上是免费的,但如果所需的频宽有最小限制,便应预期付费,这在评估成本时需列入考量。


也就是说,在网路边缘处理资料并非受这类变动成本支配。一旦投入设备开办费,於边缘处理任何数量资料之额外成本几??是零。


资料的价值在於它意味或代表某样东西。 这就突显了第三法则的重要性━领土法则。任何获取资讯之人现在都受到资料获取地之隐私法规范,意即如果是该取得资料装置之法定拥有人,可能不被允许将资料移出边境。


相关法规例如欧盟个人资料保护指令(EU Data Protection Directive)、一般资料保护规范 (GDPR)及亚太经济合作会议隐私纲领(APEC Privacy Framework)。加拿大的联邦个人资料保护及电子文件法(Personal Information Protection and Electronic Documents Act)遵照欧盟资料保护法规,美国的安全港原则(Safe Harbour Arrangement)亦然。


边缘运算可以克服这点。在边缘处理资料,并不需要将资料移出装置。资料隐私对於可携式消费电子装置愈来愈重要;行动手机之人脸辨识使用本机AI 处理相机影像,资料也就不会离开装置。对於CCTV和其他安全监视系统也是如此。公共场所使用监控摄影镜头,通常意味着影像会被转移到云端资料伺服器进行处理,这有隐私疑虑。直接在相机处理资料会更快速且更安全,可能就无需采用或简化资料隐私保护措施。


最後,我们需要考虑莫非定律,这定律是说,如果有什麽事可能出错,那就会出错。当然,永远都有事情会出错,即便是全世界最小心设计的系统还是会有出错的可能。边缘运算把许多可能出错的点拿掉,这些可能出错的点与网路上的资料搬移、云端储存及对资料中心主机运算能力的仰赖有关。


厘清边缘运算的问题

如果一项应用在技术上可受益於边缘运算,还是会有很多问题需要厘清。以下简单列出最相关的问题:














































序号



需要厘清边缘运算的问题集




1




您的应用会在哪一种处理器架构上执行?


将软体移出到不同的指令集所费不赀且可能造成延迟,所以往上走不代表要向外移。




2



您需要使用那些I/O


有可能是任何数量的有线和/或无线介面,事後盘点永远不够,需预先规划。




3



运作环境如何?


是极端热、极端冷还是冷热交锋?譬如火星任务便是一个好的但也许极端的例子,这说明「边缘运算」所处环境变化可以有多大!




4



您的硬体需要符合哪些规范或需要认证吗?


答案几??肯定「是」。所以选购预先取得认证的平台可以节省时间和金钱。




5



您的应用需要多少功耗?


以设备价格和安装费用而言,系统供电是不便宜的。所以知道多少才「够」是相当有益的。




6



边缘装置是否会受制於某些尺寸型态因素


这点对边缘运算而言尤为重要,所以需要在设计阶段就考虑进去。



7



运行使用时间是多久?是需要运转许多年的工业应用?或是生命周期以月衡量?




8



系统处理效能需求为何?影像每秒帧数多少?记忆体需求如何?应用程式语言为何?




9



有价格考量吗?


这明知故问,因为答案一定是「肯定的」,但知道价格上限对於选购过程还是有帮助的。



结论

边缘运算不仅是由物联网所实现,也是人们对先前的连结装置有更高的期待所致。在低层次问题上不离其宗,装置需要低耗能、低成本,但现在还赋予更高层次的智慧操作却不致与功耗和成本产生冲突。


(本文作者Toby Mcclean为凌华科技AIoT技术与创新??总裁)


相关文章
收集模型测试覆盖程度度量资料的理由
由压力及应变管理提升高精度倾斜/角度感测性能
创新设计推动电动汽车增长
新型状态监测应用部署预测性维护功能
人机介面4.0的未来主流
comments powered by Disqus
相关讨论
  相关新品
EM500EV 测试/开发板
原厂/品牌:集博
供应商:集博
產品類別:IDE
  相关新闻
» 3DEXPERIENCE平台协同数位产研行销 实威7月29日举行线上发表会
» TMUxBE比翼与北医生医加速器计画促进新创临床合作机会
» 趋势与GSMA Intelligence揭露5G专网商机 近半电信业者无力补漏洞
» 云端化加快数位转型 SolidWorks提供弹性完整解决方案
» TrendForce:Graphics DRAM市场货况短缺 预估价格续涨
  相关产品
» 企业管理远距、零接触、可追踪 震旦云六大方案助推防疫
» 凌华科技推出支援Thunderbolt 3的可携式PXI Express机箱
» TYAN发布伺服器及主机板支援第二代Intel Xeon
» 大联大品隹集团推出240W电竞笔记型电脑变压器解决方案
» JIUN推出新款云端医学影像管理系统

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw