账号:
密码:
CTIMES / 文章 /   
AI效益发威 边缘人工智慧持续进化
提升效率降低成本

【作者: 盧傑瑞】2022年01月25日 星期二

浏览人次:【2654】
  

虽然人工智慧还是有一些缺点,但在今天仍旧对作业品质和生产力带来重大的影响性。无论是医疗保健、国防,还是电子商务,都可以透过人工智慧系统实现大规模的自动化。


另一方面,在物联网设备市场规模呈现指数级成长背景下,各种的大量数据被产生出来,进而推动了边缘运算技术的发展。边缘运算是云端整体运算系统的重要组成部分,可以将部分的特殊处理和数据储存,从云端系统转移到边缘网络节点,而这些节点在物理基础上,可以合理地就近将数据提供给终端使用者。


这种「终端式」的人工智慧系统,不需要连接到云端执行本地的任务和操作。相反,这些单位都拥有独立处理资料,和做出决定的能力。因此,边缘运算是将人工智慧的力量带到单一的设备上,透过内建的微处理器和感测器来获得和处理数据。


边缘计算+人工智慧=边缘人工智慧

伴随着边缘运算、人工智慧和物联网的快速发展,使得各种多个智慧网路间连接技术不断地被开发出来,这也被称为Edge AI、Edge AIoT(Artificial Intelligence of Things),或智慧物联网(图一)。目前,已经有许多企业计画采用边缘运算与人工智慧相结合的方式来提高效率,进而降低生产/服务的整体成本。例如,只要使用设备之间的感测器,或即时视讯传输来获取资料,并提供即时监视能力来预见各种问题,防止因为错误导致代价高昂的损失,或工作场所的伤害。


根据业界推估,目前生产过程中,因为设备的突发性停机所造成的损失,每年约为500亿美元。这也将造成生产能力的降低、出货延误、客户抱怨,以及收入减少。而这时,Edge AI就可以发挥出关键作用。



图一 : 传统的AI应用与Edge AI的比较(资料来源:i Magazine、CTIMES整理)
图一 : 传统的AI应用与Edge AI的比较(资料来源:i Magazine、CTIMES整理)

典型的Edge AI导入趋势

在未来,虽然Edge AI的应用,虽然可以帮助企业减轻网络和其他IT基础设施的负荷,并帮助降低营运成本,但仍需依赖硬体和软体的不断改进来获得更先进的系统。


例如,透过工厂生产线上设备,或连接互联网的摄影系统,可以将即时影像发送给远端的办公室。从单一设备或端点进行数据的传输,以今天的网路技术来说是相当容易的。但是,面对同时传输资料的设备数量增加时,瓶颈挑战就出现了,因为当成千上万组的摄影终端同时进行传输时,不仅影像品质会因为延迟而受到影响,而且维护该传输频宽的成本也会非常高。


不过,现在已经能透过Edge AI克服上述挑战,可以利用设备本身来分析所获得的资料,而不是将资料发送到云端或中央位置,处理完毕之後再分析的结果储存在云端系统後,来产生完整的生产线监控能力,因此利用终端的力量就可使企业更有效地利用剩馀网路资源。此外,在Edge AI的帮助下,工厂设备更可以在现场执行大部分的分析工作,可以大大减少需要通过网络传输的数据,从而降低因为云端运算所产生的成本、提高分析速度,这就是利用Edge AI的主要优势(图二)。



图二 : 在生产线上进行视讯分析系统的简单说明(资料来源:ACSICORP)
图二 : 在生产线上进行视讯分析系统的简单说明(资料来源:ACSICORP)

传统上,视觉运算是人工智慧的一个分支,被归纳为基於云端的IT流程。然而,今天处理系统的能力有显着提高之後,推动了视觉运算模式的改变。特别是影像分类和物体识别等神经网路的使用。对於视觉分析结构来说,系统需要两个主要能力:即时执行和快速矩阵计算,目前主流的手法是采用特定应用的数学演算法模型。


而这个数学演算法模型有两种类型的深度学习演算法,分别为:


●一级检测(基於回归的物体检测器),在这种情况下,仅需一次的检测就能完成。


●两级检测(基於分类的物体检测器),检测则需要以两阶段的方式进行。


边缘人工智慧朝向分散式架构转变

基於上述演算法的计算能力,智慧设备和高风险应用(从扩增/虚拟实境(AR/VR)到无人机应用和自动驾驶)等的新发展,已经使基於云端的人工智慧变得不足。这些即时应用无法承受延迟,必须在高可靠性下运行,即使在网路连接中断的情况下,还是可以持续运作。因此这些新的应用引发了研发人员对分散式、低延迟和可靠的人工智慧的巨大兴趣,推动了数据的处理,从基於云端和集中式学习和分析,朝向边缘人工智慧的重大转变。例如:


●学习资料不均匀地分布在边缘设备的网路上,如网路基地台(BSs)和/或行动设备,包括电话、相机、车辆和无人机等。


●每个边缘设备都能获得极小部分的资料,让学习和分析可以集体进行的。


●每个边缘设备可以相互通讯,并交换学习的模型(例如神经网路),而不是私有数据。


当第一个节点识别出产线上的产品缺陷时,它会将带有标记ID的影像发送到第二个节点,让该节点有提供额外的处理能力。然後,第二个节点的缺陷检测模组被触发後,就会等待并持有GPU资源来进一步处理。如果在处理过程中没有发现缺陷,缺陷检测模组会发送一个触发资讯,中止缺陷跟踪程式,并释放第二节点的GPU资源。在第二个节点的过程中,在缺陷检测其间,在云端伺服器中标记了许可权,可以帮助识别对该节点ID的授权使用者。此时,云端只会向检测到缺陷的各个节点的认证使用者发送消息(图三)。



图三 : 使用多个第一边缘节点、与第二边缘节点和云端的检测流程概念(资料来源:ACSICORP)
图三 : 使用多个第一边缘节点、与第二边缘节点和云端的检测流程概念(资料来源:ACSICORP)

使用Edge AI的一些显着优势是:


●可以在所连接的设备上进行本地执行推理,大幅减少了因为资料发送到云端进行预测,所造成的延迟和成本。


●与其将所有资料都发送到云端执行人工智慧分析,不如直接在设备上进行分析,只有在需要特殊处理时才将资料发送到云端。


●以极低的延迟获得分析结果,对於确保一些关键性物联网路能够快速回应,是一件至关重要的事情。


●与基於云端的人工智慧不同,Edge AI具有隐私保护,训练数据不会记录在云端,而是保存在每个设备中,透过获得和整合其他设备运算数据的更新,来学习全局共享模型。


●对大量使用者所产生的数据样本进行学习,这将有助於实现高精确度,甚至可能包括隐私敏感资讯,如医疗记录、工厂/网路运行状态和定位纪录。


Edge AI的应用优势性

现在我们已经看到了Edge AI解决方案,与传统或基於云的计算系统相比的好处,以下是Edge AI一些常见的现实世界的应用。


音讯分析系统

识别音讯输入和处理其中的数据资料,是当今许多设备的两个关键要求。音讯分析可用於各种目的,例如识别和访问管理(IAM),或手机、高级车中的语音控制。深度学习和Edge AI被应用於降噪设备,以协助系统进行各种声音触发,或失效。人工智慧影响音讯分析的另一个例子是,安装在汽车上的事故预防系统,可以透过视觉运算的影像以及声音(甚至在严重的干扰和背景杂音中)来检测接近的车辆,并采取预防措施来保护车内的人员。


此外,人声分析也是音讯分析的一个重要部分。可以透过人工神经网路和自然语言处理(NLP)工具,在语言和关键字识别方面学习基於边缘运算的AI模型,这一功能对於设备执行语音命令要求是很有用的。除此之外,Edge AI也可以实现文字到语音的转换等应用,反之亦然。当然,Edge AI的音讯分析也常被用於人工智慧驱动的聊天机器人。


车用数据处理

Edge AI技术的另一个应用是车用设备的数据收集。由於随着网联汽车的普及,数据利用也呈现多样化和复杂化,例如,对於行车记录器影像数据的需求将增加、发送到云端中心的通讯成本、云端中心的储存成本等。目前可以透过Edge AI技术来作为解决方案。首先,利用在车内的Edge AI将所拍摄的影像中的物体,并且发送到云端。


例如,将招牌和汽车数量等识别结果,先转换成文字画数据,发送到云端中心。接下来,再依据云端中心的识别结果下,车用设备仅发送真正需要的影像数据(b),可以大幅度降低与数据收集相关的成本,并且可以执行有效的数据收集(图四)。



图四 : Edge AI在车辆上的高效数据收集应用(资料来源:DENSO TEN)
图四 : Edge AI在车辆上的高效数据收集应用(资料来源:DENSO TEN)

智慧能源系统

互联风力发电站等应用可以透过Edge AI进行概念化和无缝运转。一般来说,如果只使用云端运算系统,运行此类系统的成本将高得惊人。相比之下,利用云端-边缘组合系统进行运算操作、数据获取、管理和处理的成本也可以获得较隹的控制。


风力发电站需要基於终端的解决方案,因为在风力涡轮机附近工作的员工,会利用多个监控摄影镜头、存取感测器、生物识别安全感测器等,来让风力发电站顺利地运转。而这些设备和感测器就必须确保能够有效地运转,并以闪电般的速度来处理相关数据。因此,Edge AI解决方案对於降低风能发电系统的成本,以及减少整体处理时间,和使用的频宽量是很有用的。


视觉娱乐系统

Edge AI也被广泛用於涉及AR、VR和MR的视觉娱乐系统。对於这些类型的系统,数据处理和人工智慧分析就必须在本地完成,达到节省时间和成本。众所周知,AR系统需要使用者佩戴虚拟实境或3D的眼镜,以充分享受其视觉上的沉浸式体验。透过边缘运算和人工智慧技术,进行边缘服务器离线处理,来达到小眼镜尺寸的目标。


微软的Hololens就是利用Edge AI和运算技术,应用在AR相关娱乐产品。Hololens包括一个整合全息电脑(Holographic Computer)的可穿戴头盔,让使用者沉醉在AR的世界中。未来甚至将会被应用复杂的游戏、数据分析,和医疗成像上。


智慧音箱和家庭助理

诸如亚马逊的Alexa和Google Home这样的智慧家庭助手,在当今依赖人工智慧的世界里很流行。这类设备和系统也是利用Edge AI来提升速度和数据传输,使智慧家居的概念变得更实用化。


结语

人工智慧对於任何一种数位操作来说几??是完美的。Edge AI采用人工智慧的概念,并在几种不同的方式下改进技术,来达到下一个进化阶段,相信Edge AI的应用将会比现在更加普遍。


相关文章
异质架构与AI正加速云端边缘运算的发展
聪明部署边缘节点 实现灵活工业运行环境
COM-HPC全新规格 满足边缘运算市场的高阶需求
云原生:边缘云端储存弹性化
2021最失望与2022最期待的五大科技
comments powered by Disqus
相关讨论
  相关新品
EM500EV 测试/开发板
原厂/品牌:集博
供应商:集博
產品類別:IDE
  相关新闻
» 移远通信与英伟达完成联调加速AIoT应用开发
» 趋势科技荣获Computex 2022 Best Choice Award 克服资安及人力不足
» COMPUTEX 2022实体展重磅回归 开启数位新契机
» 优化个资保护机制 健保署举办廉政指引研讨会
» 铨??国际获AWS MSP合作夥伴满分认证 把关企业云上资安
  相关产品
» NetApp为分布式工作环境提供云桌面即服务解决方案
» 讯连全新PowerDVD 22打造剧院规格影音体验
» 圆刚推出首款企业级4K网路摄影机 Intel显示卡优化效能
» 控创新款COM-HPC伺服器级电脑模组适用於高阶边缘运算
» Vertiv新款浸没式液冷创新方案适於高密度资料中心和边缘应用

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2022 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw