随着AIoT架构不断的扩展，再加上AI技术的持续成熟，边缘运算结合人工智慧技术的「边缘AI」开始成为市场的新宠，为边缘运算技术带来新一波的动能，而IPC更扮演着至关重要的角色。

对工业与商业的应用场景来说，能够在「边缘」执行即时与自动化的动作，不仅有助於提升整体的运作流程、降低中央与云端单元处理的压力，同时也有助於提升第一线人员的使用体验，也因此「边缘运算」在这几年持续在多个垂直市场中展露头角，尤其是在疫情之後，无人化的自动控制更成为显学，更让边缘运算成为自动控制的主流技术。

而随着AIoT架构不断的扩展，再加上AI技术的持续成熟，边缘运算结合人工智慧技术的「边缘AI」开始成为市场的新宠，为边缘运算技术带来新一波的动能，而IPC更扮演着至关重要的角色。

边缘AI的关键技术与特色

顾名思义，边缘AI是指在边缘计算环境中导入人工智慧技术。而边缘AI使用的AI技术主要包括以下几种：

●机器学习：机器学习是AI的核心技术，它可以让计算机从数据中学习并做出预测。边缘AI使用机器学习技术来训练模型，以便能够在边缘设备上进行实时推理和决策。

●深度学习：深度学习是机器学习的一个子集，它使用人工神经网路来学习数据中的复杂模式，尤其是在图片的辨识方面。边缘AI使用深度学习技术来提高模型的准确性和性能。

●电脑视觉：电脑视觉是AI的一个应用，它可以让电脑理解和分析图像和影片。通常边缘AI会使用电脑视觉技术来识别物体、追踪运动和检测异常。

●自然语言处理：自生成式AI崛起後，自然语言处理就变成是AI应用必须具备的一个技术，它可以让电脑理解和生成人类语言。而边缘AI使用自然语言处理技术来进行语音识别、机器翻译和文本分析。

智慧化可说是自动控制的最终完成式，因此目前的边缘运算几??都已开始支援AI技术。相较於传统的边缘运算，具备人工智慧技术的边缘AI，能在边缘设备上实现实时推理和决策的能力，进而让边缘设备更加智慧。

传统的边缘运算主要侧重於数据的收集、处理和传输，并没有进行智慧化分析。因此，传统的边缘运算只能完成一些简单的任务，例如数据过滤、压缩和转发等。

但边缘AI在传统边缘运算的基础上，导入了机器学习、深度学习等AI技术，使边缘设备能够从数据中学习，并做出分析判断。因此，边缘AI可以完成一些更复杂的任务，例如实时推理、本地决策、降低延迟、与提高安全性等优势。

图一 : 边缘AI在传统边缘运算的基础上，导入了机器学习、深度学习等AI技术，使边缘设备能够从数据中学习，并做出分析判断。

IPC扮要角 边缘AI整合自动化设备潜力大

而要实现边缘AI，采用具备与支援AI技术的运算设备则是必要的途径。对此，边缘运算的相关供应商也推出了一系列具备人工智慧技术的嵌入式工业电脑（IPC），这些设备最大的特色，就是具备了支援AI技术的软硬体。

有了边缘AI之後，目前的自动化设备应用也将会获得大幅的性能提升，因为边缘AI可以为自动化设备提供实时数据分析和决策能力，使自动化设备能够更智能地感知、分析和响应周围环境。

边缘AI整合自动化设备的主要优势包括：提高自动化设备的效率和准确性、强化自动化设备的灵活性和可靠性、降低自动化设备的成本。例如富士康就运用边缘AI技术来提高生产效率，他们透过在生产线上部署边缘AI设备，对生产设备的运行数据进行分析，帮助生产设备优化运行叁数，提高生产效率。

而支援AI技术的IPC在硬体规格上，通常在以下的关键元件上做考量:

●晶片组：要支援AI技术，IPC通常采用高效能的晶片组，例如Intel Xeon、AMD EPYC、NVIDIA Jetson等。这些晶片组除了有较高的运算能力和记忆体频宽，也针对AI模型的运算有优化的设计。

●运算架构：支援AI技术的IPC通常采用CPU、GPU、FPGA等多种运算架构的组合。CPU具有较强的通用性，可以满足多种AI模型的运算需求；GPU具有较高的浮点运算能力，适合处理深度学习模型；FPGA具有较高的可配置性，可以针对特定AI模型进行优化。

●记忆体：支援AI技术的IPC通常具有较大的记忆体容量，以满足AI模型对记忆体的需求。

●储存：支援AI技术的IPC通常采用高速储存介面，例如NVMe SSD，以提高AI模型的读写速度。

●散热：支援AI技术的IPC通常具有良好的散热性能，以确保AI模型的稳定运行。

图二 : 边缘AI的应用场景非常广泛，从传统的工业领域横跨到商业运用，以及目前热门的智慧城市和智慧医疗等，都有导入边缘AI的机会。

智慧城市潜力大 边缘AI将无所不在

边缘AI的应用场景非常广泛，从传统的工业领域横跨到商业运用，以及目前热门的智慧城市和智慧医疗等，都有导入边缘AI的机会。以工业自动化为例，边缘AI可以用於提高工业生产的效率和安全性。像是用於检测产品缺陷、监控机器运行状况和预测设备故障。至於智慧医疗方面，边缘AI可以用於改善医疗保健的质量和效率，像是协助医生诊断疾病、监控患者状况和提供个性化治疗。

至於智慧城市，可以说是目前最受注目的边缘AI应用场域。在智慧城市中，具备AI功能的IPC可以作为边缘运算的节点，部署在城市的各个角落，收集和处理来自各种感测器的数据，并将数据传输到云端进行分析。具体的应用场域包含：

●智慧交通：边缘AI可以应用於交通控制系统、车载信息系统、智慧停车等领域，实现交通信息的实时收集、分析和处理，提高交通效率和安全。

●智慧安防：用於影像监控、人脸识别、公共安全等领域，实现城市安全状况的实时监控和预警，提升城市安全。

●智慧能源：用於智慧电网、智慧水网、智慧气网等领域，实现能源的智能化生产、分配和使用，提高能源利用效率。

不过除了AI功能之外，布置在智慧城市里的IPC还需要有坚固耐用、高可靠性、低功耗与高安全性的特性。因为这些IPC通常设置於户外或恶劣环境中，因此需要具有坚固耐用的外壳和结构，能够抵御灰尘、湿气、震动和温度变化等环境因素。另外，也需要24 小时不间断的运行，而且会涉及收集和处理敏感数据，因此需要具有高安全性与可靠度，才能防止数据泄露与提升公共安全。

当然，针对不同的应用场景与系统，IPC厂商在边缘AI应用上也提供了一系列技术和解决方案，以满足不同边缘AI应用需求。这些平台包括嵌入式系统、工业平板电脑、与工业伺服器，以分别对应空间受限的紧凑尺寸、坚固耐用的结构、与高性能和可扩展性的应用。

图三 : 边缘AI用於影像监控、人脸识别、公共安全等领域，实现城市安全状况的实时监控和预警，提升城市安全。

後市可期 边缘AI成长备受注目

根据 Markets and Markets的报告，全球边缘AI市场规模，预计将从 2022 年的 26.2 亿美元，成长到 2027 年的 75.2 亿美元，复合年增长率（CAGR）为惊人的 19.85%。

该报告也指出，边缘AI市场的成长主要得益於物联网（IoT）设备的快速增加，以及对即时性和安全性要求的提高，另一方面，云端运算的发展，也为边缘AI提供了基础设施的支持，进而推动了边缘AI的发展和应用。

该报告还指出，在边缘AI市场中，硬体将占据主导地位。预计到 2027 年，全球边缘AI硬体市场规模将达到 56.8 亿美元。

另一个研究机构 Grand View Research也指出，全球边缘AI市场规模预计将从 2022 年的 26.7 亿美元，成长到 2028 年的 142.8 亿美元，复合年增长率 (CAGR) 是更为惊人的 32.8%。

其主要的成长趋势为对数据隐私和安全的日益关注，以及人工智慧和机器学习 技术的进步，另外5G 网路的普及也有助於提升边缘AI在低延迟与高频宽应用的发展。不过与前者不同之处，他们认为软体和服务会占据主导地位，预计到 2028 年，全球边缘AI软体和服务市场规模将达到 86 亿美元。

总体而言，在生成式AI推波助澜之下，以及智慧城市、智慧城市、智慧医疗等应用的加持，未来3-5年之内边缘AI市场仍将处於快速发展期，并保持高速的成长。