机器学习和深度学习网路提供更新、更可靠的方法，来分析来自於现场的资料，更能大幅提升产品价值。Deep Edge AI 使演算法的规模不断缩小，得以在感应器端进行运算。在智慧装置之数量呈现指数级成长的同时，需要经过最隹化处理，以便为市场（如工业4.0、消费性产品、建筑管理、医疗保健和农业等领域）带来更多价值。

然而，对於人工智慧／机器学习（AI／ML）的资料科学家来说，将其模型移植到嵌入式系统具有很大的挑战性，因为嵌入式系统在运算、记忆体和功耗方面受到一定限制。微控制器可与嵌入式应用完美搭配，因为它们专为特定的市场区隔而生，具有低功耗和开发速度快等特点，绝对物超所值。尽管如此，相较於大型应用处理器，在Cortex-M上进行开发时需要完全不同的嵌入式开发技能。

为了帮助企业在最短时间内设计出最隹产品，意法半导体提供一个全面的AI生态系统，其包括硬体、软体开发工具以及STM32微控制器和微处理器上所执行的范例程式。这些范例可以快速衍生以实现新的功能，这些工具支援针对机器学习模型与类神经网路上，进行测试、benchmark以及移植进嵌入式系统。

图一 : STM32Cube.AI扩充套件

STM32Cube.AI是广泛使用之STM32CubeMX配置与程式生成工具的扩充包，可在基於 STM32 Arm Cortex-M 的微控制器上启动AI功能。使用者将受益於STM32CubeMX的特性，例如所有 STM32 基板的程式产生，以及可在不同作业系统（Windows、Linux或Mac OS）上与IAR Embedded Workbench、MDK-ARM以及STM32CubeIDE（GCC 编译器）相容。

透过叁数限制的动态验证，得以自动配置周边设备和中介软体，并透过最隹叁数和动态验证实现自动初始化，进而自动配置clock tree。

STM32Cube整合STM32Cube.AI让使用者能够更有效率地在各个STM32微控制器系列产品之间移植模型，并在STM32产品组合之间轻松迁移。

该扩充套件扩充了STM32CubeMX的功能，可自动转换预训练的AI演算法，将产生最隹化函式库，并自动整合到专案中，而不是透过人工手动而产生，还能支援将深度学习解决方案嵌入到STM32 微控制器多元的产品组合中，为每个产品增加新的智慧功能。

STM32Cube.AI原生支援各种深度学习框架，如Keras、TensorFlow Lite、ConvNetJs，并支援可导出为ONNX标准格式的所有框架，如PyTorch、Microsoft Cognitive Toolkit、MATLAB等。

此外，STM32Cube.AI更支援来自广泛机器学习开源库Scikit-Learn的标准机器学习演算法，如Isolation Forest、Support Vector Machine (SVM)、K-Means。

图二 : STM32Cube.AI使用流程

图三 : STM32Cube.AI使用介面 － 选择MCU

实际上，使用者只需在STM32CubeMX中载入一个预训练模型，接着选择一个AI runtime，STM32Cube.AI便可自动分析该模型，并显示储存和运行模型所需的最小记忆体空间。然後，使用者可在相容的 STM32 装置列表中选择适合之专案需求的STM32微控制器。

选定了合适的微控制器後，就可为该微控制器建立一个专案，亦可直接选择适当的MCU或开发板，开发板上的配置将会自动设定完成。使用者可以选择一个或多个AI／ML模型，并透过能够评估整体模型复杂度、记忆体和快闪记忆体占用空间的工具进行分析。更能将模型可视化，并显示模型每一层的复杂性，其中Keras 和 TensorFlow Lite神经网路支援8-bit量化模型，还可以使用客制化层，以新增包含使用者定义层的模型并进行评测。

STM32Cube.AI有助於模型最隹化，所以更大的网路也能移植到微控制器上。图形化介面针对程式码中所用buffer提供全面的视角，并包含几个最隹化选项（例如输入／输出buffer和启动buffer之间重叠的记忆体位置），以便将模型所需的记忆体空间减至最低。

图四 : STM32Cube.AI使用介面 － 每层记忆体用量可视化

STM32Cube.AI支援使用外部记忆体，允许在不同的储存区之间轻松分配权重。举例来说，一旦模型储存在多个阵列中，可以将模型权重的一部分对应到内部，将其他部分分配到外部快闪记忆体中，将buffer对应到外部记忆体中。

该工具旨在加快开发速度，并使开发人员能够在电脑上验证模型以进行快速验证，以及在装置上验证模型以测量最终模型效能（包括量化的影响）。在验证过程的最後，一个对照表总结了原始模型与STM32模型的精度和误差，并提供每层的复杂性报告和程式执行时所测得的推论时间。

神经网路编译器提供最隹化程式，同时提升效率，并减少了占用的记忆体。为在 STM32运作得宜，在选定所有设定後，STM32Cube.AI会生成一个应用模板，可以直接与使用者首选IDE 上的应用进行整合。AI应用可使用所有 STM32 开发工具（如 STM32CubeMX、STM32CubeMonitor、STM32CubeMonPower、STM32CubeMonRF、STM32CubeMonUCPD）和诸多合作夥伴的工具。

对於希??拥有一个跨专案通用框架的开发人员，STM32Cube.AI还支援TensorFlow Lite runtime。可以从使用者介面中选择它作为 STM32Cube.AI runtime的替代方案，但可能会降低效能。

使用STM32Cube.AI，可确保高品质开发所需的长期支援和可靠性，更确保能与最新AI框架相容。该工具既能作为图形使用者介面，也可以作为命令列，以能够轻松整合到DevOps流程中，以确保 AI 专案定期得到验证。甚至可以构建一个带有部署後检查功能的AutoML 机制，利用分析和验证功能得以辨识、修正该模型适用於目标的记忆体空间、推论时间和准确率。

模型还可以在应用现场中持续更新，因为函式库可以部署成relocatable的模型。因此无需执行完整的韧体升级即可轻松更新模型拓扑和权重。简化了产品更新流程，并透过无线模型更新（或局部 FOTA）确保 Deep Edge AI 与应用现场中观察到的变化保持一致，或直接透过模型／软体更新升级新功能。STM32Cube.AI仅是意法半导体广泛生态系统的一部分，让使用者可在STM32上使用 AI 功能。