使用擅长学习、处理、分类序列资料的长短期记忆（LSTM）网路，建立输出从车辆引擎所产生的氮氧化物（NO_X）的模型，藉由使用MATLAB和深度学习工具箱建立LSTM，并训练出预测NO_X排放的模型网路，让新一代零排放车辆的开发技术能达到高度准确率。

雷诺（Renault）汽车现正积极地开发新一代零排放车辆（zero-emissions vehicles；ZEVs）的技术，同时，也在努力希望使内燃机（internal combustion engine；ICE）车辆更干净、更有效率。减少有害物质的排放是其中一项重点项目。内燃机会产生氮氧化物（oxides of nitrogen；NO_X），导致了烟雾、酸雨、温室气体。为了降低NO_X，需要精确地估计各种引擎操作点的排放–举例来说，各种扭力和引擎速度的组合。

在真实的引擎上进行测试不但昂贵，而且通常很耗时。而传统上，是透过查找表（lookup tables）或氧化（combustion）模型的计算来进行NO_X估计。

不过，这些方法有几个缺点，例如查找表不够精确，而氧化模型也会因为方程式需撷取排放的动态复杂性，使得要建立模型的难度特别高，导致NO_X物理模型的高复杂度，因此很难用于完整的引擎操作范围；而且，这些模型无法在ECU上即时的执行。

我们最近开始使用长短期记忆（long-short-term memory；LSTM）网路来建立从引擎输出NO_X的模型（直接从引擎排放，而不是从后处理（aftertreatment）系统）。

LSTM网路是一种擅长学习、处理、分类序列资料的神经网路，LSTM建立起来比氧化模型容易许多。透过MATLAB，即使本身并不是深度学习的专家，也可以使用MATLAB和深度学习工具箱（Deep Learning Toolbox）建立，并训练出预测NO_X排放的模型网路，准确率几乎高达90%。

LSTM网路模型的设计与训练

除了执行真实引擎的测试，并且取得了训练资料。在测试进行期间，引擎会经过常见的驾驶型态循环，包含全球调和轻型车辆测试循环（Worldwide harmonized Light vehicles Test Cycles；WLTC）和欧盟现行之欧洲驾驶循环（New European Driving Cycle；NEDC），还有实际驾驶排放（Real Driving Emissions；RDE）测试。这些撷取下来的资料将做为模型网路的输入值，包含引擎扭力、引擎速度、冷却剂温度，以及档位的排放。

接着使用MATLAB程式语法来建立简单的LSTM网路。虽然这个初始的网路的组成仅有一个LSTM层、一个整流线性单位函式（rectified linear unit；ReLU）层、一个全连接（fully connected；FC）层、一个回归输出，它的表现却意料之外的好。

不过，我们猜想应可再透过增加更多网路的层数来提升精准度，并小心注意不要让模型网路规模膨胀到可能造成过度拟合（overfitting），或者占据太多ECU记忆体。

接下来，更新MATLAB程式来增加神经网路层数，并且进行几种模型网路的配置探索。由于网路模型尺寸较小，最适网路配置和架构的选择是由人工来进行。采用试误法（trial-and-error method）可以利用系统的物理资产。举例来说，对于具有高度非线性的系统，通常会选择多重ReLU层，而对于热系统，多重LSTM层可能更为适合。

我们选择一个包含单一个LSTM层、三个ReLU层、三个FC层，以及一个回归输出层的网路，此版本的LSTM网路针对NO_X等级预测可以达到85-90%的精确度，相较之下，使用查找表时则仅有60-70%的精确度（图1）。

图1 : 从真实的引擎量测到的NOX排放量（蓝色）和以LSTM网路建构的NOX排放模型（橘色）。

将模型并入系统层级模拟

当有了训练好的LSTM网路，我们让其他雷诺的团队也可以使用这个模型来进行他们的Simulink模拟。其中一个团队将网路合并到模型，把网路内的从引擎输出（engine-out）NO_X层级作为后处理系统的输入。此团队接着执行模拟来衡量后处理系统在各种引擎操作点的NO_X转换效率，透过将LSTMs导入系统模拟，该团队因此可以获得很难透过物理（physical）或经验（empirical）模型取得的资讯。雷诺团队也在模拟时使用LSTM神经网路来评估车上诊断（onboard diagnostics；OBD）系统的表现，以及估算新驾驶循环下的引擎排放量。

图2 : 从利用LSTM网路模型来预测NOX排放等级的成功经验衍伸，可从LSTM网路产生C程式码为概念验证工具。 (source:INDUSTR.com)

后续的深度学习专案计画

此项利用LSTM网路模型来预测NO_X排放等级的成功经验，在雷诺内部已催生了好几个后续的专案计画。其中一项计画，使用MathWorks的顾问服务建立了一套工具，可从LSTM网路产生C程式码来作为概念验证展示，产生的程式码能够将NO_X排放的估计器部署至ECU上，作为OBD系统模拟平台的一部分，这个LSTM可依照排放标准的规范，提供即时、全天候的不良或故障状况侦测。

在进行ECUs的嵌入时，深度神经网路（特别是深度LSTMs）是其中的一大挑战。我们的ECU并不是非常强大的电脑，意味着需要在LSTM复杂性（这也代表预测的品质）与ECU执行运算的能力之间进行取舍。以我们的应用来说，网路尺寸相对较小，如果需要的话，可以很容易地被整合进卡尔曼滤波器（Kalman filters）。

最近，我们已经再扩大使用透过MATLAB进行的深度学习，致力使用强化学习来开发雷诺引擎的航行路径控制策略。

（本文由钛思科技提供；作者Nicoleta-Alexandra Stroe、Vincent Talon任职于Renault汽车公司）