摘要：针对电路板集成度高、故障规律波动无序、伪周期性等难以准确预测的问题，借助红外热成像仪应用于电路板故障诊断中，提出了一种基于Bootstrap采样技术的粒子群优化(BPSO)小波回声状态网络(WD-ESN)模型，运用红外热像故障分析模式，对功能电路板进行动态分析，获取相关模块的热成像变化数据。利用WD解析出表征不同元器件变化区间，根据不同热量变化规律，建立相应的储备池网络预测模型，采用Bootstrap粒子群算法对WD-ESN网络的组合权值矩阵进行优化。分别采用三种不同算法和经过BPSO优化后的WD-ESN模型对某型航电产品功能电路温度图谱进行分析，仿真结果表明，经过PSO优化后的WD-ESN模型能够更加准确预测温度变化趋势(误差低于15%)，满足了高速、实时、准确的红外温度预测的要求。
关键词：红外热像技术;小波分解解析；WD-ESN网络；SCADA系统；整合重构
随着对功能电路板集成性和低能耗的要求越来越高，快速准确地对电路板的各种故障进行分析和定位[1]，已被作为衡量航电产品可靠性技术的重要特性。传统的电路板检测技术是一种接触式检测方法[2]，首先需要测量电路中功能模块电流、电压等元器件必要的参数，然后由检测人员结合电路原理和故障现象进行分析[3]，才能诊断出电路板上的故障部位或元器件[4]，不仅整个检测过程耗费时间较长，而且要求检测人员具有较强的专业技能[5]。 航空电子产品在通电情况下，各类电子器件(电阻、电容、光耦、集成电路芯片等)均会发热[6]，其工作过程会伴随功耗变化，进而影响电路板的性能变化。有效分析功能电路板的温度变化规律，对故障模块预测显得尤为重要。
Gontar Z于2001年提出了改进型径向基神经网络(RBF)预测模型[7]，可以有效反映输入输出间的非线性关系，在学习过程中动态确定隐层神经元个数，但很难保证所建立网络精确预测。SVM采用最小化系统泛化误差可有效获得全局最优解[8]，但是求解过程多是随机确定模型参数，将问题转化为求解高维空间下的规划问题且不具备动态记忆能力，计算量较大。针对这一问题，李明等学者利用动态储备池理论建立了减少预测训练权值计算量的回声状态网络(ESN)[9]，通过对红外热像仪采集的功能电路温度变化的仿真分析表明，利用常规的ESN算法对功能电路的温度变化进行预测时，训练过程和学习速率方面得到一定改善，能够减少误差，但因储备池结构固定，仅能解决特定温度变化范围的预测，对波动较大的复杂非线性时间序列处理过程较差。
针对以上问题，本文将红外热像仪技术结合小波分解应用到时序波动，无序的电路板故障预测中，提出了基于Bootstrap采样技术的粒子群优化小波回声状态网络(WD-ESN)模型，对网络权值进行优化，改善了预测效果，减少了权值训练的计算过程。红外热像仪即是基于这一热量变化过程来记录电路板各观测点的温度变化，并将其记录数据与数据库中存储的正常电路状态进行对比分析，预测出热量变化“失常单元”，以此为电子产品设计人员及电路维修人员提供排故依据。
1 红外热像系统构建
1.1 红外热像系统功能
本应用系统借助红外热成像仪采集某航电产品正常测试数据和故障测试数据等多方面信息，采用数据处理、知识挖掘、专家经验等多方面手段，通过融合数据挖掘技术、优化模型等多种信息，给出电路故障分析方案。系统功能模块组成如图1所示。
图1 系统功能模块组成
系统遵照模块化方式进行设计，核心功能分为原始电路红外采集数据处理与建库、模型优化及故障定位三个部分。具体流程如下：鉴于现场实时数据和历史数据形成的EMS原始数据噪声高、动态特性强等[10]问题，首先将原始数据通过除噪、滤波、缺失数据填补等处理环节，形成模型使用的应用数据库。另一方面，实时数据、历史数据和计划数据将一并送入实时预测模块。在此过程中，系统将依据SCADA系统实时监控数据来完成对电路板故障分析环节的在线校正，将误差减到最小，完成在线实时预测。红外热像技术应用于电路板故障预测的功能流程图如图2所示。
系统输入来源为EMS/MES系统数据库的计划数据、实时数据和历史数据，还包括现场定修等专家预案和人工干预等。此类信息将为系统四大功能模块提供服务。
工程实践中，技术人员有时更加关注诸多不确定性因素影响下的故障变化趋势，并能有效衡量各类不确定性因素对预测结果的影响。可通过实施区间定位给用户展示出相应阶段电路温度曲线的最高/最低波动区间，一般设定其区间置信率为80%。
图2 系统功能流程图
1.2 数据库基本设计
本红外热像系统关系数据库管理系统采用DB2，表的设计大致分为四部分，即主要处理计划数据的计划类表，主要处理历史数据的数据表，主要处理电耗类数据的数据表以及负责帐号管理等辅助功能的数据表。基本表设计包括一些主外键连接以方便联合查询，但也未设置过多此类连接，以免造成数据库调试修改困难。
数据库与系统的每个模块都具备输入输出接口[11]，方便各模块依功能需要从数据库取得相应数据，或存储一些关键参数、操作信息等。
2 小波分解改进ESN网络模型(WD-ESN)
2.1 ESN模型算法
回声状态网络预测(echo state network,ESN)算法是一种动态递归网络算法[12]，其基本思路是通过内部的动态储备池DR(Dynamical Reservoir，DR)产生一个随输入信号u(t)变化生成的动态非线性系统。该系统时序预测方面表现出较好的性能。
ESN预测模型建模过程如下：
Step1 设定input(输入单元)、output(输出单元)，可得预测系统如公式(1)、(2)所示：
UcDi(n)=[cDi(n),cDi(n-V1),…,cDi(n-VM-1)]
(1)
YcDi(n)=[cDi(n+VM)]
(2)
式中，V1,V2,…VM-1,VM分别表示温度变化延迟时间，M表征输入维数。
Step2 储备池更新 确定储备池(DR)大小NcDi，缩放矩阵使谱半径ρcDi<1，生成连接矩阵，依据生成的输入连接和输出反馈权值，结合ESN建模理论，得到式(3)的DR状态更新推导公式：
xcDi(n)=φ
(3)
Step3 输出权值计算
令xcDi(0)=0，当实时功能电路温度变化数据动态导入ESN预测模型，DR(储备池)随(4)式不断更新，输出权值矩阵如式(4)所示：
(4)
(4)式中 DcDi=[ucDi(n)xcDi(n)]，TcDi=[ycDi(n)]
Step4 温度变化预测
温度变化预测方程如式(5)所示：
(5)
式中，φ(·)为DR神经元激励函数(多使用tansig()函数)，ucDi(n)和ycDi(n)分别表征n时刻系统输入与网络输出；x(t)=[x1(t),x2(t),…,xn(t)]为第t时刻储备池状态， 
为输出激励函数，
为温度变化预测输入初始权值矩阵，
分别在ESN网络初始化时构建。
2.2 小波分解(wavelet decomposition,WD)基本算法
小波分解是建立在基函数基础上的时间～尺度(时间～频率)分析方法，适合将复杂非线性信号分解成若干不同频带的细节和基本信号序列[13]，针对不同的尺度信号分别建模，然后再还原信号得到更为精确的预测信号，分解过程如式(6)所示：
(6)
为避免小波变换中产生冗余，在应用时，对变量a 、b进行离散化处理，以
和
分别表征式(6)中的变量，可得到如(7)式表述：
(7)
分解步骤如下：
步骤1：设置小波基函数，将其与待分解温度变化信号初始时刻对齐；
步骤2：选择初始小波变换尺度a0，计算初始时刻待分解的温度变化信号与小波基函数的相似程度C。C值的大小反应出温度变化信号与所选小波函数逼近效果；
步骤3：以温度变化信号为参照，令小波函数沿着时间轴平行移动b0，利用步骤1～步骤2，计算平移后的小波变换系数C1，重复这一过程直到完整覆盖温度变化信号；
步骤4：重新设置小波变换尺度a1，然后重复步骤1～步骤3；
步骤5：针对待分解信号重复步骤1～步骤4(尺度伸缩)，最后，将得到各电路板功能模块温度变化在这些小波函数的投影效果。
2.3 WD-ESN预测模型
由于电路板各功能模块温度变化波动无序、幅度大、易受外界干扰，这就增加了温度变化预测的难度，一旦发生波动，或产品性能下降，都将严重影响其算法模型的应用推广。
基于以上分析，为了解决电路板时序逻辑芯片温度变化信号非平稳和多尺度变化的问题，本文利用小波分解算法改进ESN网络泛化效果。通过WD将温度变化信号进行分频解析，经平移及伸缩后分解为1个低频基本分量和多个高频细节分量，希望利用分频预测来提高ESN网络的预测效果，最终将分解预测效果重构，得到电路板功能模块温度变化整体预测效果。
WD-ESN预测建模步骤如下：
(1)确定时序信号的分解层次m，初始化伸缩变量a0，通过式(7)，依次平移b0个单位。可将温度变化初始信号分解为基本分量cA1，高频分量cD1；
(2)改变伸缩变量，对细节分量cA1进行小波变换，可将其分解为基本分量cA2和细节变量cD2；
(3)根据分解层次m，可依次将原始温度变化序列分解为cAm，…，cDm，cD2,cD1；
(4)针对不同尺度的温度变化序列cAm，…，cDm，cD2,cD1反应不同的尺度信息，采用相同参数的ESN网络预测难以实现对不同频率温度变化特征的预测。本文针对不同尺度温度变化特点，分别建立不同参数的ESN网络，并结合式(5)对不同尺度的温度变化序列
(ucDi(n),x(n),y(n-1)))进行预测；
(5)温度变化效果整合：结合单支温度变化序列预测效果ycD1(n)，ycD2(n)，ycD3(n),…,ycDm(n),ycAm(n),ycAm(n)针对cAm与cDm中的温度变化序列，采取间隔插0的方法，重构出基本信号Am和表征细节特征Dm，经过滤波器即可逆变换出原始信号fm，反复迭代，通过向上采样即可重构上一级信号，依次得到fm-1，…，f2，f。
通过小波重构整合理论，可整合出电路板温度变化终值，如式(8)所示：
(8)
为便于准确预测温度变化趋势，以真实值y实(n)和预测值y(n)的偏差最小值为目标，借助线性回归来确定各分支系数，如式(9)所示：
O=(JTJ)-1JTT
(9)
其中，O=[w1 w2 w3 … wm+1] ，
T=[y(1) y(2) …y(λ)],
3 基于BPSO的WD-ESN预测模型优化
利用WD-ESN模型进行电路板温度变化预测时，不同的温度变化下用户模型参数的选取不同[14]，谱半径(输出矩阵)等参数的确定多数建立在已有数据样本分析(或凭借技术经验)的基础上，难以体现电路板用户的温度变化实际特征[15]，当温度变化特征变化时，预测精度将会明显受到影响。而基于系统工程理论的参数寻优方法计算复杂[16]，很难反应电路板温度变化时序的时效性。
本文温度变化预测用户选择某航空产品的5个主要功能模块，各预测环节的运行状态不同，其用电特征和温度变化波动情况各异，故应针对各模块分别进行预测，模型参数的选取就显得尤为重要。对多参数、过拟合、非线性、多尺度、多约束等耦合系统寻优问题，BPSO优化效果较为理想。
3.1 基于BPSO的WD-ESN参数优化
PSO算法用于WD-ESN网络组合权值优化。一方面采用数值迭代的求解方式，不需要进行矩阵求逆操作，可以避免因病态矩阵而导致权值偏移的现象；另一方面编码方式采取实数编码，即用粒子编码来表征待求的网络权值，将网络权值寻优过程转化为粒子寻优问题。为提高模型实用性，本文在建立WD-ESN算法模型基础上，提出基于Bootstrap采样技术的粒子群优WD-ESN模型。
在利用BPSO算法进行组合权值优化时，将粒子进行归一化操作，并在“评价标准(适应度函数)”中引入罚函数项，以弱化噪声和共线性的干扰。因此，对于给定好的m个回声网络，cD1,cD2,cD3,…,cDm,其优化组合权值w(w1,w2,…,wm)步骤如下：
Step1：设置粒子个数、初始速度、迭代进化次、初始位置数等初始化信息。迭代次数依据具体的优化精度而定，种群粒子数过大会影响最优个体适应度值的进化时间，而过小又难以取得理想效果，多数取20-40。结合本文模型的可行性、时效性需求，初始粒子数为20，算法迭代进化次数为80。假定寻优空间为D维，由寻优参数
等组成的种群X=(X1，X2，…，Xn)，与种群粒子i对应的位置和速度向量分别记作Xi=(xi1，xi2，…，xiD)T和Vi=(Vi1，Vi2，…，ViD)T ；
Step2：将初始化粒子群按照式(10)进行处理，种群粒子代入问题“评价标准”之中。初始20组粒子，通过MATLAB2012中的HeavySine函数进行小波分解层数的自适应分析，对于本文预测对象，适应度函数选取如下：
φ(x)=1/L
(10)
给定输入参数作为寻优变量，WD-ESN的动态优化目标函数选取如式(11)所示：
(11)
式中，
(12)
FP表征罚函数项，用以约束权值和为1，如式(13)所示：
(13)
式中，L为优化目标，φ(x)的确定和L密不可分。φ(x)值越大，象征预测效果越接近实际效果，更加符合粒子群算法的运算规律。为温度变化实际值，yij为ESN网络温度变化预测值，m为储备池神经元个数，N为小波分解层数。根据初始粒子适应度值，评价准则函数可推导算出每个粒子位置Xi。优化目标值越小，则温度变化预测效果越精确；
Step3：当t<tmax(最大迭代次数)，依据Step2粒子适应度函数φ(x)，粒子通过跟踪两个极值来调整寻优速度和位置。一个是粒子本身找到的最优解，其单个粒子极值,Pi=(Pi1,Pi2,…,PiD)T另一是整个种群的当前最优解，即全局极值记作Pg=(Pg1,Pg2,…,PgD)T，算法迭代寻优。在每一次更新过程中，粒子更新公式如式(14)、(15)所示：
(14)
(15)
为限制PSO粒子的盲目搜素，将位置和速度分别限制在[-Xmax,+Xmax]和[-Vmax,+Vmax]区间，k是当前迭代次数，Vid粒子的速度是非负加速度学习因子,σ是惯性权重。为了改善算法的收敛性能通常取值如式(16)所示：
(16)
其中σmax、σmin分别为最大、最小加权系数，t为当前迭代次数，tmax为算法迭代总次数。
每执行一次，需对粒子约束条件进行验证，如超过速度或位置约束，则排除该粒子，并对其他粒子进行更新操作，直到达到最大迭代次数为止；
Step4：根据适应度函数更新σ，寻优种群中的最优粒子(记作P′)，与之对应的最优组合权值为m),相应WD-ESN网络输出如式(17)所示：
(17)
Step5：设定最大采样次数B，初始值取1，利用bootstrap采样技术，将电路板温度变化数据进行多次可重复采样，获得多组粒子群
)，调用PSO算法得到B个种群的最优粒子，对其求均值，这样得到新的组合权值在减少随机选取粒子初始值影响的同时，可以使多个粒子群产生差异度，出现多个局部最小点，通过bootstrap采样技术改变目标优化函数L可减轻噪声干扰，便于提高集成优化的泛化能力，具体如式(18)所示：
(18)
Step6：误差对比分析，将得到最优位置或者达到迭代进化次数上限(本文中取80) 的寻优粒子代入WD-ESN网络，如果达到预期温度变化预测精度需求，则寻优停止，否则转至Step2。
3.2 模型预测流程
Step1 针对输入的电路板温度变化数据，借助WD分解得到cAm，…,cDm,cD2,cD1；
Step2 结合红外成像SCADA系统，对WD分解后不同尺度的电路板温度变化分量进行单支重构，得到对应尺度的电路板温度变化序列，分析其对应尺度变化情况，寻找其规律，为后续ESN建模提供指导；
Step3 依据不同尺度温度变化序列的特征，借助BPSO优化选择合适的ESN网络权值参数，分别预测对应频率温度变化序列ycDi(n)。
其BPSO算法优化权重过程如下：
(1)输入待处理的组合权值矩阵数据改变目标优化函数L；
(2)约定最大寻优次数tmax=50，初始值t=1；
(3)当t<tmax时，将数据B进行第t次可重复采样，获得t组数据；
(4)调用BPSO算法得到第t个种群的
t，对应的；
(5)t=t+1 ；
(6)以此得到20个最优粒子，对应的组合权值
；
(7)对20个过程(6)所示最优组合求均值如式(19)所示：
(19)
因此，新的组合权值记作
(8) 相应的ESN网络分支输出如式(20)所示：
(20)
Step4 通过线性回归模型整合各分支预测结果(温度变化预测流程如图3所示)。
图3 温度变化预测流程
3.3 预测仿真分析
为验证本文所建立红外热像技术应用于电路板温度变化预测模型的实用性，分别采用经典SVM，径向基预测模型及ESN网络进行对比预测分析，预测对象为CPU模块、电源模块、驱动电路模块、通信模块，选择2015年5月份某航电产品通电测试段内的1 920个温度变化数据(每隔15秒的电路板温度变化值为一个采样时刻数据)作为训练样本，预测电路板温度变化趋势，仿真效果拟选用三种评价准则进行综合分析。
(1)平均绝对百分比误差如式(21)所示：
(21)
(2)归一化均方根误差如式(22)所示：
nrmse=
(22)
(3)均方误差如式(23)所示：
(23)
式中，yreal(i)表征温度变化验证真实数据，ypre(i)为预测点，q表征温度变化预测点数，不同模型预测效果如表1所示。
由预测对比结果可知，本文提出的基于红外热像技术组合模型对某航电产品电路板系统主要模块进行温度变化预测时，不同的评价准则的预测效果均优于其他几种模型。ESN虽然输出波动不大，但预测精度不高,原因可能是由于其网络结构固定，性能易受储备池神经元不同选择的影响。径向基网络因为其学习过程易形成局部极值点，因此导致模型预测效果不够理想。SVM模型输出波动最大，性能易受核函数不同选择的影响,预测精度最低，但运算速度上具有明显优势(0.309 11秒)，且适合于小样本处理(数据点数小于4 000)。而本文提出的BPSO优化WD-ESN预测模型，无论输出精度(误差均低于10%)，还是预测效果的稳定性都远优于其他几种算法。
表1 各主要电路板用户温度变化预测误差率对比
4 结束语
(1)电路板标准信息库(SCADA系统)的建立是电路板检测的基础工作。要完善故障的相关信息，如温度特征信息、温度特征曲线等。可根据相关的温度特征信息将故障分级，以方便对电路板的维修。本文以红外热像技术应用于电路板温度变化预测为背景，提出基于BPSO和WD-ESN组合模型，将电路板功能模块波动无序和非线性的温度变化预测问题转化为不同尺度的温度变化分量，针对不同的尺度信号分别建立ESN网络，更有针对性；
(2)基于Bootstrap采样技术的粒子群优化算法有效解决了多参数、过拟合、非线性、多尺度、多约束等耦合系统寻优问题；
(3)针对不同温度变化预测对象的仿真实例表明，经BPSO优化后的WD-ESN模型的预测精度更高，适应性更好，可以有效处理电路板温度变化难以准确预测的问题，为解决时序电路故障定位提供了一个良好的思路。
