小波分析及其在控制中的应用_王群仙

10.13195/j.cd.2000.04.2.wangqx.001第DOI15：卷第4期Vol.15No.4

　控　制　与　决　策

CONTROL　AND　DECISION　

2000年7月

　July2000

小波分析及其在控制中的应用

王群仙　李少远　李俊芳

(河北工业大学自动化系　天津　300130)

*

摘　要　对小波分析的主要研究方向和特点进行综述,并阐述了小波分析在模型辨识、有约束问题的求解等控制领域中的应用。特别论述了小波神经网络的结构、学习算法及其优良的逼近性能。最后介绍了目前已有的基于小波分析的自适应控制方案,并对未来的研究方向做了探讨。关键词　小波分析,小波网络,控制,非线性分类号　TP13

WaveletAnalysisandItsApplicationsinControl

WangQunxian,LiShaoyuan,LiJunfang

(HebeiUniversityofTechnology)

Abstract　Themajorsubjectsofwaveletareintroduced.Thewaveletapplicationstomodelidentifica-tionandcomputationalefficiencyinconstrainedcontroletcarediscussed.Inparticular,thewaveletneuralnetworkstructure,learningalgorithmsanditsexcellentapproximationperformancearedis-cussedindetail.Thecurrentwavelet-basedadaptivecontrolschemesandthefuturestudydirectionsofthewaveletareintroduced.

Keywords　waveletanalysis,waveletnetwork,control,nonlinearity

1　引　　言

　　由于小波变换通过伸缩(膨胀)和平移等运算功能对函数或信号进行多尺度细化分析,是空间(时间)和频率的局部变换,能有效地从信号中提取信息,因而小波分析成为当前一种新兴的信号处理技术,为国际上众多学者所关注。它集数学、物理、电子工程、计算机科学等领域的成果于一身,广泛地应用于多学科,例如信号分析、图象处理、模式识别、数据压缩、信噪分离、医疗诊断、计算机视觉、信息编码解码、语音合成分析、系统故障诊断、地震信号处理以及量子理论等。

控制理论与信号分析的关系非常密切,因而它在控制领域的应用也越来越多,例如非线性系统黑箱建模、鲁棒频域辨识、优化问题求解等。本文从控制领域的角度对小波的研究工作进行综述。

2　小波的特点[1～6]

2.1　在时域和频域内具有局域化的功能

　　Fourier分析只能刻画信号在整个时域上的频

谱特征,窗口Fourier变换也只能反映信号f(t)在

窗口内部分的频域特征。而小波变换由于采用了自

适应窗口,小波时间-频率分辨率的时间窗口宽度与

频率窗口的高度在各处是不同的,它是尺度参数的函数。分析检测高频分量时,尺度参数减小,时间窗

口自动变窄,频率窗口高度增加;分析检测低频信号

时,尺度参数增大,时间窗口自动变宽,频率窗口高度减小,因而非常适于局部分析。2.2　可作为函数基

连续小波变换是尺度参数a的伸缩和定位参数

b的平移均连续取值的子波变换。一般在实际应用中,对a和b进行离散化处理,于是所有的离散小波

基可以构成一个函数族。这样的变换有离散正交小

*中国博士后科学基金项目和河北省自然科学基金项目(600054,698004)　

386控　　制　　与　　决　　策2000年

波变换和非正交离散小波变换,在满足一定条件时,该函数族可以构成L2(R)(平方可积函数)的正交基或框架。

　　正交小波基源于多分辨分析,其后又加以完善而得到的。正交小波基可以没有冗余地获得信号的局部信息,意味着可以通过分解系数重构原信号。它适合应用于数据压缩、信噪分离、非线性系统辨识等领域。正交小波基是目前小波分析领域中最常用的工具之一。满足框架性质的非正交小波基由于提供了对函数的冗余表示,也能完全刻画函数,并从函数的分解中重构该函数。其优点在于数值计算稳定,计算误差的影响小,对干扰的鲁棒性好。非正交小波基常用在高维非线性函数逼近或语音分析等领域,例如Morlet小波等。

2.3　具有多分辨分析的特点[1～6]

正交小波基主要来源于Meyer和Mallat等提出的多分辨分析,这从一个侧面反映了正交小波变换具有多分辨分析的特点。这样,不同尺度下的小波变换就反映了对应尺度空间的信息。通过变换尺度,可得到具有多尺度(分辨)分析的信息表达,更深入地了解信号的特征。频域内的多分辨分解实质上描述了小波的分频性能。

2.4　具有快速算法

由于受计算机硬件的影响以及实际处理过程中实时性的要求,往往对算法要求具有快速性。人们已提出了很多小波变换快速算法。有通用的,也有专用的,其中最著名的是Mallat金字塔分解算法[7]。另外,还有一些利用快速卷积技术和FFT而获得的算法。这些算法的计算复杂度一般为O(n)或O(nlogn)级。2.5　小波的多样性

为了解决某类问题,人们有针对性地提出了相应的小波。有关小波构造的文献有很多,并且新的小波还在不断产生。这些小波中,最著名的有Daubechies时域紧支小波、样条小波、正交子波包、带限小波等。正是小波的多样性才使小波得到广泛的应用。

小波所具有的上述特点,使得小波理论成为对应用具有巨大潜力的多方面适用的工具。

[7]

波到离散小波,从构造方法到快速算法,从小波框架到正交小波,都有详细的阐述。这套理论为实际应用

提供了工具并指明了方向,人们利用它解决了大量

实际问题。小波分析在信号处理、故障检测等领域得到广泛的应用,同时也引进到控制领域。在该领域的应用大体可分为以下几方面:3.1　利用系统响应的小波变换

提取系统的主要特征

信息的表达方式在很大程度上决定了能否方便

地完成某种任务。利用系统响应的小波变换提取系

统的主要特征并以此来设计控制器,可降低设计过程中对数学模型的依赖性。小波变换可以在时频两

域观察系统的主要特征,为控制系统的分析和设计

提供新的思路。文献[8]利用高斯函数的一阶函数作

为基本小波函数,对几种典型环节的单位阶跃响应进行小波变换,并分析了响应小波的过零点和极值

点等重要参数与典型环节的各参数及某些性能指标

之间的关系,发现了一些规律,使得能用小波曲线大

致估计出系统的响应特性,从而能进一步建立更加复杂的模型与小波变换的关系,并最终降低控制系统设计对数学模型的信赖性。

3.2　提高线性系统的辨识精度及用于鲁棒辨识

这类应用主要是利用小波变换进行多分辨分析

的特点。文献[9]采用以正交尺度函数展开的形式表

示单变量线性连续系统的脉冲响应,采用尺度变换

以得到一种类似于频域方法的辨识算法。由于正交尺度函数在时域和频域都是紧支的,因而尺度变换

的局部性比Fourier变换要好,即使在很大的信噪

比情况下也可得到较高的辨识精度。文中给出了有噪声和无噪声两种情况下与相关分析法的比较结果,充分说明了这一点。

文献[10]基于离散小波变换具有分频性能来估

计线性时不变系统的传递函数。输入输出信号经小波变换后,相邻频带的信息被分解开,再用低阶模型逼近各频带内传递函数的频域特性(即分频逼近),

并估计相应频带内逼近模型的参数。最后采用小波综合滤波器对各频带的逼近模型进行综合,便得到传递函数估计。适当调节分频函数即调节频带宽度,可获得较精确的估计。该方法与单一模型逼近相比,

3　小波分析的结果及其

　　小波分析已形成了一套完善的理论,从连续小

提供了更多的选择自由度。实际中可通过逼近模型、模型阶次以及分频数目三者的折衷来达到满意的精

度。由于分频逼近利用低阶线性参数模型,其参数估于鲁棒频域辨识提供了新思路。

第15卷第4期王群仙等:小波分析及其在控制中的应用387

由于鲁棒控制器设计的需要,导致了鲁棒辨识的产生。利用鲁棒辨识算法,根据有限观测的输入输出数据,在得到有关模型结构下最佳逼近的同时,可得未建模动态相应度量意义下的界,如按参数空间中的距离意义或是频域中在有限频率点上增益和相移差的度量。标称模型参数可借用经典的辨识方法估计,而频域模型误差界的估计则是个难点问题。已有的方法均假定噪声在时域或频域内有界,然后估计模型误差界,这些结果并不完美[11]。而利用小波变换来对频域模型误差界的估计,主要是利用小波的分频性能和某些非平稳随机噪声经小波变换后具有平稳特性的特点。当输入输出数据(信号)经小波变换后,相邻频带的信息被分解开,而模型误差界的频域特性变化不大,可用低阶模型来逼近;然后利用相应频带内的输入输出信息估计各频带内逼近模型参数,并用小波综合滤波器对各频带内的逼近模型进行综合,即可得到频域模型误差幅值估计。在选定逼近模型阶次以及数据容量充足时,估计精度取决于各频带宽度,在幅度变化较大的频域内,频带越窄精度越高。该方法对噪声的限制条件很弱,估计频域模型误差界的结果不致于过分保守[11]。3.3　提高控制问题中优化求解的效率

相当一部分多变量工业对象,各输入输出通道的动态响应快慢悬殊,呈现出多时域特性。设计预测控制系统时,为了获得较好的动态特性,常根据最快的响应时间来决定采样频率。而一些研究结果认为,预测时域和控制时域应根据最慢的响应时间来确定,以保证闭环的稳定性[12]。这样,快的采样频率和大的预测及控制时域将导致非常大的在线计算量,在有约束的情况下尤甚。

由于小波变换具有独特的联合时频分析的优势,利用小波变换来对控制和预测时域进行分块和压缩,可较好地兼顾信号在整个时段的动态特性,降低优化矩阵维数,大大降低计算量。文献[13,14]将这种方法应用于MAC和DMC控制,[14]还在此基础上增加了主元分析法(PCA),以改善矩阵病态性和提高矩阵计算稳定性。此处常采用Harr正交基。

3.4　提高控制系统的抗噪能力

与传统滤波技术相比,采用小波收缩去噪方法可以去掉大部分噪声,又不致引起信号的明显失真,其中非线性子波方法

[15]

的性能不变甚至改善,同时得到较平滑的控制器输出,以减少控制器执行机构的频繁动作,节约能源,保护设备。

3.5　作为非线性系统黑箱建模的工具

文献[16,17]将基于小波变换的方法和小波网

络与其它各种辨识方法,如神经网络、径向基网络和模糊集合及模糊规则方法等,统一到函数逼近的框

架,并且做了比较,指出基于小波分析估计方法是一种构造性的方法,可以避免诸如局部极小等问题。下面就小波级数和小波网络两种方案进行阐述。

3.5.1　小波级数模型

针对早期采用Volterra和Wiener级数法进行非线性系统辨识计算量很大、实际应用困难等问题,文献[18]提出利用小波级数能更好、更快地逼近任意非线性函数的特点,用小波级数作为并联模型,实

现了非线性系统的模型参考辨识。由于采用基于空间的正交小波基的多尺度分辨,辨识精度大大提高,且算法简单,计算量小,收敛速度很快。3.5.2　小波网络

小波网络最早是基于小波分解和前向神经网络

[19]

而提出的。它具有如下特点:同基于鉴别函数(如任何有界、可测的Sigmoid类型函数的前向神经网络)一样,具有任意逼近非线性函数的能力,这是由

小波变换的特点决定的,小波网络基函数具有可调的分辨尺度参数,选用低分辨尺度参数足以学习光滑函数,提高分辨尺度可以较高精度学习局部奇异

函数;网络系数与某些合适的变换(实质上是小波分解)有明确的联系,这有助于从平移、尺度和旋转参

数的物理意义确定其约定,直接对连续小波变换的求解为初始化小波网络系数提供了可能,这样可避

免梯度算法的局部极小;以较小规模的网络取得相同的逼近质量,尤其是高维问题中的学习,小波单元个数比神经网络的少得多,并且比单纯的小波分解

更有效。

小波网络的结构类似于径向基函数网络,只是

以小波函数基来替代。小波网络可分为以下几种类型:

　　(1)小波基展开网络[16,17]

1)网络结构

根据多分辨分析理论,对于f(x)∈L2(Rd),具有如下小波分解和重构方式

f(x)=

效果最为显著。

∑c

k∈Z

d

J,k

5J0,k(x)+

-1

输出信号去噪,增加系统的抗干扰能力,使控制系统

wj,klj,k(x)

j≥Jk∈Zdl=1

(

388

j/2

j

控　　制　　与　　决　　策2000年

j,k(x)=2U其中　　　U(2x-k)

l~lj,k〉　　　cj,k=〈f,~5j,k〉,　wj,k=〈f,7

二乘法、最小二乘的两步训练法等,收敛速率快,逼

近精度高,均好于随机梯度法。另外,对于径向基的小波基网络,也可借鉴RBF神经网络的一些算法。3.5.3　多维小波基函数的生成

~j,k,7~lj,k是5j,k,7lj,k的对偶。5

式(1)的第1项求和为f(x)的多分辨逼近部分(MRA),第2项求和为小波细节(WD)。

如果J0足够大,那么式(1)中的小波系数wlj,k

接近于零,于是当J足够大时,存在权系数ck,使得

g(x)=

根据一维小波框架理论,文献[21]运用单一尺

度和多尺度参数伸缩将其推广到多维小波框架,并

∑c5

k

k∈Zd

2

j,k

(x)

d

(2)

借此提出了多维小波函数生成的方法。主要有:单尺度小波函数是一种径向基函数,可通过对满足某些n-D小波(n-‖x‖2)e-‖x‖/2就来源于著名的1-D

2

2

条件的一维小波的简单处理来得到多维小波,如

能以任意精度逼近f(x)∈L(R)。式(2)称为多分辨逼近网络。

如果J0足够小,那么式(1)中的多分辨逼近系数cJ0,k接近于零,于是当低分辨尺度J0足够小,J足够大时,存在权系数w,使得

2d-1

l

j,k

墨西哥草帽小波<(x)=(1-x2)e-x/2;一般多尺度

小波取满足某些条件的一维小波的直乘积,一维小的组合。

3.5.4　小波网络逼近的精确性分析

波可取高斯函数的Laplacian变换或Sigmoid函数

g(x)=

J≥j≥J

∑∑∑w

0k∈Z

dl=1

lj,kd

7lj,k(x)

(3)

文献[22]对小波逼近问题做了精确分析,并与

能以任意精度逼近f(x)∈L(R)。式(3)称为小波细节网络。

由于基函数均为小波函数或小波尺度函数,具有紧支集或局部紧支集,因此在有界区域内上述网络阶次(节点数)是有限的。

2)几种训练算法

训练算法主要有:权系数经验估计法(WEE),小波收缩算法(WSA),最小二乘估计(LSE),网络结构设计的时(空)域“分解-综合”方法(AS)[16,17]。采用传统的主元分析法(PCAR)和更精致的投影跟踪回归法(PPR)来解决维数灾问题　　(2)小波神经网络

[20]

2

[23]中Sigmoid函数的神经网络逼近问题进行比O(N

-Q/d

较,指出小波网络具有L2意义上的误差级为

),其中N是节点个数,d是问题维数,Q是被

逼近函数的可积导数的阶次。相对而言,神经网络精确性分析定理中的条件很难满足。

文献[20]对基于正交基的小波网络做了深入

-A

分析,指出它具有L2空间的一致逼近,收敛速率为

O(n),A>0,当函数足够光滑时,收敛速率与问题

的维数无关。而对与小波网络的节点数极为相近的

。

RBF网络,则得不到这样的结果。

与多层感知器(MLP)网络相比,在复杂度相同

的情况下,正交小波网络能更好地逼近非连续函数

由连续小波变换可得到另外一种类型的小波网络,它虽不及小波基展开网络处理低维问题那样有效,但可处理适当高维问题。小波网络的数学描述为

N

并且需要的计算量较少;与RBF网络和基于小波框

架网络相比,其参数容易确定并具有更好的收敛速节点数增大,这一问题可由投影算法(如PCAR,PPR等)和多分辨分析方法

[20]

率。但它与RBF网络所共有的缺点是,当d很大时

来解决。另一方面,

f(x)=

∑X7[D(x-i

i

i=1

ti)]+-g

(4)

其中,Di和ti分别是伸缩参数和平移参数,Xi是相应的权系数,-g是非零平均值。

文献[19]利用小波变换的思想初始化小波网络,并对学习参数加以有效约束,采用通常的随机梯度法分别对一维分段函数、二维函数和实际系统中汽轮机压缩机的数据做了仿真实验,并与神经网络、小波分解的建模做了比较,说明了小波网络在非线性系统黑箱建模中的优越性。

由于小波神经网络是前向神经网络的某种延伸,经网络。笔者对此进行了尝试,曾采用Davidon最小

它比MLP增加了复杂度,但换来的却是权值的简化

计算、快速的收敛率和函数逼近的精度。3.6　在故障诊断等方面的应用

小波分析在控制的故障诊断、工况的判别等方

面也有应用[7]。如利用小波分析可提取信号的特征采取相应的补救措施。

来进行化工过程工况的识别,以进行相应的控制或

　　小波理论独有的特点已成为新兴的非线性建模

第15卷第4期王群仙等:小波分析及其在控制中的应用389

的强有力工具,愈来愈受到人们的重视。现已有一些基于小波逼近的控制方案,如[24]针对仿射非线性系统提出的基于小波逼近的稳定直接自适应控制算法,不需要在线进行系统辨识,是一种连续的控制算法,可以用硬件来实现,对算法稳定性的分析保证了它的实用性。笔者基于小波网络对非线性系统建模,并采用Davidon最小二乘法进行自适应优化

[25,26]

11　徐长江,宋文忠.基于小波变换估计频域模型误差界.控

制理论与应用,1997,14(1):117～121

12　JHLee,ZYu.Tuningofmodelpredictivecontrollers

neering,1998,18(1):15～37

ciencyofmodelpredictivecontrolalgorithmusing

wavelettransformation.IntJControl,1995,61(4):859～883

14　杨马英,王树青,王骥程.小波变换和主元分析在动态矩

阵控制算法中的应用.信息与控制,1997,26(6):420～426

15　DLDonoho.De-noisingbysoft-thresholding.IEEE

TransonInforTheory,1995,41(3):613～626

http://wendang.chazidian.computersandChemicalEngi-

13　JHLee,YChikkula.Improvingcomputationaleffi-

;

[27]提出了基于小波网络的智能PID控制系统。

但是小波分析在应用中也存在着不足,例如关于小波神经网络的结构问题,主要表现在小波基样式的选取,小波神经元的个数以及训练算法上。如何选取或构造合适的多维小波基及如何获得合适的小波元个数,直接关系到小波的应用。当所取的小波神经元个数较多时,所需训练的参数个数将会相当多,训练算法的复杂性及快速性将受到影响,不利于生产过程的实时控制。当训练样本个数较少时,也难以用小波分析的方法来进行故障的检测或模式识别。

迄今已有一些文献对上述问题进行研究

[28]

16　AJuditsky,HHjalmarsson,ABenvensiteetal.Non-

linearblack-boxmodelsinsystemidentification:Math-～1750

17　JSjoberg,QZhang,ABenvensiteetal.Nonlinear

black-boxmodelinginsystemidentification:Aunifiedoverview.Automatica,1995,31(12):1691～172418　徐蕾,王执铨,刘洁,等.基于小波级数模型的非线性系

统模型参考自适应辨识.见:中国智能控制会议论文集.西安,1997.130～134

19QZhang,ABenveniste.Waveletnetworks.IEEETransonNN,1992,3(4):889～898

20　JZhang,GilbertG,WalterYuboMiaoetal.Wavelet

neuralnetworksforfunctionlearning.IEEETransonSignalProcessing,1995,43(6):1485～1497

21TKugarajah,QZhang.Multidimensionalwavelet

frames.IEEETransonNN,1995,6(6):1552～1556

sisforwaveletapproximation.IEEETransonNN,1995,6(2):332～348

positionofaSigmoidfunction.IEEETransonInforTheory,1993,39:930～945

24　刘山,吴铁军.一种基于小波逼近的稳定直接自适应控

制算法.自动化学报,1997,23(5):636～640

25　王群仙,陈增强,袁著祉.基于小波网络的非线性系统建

模与控制.控制与决策,1999,14(5):359～403

26　王群仙,李光远,陈增强,等.基于小波网络动态补偿的

广义预测控制.自动化学报,1999,25(5):701～70427　施阳,徐德民,任章.基于小波网络的智能PID控制.见:

96′中国控制会议论文集.青岛,1996.720～72528　王海斌,黄显林,王永富,等.优化小波神经元的辨识算

.438ematicalfoundations.Automatica,1995,31(12):1725

,但

并未达到实用的地步。相信小波理论一定会克服存

在的不足,在控制领域中大显身手。

参考文献

1　MVWickerhauser.Adaptedwaveletanalysisfromthe-orytosoftware.WashingtonUniversity,StLouis,Mis-souri,1994

2　IDaubechies.Thewavelettransform,time-frequency

localizationandsignalanalysis.IEEETransonInforTheory,1990,36:961～1005

3　IDaubechies.Tenlecturesonwavelets.Volume61of

CBMSNSFRegionalConferencesSeriesinAppliedMathematics.Philadelphia:SIAMPress,1992

4　SGMallat.Atheoryformultiresolutionsignaldecom-position:Thewaveletrepresentation.IEEETransonPatternAnalysisandMachineIntelligence,1989,11(7):674～693

5　刘贵忠,邸双亮.小波分析及其应用.西安:西安科技大学

出版社,1992

6　崔锦泰.小波分析导论.西安:西安交通大学出版社,19957　赵松年,熊小芸.子波变换与子波分析.北京:电子工业出

版社,1996

8　张霖,钱敏,葛军.几种典型环节的小波变换研究.见:96′

中国控制会议论文集.青岛,1996.1044～1049

9　张建刚,张杰.提高辨识精度的多分辨分析方法.见:97′

中国控制会议论文集.庐山,1997.559～562

10..自动报,23(:83522　BDelyon,AJuditsky,ABenveniste.Accuracyanaly-

23　ABarron.Universalapproximationboundsforsuper-

(下转第394页)