PSO-SVM

PSO-SVM（精选3篇）

PSO-SVM 篇1

1 引言

对于边坡变形预测往往是根据已有的监测时序数据建立相应的数学模型, 传统方法有:有限元法、离散元法、线性回归法等。随着现代数学、力学、计算机科学等新兴学科的发展为我们解决此类问题提供了新的思维方式和研究方法。支持向量机作为统计科学理论的发展产物, 以其在小样本短周期预测上的优势, 解决了有限样本下的机器学习问题, 并在边坡变形预测中得到了广泛的应用[1,2]。

2 PSO-SVM组合模型

2.1 支持向量机

支持向量机 (support vector machine, 简称SVM) 是Vapnik等人于1995年最先提出的一种机器学习方法, 其主要算法描述为:设一组独立分布的训练样本和假设函数集[3]:

给定的偏差值为ε, 假设函数集为线性函数集:

选择权向量w和阈值b, 将下列规划问题最优化:

约束:

利用拉格朗日乘子, 推导出其对偶问题, 并最终可得到回归函数:

由于支持向量机是以统计学习为基础, 结构风险最小化为目标, 因此较之灰色模型、神经网络等, 支持向量机有着更好的泛化能力和有限样本问题下的学习能力。

2.2 粒子群优化算法

粒子群优化算法 (particle swarm optimization, 简称PSO) 是R.Eberhart等人于1995年提出的一种全局优化算法, 其主要算法描述如下[4,5]:

设在Q维空间中, 有m个粒子组成一个群落, 其中第i个粒子的位置xi、速度vi、最优位置pi整个粒子群搜索到的最优位置为pg, 将xi带入目标函数计算其适应值, 粒子状态的更新策略为:

其中i=1, 2, ..., m;d=1, 2, ..., Q。

3 边坡位移预测

某边坡位于陕西省西安市内属于塬边黄土类边坡, 某年初发现裂缝, 其中5#裂缝部分监测原始累差数据如下表所示:

以第35期至第58期为数据模型训练样本;第59至第63期数据作为预测检验样本, 分别使用PSO-SVM和BP神经网络模型进行预测, 预测结果如表2所示:

由表2可以看出PSO-SVM组合模型较之传统BP神经网络模型在预测精度上有这明显提升, 提升精度在40%左右。

4 结束语

PSO-SVM组合模型在进行边坡位移预测研究时, 一方面发挥支持向量机在小样本短周期非线性预测方面的优势, 另一方面粒子群优化算法弥补了支持向量机选参的不足, 使得预测模型具有更好的理论基础与应用前景。

参考文献

[1]张俊, 殷坤龙等.基于时间序列与PSO-SVR耦合模型的白水河滑坡位移预测研究[J]岩土力学与工程学报, 2015, 34 (2) :1-10.

[2]谈小龙.基于边坡监测数据的进化支持向量机预测模型研究[J].岩土工程学报, 2009, 31 (5) :750-754.

[3]邓乃扬, 田英杰.支持向量机:理论、算法与拓展[M].北京:科学出版社, 2009.

[4]李爱国.多粒子群协同优化算法[J].复旦学报 (自然科学版) , 2004, 43 (5) :923-925.

[5]李丽, 牛奔.粒子群优化算法[M].冶金工业出版社, 2009

PSO-SVM 篇2

针对电力电子电路具有非线性的特征而无法采用精确的数学模型进行故障诊断,本文对三相SPWM逆变电路先采用小波分析方法, 对所需要的信号进行分解得到经小波分解后的能量值,然后以各尺度的能量值作为特征向量, 输入经过PSO优化SVM的模型进行分类故障诊断。 仿真实验结果表明, 与传统的BP神经网络和SVM相比,此方法取得了较好的故障诊断效果。

1 支持向量机( SVM )

SVM是一种基于统计学习理论来处理模式分类问题的算法,其基本思想是找到一个 “最佳”的超平面作为学习问题的解决方案。 它避免了人工神经网络等方法的网络结构选择、 过学习和欠学习, 可以提供一个在大量训练数据之间只有少数向量的全局优化的分离边界,不同于其他学习机可能会产生局部极小。

SVM的目标是找出距两个类之间最大距离的分离边界,如图1 所示。

假设样本集(xi,yi) ,i =1 , … ,n ,xi∈Rd,y ∈{-1 ,1} ,SVM在特征空间中构造最优超平面为:W·X+b=0,分类间隔为margin=2/||w||。 利用Lagrange优化方法将上述最优平面问题转化为对偶问题[8]:

对ai求解函数的最大值:

其中ai是拉格朗日(Lagrange)乘子,C为惩罚参数。 求解式(1)、式(2)得到分类决策函数(最优分类函数):

b定义为:

其中K(xi, x ) 是一个进行非线性映射到特征空间的多项式核函数。 为了获得SVM的最佳解决方案,有不同的内积函数可以选择[9,10]。 本文选择径向基函数(RBF),这是因为使用RBF时,只需要确定较少的SVM参数,而其他的多项式核函数会使参数优化变得复杂。

2 小波变换的多分辨率分析故障特征提取

如图2 所示, 采用小波变换的多分辨率Mallat算法进行信号的分解[11]。 从信号滤波的角度理解, 首先构造了低通和高通滤波器,得到了一组所需要的低频信号和高频信号, 直到分解至第M层, 每层分解得到的低频和高频信号是原信号的一半。 其分解结果既不会冗余,也不会损失原信号信息。

信号的第M层低频部分和高频部分的能量相加为原始信号能量, 可以将信号分解之后各尺度空间的高频部分能量作为原始信号的特征向量。 其具体步骤为:

( 1 ) 对故障信号序列进行M层二进正交小波分解, 得到第1 层到第M层的信号高频序列。

( 2 ) 设EM为信号的第M层高频部分dM的能量, 根据小波分析能量概念,则有:

式中dM( k ) 是第M层高频部分的第k个幅值。

( 3 ) 构造特征向量。 以高频部分的能量组成特征向量,即特征向量T构造为T=[E1, E2, … , Ej] 。

3 PSO - SVM故障诊断

3 . 1 PSO - SVM算法

在SVM中,惩罚参数C和核参数 γ 必须适当的选择C值能够影响分类精度, γ 值比C值具有更大的影响它会影响特征空间的划分。 而粒子群算法PSO(Particle Swarm Optimization ) 具有参数少、 全局搜索能力强, 易实现等优点,故引入粒子群算法对SVM参数进行优化。

PSO是近几年发展起来的一种优化算法, 被广泛用于函数优化、模式识别等领域。 在PSO算法中,种群规模为m, 第i个粒子在j维空间上的位置为xij, 速度为vij在每一次迭代中, 粒子通过跟踪个体最优值pbest和全局最优值gbest来更新自己的速度和位置。

式中c1、 c2为学习因子[12],一般取c1= c2= 2 。

图3 为PSO优化SVM参数过程流程图, 具体步骤如下:

( 1 ) 初始化, 随机产生粒子的初始位置和速度;

(2) 计算初始适应度,然后根据适应度更新pbest和gbest。 ;

( 3 ) 根据式( 5 ) 、 式( 6 ) 更新粒子速度和位置。 再次计算适应度值,更新pbest和gbest;

( 4 ) 依此循环, 当循环至最大迭代次数或满足要求,则结束寻优。 否则转至步骤(2)。

3 . 2 PSO - SVM故障诊断方法

本文所介绍的PSO-SVM的三电平SPWM逆变器故障诊断方法, 首先获得逆变器故障信息, 然后选择母小波进行小波分析,提取故障特征,其主要步骤如下:

( 1 ) 根据第2 节多分辨率分析故障特征提取, 可以选择逆变器故障时产生的负载电压为对象进行小波分析,以高频部分的能量组成特征向量(E1, E2, … , Ej) 。

( 2 ) 对数据进行预处理, 将所有的特征向量归一化到[ 0 , 1 ] 区间。

( 3 ) PSO - SVM的故障分类, 其具体实施步骤如下:

1建立PSO-SVM分类模型,如图4 所示。 PSO-SVM模型由M个PSO-SVM网络组成(本文中M为三相逆变器故障类型数)。 x为PSO-SVM模型的输入数据,PSOSVMi ( i = 0 , 1 , … , M ) 输出目标函数Yi值为0 和1。 当属于第i类PSO -SVM时,PSO -SVMi输出目标函数Yi为1 , 否则为0 。

2先建立训练样本(T,Y),再根据PSO-SVM算法,产生合适的C和 γ。

3用步骤(2)中确定好的模型,输入未知故障样本,然后就可以得到每一个Y值,从而确定了故障类型和位置。

4 实验结果分析

三相SPWM逆变器由6 只IGBT构成, 其电路系统结构如图5 所示。 对逆变器的输出电压故障波形进行采样。 采样点N=260,采样频率为fs= 50 k Hz 。 在建立故障样本时考虑逆变器输入电压和负载功率, 分别为600 V/30 k W、600 V/40 k W、600 V/50 k W、600 V/60 k W、600 V70 k W 、 630 V / 30 k W 、 630 V / 40 k W 、 630 V / 50 k W 、 630 V60 k W和630 V / 70 k W 10 种情况。 本文篇幅有限, 只对其中7 种故障情况(包括正常情况) 作分析[13]: 逆变器中只有一个IGBT开路故障(3 种:VT1,VT2,VT3)和两个IGBT开路故障(3 种:VT1 和VT2,VT1 和VT6,VT1 和VT4)。 再用小波多分辨率分析故障特征提取方法得到特征向量这样得到了10×7=70 组故障样本,将其中在情况(1)~(3和(9)~(10)下每种故障作为学习样本,其余的(4)~(8)组故障样本作为测试样本。

采用这种方法对三相SPWM逆变器故障进行诊断对故障情况进行分类: 无故障为类型1,VT1 故障为类型2, … ,VT1 和VT6 故障为类型7。 经过仿真实验,得到故障的实际分类和预测分类如图6 所示。

根据图7 可以得到整个模型的故障准确率为94 . 285 7 % , 在系统中出错个数为2 个。

采用普通的BP神经网络,SVM和本文提出的PSO - SVM对逆变器故障诊断问题进行研究对比,试验结果如图7 所示。 可以看出PSO - SVM的故障诊断是有效的, 而且比其他几个诊断方法的精度更高。

本文提出用PSO-SVM的故障诊断方法, 采用多分辨率Mallat技术来对故障负载电压的转化进行分解,提取高频能量为输入数据特征向量;选用PSO优化SVM的参数该诊断方法一方面使其泛化能力显著提高,另一方面不需要建立数学模型而解决系统非线性的问题。通过仿真结果对比分析, 验证了方法的可行性, 错误个数明显下降,诊断精度显著提高,实用性强,具有广阔的发展前景。

摘要：针对三相SPWM逆变器的故障,提出一种基于PSO-SVM的诊断模型。粒子群算法(PSO)是一种智能的启发式全局搜索优化方法,具有易理解、易实现、全局搜索能力强等特点,适合于支持向量机(SVM)的参数优化。采用小波变换的多分辨率方法来提取和分析故障信号,提取需要的故障向量,将故障特征向量作为PSO-SVM的输入,来进行训练和检测。通过仿真对比结果,验证所提出的这种方法是可行的,具有很好的故障诊断能力。

PSO-SVM 篇3

评价人工髋关节材料需进行摩擦学试验。目前国内外髋关节试验机运动平台均采用串联模块,在复杂运动轨迹模拟和变载荷动力加载等方面尚存在不足。相对于串联机构,并联机构精度高、速度快、刚度大、承载强且累计误差小[1],目前已在运动模拟器[2]等方面得到了成熟的运用。本文以3SPS+1PS并联机构为核心运动模块搭建了一台髋关节摩擦磨损试验样机,模拟人体髋关节运动规律。正运动学分析是该试验机正常工作的前提,求解并联机构正运动学的方法有:解析法、附加传感器法、数值法和神经网络法。其中人工神经网络法在求解并联机构正运动学上受到了广泛的关注,但其存在一些固有缺陷如收敛速度慢、局部最小值和通用性差等,故需研究更有效的正运动学求解法。

支持向量机作为处理分类和回归问题的有效工具,基于结构风险最小化原则,具有通用性强、解的稀疏表示等优点。本文采用粒子群优化过的支持向量机回归法对3SPS+1PS并联髋关节试验机正运动学进行求解。分析结果显示,PSO-SVM能有效解决机构正运动学问题。

1 运动学建模

常用机构空间位姿描述方法有四元素法和Rodrigues参数法等。四元素法综合性能较高,但仍有一定约束条件。根据ISO14242-1:2002(E)标准,人工髋关节假体在进行摩擦学实验时,试验机的运动频率为1Hz±0.1Hz[3],对求解方法的速度要求较高。Rodrigues参数实现了四元素向三维独立参数的转化,不涉及三角函数运算,较大程度地减轻了实时姿态解算的计算量。用Rodrigues参数表示的姿态旋转矩阵为D[4]。

该试验机由定、动两平台组成。三条主动支链连接两平台,中心支柱支撑动平台。图1为髋关节试验机样机及3SPS+1PS并联机构拓扑图。建立参考坐标系如图1所示。定平台B连接点Ai(i=1,2,3)、动平台m连接点ai(i=1,2,3)以及动坐标系原点O的位置坐标AiB、aiB和oB表达式如下:

根据所建机构参考坐标系,可得aiB和AiB(i=1,2,3)坐标表达式如下:

其中e是点ai到动平台坐标系原点O的距离,E是Ai到定平台坐标原点O的距离。(xl,xm,xn,yl,ym,yn,zl,zm,zn)是动平台m在{B}中的9个方位参数,构成描述动平台m位姿变换的旋转矩阵D。

由空间两点间距离公式可得支链ri(i=1,2,3)的长度表达式如下:

将式(1)、式(2)代入式(3a)可得各支链长度ri(i=1,2,3,4)如下:

式中,λ02=1+Φ12+Φ22+Φ32。Φi(i=1,2,3)为三个Rodrigues参数,用来描述动平台空间姿态。

当给定支链的长度ri(i=1,2,3,4)和Zo的值时,动平台正位姿参数Φi(i=1,2,3)可通过以下过程进行求解,从而确定动平台在空间的姿态。

由式(3b)可得:

由式(3b)和(4),结合给定的支链长度值ri(i=1,2,3,4)和Zo值,通过求解非线性方程组可解得三个Rodrigues参数Φi(i=1,2,3)。

2 PSO-SVM正运动学求解算法

2.1 SVM简介

设训练样本集{(x1,y1),(x2,y2),…,(xm,ym)},其中xi Rm,表示样本的输入空间,其对应的目标值yi R,(i=1,2,…,m)。支持向量机回归方法的目的是建立一个超平面来精确逼近输入数据与输出数据之间的非线性映射,然后通过黑箱方法构造最优线性回归函数。

常用支持向量机回归估计函数为:f(x)=(wФ(x))+b。其中w Rn,b R,Ф表示从样本空间Rn到高维特征空间的非线性映射函数[5]。

支持向量机估计的优劣通过损失函数和ε-不敏感损失函数来度量,其基本形式为:

2.2 PSO算法对SVM参数的优化

支持向量机回归预测性能的优劣主要受惩罚参数c和核函数参数g的影响。对参数c、g最优解的选取目前尚无统一标准。粒子群优化算法(PSO)是基于群体智能的优化算法,它通过粒子在解空间追随最优粒子进行搜索。PSO算法收敛速度快、通用性强,一般情况下可很快收敛于全局最优解。本文将交叉验证意义下的预测均方误差作为PSO算法的适应度函数,通过PSO算法对SVM参数进行优化,利用所求得的全局最优解进行SVM网络训练。

2.3 基于PSO-SVM的正运动学求解过程

PSO-SVM求解正运动学的算法过程如下:

1)将逆运动学求解所得10000组解的前9000组作为训练数据集,后1000组作为测试数据集;

2)对训练数据集和测试数据集进行[0,1]区间归一化;

3)用归一化后的训练数据集作为SVM训练样本,通过PSO算法对SVM参数c和g进行全局寻优;

4)SVM采用全局最优参数c、g,以训练数据集作为学习样本进行训练,建立正运动学求解模型;

5)用测试数据集对建立好的正运动学求解模型进行测试;

6)评价测试结果。

3 仿真研究

采用PSO优化的支持向量机如图1所示并联髋关节试验机进行正运动学求解。该髋关节试验机结构参数见表1。

该髋关节试验机在工作时需模拟人体髋关节的相对运动曲线,经过试验机逆运动学求解,得到1150组逆运动学解。随机选取1000组作为该正运动学求解的训练样本,另外150组作为测试样本。比较发现,具有线性核函数的ν-支持向量机在求解并联机构正运动学时性能优良。采用PSO算法优化过的ν-支持向量机分别对测试样本中的三个姿态参数Φi(i=1,2,3)进行预测。以参数Φ1的预测为例,其预测结果分析如图2所示。由图2可得粒子群算法优化后支持向量机CV意义下的全局最优参数c=3.0974,g=0.01。预测值与理论值最大绝对误差数量级为10-5个单位,最大相对误差为0.15,绝大部分相对误差在±1%之间。预测结果的均方误差为2.18167×10-7,相关系数为99.9998%,满足并联机构正运动学求解精度要求。

为了衡量本文利用PSO对SVM参数优化的有效性,本文采用传统SVM作为对比模型,对比求解结果如表2所示。

从表2可知,PSO-SVM并联机构正运动学求解算法精度远高于传统SVM算法,但运算时间相对较长。结果表明通过PSO算法优化获得SVM参数是全局最优的。

4 结束语

针对人体髋关节的实际生物特性,研制了一台3SPS+1PS并联髋关节试验机。基于Rodrigues参数对3SPS+1PS并联髋关节试验机进行运动学建模。应用PSO算法优化过的ν-支持向量机对该试验机的正运动学进行求解,求解精度满足机构控制精度要求。通过与传统SVM支持向量机正运动学求解进行对比分析,证明PSO-SVM具有较高精度。

参考文献

[1]Olazagoitia JL,Wyatt S.New PKM Tricept T9000 and itsapplication to flexible manufacturing at aerospace industry.SAE International,Paper No.07ATC-94,2007.

[2]Chun-TaChen,Jyh-Chyang Renn,Zong-Yuan Yan.Experimentalidentification of inertial and friction parameters for electro-hydraulic motion simulators,Mechatronics 2011(21)1–10.

[3]ISO 14242-1:2002(E).Implants for surgery-Wear of total hip-joint prostheses-Part 1:Loading and displacement parametersfor wear-testing machines and corresponding environmentalconditions for test.

[4]周江华,苗育红,王明海.姿态运动的Rodrigues参数描述[J].宇航学报,2004,25(5):514-519.