BP神经模型

2024-06-30

BP神经模型(共12篇)

BP神经模型 篇1

1 BP神经网络预测模型

1.1 BP神经网络基本理论

人工神经网络是基于模仿生物大脑的结构和功能而构成的一种信息处理系统。该网络由许多神经元组成, 每个神经元可以有多个输入, 但只有一个输出, 各神经元之间不同的连接方式构成了不同的神经网络模型, BP网为其中之一, 它又被称为多层前馈神经网络。

1.2 BP神经网络预测模型

(1) 初始化, 给各连接权值 (wij, vi) 及阐值 (θi) 赋予随机值, 确定网络结构, 即输入单元、中间层单元以及输出层单元的个数;通过计算机仿真确定各系数。

在进行BP网络设计前, 一般应从网络的层数、每层中的神经元个数、初始值以及学习方法等方面进行考虑, BP网络由输入层、隐含层和输出层组成。隐含层神经元个数由以下经验公式计算:

式中:s为隐层节点数, m为输入层节点数, n为输出层节点数, h为正整数, 一般取3—7.BP网络采用了有一定阈值特性的、连续可微的sigmoid函数作为神经元的激发函数。采用的s型函数为:

式中:s为隐层节点数, m为输入层节点数, n为输出层节点数, h为正整数, 一般取3—7.计算值需经四舍五入取整。

2 应用

2.1 车辆销售量神经网络预测模型

本文以某汽车制造企业同比价格差、广告费用、服务水平、车辆销售量作为学习训练样本数据。如表1。

图1是本文建立的车辆销售量神经网络预测模型。模型共3层, 神经网络结构为3-61, 输入层为3个神经元, 分别对应广告费、服务水平、价格差;传递函数为线性传递函数 (purelin) ;隐蔽层有6个神经元, 传递函数为s型传递函数 (1ogsig) ;输出层有一个神经元, 对应车辆销售量, 传递函数同输入层一样为线性传递函数 (purelin) 。将销售量数据作为学习样本的输出节点值。将3个影响参数作为学习样本的输入节点值代入神经网络学习模型, 以1-10月的数据为学习样本, 11-12月的数据为验证数据。

3 结论

(1) 当网络的结构和训练数据确定后, 误差函数主要受激励函数的影响。

(2) 在BP神经网络预测方法中, 输入与输出之间高度非线性的映射特点, 使它更适应非线性预测。

(3) 在BP神经网络预测方法中, 对权值的非严格性特点, 有效地保存了各种预测方法所提供的有用信息, 提高了预测的精度。

(4) BP神经网络预测方法中的无后效性特点, 减少了组合预测结果对真实值的偏离, 并且提高网络整体的收敛性。

(5) BP神经网络以神经元之间连接权值的形式存储数据, 再以其自适应能力, 给出客观的评价结果, 从而克服了专家在评价过程中的主观因素。

(6) 在实际工作中, BP神经网络模型可选取适当多的样本参数进行学习训练, 随着样本数量的逐步增多, 结果将会更为精确。

摘要:采用BP神经网络的原理, 建立神经网络的预测模型, 并利用建立的人工神经网络训练并预测车辆的销售量, 最后得出合理的评价和预测结果。

关键词:神经网络,模型,预测,应用

参考文献

[1]朱英.改进的BP神经网络预测模型及其应用[J].武汉理工大学学报 (交通科学与工程版) , 2012.

[2]鲍一丹, 吴燕萍等.BP神经网络最优组合预测方法及其应用[J].农机化研究, 2005 (3) 162-164.

BP神经模型 篇2

摘要:通过对高校教师科研能力分析,构建了高校教师科研能力评估指标体系,提出了运用BP神经网进行评估的方法,利用MATLAB对该模型进行了仿真,得到了与专家评定一致的结果。该方法克服了传统评价方法孤立地考虑各项评价指标的缺点 增加了指标之间的关联性,使评价结果更符合实际情况。

关键词:科研能力 BP神经网络 评价模型

中图分类号:G420 文献标识码:A 文章编号:1007-9416(2014)01-0056-02

一所高校的科研水平取决于教师的科研能力,目前,有关高校教师科研能力的评估有很多评估方法,如层次分析法,贝叶斯网络聚类方法[1]等。本文运用BP神经网络来建立高校教师科研能力评价模型,为高校教师科研能力评价提供了一定的参考。高校教师科研能力评价指标体系

1.1 构建评价指标体系的基本原则[2]

为了科学、客观地反映高校教师科研能力的高低,应该考虑建立与之相适应的科研能力评价方法,并确定相应的科研能力评价指标体系。为了建立能有效评价高校教师科研能力的评价指标体系,其设计的原则应遵循如下:科学规范性、系统优化性、简洁明确性和全面实用性。

1.2 科研能力评价指标体系

本文从教师基本素质、学术影响、学术成果、科研项目四个方面来反映教师科研能力,根据构建指标体系的四个基本原则,构建三个层次结构模型评价指标体系,如图1 基于BP神经网络的高校教师科研能力评价模型

本文采用典型的三层BP神经网络对教师科研能力进行评价,如图2所示。

2.1 初始参数的确定 高校教师科研能力评价模型的评估

在某高校中,组织25名专家对20名教师科研能力进行行评价,随机抽取6组评价数据进行归一化处理得表1。

利用已编好的BP算法的程序[5],在把学习样本的输入参数输入计算机后,即可让网络模型对学习样本进行反复学习,直到网络模型的识别精度满足要求。可以看出,当网络训练达到161步时,网络模型识别精度为0.000982536,网络性能达标,可知输出结果与专家判断是吻合的,说明BP神经网络已具备了模式识别的能力,可以对教师科研能力进行评价。结语

通过构建教师科研能力评价体系的BP神经网络模型,为评价教师科研能力提供了一种量化方式。BP神经网络克服了评价中主观因素的影响,使评价结果全面准确的反映实际情况,为教师科研能力评价提供了新的工具。

参考文献

BP神经模型 篇3

企业财务风险通常表现为企业财务状况的恶化和经营成果的降低,其结果将会直接导致企业获利能力、偿债能力、营运能力和成长能力的下降,而这四个方面能力的综合即为企业的实际经营绩效。企业财务风险的发生,最终体现为企业实际经营绩效与经营目标之间出现非预期的负偏差。通过对这种负偏差及其偏差程度的分析,来综合判断企业财务风险是否发生以及财务风险状态的严重程度。定量财务指标如表1所示:

(一)模糊综合评价进行表层分析企业经营绩效评价指标体系是一个多层次、多指标的评价体系。考虑到企业经营绩效可以从A1~A4四个能力方面来评价,每一个方面在整个评价体系中的权重系数,可以由包括专家、企业管理人员及相关技术人员在内的n类有关人员依据各自的经验和方法分别给予评价。

评价结果Wik组成模糊关系评价矩阵:W=(W1,W2,W3,W4)=W11W12W13W14W21W22W23W24……Wn1Wn2Wn3Wn4,其中:Wik=1,Wik:表示第i个专家对第k方面的评价,再利用线性加权法:AK=ai·Wik(k=1,2,3,4)得出上述四方面的权重系数。其中ai为第i类人员的加权系数。

(二)BP神经网络模型内部分析以上A1~A4四个方面整体构成评价体系的表层。然后,为克服模糊综合评价这种定性方法的局限性,对每个方面中各能力指标采用人工神经网络模型来进行深层次的定量评价。

(1)构建BP网络模型结构。把这四个方面分别构造成为四个小的人工神经网络,由于前向反馈式BP神经网络具有精度高、误差小等优势,目前大多采取BP网络。其传导结构如图1所示。

BP网络是一种单向传播的多层前向网络。它采用梯度搜索技术,以使网络的实际输出值与期望输出值的误差方值为最小。其网络结构是由输入层、输出层和隐层组成,其中隐层可以是一层,也可以是多层,前层至后层节点通过网络权值相连接,同层节点中没有任何祸合,输入层和隐层的激活函数通常为Sigmoid型。但是在隐层和输出层之间的激活函数可以是线性的。Sigmoid型传递函数表达式为:f(x)=。

(2)确定模型初始权重。采用完全随机化的初始权重确定方法,通常的初始权重值与偏差值随机化方法都是在区间(-1,l)之间取均匀分布的随机数的函数,式中i,k,j分别为输入层、隐含层和输出层神经元数,rand(m,n)为m行n列的均匀分布的随机数矩阵,I(m,n)为m行n列的全1矩阵,目的是保证权值分布在区间(-1,l)范围内。这样初始权值W与阈值B为:W1=rand(k,i)-I(k,i),W2=rand(j,k)-I(j,k),B1=rand(k,1)-I(k,1),B2=rand(j,1)-I(j,1)

该函数分为线形区和饱和区,当神经元工作于饱和区时,函数变化缓慢,需经过较长的一段时间才能跳出该区域,而工作于线形区时,由于函数的变化较快,使得神经元的自我调节容易,因而收敛速度较快。如果初始权重选择的区域过大,神经元落入饱和区的概率也就越大,其收敛速度也就会很慢,但如果区域选得过小,同样会降低神经元的活性,影响网络的收敛速度。为验证上述理论,选择了[-15,15]到[-0.001,0.001]等9个区间,产生随机权重,通过分析输出的一系列累积误差变化,得出前两者当随机权值产生区间在[-0.25,0.25]之间时,两模型的收敛速度均为最快;而后两者只有当随机权值产生区间在[-0.2,0.2]之间时,两模型收敛为最快。

(3)学习次数与精度确定。BP神经网络的学习过程是由模式的正向传播和误差的反向传播所组成。在正向传播中,输入信息经隐含单元逐层处理并传向输出层。如果输出层不能得到所期望的输出,则转入反向传播过程,将实际值与网络输出之间的误差沿原来的连接通路返回,通过修改各层神经元的连接权重使误差减小,然后再转入正向传播过程。如此反复计算,直到误差小于设定值,学习过程结束。一般来讲,网络学习次数越多,其输出结果的精度越高,但学习次数多其网络训练时间也越长,另外,如果学习样本选择不当,网络精度越高,意味着其记录的错误信息越多,也会对网络的应用效果产生不利影响。为此,通过网络训练比较,前两者模型中,网络训练次数定为15万次,而后两者网络训练次数则定为16万次为宜。

(三)利用网络输出进行模糊评价通过上述步骤得出的能力系数由输出层Oj=(1,2,3,4)输出,其结果分别为R1'、R2'、R3'、R4',则最终得到企业经营绩效的综合评价结果:AiR'i

二、财务风险控制

利用模型进行财务风险识别之后,对于存在企业内部的风险,必须实施有效的策略加以控制,从而达到财务风险管理的最终目的。这里从风险状态转移、机制改善和企业特性优化这三个不同深度的层面,分析企业财务风险控制的基本途径。

(一)风险状态转移风险状态转移是企业财务风险控制策略最为直接的形成途径,它是对企业在某一环节或区域存在的风险因素,采取直接的纠正措施加以整治,使企业由严重风险状态逐步向较低风险状态转移。企业综合评价指数值处于风险状态区域的原因可从以上所说的四个方面来反映,那么风险状态转移策略的制定也可从这些方面来考虑。例如盈利能力指标类评价指数值及其单项指标的评价指数值过小,则说明企业的盈利能力处于风险状态,经营者应采取增加销售收入或降低生产成本的对策,以扩大企业利润边际额,增强企业盈利能力。如果运营能力处于风险状态,经营者就应注意加强原材料、在制品、产成品等企业存货及其它流动资产的管理,改善企业销售政策,促进应收帐款的及时回收,以改变企业资产周转效率太低的状态。偿债能力处于风险状态,企业经营者应设法扩大股票发行量或促进股票价格提高,以增加权益资本价值,或者缩小债务帐面价值,改善企业资本结构。如果成长能力处于风险状态,企业经营者应考虑优化企业产品结构,开辟企业新的利润增长点,从而改变企业发展缓慢或处于停滞的状态。

(二)风险机制改善改善企业风险机制相对于风险状态转移,能在更深层次上控制企业财务风险的发生与扩散,能够提高企业财务风险控制的能力。改善企业财务风险机制,应从建立结构完善的风险控制制度,促进企业管理层及员工树立正确的风险观念和掌握科学的风险控制的基本方法等方面出发。一是加强企业管理决策过程中的风险观念。财务风险是客观存在的,只要有财务活动,就必然存在着财务风险。而在现实工作中,企业管理人员对财务风险的客观性认识不足,缺乏风险意识,通常认为只要管好用好资金就不会产生财务风险。二是建立健全企业财务风险控制制度。要把风险机制引入企业管理活动中,把风险观念融入企业内部控制制度中,让企业经营管理者及其员工在市场竞争中承担风险责任。

(三)企业特性优化优化企业特性则是从根本上和战略上最大限度地防范与控制企业财务风险的发生,提高企业控制财务风险的能力和水平,保障企业的长期生存和持续发展。一般来讲,企业当前的经营成果和财务状况,是在企业过去经营成果和财务状况的基础上,由当前的企业特性因素综合影响和作用的结果;未来的经营成果和财务状况,则是过去、目前和将来的企业特性因素综合影响和作用的结果。因此,对企业特性的优化是提高企业经营成果、改善企业财务状况、控制企业财务风险的根本途径和战略措施。

参考文献:

[1]姜长生、王从庆:《智能控制与应用》,科学出版社2007年版。

BP神经网络模型与学习算法 篇4

BP神经网络是误差反向传播神经网络的简称, 它由一个输入层, 一个或多个隐含层和一个输出层构成, 每一次由一定数量的的神经元构成。这些神经元如同人的神经细胞一样是互相关联的。其结构如图1所示:

BP 神经网络的信息处理方式具有如下特点: ①信息分布存储;②信息并行处理;③具有容错性;④具有自学习、自组织、自适应的能力。

目前, 在人工神经网络的实际应用中, 绝大部分的神经网络模型都采用BP神经网络及其变化形式。它也是前向网络的核心部分, 体现了人工神经网络的精华。

BP神经网络最主要的优点是具有极强的非线性映射能力。其次, BP神经网络具有对外界刺激和输入信息进行联想记忆的能力。再次, BP 神经网络对外界输入样本有很强的识别与分类能力。由于它具有强大的非线性处理能力, 因此可以较好地进行非线性分类, 解决了神经网络发展史上的非线性分类难题。另外, BP 神经网络具有优化计算能力。BP神经网络本质上是一个非线性优化问题, 它可以在已知的约束条件下, 寻找一组参数组合, 使该组合确定的目标函数达到最小。不过, 其优化计算存在局部极小问题, 必须通过改进完善。

由于BP网络训练中稳定性要求学习效率很小, 所以梯度下降法使得训练很慢。动量法因为学习率的提高通常比单纯的梯度下降法要快一些, 但在实际应用中还是速度不够, 这两种方法通常只应用于递增训练。

多层神经网络可以应用于线性系统和非线性系统中, 对于任意函数模拟逼近。当然, 感知器和线性神经网络能够解决这类网络问题。但是, 虽然理论上是可行的, 但实际上BP网络并不一定总能有解。

对于非线性系统, 选择合适的学习率是一个重要的问题。在线性网络中, 学习率过大会导致训练过程不稳定。相反, 学习率过小又会造成训练时间过长。和线性网络不同, 对于非线性多层网络很难选择很好的学习率。对那些快速训练算法, 缺省参数值基本上都是最有效的设置。

非线性网络的误差面比线性网络的误差面复杂得多, 问题在于多层网络中非线性传递函数有多个局部最优解。寻优的过程与初始点的选择关系很大, 初始点如果更靠近局部最优点, 而不是全局最优点, 就不会得到正确的结果, 这也是多层网络无法得到最优解的一个原因。为了解决这个问题, 在实际训练过程中, 应重复选取多个初始点进行训练, 以保证训练结果的全局最优性。

网络隐层神经元的数目也对网络有一定的影响。神经元数目太少会造成网络的不适性, 而神经元数目太多又会引起网络的过适性。

2BP网络的标准学习算法

学习的过程:神经网络在外界输入样本的刺激下不断改变网络的连接权值, 以使网络的输出不断地接近期望的输出。

学习的本质:对各连接权值的动态调整。

学习规则:权值调整规则, 即在学习过程中网络中各神经元的连接权变化所依据的一定的调整规则。

学习的类型:有导师学习。

核心思想:将输出误差以某种形式通过隐层向输入层逐层反传。

学习的过程:由信号的正向传播到误差的反向传播。

正向传播:输入样本——输入层——各隐层——输出层。

判断是否转入反向传播阶段:若输出层的实际输出与期望的输出 (教师信号) 不符。

误差反传误差以某种形式在各层表示——修正各层单元的权值。

网络结构:输入层有n个神经元, 隐含层有p个神经元, 输出层有q个神经元。

变量定义:

输入向量:x= (x1, x2, …, xn)

隐含层输入向量:hi= (hi1, hi2, …, hip)

隐含层输出向量:ho= (ho1, ho2, …, hop)

输出层输入向量:yi= (yi1, yi2, …, yiq)

输出层输出向量:yo= (yo1, yo2, …, yoq)

期望输出向量:do= (d1, d2, …, dq)

输入层与中间层的连接权值:wih

隐含层与输出层的连接权值:who

隐含层各神经元的阈值:bh

输出层各神经元的阈值:bo

样本数据个数:k=1, 2, …m

激活函数:f (·)

误差函数:undefined

第一步, 网络初始化:给各连接权值分别赋一个区间 (-1, 1) 内的随机数, 设定误差函数e, 给定计算精度值ε和最大学习次数M。

第二步, 随机选取第k个输入样本及对应期望输出:

undefined

第三步, 计算隐含层各神经元的输入和输出:

undefined

第四步, 利用网络期望输出和实际输出, 计算误差函数对输出层的各神经元的偏导数δo (k) :

第五步, 利用隐含层到输出层的连接权值、输出层的δo (k) 和隐含层的输出计算误差函数对隐含层各神经元的偏导数δh (k) :

第六步, 利用输出层各神经元的 δo (k) 和隐含层各神经元的输出来修正连接权值who (k) :

第七步, 利用隐含层各神经元的δh (k) 和输入层各神经元的输入修正连接权:

第八步, 计算全局误差:

第九步, 判断网络误差是否满足要求。当误差达到预设精度或学习次数大于设定的最大次数, 则结束算法。否则, 选取下一个学习样本及对应的期望输出, 返回到第三步, 进入下一轮学习。

3基于BP神经网络逼近函数

步骤1:假设频率参数k=1, 绘制要逼近的非线性函数的曲线:

k=1;

p=[-1:.05:8];

t=1+sin (k*pi/4*p) ;

plot (p, t, '-') ;

title ('要逼近的非线性函数') ;

xlabel ('时间') ;

ylabel ('非线性函数') ;

步骤2:网络的建立

应用newff () 函数建立BP网络结构。隐 层神经元数目n暂设为n=3, 输出层有 一个神经元。选择隐层和输出层神经 元传递函数分别为tansig函数和purelin 函数, 算法采用Levenberg – Marquardt算法trainlm。

n=3;

net = newff (minmax (p) , [n, 1],

{'tansig' 'purelin'}, 'trainlm') ;

对于初始网络, 可以应用sim () 函数

观察网络输出。

y1=sim (net, p) ;

figure;

plot (p, t, '-', p, y1, ':')

title ('未训练网络的输出结果') ;

xlabel ('时间') ;

ylabel ('仿真输出--原函数-') ;

步骤3:网络训练

应用train () 函数对网络进行训练之前, 需要预先设置网络训练参数。将训练时间设置为50, 训练精度设置为0.01, 其余参数使用缺省值。

net.trainParam.epochs=50; % (网络训练时间设置为50)

net.trainParam.goal=0.01;% (网络训练精度设置为0.01)

net=train (net, p, t) ;% (开始训练网络)

TRAINLM-calcjx, Epoch 0/50, MSE 9.27774/0.01, Gradient 13.3122/1e-010

TRAINLM-calcjx, Epoch 3/50, MSE 0.00127047/0.01, Gradient 0.0337555/1e-010

TRAINLM, Performance goal met.

步骤4: 网络测试:对于训练好的网络进行仿真:

y2=sim (net, p) ;

figure;

plot (p, t, '-', p, y1, ':', p, y2, '--')

title ('训练后网络的输出结果') ;

xlabel ('时间') ;

ylabel ('仿真输出') ;

其中 “———” 代表要逼近的非线性函数曲线;

“‥‥‥” 代表未经训练的函数曲线;

“―――”代表经过训练的函数曲线;

摘要:分析了神经网络算法的基本原理, 给出了BP神经网络算法的具体实现方法, 总结了它的特点, 并给出了基本流程。采用Matlab软件编程实现BP神经网络算法。将神经网络算法应用于函数逼近问题中, 并分析相关参数对算法运行结果的影响, 最后对BP神经网络算法进行了展望。

关键词:BP神经网络,学习算法,函数逼近

参考文献

[1]郑君里, 杨行峻.人工神经网络[M].北京:北京高等教育出版社, 1992.

[2]郝中华.BP神经网络的非线性思想[J].洛阳师范学院学报, 2008 (4) .

[3]巨军让, 卓戎.BP神经网络在Matlab中的方便实现[J].新疆石油学院学报.2008 (1) .

[4]蒋宗礼.人工神经网络导论[M].北京:高等教育出版社, 2001.

[5]Neural Network Tolbox User’s[M].The MathWorks.Inc, 2003.

[6]MATLAB USRR'S GUIDE[M].The MathWorks.Inc, 2003.

[7]NEURAL NETWORK TOOLBOX[M].Mathworks, 2007.

[8]闻新, 周露, 王丹力, 等.MATLAB神经网络应用设计[M].北京:科学出版社, 2001.

[9]李学桥.神经网络工程应用[M].重庆:重庆大学出版社, 1995.

浅谈BP人工神经网络 篇5

浅谈BP人工神经网络

人工神经网络有很多模型,但是目前应用最广泛的、基本思想最直观、最客易理解的.是前馈神经网络中的误差逆传播学习算(Error Back Propagation),简称为BP神经网络.它是前馈神经网络中的核心部分,也是最精华的部分.

作 者:柴燕茹 马岩 作者单位:哈尔滨商业大学,管理学院,哈尔滨,150028刊 名:学理论英文刊名:THEORY LEARNING年,卷(期):2008“”(22)分类号:Q983关键词:神经元 神经网络 局限性

BP神经模型 篇6

摘要:从店铺信息、商品、卖家服务等方面建立C2C电商信用评价体系,在淘宝网获取了242条卖家信息,利用SPSS两步聚类法将数据进行聚类,运用MATLAB的BP神经网络工具箱,将评价指标数值作为输入,聚类结果作为输出,构建了三层BP神经网络,以230条数据为训练样本,得到具有较快收敛速度和较高准确率的BP网络。在此基础上, 以12条卖家信息作仿真实验,对卖家信用等级进行客观的预测评价,最终建立C2C信用评价模型。

关键词:C2C电子商务 信用评价 BP神经网络

当前互联网依旧成为影响我国经济社会发展、转变人们生活形态的关键行业,中国互联网络信息中心(CNNIC)在京发布第34次《中国互联网络发展状况统计报告》,《报告》显示,截至2014年6月,我国网购用户规模达到3.32亿,与2013年6月对比,增加6060万,增长率为22.37%。虽然网购规模的扩大,刺激网络经济的发展,但也引发了诚信危机。据《2014年(上)中国电子商务用户体验与投诉监测报告》显示,电商投诉大大增加,网络售假、退款问题、质量问题、虚假促销、退换货物网络诈骗、发货迟缓、订单取消、账户被盗、售后服务等尤其明显。越来越多的新问题对电商的诚信度和服务提出了更高的要求,要提高网民对电子商务的信任,首先必须让网民知道什么情况下电子商务是可信的,这就涉及电子商务信用评价问题。

传统信用评价方法主要基于线性特征建立模型,C2C电子商务的信用评价指标与信用评级之间常体现出非线性特征,神经网络则被认为更适于说明指标间的非线性特征,所以,本文建立C2C电商信用评价指标,利用MATLAB的BP神经网络工具箱建立信用评价模型,通过反复训练提高信用评价准确率,得出信用评价等级和结果。

一、BP神经网络原理

BP神经网络原理比较简单,图1为一个典型的三层BP神经网络结构图。图1中,X=(X1,X2……,Xn)T为输入向量,Y=(Y1,Y2……Ym)T为输出向量,n表示输入向量维数,m为输出向量维数。输入学习样本,使用反向传播算法对网络的权值和偏差进行反复的调整训练,使输出向量与期望向量尽可能地接近,当网络输出层的误差平方和小于指定的误差时训练完成,保存网络的权值和阀值,不断调整权值和阀值的过程,便是BP神经网络的训练进程,这个过程一直持续到输出误差减小到可接受或预先设定的学习次数为止。

二、BP神经网络C2C电子商务信用评价模型的建立

(一)C2C电子商务信用评价指标体系

根据有关电子商务的信用影响因素,结合消费者对网商的投诉内容,淘宝网现有评价规则方法和模型体系,以及前人研究的各种其他评价体系存在的问题进行全面的分析总结,本文从店铺信息、商品以及卖家服务这三个方面建立如表1所示的C2C电子商务信用评价指标体系。

(二)建立BP神经网络信用评价模型

数据选取,本文根据上文所建立的信用评价指标体系中的二级指标,从淘宝网上搜集相关数据,作为BP神经网络的训练数据集和检验仿真数据集。由于不同行业的商品性质、价格差别较大,不具有可比性,为了保证模型的准确性,本文仅选取淘宝网上以“3C数码”行业为主的店铺数据作为目标,选取了以销售手表为主的店铺,共搜集了260条数据,由于输入错误等一些原因导致部分数据缺失,经过筛选,最终产生242条有效数据,如下表2所示(由于数据较多,仅列出部分数据)。

数据预处理,由于BP神经网络学习是典型的有导师学习,其自学过程是一个反复迭代的过程,通过对足够的样本进行训练,得到一组权值,因此所建立的信用评价模型需要有学习对象。当前淘宝网店家信用等级分为4大类20等级,但是买家对这些过多的信用等级并非太敏感,本文将新信用等级分为5个等级,并且运用SPSS13.0软件,使用两步聚类法确定所有数据的聚类数,表2前三列作为参考数据,由于退款率和惩罚次数是成本性指标,其他为效益性指标,在进行数据处理时,本文将这两个指标数值由正变负,再经过软件分析得到如表3和表4的结果。

(三)基于Matlab的BP神经网络工具箱的信用评价模型建立

BP神经网络模型的确定,需考虑三方面:神经网络层次、每层神经元个数、 BP神经网络参数。进一步说,就是隐含层和输出层传递函数的选取,训练函数的选择,初始数据的归一化,以及最大训练步长和目标误差的设定等。据Kolmogorov定理,一个隐含层的BP网络能映射任意连续函数,降低训练误差,增加网络层数的方法会使网络结构变得复杂化,进而增加训练时间,因此,本文采用三层BP网络,通过增加隐含层节点数,确定最佳BP网络结构。

本文用样本数据中的230条数据作为训练数据,12条数据作为检验仿真模型数据,误差目标goal设为0.015,训练步长设为100000,其他参数为工具箱缺省值。各层神经元个数的确定,本文选取了11个二级信用评价指标作为输入,因此输入层神经元n=11;输出神经元的数量由信用评价结果的模式确定,由于将“卖家信用等级”作为目标输出,用数字分别表达对应的信用等级:1代表信用等级高;2表示信用等级较高;3表示信用等级一般;4表示等级较低,5表示等级低,因为期望输出值是单数字的形式,因此网络输出层m=1。隐含层神经元数目的选择是非常复杂的问题,常需要根据经验和多次试验来确定。本文选公式(2)和(5)选取比较宽泛的隐含层神经元数范围,可初步判断隐含层神经元数的范围为5—23,通过Matlab7.11设计了隐含层神经元数可变的BP神经网络,在nntool中默认的trainlm函数下,取隐含层节点数从5到23,由于输出的误差有正有负,本文将输出的所有数据都做绝对值ABS处理,针对不同节点的不同数据的绝对值误差求平均值,通过数百次的训练,改变权重和阀值,得到不同节点的最佳误差值,由表5右侧可知,当m=10时,平均误差是最小的,从而确定最佳隐含层神经元数为10。

BP网络常用传递函数有logsig、tansig、purelin。logsig产生[0,1]的输出,tansig产生[-1,1]的输出,purelin可以得到任意大小的输出,由于本文输入数据为连续数值,用premnmx函数进行归一化处理,所以隐含层采用tansig传递函数,目标输出数据为任意值,输出层用purelin传递函数。

选取不同的训练函数,BP网络的收敛速度有差异,对训练误差也有影响,本文分别选用trainglm、traingdx、trainda、traingdm和traingd函数等常用训练函数进行BP网络训练,训练结果如表5左侧所示,可以看出trainlm函数的收敛速度最快,收敛误差最小,因而确定网络的训练函数为trainlm函数。

综上所述,基于BP神经网络的C2C信用评价模型为11—10—1的三层BP神经网络模型,隐含层传递函数为tangsig函数,输出层传递函数为purelin函数,训练函数为trainlm函数。

最后,将检测数据集输入模型进行检测,来检测该模型的准确率。利用MATLAB的nntool进行检测仿真实验,得出如表6的结果,从表中可以看出,12个检测样本中,只有样本5和样本12未达到设定的goal=0.015,其余10个样本均达到,模型的准确率达到83.33%,说明该模型的训练精度较高,分类能力较强。

三、结论

本文使用MATLAB的BP神经网络工具箱,设计和建立了基于BP神经网络的C2C电子商务信用评价模型,此模型选用的BP神经网络算法,是一种非线性方法,没有明显的主观成分,只需将处理过的数据输入网络,通过MATLAB的nntool计算即可得评价结果,避开权数确定问题,实现评价的自动化和智能化,该过程简单易行,对卖家的信用等级有较为准确的评估,对于C2C电子商务信用的评价,可望开发一个评价系统,将训练好的的神经网络模型嵌入该系统中,输入指标值,系统会自动给出一个评价等级,同样,也可用训练好的模型来评价某些电商活动,乃至可以对国内外电子商务的信用进行对比分析,从而更好了解我国电商情况。

参考文献:

[1]PIRAMUTHUS. Financial cre-

dit-risk evaluation with neural and neurofuzzy systems[J]. European Journal of Operational Research,1999,112(2):310—321

[2]DAVIDDEMEZA,DAVID WEBB.D-

oes creditrationing imply in sufficient lending[J]. Journal of P-

ublic Economics,2000,78:215—234

[3]YUEH—MIN HUANG,CHUN—MIN

HUNG,HEWIJINCHR ISTINEJIAU. Evaluati on of neural networks and datamining methods on a credit assessment task for class imbalance problem[J]. Nonlinear Analysis:Real World Applications,2006,7

(4):720—747

[4]http://www.cnnic.net.cn/hlw-

fzyj/hlwxzbg/hlwtjbg/201407/t20140721_47437.html

[5]http://www.100ec.cn/cn/deta-

il——6192810.html

[6]吴莹辉.基于BP神经网络模型的个人信用风险评估研究[J].科技创业,2012(7):98—100

[7]卢纹岱主编.SPSS for Windows统计分析(第3版)[M].北京:电子工业出版社,2008:392—407

[8]闵惜琳,刘国华.用MATLAB神经网络工具箱开发BP网络应用[J].计算机应用,2008,21 (8):163—164

〔本文系辽宁省自然科学基金项目“面向股票价格过度波动的(x,n,1)型模拟植物生长神经网络算法研究”(项目编号:20092141)研究成果〕

BP神经模型 篇7

神经网络是智能算法之一,具有不依赖对象的数学模型、便于利用人的经验知识、鲁棒性好、简单实用等众多优点。但在神经网络模型的设计中存在2个瓶颈,即网络的结构与参数的设计。一般采用试探训练法获取网络的结构和权值,这种方法的网络训练速度慢并且容易陷入局部收敛[1]。

遗传算法是模拟生物在自然环境中的遗传和进化过程而形成的一种自适应概率搜索算法,具有全局寻优能力。但是存在接近全局最优解时搜索速度变慢,过早收敛,个体的多样性减少很快,甚至陷入局部最优解等缺点[2]。

免疫算法借鉴了自然免疫系统的体细胞成熟理论和免疫网络理论,通过在进化算法中引入多样性保持机制和免疫记忆机制,提高了算法的收敛效率,并在一定程度上消除了未成熟收敛现象[3]。

本文采用免疫遗传算法来优化神经网络的权值,增加了网络训练算法收敛于全局最优或较好的局部最优的概率,同时也提高了算法的收敛速度。

1 免疫遗传算法

免疫遗传算法(IGA)以遗传算法为基础,该算法使遗传算法具有免疫功能。免疫系统由抗原识别系统、记忆机制、抗体促进与抑制等部分组成,通过细胞分裂可以产生大量抗体来抵御各种抗原,将这种机制加入遗传算法可以提高算法的全局搜索能力而不限于局部解[2,3]。对于免疫遗传算法,其可以有选择、有目的地利用待求问题中的一些特征信息或知识来抑制其进化过程中出现的退化现象,从而提高局部搜索能力。免疫算法具有记忆机制,产生抗体的部分细胞会被保存下来作为记忆细胞,对于同类抗原,其相应的记忆细胞会产生大量抗体[4]。利用这种抗原记忆识别机制,可以加快搜索速度,提高算法的总体搜索能力,同时称IGA中个体统一称为抗体。免疫遗传算法采用基于浓度的选择更新,取代了原遗传算法的基于适应度值的选择复制,从而有效地防止了遗传算法中“早熟”的问题,将搜索过程引向全局最优。免疫遗传算法的流程图如图一所示:

2 基于免疫遗传算法的BP神经网络模型

设有N个抗体,每个抗体长度为M,等位基因的种类为V,则N个抗体基因座j的信息熵Hj(N)可定义为:

式中,Pij是抗体上等位基因i在第j个位置上出现的概率,由此可得平均熵H(N)为:

根据熵的定义,得到两个抗体Xi和Xj的亲和度:

为了避免冗余计算和保持抗体多样性,如果Aij≥ω,则淘汰其中一条抗体。ω是浓度阈值,表示为:

在基本的免疫算法和遗传算法计算的基础上计算出每个抗体的浓度和适应度之后,便可通过选择机制进行抗体的促进和抑制的调节。在传统的适应度比例选择机制的基础上,增加基于浓度的调节概率因子,于是个体的选择概率pv由适应度概率pf和浓度抑制概率pd两部分组成。

其中α,β为常数调节因子。从上式可以看出:个体适应度越大则选择概率越大,然而个体浓度越大则选择概率越小,这样在保留高适应度个体的同时进一步确保个体多样性,改善了未成熟收敛现象。

将BP神经网络的每个隐节点相关的权和阈值作为编码基因,产生初始抗体种群,个体适应度fit(j)=1/E,E为网络的目标函数,即,T和Y分别为第P个训练样本的第q个输出节点的期望输出和实际输出。

通过这样的设置,将免疫遗传算法引入BP神经网络模型中,通过免疫遗传算法的全局寻优性优化了神经网络的权值。

3 仿真实验

以三维非线性函数,x1,x2,x3∈[1,5]验证算法。

将x1,x2,x3∈[1,5]分别均匀取点,代入函数可以得到125组样本数据,用本文的神经网络模型建模,从125组数据中随机抽取75组数据作为训练样本,学习速率为0.002,个体误差为0.00028,与传统的BP网络模型的仿真结果的对比如表一所示。

表一 两种模型的仿真结果比较

仿真结果说明基于免疫遗传算法的神经网络缩短了训练时间,减小了训练误差。

4 结束语

本文提出了一种基于免疫遗传算法的BP神经网络模型,借鉴了遗传算法的自适应搜索及全局寻优能力,并通过在算法中引入多样性保持机制和免疫记忆机制,提高了算法的收敛效率,并在一定程度上消除了未成熟收敛现象。实验结果证明采用免疫遗传算法来优化神经网络的权值,增加了网络训练算法收敛于全局最优或较好的局部最优的概率,同时也提高了算法的收敛速度。

摘要:本文研究了基于免疫遗传算法的BP神经网络模型,利用免疫遗传算法的全局搜索寻优能力和较好的收敛性,优化了神经网络的权值。仿真实验证明该模型具有较好的全局收敛性和快速学习神经网络权值的能力。

关键词:BP神经网络,免疫遗传算法,权值优化

参考文献

[1]罗菲,何明一.基于免疫遗传算法的多层前向神经网络设计[J].计算机工程,2005,(25):1661-1665.

[2]王瑞明,曾玉金,蒋静坪.基于免疫遗传算法的模糊神经网络在交流伺服系统中的应用[J].浙江大学学报,2005,39(8):1156-1159.

[3]宫新保,臧小刚,周希朗.基于免疫算法的前向神经网络学习方法[J].系统工程与电子技术,2004,26(12):1927-1929.

BP神经模型 篇8

本文的研究目标是通过对现有评价指标、评价方法的分析, 建立有效的教学评价模型, 并实现相应的网上教学评价系统设计。结合BP神经网络, 给出了一种非线性的教学评价模型, 训练好的BP网络模型根据测评数据, 就可得到对评价对象的评价结果, 实现定性与定量的有效结合。

1 BP神经网络模型

(1) 输入/输出节点。输入/输出节点是与样本直接相关的。根据沈阳工业大学教学质量评估指标体系, 将二级评价指标作为模型的输入神经元, 因此系统的输入层神经元的个数为二级指标的个数。将评价结果作网络的输出, 输出层神经元个数为1。

(2) 层数。由于BP网络的功能实际上是通过网络输入到网络输出的计算来完成的, 因此隐含层数越多, 神经网络学习速度就越慢。但是只含有一个隐含层的BP网络就可以逼近任意的非线性函数。因此, 本文选取结构相对简单的3层BP网络, 即隐含层只有一个。

(3) 隐含层神经元个数。隐含层单元个数与问题的要求以及输入输出单元个数有直接的关系。隐层单元过多将会导致神经网络训练时间过长、误差不易控制及容错性差等问题。本文采用公式2.1计算得出隐含层神经元个数。

4) 激活函数BP网络的非线性逼近能力是通过S型的激活函数来体现出来的, 所以隐含层中一般采用S型的激活函数, 输出层的激活函数可以采用线性或S型[3]。S型激活函数为

该函数值在[-1, 1]范围内变化很剧烈, 而超出这个范围即处于不灵敏区, 变化则相当平缓。因此为使得进入不灵敏区的误差函数有所改变, 迅速退出不灵敏区, 保证训练网络的快速性, 尽可能使所有输入值都在灵敏变化段中, 一般需在该公式中引进参数。本文的神经网络算法即在此部分进行改进。

2 基于BP神经网络的教学评价模型构建

本文由公式2.1计算得出隐含层节点数为4 (这里考虑了下述16个指标可以分为4组) 。 (见表1)

3 改进的BP神经网络算法描述

网络的拓扑结构和训练数据确定之后, 总误差函数E的性质特征就完全由激活函数f决定了。改进激活函数, 可以改变误差曲面, 尽量减少局部极小值的可能性。BP算法的激活函数一般为sigmoid型函数, 即f (x) =1/ (1+e-x) 。

改进的BP算法是对标准的S型函数引入新的参数λ, 则函数变为f (x) =1/ (1+λe-x) 其中系数λ决定着S型函数的压缩程度。该非线性函数满足如下两个条件:一是连续光滑且具有单调性;二是定义域为 (-∞, +∞) , 值域为 (0, 1) , 故符合激活函数要求。而且它使得激活函数曲线变得平坦, 方便在yj≈0或1-yj≈0时, 避开局部极小因此该函数具有更好的函数逼近能力以及容错能力。

4 仿真计算与分析

以学生评教数据为输入值, 专家评教数据为期望输出值, 采用上述算法在Matlab下设计仿真程序对BP模型进行辨识, 输入层、隐含层和输出层的结点数分别为16×4×1, 激活函数采用变化的S型, 学习率η=0.99。

通过沈阳某大学教务处所提供的数据进行实验, 采用10组样本进行网络训练, 并对10位教师进行测评。10样本的评价目标和神经网络辨识分别为差 (21.93) , 及格 (4 4.6 4) , 及格 (4 6.9 4) , 中 (5 9.8 7) , 中 (5 91 1) , 中 (6 2.3 5) , 中 (5 9.8 3) , 良 (7 8.9 3) , 良 (79.56) , 优 (99.12) 。结果显示, BP模型对评估的模拟结果比较精确, 对整个考核的排序十分有用。因此该模型能较为准确地根据各评价指标来确定教学效果。

5 结论

结合国家高等教育的政策导向以及学校实际, 建立了一个基于BP神经网络建立了教学评价模型, 引用具有更好函数逼近以及容错能力的改进的BP学习算法, 确定指标体系的权重, 使评价结果科学合理。

摘要:通过对BP神经网络模型的构建和算法进行详细阐述, 系统地介绍了BP神经网络理论在教学评价中的应用现状, 并给出基于BP神经网络的教学评价模型的构建方法。

关键词:BP,神经网络,教学评价,模型构建,评价方法

参考文献

[1]王智钢.基于ASP.NET技术的网络教学评价系统的开发[J].金陵科技学院学报, 2006, 22 (1) :27-30.

BP神经模型 篇9

1 BP算法及其改进

1.1 BP算法

各连接权值W(k)和神经元阈值的初始值依靠随机选取,其分布范围较大,网络优化时需多次迭代才能找到最优解。鉴于此,本文提出基于遗传算法的BP神经网络,根据遗传算法的特点,减少优化时的迭代次数,提高收敛速度[3]。

1.2 改进BP神经网络

模拟退火遗传算法是以遗传算法为主体流程,引入模拟退火机制,该算法在执行时首先通过遗传算法进行全局搜索,产生出较优良的群体,再利用模拟退火算法进行局部搜索,对基因个体进行优化调整,避免了遗传算法收敛性差的缺点,可高效地找到最优解[4]。文中的改进BP神经网络先利用模拟退火遗传算法局部搜索能力强的特点,将神经网络的权值和阈值优化到一个较小的范围,然后利用BP算法进行预测[5],从而建立成熟神经网络结构,两种算法的结合能显著提高BP网络的性能。

GA-BP算法具体[6,7,8]步骤如下:(1)选择适应度函数,模拟退火遗传算法叙述要利用该函数确定种群个体适应度大小,以此判断个体是否被选择。(2)初始化网络参数,并给出训练参数。由rand函数产生一组(-1,1)之间的随机数确定,选择训练结果最好的一次作为网络的初始权值和阈值,网络的训练参数按照模拟退火遗传算法进行预处理,表示成二进制编码的形式。(3)计算种群个体的适应度及总适应度,若达到预定值则转至步骤(5),否则执行步骤(4)。(4)采用模拟退火遗传算法对种群进行进化,对种群个体进行相应的选择、交叉和变异操作,繁殖过程采用最优个体保留策略,选择优异个体组成优异群体,直到群体的适应度趋于稳定,完成后转至步骤(3)。(5)使用BP网络进行迭代计算,若未达到全局误差要求,则转至步骤(4),否则执行步骤(6)。(6)输出此时的种群,即网络权值和阈值。(7)输出对应的匹配结果。

GA-BP网络流程如图2所示。

2 实验分析

以黄河流域潢川水文站、淮滨水文站、泌阳水文站逐日流量及逐日区间雨量数据为例,分别采用BP神经网络和GA-BP神经网络模型进行洪峰预测,对比说明GA-BP网络的可行性和优越性。表1中前10组数据作为训练数据,后5组作为测试数据。

2.1 BP神经网络模型运行

BP神经网络输入元需先经归一化处理,分别为潢川水文站流量、淮滨水文站流量、区间雨量和区间净雨量,隐层节点数根据经验公式(ni为输入层节点数,n0为输出层节点数,a为1~10之间的常数),输出层为一个神经元,输出值为泌阳水文站流量归一化数值,采用newff函数创建网络,设定训练误差为1e-5,训练次数为1 000次。网络设置完成后,使用BP神经网络模型进行训练,训练完成后,将其用于流量预测,得到的数据与真实数据进行比较,表2为泌阳水文站BP神经网络模型下预测流量与实际流量的对比。设Q为模型演算值Qi与实际流量值Qs之间的误差,根据误差公式Q=(Qi-Qs)/Qs×100%,对样本进行统计。

由表2可看出,BP神经网络模型最大误差为0.49%,最小误差为-0.45%,根据公式,得平均绝对值误差为1.56%。

2.2 改进的BP神经网络模型

基于模拟退火遗传算法BP网络模型输入层和输出层同样需要经过归一化处理,与原始BP神经网络模型设定相同,隐层节点数采用经验公式进行设定,设定为4,遗传群体数目初始化为10,同样设定训练误差为1e-5,公式训练参数、个体适应度及总适应度、阈值等均在实验过程中不断进行调试,以取得满意效果。模型仍采用表1数据,表3为泌阳水文站GA-BP神经网络模型下预测流量与实际流量的对比。

根据表3数据和平均绝对误差公式0.88%。由此可见,改进的BP网络模型演算数据与实际数据更为接近,误差控制在更小的范围内。同时模拟退火遗传算法对初值的引进,减轻了BP网络的负担,缩短耗时。

3 结束语

使用模拟退火遗传算法优化BP神经网络,主要包括优化网络结构、优化权系数、优化网络结构和学习规则等[4]。由实验结果对比可以看到,BP网络和模拟退火遗传算法的结合,在程序运行上减小了搜索空间、提高了算法的搜索效率,结果更为精确,缩小了误差范围。

参考文献

[1]王鹏.基于数据挖掘的洪峰预测系统的研究与实现[D].南京:河海大学,2006.

[2]陈云翔.防洪决策中洪水灾情智能预测与评估模型的研究[D].上海:东华大学,2008.

[3]丁永生.计算智能理论技术与应用[M].北京:科学出版社,2004.

[4]张晖,吴斌,余张国.引入模拟退火机制的新型遗传算法[J].电子科技大学学报:自然科学版,2003,32(1):39-42.

[5]穆阿华,周绍磊,刘青志,等.利用遗传算法改进BP学习算法[J].计算机仿真,2005,20(2):150-151.

[6]李维良,叶三星.遗传BP算法在双色球彩票预测中的应用[J].软件导刊,2011,10(11):81-83.

[7]石争浩,黄士坦,冯亚宁,等.遗传算法和BP算法相结合进行图像匹配[J].武汉大学学报:工学版,2003,36(3):91-94.

BP神经模型 篇10

随着计算机技术的发展和数学理论的不断完善,有限元法已经成为大型复杂结构的动力学分析的主要手段。但在进行大型结构动力学优化时,由于太多的设计变量等考虑因素使得在分析此类问题时,工作效率相对较低,即使采用灵敏度分析方法,仍需要对多个设计变量分步寻优,有大量的重复计算,很难实现设计的快速反应。而近年来兴起的神经网络方法利用其高度并行信息处理、强的非线性映射及自适应学习能力为消除这个长期存在的制约因素提供了手段。

1 神经网络方法

神经网络是对生理学上的人脑神经网络的机械和功能以及若干基本特征的某种理论抽象、简化和模拟而成的一种信息处理系统,它具有较强的自学习、自组织及动态的全局性的分布、并行式的信息存储和处理功能。

神经网络方法的基本思路是:将系统结构参数与系统动态特性参数之间的物理关系反映为神经网络模型的网络输入与网络输出的数学关系,建立此关系即建立神经网络模型的过程即为训练。利用经过训练的模型进行结构设计的再修改及优化就直接而简单,其计算速度要大大快于基于其它模型(如有限元模型)上进行优化计算的速度。

神经网络建模的关键是训练,而训练时随着输入参数个数的增多样本的排列组合数也急剧增加,这就给神经网络建模带来了很大的工作量,甚至于无法达到。

为此,本文采用多水平正交表选取BP神经网络训练样本的方法。试算结果表明,只需选取数量少得多的排列样本就可训练出较高精度的BP神经网络。基于此方法建立了点焊结构神经网络模型,并以试验结果为依据,进行了模型参数的修正。

2 点焊的BP神经网络建模

点焊结构大量应用于汽车车身等复杂结构的薄板件互连上。在进行有限元分析时,焊点如何模拟对模型分析结果的正确与否起着至关重要的地位。如所建模型不能合适地模拟实际结构的力学特性,则由此模型所做的分析对实际结构的强度分析、结构改进等就没有任何意义。

选用两块500mm×250mm的厚度为1.2mm的薄铁板,通过6个焊点将其连接在一起,焊点间距为90mm,搭接宽度为15mm。对该试件进行自由悬挂状态下的模态试验,采用单点输入、多点3方位输出的方式,测得其前4阶固有频率分别为:16.833Hz、22.364Hz、27.043Hz和39.925Hz,其对于的振型分别为:扭转(a);弯扭组合(b);弯曲(c)和二阶弯曲(d)。具体振型图分别如图1所示。

同时选用有限元分析软件ANSYS对其在计算机上进行仿真,分别用SHELL63和BEAM188单元来对薄铁板和焊点建模。其中BEAM188单元是一种可以描述截面形状的梁单元,本文选用环形截面梁来模拟焊点。为减少BP神经网络建模的输入变量,将环形截面的内径设为固定值0.02mm,只将其外径作为输入变量,其每个变量均匀取5个值,分别为2mm、3mm、4mm、5mm、6mm。取其模态分析的前4阶频率为输出变量。

建立BP神经网络其样本的选取至关重要,它关系到所建立的网络模型是否能正确反映实际物理系统所选定的输入和输出变量之间的关系。类似于一般的插值,通常作法是将输入变量在感兴趣的区间内均匀分布取值,如果有k个输入变量,每个变量均匀地取m个值(即每个变量有m个水平数),则根据排列组合应有mk个训练样本。对应于本例,有6个输入变量,每个变量有5个水平数,这样训练样本的数目就为56=15625个。这在实际建模中基本上是不能实现的。因此,本文采用正交表Ln(M k)对此问题进行了研究,在正交表中取n=k(m-1)+1(对饱和正交表),即25个样本进行训练所得到的网络模型仍达到满意的精度,而25<<15625。如此,结构系统的神经网络建模便有了实际可行性。样本的期望输出值由有限元法计算,训练采用了文献[2]的权系数与阀值修正公式。

为了测试该网络模型的泛化能力,在输入变量所允许的区域内又另选多个样本进行了计算,结果表明,利用BP神经网络模型计算的测试输出与期望输出值相符,误差<2%。这表明建模精度在工程所允许的范围之内。说明所建的BP神经网络模型已很好地描述了点焊结构参数与结构特征参数之间的映射关系。以后模型的修正再分析与优化计算可以在已建立的BP神经网络模型进行,而不必再用原来的有限元模型。因此,随后的优化过程将变得直接、简单。

3 点焊结构的BP神经网络模型修正

以试验所测该试件的前4阶固有频率为依据,现通过BP神经网络来修正所建的动力学模型。选BEAM188单元外径为设计变量,整个系统的第1、2、3、4阶固有频率计算值与试验测得的各阶对应频率之差平方和最小为目标。选用序列二次规划(SQP)的优化方法来进行计算。修正前后计算结果及分别与实验数值对比结果如表1所示。

由结果可知:通过修正梁单元外径,网络输出的第1、2、3、4阶频率分别为16.853Hz、22.134Hz、27.348Hz和39.627Hz,几乎就是相应的实测频率,而优化前的网络输出频率分别为15.536 Hz、25.310 Hz、32.795 Hz和39.845 Hz。表明此时的BP神经网络模型已十分接近结构的真实模型。因此,基于此模型所做的分析和结构改进,其结果是可信的。

4 结论

1)本文采用多水平正交表选取BP神经网络训练样本的方法。按该法进行训练只要选取数量不多的排列样本便可得到具有满意精度的网络模型,使结构系统的神经网络建模有了实际可行性。

2)基于此方法建立了点焊结构的BP神经网络模型。由于所建的BP神经网络模型具有较高的精度,很好地描述点焊结构参数与结构特征参数之间的映射关系。因此,根据试验的实测频率对所建的BP神经网络模型进行了模型修正及优化计算。

3)由于神经网络模型将系统结构参数与系统动态特性参数之间的物理关系(线性或非线性的)反映为神经网络模型的网络输入与网络输出的数学关系。因此,在神经网络模型上进行结构修正与优化比在其它模型上进行更显得直接、简单与高效。

4)本文的方法在点焊结构的模拟中取得了较好的效果。表明神经网络的计算与传统的数值方法相结合,用于复杂结构的计算具有重大的现实意义。

摘要:文章采用多水平正交表选取BP神经网络训练样本的方法,可在保证足够精度的条件下,大大减少神经网络的建模工作量,因而有很大的实用价值。基于此法建立了点焊模型的BP神经网络模型,并以试验结果为依据,修正了有限元模型。

关键词:神经网络,点焊,模型修正,有限元

参考文献

[1]焦李成.神经网络系统理论[M].西安:西安电子科技大学出版社,1996.

[2]丛爽.面向MATLAB工具箱的神经网络理论与应用[M].合肥:中国科技大学出版社,1998.

BP神经模型 篇11

关键词:BP网络 旋转触探仪 神经网络预测 训练函数

中图分类号:TP751文献标识码:A 文章编号:1674-098X(2014)12(c)-0004-02

随着计算机技术的快速发展,人工神经网络在数学﹑物理﹑工程﹑岩土等行业得到广泛应用。Matlab软件提供了神经网络的工具箱,提供了多种神经网络库函数,为数值计算提供了计算平台。岩土工程问题的复杂多变性,在运用神经网络分析和预测时,其结果往往受各种因素的影响,关键还是网络结构的构建和训练函数的选取。因此,应该对网络的训练函数的选取进行深入研究。

该文在大量的旋转触探试验的基础上,结合土的物理性质指标含水量、干密度,土的强度参数粘聚力和内摩擦角,以及埋深情况,建立土的旋转触探模型,建立BP神经网络,采用不同的训练函数对网络进行训练。

1 BP神经网络

BP网络是一种单向传播的多层前向网络,具有三层或三层以上的神经网络,包括输入层、中间层(隐层)和输出层。在人工神经网络的实际应用中,BP网络广泛应用于函数逼近、模式识别/分类、数据压缩等,人工神经网络模型采用BP网络或它的变化形式,它是前馈网络的核心部分,体现了人工神经网络最精华的部分。BP算法的基本思想[1]是,学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层传入,经各隐层逐层处理后,传向输出层。若输出层的实际输出与期望的输出不符,则转入误差的反向传播阶段。误差反传是将输出误差以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程,是周而复始地进行的。权值不断调整的过程,也是网络的学习训练过程。此过程一直进行到网络输出的误差减少到可以接受的程度,或进行到预先设定的学习次数为止。

2 BP神经网络的训练函数

BP神经网络中的训练算法函数是根据BP网络格式的输入、期望输出,由函数newff 建立网络对象,对生成的BP 网络进行计算,修正权值和阈值,最终达到BP网络的设计性能,从而完成网络的训练和预测。BP 神经网络几种主要的训练函数及其特点分述如下[2]。

(1)traingda、trainrp函数和trainlm函数。

traingda函数是最基本的自适应学习步长函数,其最大优点可以根据误差容限的性能要求调节函数,弥补标准BP算法中的步长选择不当问题。trainrp函数可以消除偏导数的大小权值带来的影响,只考虑导数符号引来的权更新方向,忽略导数大小带来的影响。trainlm函数。该函数学习速度较快,但占用内存很大,从理论上来说适用于中等规模的网络。

(2)共轭梯度算法:traincgf函数、traincgp函数、traincgb 函数、trainscg函数。

共轭梯度算法是介于最速下降法与牛顿法之间的一个方法,其利用一阶导数信息,但克服了最速下降法收敛慢的缺点,又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点。上述四种共轭梯度算法前三种收敛速度比梯度下降快很多,其需要线性搜索,对于不同的问题会产生不同的收敛速度。而第四种不需要线性搜索,其需要较多的迭代次数,但是每次迭代所需计算量很小。

(3)Newton算法:trainbfg函数、trainoss函数。

trainbfg 算法的迭代次数较少,由于每步迭代都要Hessian矩阵,其每次迭代计算量和存储量都很大,适合小型网络。Trainoss为一步割线算法。它是介于共轭梯度法和拟牛顿算法的方法,其需要的存储和计算量都比trainbfg要小,比共轭梯度法略大。

上述各算法由于采用的训练函数不同,其计算速度、收敛速度及其迭代次数不尽相同,并且对内存要求依研究对象的复杂程度、训练集大小、网络的大小及误差容限的要求等存在差异。在运用BP网络解决相关工程性问题时,需要选择合理的训练函数。

3 网络训练函数的选取

该文着重研究BP神经网络的训练函数的选择,所用数据样本均来自于实践中用新型微机控制旋转触探仪采集到的数据,经过归一化处理建立了网络的样本数据库,根据训练函数的特点选择其隐含层数为2。文选择非线性函数为Sigmoid,输出层的传递函数为Purelin,可以用来模拟任何的函数(必须连续有界)。

采用不同的训练函数对网络的性能也有影响,比如收敛速度等等,下面采用不同的训练函数(trainbr、traingd、traingdm、traingdx、traincgf、trainlm、trainb)对网络进行训练,并观察其结果,如表1所示。

对比可知,trainlm训练函数的收敛效果较好,trainbr、trainlm训练函数得到的绝对误差相对较小,其它训练函数的收敛性能较差。trainbr训练样本的绝对误差比trainlm训练函数的绝对误差小,且分布比较均匀,但是trainbr训练函数的收敛精度却相对较差,这可能是出现局部最优化的问题,通过测试样本的进一步分析如表2所示,trainbr训练以后的网络对于预测样本的预测精度较低,偏差较大,进一步验证了该训练函数在训练过程中训练收敛精度相对较差,并出现局部最优化[3]。

综合考虑,可以看到trainlm训练函数具有训练速度快且预测精度高的特点,所以本文中选用trainlm作为训练函数。

4 结论

该文以Matlab神经网络的作为工具,基于触探模型作为研究对象,对不同的训练函数进行了仿真比较,结果表明采用不同的训练函数其存在明显的差异。综合考虑干密度误差,含水量误差,干密度误差(样本顺序),含水量误差(样本顺序)以及迭代次数和性能误差等因素,选用trainlm作为训练函数,trainlm函数由于其训练速度较快且计算精度较高而显现出一定的优势。

参考文献

[1]葛哲学,孙志强.神经网络理论与MATLAB R2007实现[M].电子工业出版社,2007.

[2]施彦,韩立群,廉小亲.神经网络设计方法与实例分析[M].北京邮电大学出版社,2009.

BP神经模型 篇12

一、信用风险评价

企业信用风险是指购买方不能按期偿还贷款或劳务费, 或供应方不能按约定收到贷款或劳务报酬。对企业而言, 信用等级的高低直接影响企业在资本市场中的地位;对金融机构而言, 信用等级评估可以帮助中介机构在证券经营中进行风险管理和市场定价;许多监管机构也利用独立的信用评价来对其所负责的银行、保险公司和公用事业公司进行监管, 保证其有健康的财务状况。

二、人工神经网络

人工神经网络 (Artifical Neural Network, ANN) 技术是基于神经科学研究成果发展起来的新兴边缘科学, 是以工程技术手段模拟人脑神经网络的结构与功能特征的一种技术系统。利用大量的非线性并行处理器来模拟人脑众多神经元, 利用处理器间错综灵活的连接关系来模拟人脑神经元间的突触行为。从本质上讲, 人工神经网络是种大规模并行的非线性动力学系统, 在人工神经网络中, BP算法是使用率最高的算法, 也是比较成熟的算法。

1. BP神经网络

BP神经网络模型是由输入层、输出层和若干个隐含层组成的多层前馈网络模型, 误差反向传播 (BP) 算法是训练前馈网络模型的最常用的算法。在BP网络模型中, 同层各神经元互不连接, 相邻层的神经元通过权值连接。

2. BP网络结构

BP网络是一单向传播的多层前向网络, 可看作是一个从输入层到输出层的高速非线性影射, 其基本结构如图1。在BP网络结构中, 输入信号从输入层结点, 依次传过各隐含层结点, 传到输出层结点, 每一层结点的输出只影响下一层结点的输入, 每个结点都是一个神经元结构。

3. BP算法

BP算法常称为误差反传算法, 主要思想是把学习过程分为两个阶段:第一阶段 (正向传播过程) , 给出输入信息, 通过输入层经隐含层逐层处理并计算每个单元的实际输出值;第二阶段 (反向过程) , 若在输出层未能得到期望的输出值, 则逐层递归地计算实际输出与期望输出之差值 (即误差) , 以便依据此差调节权值。具体说, 就是可对每一个权值计算出接受单元的误差值与发送单元的激活值的积。因为这个积和误差对权重的 (负) 微商成正比 (又称梯度下降算法) , 把它称作权重误差微商。权重的实际改变可由权重误差微商一个模式计算出来, 即它们可以在这组模式集上进行累加。

三、基于BP神经网络的信用评价模型

1. 基本思路

从输入层输入企业信用评价指标的基础指标数据, 经隐含层处理传入输出层, 输出结果即为评价结果。在正向传播阶段, 每一层神经元的状态直接影响到下一层神经元的状态。如果输出层所得到的输出结果与期望输出结果的误差超过误差许可范围, 则进入误差的反向传播阶段, 误差信号按原来的连接通路返回, 将误差进行返回传播, 求出隐含层单元的一般化误差, 调整各层之间的连接权值以及隐含层、输出层的阈值, 直到系统误差可以接受为止, 此时的权值、阈值不再改变。以足够的样本运用优化BP模型学习算法来训练此网络, 训练好的网络所特有的那组权系数就是所要确定的企业信用评价指标的权重。最后, 将目标企业综合信用评价指标的具体值作为训练好的BP模型的输入, 可得到目标企业的信用结果, 并可根据此结果来判定企业是否属于有信用的企业。

2. 样本的选取

训练样本的选择直接影响神经网络的学习速度和效果。选取样本主要考虑五点:一是遍历性, 即选取出来的样本要有代表性, 能覆盖全体样本空间;二是相容性, 即选取出来的样本不能自相矛盾, 在建立输入、输出学习样本时, 分级宜散但不宜过细, 以防止样本间出现矛盾现象;三是致密性, 选取出来的样本要有一定的数量, 以保证训练的效果;四是相关性, 即训练样本中各输入值与目标值要有一定的相关性, 训练样本集合中各输入参数之间最好线性无关;五是尽量首先提出异常样本值或对其进行必要的修正。

根据上述原则, 通过Internet共搜集了200余家上市公司, 经过对数据的筛选, 最终选取了180家上市公司的数据作为样本数据。根据国际水平, 以不良贷款率低于10%作为分界线, 将企业分为两类。低于10%称为低风险企业 (正常上市公司) , 高于10%称为高风险企业 (“ST公司”) 。在180家上市公司中, “ST公司”有80家, “正常公司”有100家。

上述企业的数据中, 第一步选取了20个财务指标, 包括主营业务利润率, 主营业务净利润率, 总资产报酬率, 净资产收益率, 销售毛利率, 应收账周转率等等。通过统计分析, 两类企业有显著差异的指标有七个, 这七个指标可以用来单独识别信用风险, 其识别效果具有统计上的意义: (1) 资本结构指标:资产负债率。 (2) 盈利能力指标:主营业务净利润率, 净资产利润率。 (3) 偿债能力指标:流动比率, 速动比率。 (4) 经营效率指标:存货周转率, 应收账款周转率。这七个指标也是本文BP神经网络所需的输入评价指标。

3. 隐含层数及隐含层神经元数的选取

一般情况下, BP神经网络的隐含层层数设计为一层即可。本文构建的BP神经网络, 采用只有1个隐含层的BP神经网络。对多层前馈网络而言, 隐含层神经元的确定是设计网络的关键之一, 选择隐含层神经元数是很重要的问题。设BP神经网络的输入层有n个神经元, 输出层有q个神经元, 隐含层有p个神经元, 则, 其中a取1到10之间的整数。为了使隐含层结点的数目更加合适, 可以选取不同的隐含层神经元数目分别进行测试运算, 然后分别记录下每种情况下网络的样本正确率综合考虑正确率较高的情况, 从而确定合适的隐含层神经元个数。

4. 输入层和输出层神经元数的确定

前面所提及的7项财务数据就是本文BP网络的输入, 所以输入层的神经元个数为7个。对于输出层神经元个数, 要根据实际情况而定。因为所选的样本数据均是上市公司的财务指标, 同时希望通过构建的BP网络来确定此公司在两年后是属于“ST公司”还是“正常上市公司”。所以, 在确定输出层神经元个数时, 就定义为1个:即用0或1表示, 其中1表示“正常上市公司”, 0表示“ST公司”。

5. 网络训练

进入系统之后, 首先对网络参数进行初始化;然后对隐含层和输出层的权值进行随机初始化;接着调入训练样本数据, 按照BP神经网络算法对网络进行一个周期的训练, 判断是否满足训练要求。如果不满足, 重新读取训练数据, 进行下一个周期的训练, 如果满足训练要求, 退出训练程序。

本文所构建的BP神经网络, 输入结点为7个, 输出结点为1个, 隐含层结点数根据经验公式, 然后对隐结点p逐一调整。在本文, 隐结点数选取4到11个, 在训练过程中分别对其进行了训练, 并对样本正确率 (同样的训练次数30000、50000以及60000次) 作了系统的比较, 最后得出当隐结点为11个时, 整个网络处于最优化。

6. 网络测试

网络训练结束之后, 进入测试阶段。图2为网络的测试流程图, 首先把训练好的隐含层和输出层的权值读到相应的数组中, 然后读入测试样本数据。通过训练好的网络对测试样本进行计算。对计算结果和真实的评价结果进行比较统计, 如果已经达到评价系统要求 (在本文中要求样本的正确率在85%以上) , 说明网络训练成功;如果没有达到评价系统的要求, 则需要调整参数, 对网络进行重新设计和训练。

以2005年某公司的财务情况为例, 该公司的七个指标如下:负债比率:23.27;主营业务净利润:16.64;净资产收益率:12.53;流动比率:2.14;速动比率:1.75;存货周转率:20.04;应收账款周转率:12.79。通过评价得出结果为1, 表示该公司在2006年度应该属于正常的上市公司。

上一篇:高校图书馆业务外包下一篇:中国高等职业教育资源