自组织特征神经网络论文(精选10篇)
自组织特征神经网络论文 篇1
0 引 言
各种医学成像技术的临床应用,使得医学诊断和治疗技术取得了快速的进展。如X线断层成像(X-ray Computerized Tomography,X-CT)、核磁共振成像(Magnetic Resonance Imaging,MRI)、数字血管减影成像(Digital Subtraction Angiography,DSA)等,已能够分别以不同的时空分辨率提供各种解剖信息和(或)功能信息。为了更加准确地获取所关心的特定组织,本文采用一维自组织特征映射神经网络对医学图像进行聚类分析,实现对图像中不同组织的自动分割。利用本文的方法能较好地保证分割结果的准确性和完整性。
1 自组织特征映射神经网络
Kohonen根据神经系统的特性,在1981年提出了自组织特征映射神经网络(Self-Organizing Feature Map Neural Network,SOFMNN)模型,也称为Kohonen网络。这种网络模型可以在一维或二维的处理单元阵列上形成输入信号的特征分布拓扑图。其学习过程不仅要调节竞争获胜单元的各连接权值,还要调节获胜单元邻域单元的权值。对于给定的输入模式,自组织特征映射网络的不同区域具有不同的响应特征。
自组织学习的结果是将神经元分类,它们分别代表输入样本,反映输入样本的特征,这个映射过程用一个简单的竞争算法来完成。其结果可以使一些无规则的输入自动排序,在连接权的调整中可使权的分布与输入样本的概率密度分布相似;同时它又是一种样本特征检测器,在样本排序、样本分类、样本检测方面有着广泛的应用。利用SOFM网络这种特性,可以从外界环境中按照某种测度来抽取特征以及表达环境对象的根本规律。
Kohonen网络由输入层和输出层两层组成,如图1所示。
Kohonen网络输入层中的每一个神经元,通过权与输出层的每一个神经元相连,输入层的神经元可以是一维也可以是二维排列的。在输入层中竞争是这样进行的:对于输入层中获胜的神经元Yc,在其邻域Nc内神经元得到不同程度的兴奋,而在Nc以外的神经元都被抑制,这个Nc区域可以为方形或六角形,也可以为其它形状,如图2所示,Nc是时间t的函数,随着t增加,Nc的面积按比例缩小,最后只剩下一个神经元或一组神经元,它们反映一类样本的属性。
输入样本用矢量xp表示,P=1,2,…,k,共有k个样本,而每个样本的分量xundefined与输入层的第i个神经元相联,i=1,2,…,n,n为样本的维数,xundefined与输入层第j个神经元之间的权为wij,其输出为yi,则有:undefined
其中f()为输出层神经元的传递函数,一般为单调递增的非线性函数,如Sigmoid函数;θj为输出层神经元的阈值:n和m分别为输入和输出层神经元的个数。竞争是在神经元的输出yi之间进行的。根据不同的测度标准,可判断神经元的输赢。权wij的学习满足Hebb规则。Hebb学习规则的基本思想是:单元uj接收来自另一单元ui的输出,如果两个单元都高度兴奋,则从ui到uj的权值wij便得到加强。
2 基于自组织特征映射神经网络的聚类分析
自组织神经网络的具体学习算法:
(1) 初始化。从输入神经元到输出神经元的权值可以随机地取得一个较小的值vj且使wij=vj,j=1,2,…,n。
(2) 在样本x1,x2,…,xk中,任取一个样本作为网络的输入。
(3) 计算测度,得出竞争得胜的神经元。在自组织神经网络的实际应用中,经常取输入神经元与输出神经元之间的欧几里德距离dj作为测度,有:
undefinedj*∈[1,m]
其中j*为使欧氏距离最小的输出神经元标号,对应得胜神经元。
(4) 按照下式来改变输出神经元与其邻接神经元的相应权值:
undefined
神经元j的邻接神经元的集合Nc(t)一开始很大,约为1/2的输出平面,形状可为正方形或六角形,随着迭代次数的增多而逐渐减小。式中t为迭代次数;α(t)为学习速率因子,且是t的减函数,一般选为0<α(t)<1,以保证算法的收敛。
(5) 重复第(2)~(4)步,直到输出神经元平面上的兴奋神经元与输入样本稳定对应为止。
按照上述方法进行训练,自组织特征映射神经网络可以把医学图像的像素分成c类。给定矢量X={X1,…,Xi,…,Xn}是Rn空间中的N个观测量,其中Xi为X中的第i个观测量,Xi∈Rn。
对于X有函数f:Rn→Rc,取U=f(x)∈Rc,则:
U={u1,u2,…,uN}={f(X1),f(X2),…,f(XN)}
定义{X′1,X′2,…,X′c}为X的分类,则有:
X′i≠0 1≤i≤c
X′i∩X′j=0 i≠j
undefined
此时U={0,1}定义为:
undefined
本文根据医学图像的特点,确定Kohonen神经网络的输出神经元个数为16,即分类数为16。图3为原始医学图像迭代1000次后的权向量,wj表示输出神经元与输入神经元的连接权值。
3 对聚类分析后的医学图像进行分割
图像经过上述聚类分析后,每一个像素都对应一个分类数。用p(m,n)表示点(m,n)的灰度值,按矢量U(m,n)={u1,u2,…,uc}(m,n)进行分类,uj表示该像素对应于类j的分类情况,L为图像像素灰度可取的最大值,若图像为8位灰度图像,那么L的取值为256,则该点在图像中的灰度值计算如下:
p(m,n)=(u1w1+u2w2+…+ucwc)×(L-1)
为了得到特定的组织,需要对分类结果进行判断,c(m,n)表示该点的类别,find()查找向量中值不为0项的位置,[levell,levelh]表示特定组织的分类域,分割图像的计算如下:
c(m,n)=find(U(m,n));
if c(m,n)∈[levell,levelh]
p(m,n)=(u1w1+u2w2+…+ucwc)×(L-1);
else
p(m,n)=0;
首先找出特定组织的分类域,然后对像素的分类结果进行判断,若属于特定组织则计算其灰度值,若不属于该组织,则置0。
图4为原始的胸部CT图像,以骨组织为例,其部分组织的灰度值已接近软组织的灰度值,若直接使用灰度门限分割方法将无法保证分割的准确性。
图5为采用灰度门限法对原始CT图像进行分割,为了从软组织中分离出骨组织,选择了较大的阈值,但同时也丢失了部分骨组织信息。
图6为采用SOFMNN神经网络聚类分析后的图像,聚类分析的结果将原始图像分为16个区域。
图7为采用本文的方法对聚类分析后的图像进行分割的结果。从图中可以看到,分割结果很好地保留了骨组织信息。
图8为对采用本文分割方法分割后的图像运用种子填充算法提取骨组织轮廓线的结果,由于采用本文方法分割后目标与背景图像的灰度不同,所以很容易提取出目标组织的轮廓线。在实际的应用中,由于医疗器械及放射性物质剂量的差异,图像的灰度及对比度情况将更加复杂。而采用本文方法进行分割时,由神经网络对CT数据进行学习进而聚类分析来确定CT数据中所需要的信息,使得在实现自动分割的前提下保证了分割结果的准确性和完整性。
4 结束语
本文采用基于自组织特征映射神经网络的分割技术,对医学图像中的不同组织进行分割,得到的分割结果具有较好的准确性和完整性。同时也为基于面绘制的三维重建算法中等值线的提取奠定了基础。
摘要:采用一维自组织特征映射神经网络对医学图像进行聚类分析,实现对不同组织的自动分割。避免了直接使用灰度门限分割方法由于门限值选择不当所导致的分割结果有失准确性的缺点。试验结果表明,利用该方法能够较好地保证分割结果的准确性和完整性。
关键词:自组织特征映射神经网络,医学图像分割,聚类分析,分类
参考文献
[1]Juha Vesanto,Johan Himberg,Esa Alhoniemi,Juha Parhankangas.Self-organizing map in Matlab:the SOM Toolbox.Proceedings of the MatlabDSP Conference 1999,Espoo,Finland,November 16~17,1999:35-40.
[2]Anna Bartkowiak1.Adam Szustalewicz1 Stanis?law Cebrat2,Pawe?lMackiewicz2:Kohonen s self-organizing maps as applied to graphicalvisualization of some yeast DNA data.Lboff.tex,May 2,2004.
[3]Heather Erin Rickard.Feature Selection For self-Organizing FeatureMap Neural Networks With Applications in Medical Image Segmenta-tion,1999.
[4]Tina Kapur.Knowledge Based 3D Medical Image Segmentation,August2,1999.
[5]Kapur J N,Sahoo P K,Wong A K C.A newmethod for gray-level pic-ture thresholding using the entropy of the histogram.Computer Vision.Graphics and Image Processing,February 29,1985.
[6]Otsu N.A threshold selection method from gray-level histogram.IEEETrans,January 1,1979.
[7]张桂林,陈益新,李强,等.基于灰度与边缘的图像分割方法.华中理工大学学报,1994,5.
[8]张兆礼,赵春晖,梅晓丹.现代图像处理技术及Matlab实现.北京:人民邮电出版社,2001.
[9]汪天富,郑昌琼,李德玉,郑翊.基于自组织神经网络的超声心脏图像分割.中国生物医学工程学报,2000,19(3).
自组织特征神经网络论文 篇2
摘要:设计了并建立了一个无线自组织网络测试平台系统――TATbed(Tsinghua Ad hoc network Test bed)。通过开发底层网卡驱动、路由算法协议模块,使得普通PC机成为独立的自组织网络终端;同时通过监测、统计多个终端之间的数据传输状况获得网络的实测性能指标。目前平台中已经实现对多种路由算法协议的测试支持。
关键词:自组织网络 测试平台 路由算法
多跳自组织网络(Ad hoc network)由多个独立的具有路由(交换)功能的用户通信终湍组成。网络中的相邻终端可直接建立端到端的通信链路;非相邻终端可动态地搜索路由,数据包借助其他终端转发,以多跳方式传递至索路由,数据包借助其他终端转发,以多跳方式传递至最终的目的终端。在自组织网络中,无线信道环境的快速变化及终端的移动性造成了网络拓扑结构不断变化。因此,如何搜索、维护有效的路由成为自组织网络研究中的难点问题。近年来,研究者提出了多种路由协议草案,如DSR、AODV、SAR等,其性能的评估数据基本上利用网络模块软件如OPNet、NS-2/GloMoSim等仿真得到。由于仿真软件中采用的无线信道、终端分布、终端运动等模型与真实的网络环境相比均有一定的简化,所以在自组织网络技术进入实现商业应用之前,构建实际的Ad hoc网络硬件测试平台对其各层次的网络协议算法设计进行性能测评是十分必要的。但现有的各种无线终端均不支持任何自组织路由协议。
(本网网收集整理)
本文设计并实际建立了一个无线自组织网络测试平台系统TATbed。通过加载相应的底层驱动及测试系统软件,使得配有无线网卡的普通PC机成为独立的自组织网络的实际终端;测试平台对各种路由算法协议提供了统一的模块接口,设定相应的路由算法和测试参数蝗,即可通过检测各个终端间的数据传输状况,得到此路由算法的实际性能的统计结果。同时,测试平台可兼容各种无线网卡标准,如IEEE802.11系列、HiperLan系列等。目前TATbed测试平台已经集成了多种Ad Hoc网络的专有路由算法协议,AODV、DSR、SAR、FSR、ZRP等,并可真实地再现Ad hoc网络应用所处的实际环境(包括终端的移动性与客观信道的实际情况),为研究Ad hoc网络在多种环境下的性能与特点提供可操作平台,对进一步研究Ad hoc网络的结构设计和其各层网络协议算法设计的测试、评估、优化更具有参考价值。
本文结构如下,第一节介绍测试平台系统的总体结构,第二节介绍系统的关键模块设计,第三节介绍其实际应用和总结。
1平台结构
TATbed无线自组织网络测试平台的设计目标是开发支持多种Ad hoc网络路由算法协议的测试终端以构建实际的Ad hoc测试网络,并通过检测各个终端间的数据传输过程对自组织网络的各种实测性能指标进行统计、评估。
TATbed测试平台由一定数量的独立的自组织网络终端构成。在实际平台设计中,在配有无线网瞳的PC机(笔记本电脑)基础上开发了支持多种路由算法协议的自组织网络终端,每个终端依据设定的路由算法协议自行组建Ad hoc网络并进行数据传输。图1为TATbed平台的实际测试示意图。
TATbed测试平台的软件系统包括传输任何生成器、终端处理器和数据统计器三部分。
在测试开始前,传输任务生成器将根据设置的测试参数,生成每个终端的起始传输任务列表,以精确地控制测试过程网络的传输负荷。在传输任务列表中定义了整个测试过程中每组数据包的源发出节点、最终目的节点、数据包数量、发出时间。
测试开始后,每个终端上的终端处理器将读取其对应的传输任务列表,在规定的时间进入发数据包流程,处理需要发出的数据包,同时监听无线网卡接收到的数据包并进行相应的处理。在测试过程中,终端软件模块记录下本节点收到和发出的每个包的信息,包括收(发)时间、包头信息、包长度等。
测试结束后,根据本次测试的整个网络的起始传输任务列表和每个终端在测试过程 保存的收发包记录,数据统计器统计分析、计算出相应的测试指标,包括网络容限、节点平均吞吐量、数据包成功传输率、数据包平均传输延时、延时抖动、数据包传输路径平均跳数、系统路由开销等。
2 自组织网络测试终端设计
由于现有的各种通信终端设备均不支持任何自组织网络中由算法协议,因此开发自组织网络测试终端成为整个测试平台构建的关键。在TATbed测试平台中,通过在装备了无线网卡的PC机上安装终端处理器,使其支持多种自组织网络的路由算法协议,成为实际 自组织网络中的终端。
在现有的标准PC机系统下,网络层采用IP协议,终端之间的连接地址的标识来判别,应用层的传输任务经过数据打包处理后直接交无线网卡发送,并且只有当数据包的源节点和目的邛树熊处于相互无线网卡信号覆盖范围内时,才能成功发送IP数据包,终端本身并不支持任何路由功能。在TATbed测试平台系统中,终端的MAC层和网络层之间加载了自行开发的驱动模块,以支持无线自组织网络中的多跳传输,形成个虚拟的传输链路,为普通数据包的发送提供传输路由,如图2所示。
终端处理器在Windows操作系统提供的NDIS(Network Driver Interface Specification,网络驱动程序接口规范)层基础上开发,包括底层接口驱动、路由算法模块和数据包的监听记录三部分。其结构如图3所示。
为测评各种不同路由算法协议的性能,终端处理器中的接口驱动设计为一个自定义的.标准路由算法接口。该接口将各种路由算法协议完成的寻找路由、确定路由民系统网络层完成的其他功能,包括与上下层之间的传递、包头内容的填写等工作分离,使得路由算法协议成为需要嵌入的单独子模块。不同的路由算法协议只需要遵循接口定义编写相应的子模块即可。目前,TATbed测试平台系统可支持AODV、DSR、SAR、WRP、Fisheye、CBRP、ZRP等多种自组织网络路由算法的测试、评估。同时,由于终端处理器接口驱动中载在NDIS层上,使得测试平台对MAC层协议透明,因此测试平台可根据测试需要选用各种基于不同传输标准的无线网卡。目前系统中选用了基于IEEE802.11b标准的网卡进行测试。
为支持多跳的数据传输,测试系统中所传递的数据包的包头在标准的Ethernet-MAC包头基础上进行了扩展,加入了路由算法协议中规定的类型信息和路径信息,如图4所示。
图4
包头的第0~13字节为标准的Ethernet-MAC包头格式,第14~27字节为扩展的“路由信息”域,之后是实际的用户数据。对于来自高层(网络层)的数据包,终端从其IPv4标准包头中读出此数据包最终发送的目的地址并将这一“最终目的地址”保存在“路由信息”域的“最终目的节点IP地址”项内;同时调用路由算法模块,根据其最终目的地址获取其对应的多跳路由信息,并将实际的下一跳的接收节点的地址写入第7”12字节处的“下一跳接收节点MAC地址”项内,然后将此数据包交下一层(MAC&物理层)无线网卡处理发出。对于来自底层无线网卡接收到的数据包,终端读取“路由信息”域的“最终目的节点地址”,如果此地址与其自身地址相符,则交上层网络继续⑷绻不相符,则调用路由算法模块,得到对应的多跳路由中下一跳的接收节点地址,然后交无线网卡处理发出。对于路由算法协议中规定的其他非数据包,如路由搜索包、路由应答包、路由失败包、周期性握手信息包等,则在“包类型”域中标示区别,由无线网卡收发后直接调用相应的路由算法模块处理。
3 系统应用
复杂网络的自组织法则 篇3
在《链接》中,巴拉巴西试图让人们学会从网络的角度来思考问题,当然也包括网络是如何形成的、网络是什么样子的、及网络是如何演化的。作为一种跨学科产物的网络科学,它的兴起与发展,改变了人们以往审视和理解世界时采用“还原论”的单一视角。正如巴拉巴西在书中写道:“还原论是20世纪很多科学研究背后的推动力。还原论告诉我们,要理解自然界,首先要认识它的各个组成部分。这里包含着一个假设,一旦理解了每个部分,我们就很容易掌握整体。这就是‘分而治之’,从细节中寻找问题。”但是,自然界并不是一个设计完美、只有唯一答案的谜题。事实上,在复杂系统中,部件可以以许多种不同方式组合起来,要想把每个可能性都尝试一下,需要数亿年的时间。可自然界却能以短短数百万年的磨合,将这些部件精致、优美地组合在一起——这里面一定有一种能包容、融合的自组织法则。对巴拉巴西来说,寻找并尽可能地描述清、揭示出它的“样貌”,便是他复杂网络研究的初心与终点。这种思想其实和“见山是山、见山不是山、见山还是山”有异曲同工之妙,完成了在认识论上的从表象到意识到自由的层界递升。
对于网络科学研究,巴拉巴西最大的贡献在于提出了“无尺度网络”,这是一种遵循幂律分布的网络类型。幂律分布是一条没有峰,且不断递减的曲线,它最突出的特征是大量微小事件和少数非常重大的事件并存。打个比方,如果某个星球上的居民身高遵循幂律分布,那么表现出来的现象是,大多数人非常矮,但偶尔有极个别的长得非常高,哪怕高到几百米也属正常。于是,无尺度网络就像航空交通系统一样,很多小机场通过几个主要的交通枢纽连接在一起,简单讲:网络中大多数节点只有很少几个链接,它们通过少数几个高度连接的枢纽节点连接在一起。同样的例子还包括,时尚圈引爆潮流的往往总是那么几个加V的大咖,科技圈互联网主要的链接指向特定比例的网页,学术圈文献引用总是限定在各自领域的一些学者……巴拉巴西不否认复杂网络源于对帕累托80/20观点的升华,同时,他认为“富者愈富”是复杂网络的先发优势(这意味着复杂网络是诞生“穷者愈穷”、“弱者越弱”等马太效应的系统)。不管网络有多大、有多复杂,生长机制(总是会不断添加节点)和偏好连接(链接数更多的节点更容易被选择,因而又产生更多的链接)这两大定律支配着真实网络的结构与演化。
在“无尺度网络”理论诞生之前,网络科学领域一度流行随机宇宙、六度分隔、弱关系、小世界等理论。涉及到研究视角,主要有统计物理、系统科学、知识发现或数据挖掘三种,不难发现,这第一和第三分别对应了巴拉巴西的《链接》与《爆发》。前者代表过去,后者昭示未来,将来的趋势是以数据为中心,进行收集、挖掘、分析,而复杂网络包括时间序列、人类动力学等都只是围绕数据为其服务的工具。
《链接》初版于2003年,当时还没有Facebook,Mysapce也是在那一年刚刚成立,所以巴拉巴西研究的“社会网络”只是社会中的人际网络,而没有现成的、代表性的社交网站拿来参考。即便举例那些互联网,也只是web1.0时代雅虎收购谷歌、AOL吞并时代华纳、网络病毒等。借此,巴拉巴西指出,无尺度网络具有健壮性和脆弱性并存的特点。特别是,当一些集聚点遭到破坏时,就会对整个网络造成毁灭性的影响。现代社会也是一个“网络”,尽管今天的技术比过去先进好多倍,然而现代社会也存在非常脆弱的地方。一旦要害受到攻击,就可能造成整座大城市的瘫痪甚至更为严重的后果。
从幂律分布到无尺度网络,巴拉巴西一方面拓展了复杂网络研究的疆界,另一方面也帮助人们更深入理解互联网的结构特征。例如,互联网既不是扁平化,也不是分层化,而是无尺度网络化,它的典型特征便是在网络中的大部分节点只和很少节点连接,而有极少的节点与非常多的节点连接。这种结构是生态化的,具有自组织、自协调、哈耶克所谓的“自生自发”的性质。节点与节点虽然只是随机链接,表面上看呈现无组织状态,但放在大世界尺度看,却呈现出统计学上的幂律分布。而克里斯·安德森提出的“长尾理论”实际上是对幂律分布在商业模式上的阐述。
自组织特征神经网络论文 篇4
自组织特征映射网络也称为Kohonen网络,或者称为Self-Organizing Feature Map(SOM),是由芬兰学者Teuvo Kohonen于1981年提出的。该网络是一个由全连接的神经元阵列组成的无教师自组织与自学习网络。Kohonen认为:处于空间中不同区域的神经元有不同的分工,当一个神经网络接受外界输入模式时,将会分为不同的反应区域,各区域对输入模式具有不同的响应特性[1]。SOM网络的主要特性:一是自组织排序性质,即拓补保持能力;二是自组织概率分布性质[2]。SOM网络的主要功能是实现数据压缩、编码和聚类,实际应用包括模式识别、过程和系统分析、机器人、通信、数据挖掘以及知识发现等。本文利用SOM网络对常见的几类粮仓害虫进行了分类识别,并取得了较理想的识别效果。
1 自组织特征映射神经网络的结构
SOM网络结构(如图1所示)由输入层和竞争层组成。输入层由N个神经元组成,竞争层由M个输出神经元组成,且形成一个二维阵列。输入层与竞争层各神经元之间实现全互连接,竞争层之间实行侧向连接,从而形成输入信号的特征拓补分布。因此,SOM网络具有抽取输入信号模式特征的能力。
SOM网络的学习算法过程如下:
1) 初始化。对N个输入神经元到输出神经元的连接权值赋予较小的权值。选取输出神经元j个“邻接神经元”的集合Sj。其中,Sj(0)表示t=0的神经元j“邻接神经元”集合;Sj(t)表示时刻t的“邻接神经元”的集合。区域Sj(t)随着时间的增长而不断缩小。
2) 提供新的输入模式X。
3) 计算欧氏距离dj,即输入样本与每个输出神经元j之间的距离。
undefined
计算出一个具有最小距离的神经元j*,即确定出某个单元k,使得对于任意的j都有undefined。
4) 给出一个周围的领域Sk(t)。
5) 按照下式修正输出神经元j*及其“邻接神经元”的权值。
ωij(t+1)=ωij(t)+η(t)[xi(t)-ωij(t)] (2)
其中,η为一个增益项,并随时间变化逐渐下降到0,一般取 η(t)=1/t,或者undefined。
6) 计算输出Ok。
undefined
其中,f(.)一般为0-1函数或其他非线性函数。
7) 提供新的学习样本,来重复上述学习过程,直到网络收敛[3]。
2 图像获取和预处理
试验样品为4种主要储粮害虫,即长角扁谷盗、赤拟谷盗、书虱和玉米象。害虫被放置于白色样品台上,利用MTV-13V1 1 / 3 ″黑白高解析带OSD摄像机获取256级的灰度图像,所有的害虫图像均按相同的放大倍率归一化到460×320的图片上。害虫样品由华中农业大学植保系提供。
害虫图像获取以后,由于存在背景和光照不均匀等带来的噪声影响,还要进行去噪(害虫图像减去背景图像)、对比度增强、中值滤波、阈值分割和二值化处理,获取害虫的二值化图像[4]。
在图像识别的过程中,基于图像的几何形状特征往往是非常重要的。因此,本文主要提取了面积、周长、高度、宽度、占空比、延伸率、复杂度、等效圆和偏心率共9个几何特征参数。上面提取到的害虫原始特征不仅维数多,而且各个特征之间不可避免地存在相关性,需要进行特征选择来减少原始特征的数目。经过分析和对比研究,最终选取面积、周长、宽度、高度、复杂度和偏心率等6个几何特征作为害虫模式识别的特征参数。
由于各种特征值之间幅值有较大的差异,为提高神经网络识别的精度,对已有的实验数据进行了归一化处理,采用平移方法标准差变化公式为[5]
undefined
其中,x和x′分别为归一化前后的数据,而meanx和stdx为原始数据的均值和方差。
3 神经网络设计
本文以4类害虫的样本集训练由输入层和竞争层构成的SOM神经网络。由于选择的害虫种类和样本数量不多,所以竞争层神经元选择为4×4的二维阵列。
3.1 网络训练
实验采用了4类害虫各5个样本(共20个样本)对神经网络进行了训练。对于网络的学习误差精度,不能取得过小,否则不但会增加网络学习的难度,而且也会造成过拟合现象;同时也不能取得过大,否则达不到进行有效分类的效果[5]。
3.2 仿真结果及分析
实验抽取了训练样本以外的12幅害虫图片(每类害虫取了3个样本)进行预处理,提取了6个特征量,并输入神经网络进行识别。神经网络的输出结果如图2所示。其中,每个表分为4*4共16格区域,其中A,B,C,[D]为训练网络的分类结果,而1……12为12个样本仿真后的结果输出。
通过对不同训练次数的实验结果进行分析,可以看出:当误差较大、训练次数少时,不能对待测样本进行有效的分类,训练网络误将赤拟谷盗和玉米象两类害虫归为一类,如图2所示;在训练误差精度过小、训练次数太多时,造成了过拟合现象,将本来为同类的害虫分开了,如图3所示;在训练75次时,SOM网络能达到较快的识别速度和较高的识别率,本实验的有效识别率达到91.7%,如图4所示。
摘要:综合利用计算机视觉技术和自组织神经网络技术,实现了对粮仓害虫的无损检测。通过对粮仓害虫图像的CCD图像预处理,提取了近十个几何特征参数,并通过优化选取其中6个参数输入神经网络进行训练。仿真结果表明,训练网络对粮仓4类常见害虫的识别率达到了91.7%,得到了较好的识别结果。
关键词:自组织特征映射,神经网络,粮仓害虫,分类识别
参考文献
[1]闻新.MATLAB神经网络仿真与应用[M].北京:科学出版社,2003:258.281;300.319.
[2]李春华,李宁,史培军.自组织特征映射神经网络原理和应用研究[J].北京师范大学学报(自然科学版),2006,42(5):543.547.
[3](美)冈萨雷斯(Gonzalez,R.C.).数字图像处理(2版)[M].阮秋琦,译.北京:电子工业出版社,2003:70.81;93.108;460.463.
[4]飞思科技产品研发中心.神经网络理论与MATLAB7实现[M].北京:电子工业出版社,2005:44.58;100.108;165.173.
自组织特征神经网络论文 篇5
关键词:自组织竞争网络;测井资料岩性识别;MATLAB
中图分类号:TE319 文献标识码:A文章编号:1007-9599 (2011)05-0000-02
Application of Self-organization Competition Network in Log Data Lithological Identification
Zong Chunmei
(Xinzhou Teachers University,Xinzhou034000,China)
Abstract:Using self-organizing and self-learning ability of self-organizing neural network,analyze the impact factor to establish self-organizing competitive network model based on MATLAB.By comparing the two structures of basic competitive network and self-organizing competitive network to achieve lithology classification.Experimental results show that the use of self-organizing network model of competition test well lithology identification information is feasible,the correct rate,for the lithology of the research to identify new methods.
Keywords:Self-organizing competitive network;Log data lithology identification;MATLAB
一、引言
目前,岩性识别主要有以下几种方法:(1)概率统计方法;(2)聚类分析方法;(3)人工神经网络方法。人工神经网络方法以其自身特有的样本学习能力获得识别模式,以与岩性相关的测井资料作为神经网络的输入参数,已知岩性种类作为输出总数。前两种数理统计方法,两者的差别只是参数选择的要求不同。人工神经网络具有很强的自组织性、自适应性、容错性和推理思维能力,人们运用神经网络在测井资料岩性识别领域做了大量的研究,取得良好效果。
二、自组织竞争神经网络原理
自组织竞争网络是以无教师教学的方式进行网络训练,具有自组织功能,网络通过自身训练,自动对输入模式进行分类,让网络竞争层中的各种神经元通过竞争来获取对输入的响应机会,最后仅剩一个神经元成为竞争的获胜者,并对那些与获胜神经元有关的各连接全部朝着更有利于它竞争的方向调整,这一获胜神经元的输出则代表对输入模式的分类,正是自组织竞争神经网络具有自组织能力、自适应能力和较高的容错能力的特点,为测井资料岩性识别提供了新的方法。在竞争层中,神经元之间相互竞争,最终只有一个或者几个神经元获胜,以适应当前的输入样本。竞争胜利的神经元就代表着当前输入样本的分类模式。
三、样本数据的获取
(一)样本的选取
样本包括样本特征选取及样本数目的确定。本文样本源于北方某地区2004年的测井资料,该地区属于碳酸盐地层,因此需要判断的岩性有三种,即泥岩、砂岩和石灰岩。通过对已知井段测井数据进行学习,来预测同一地区其他井段的岩性。
(二)样本数据的预处理
测井资料的样本数据中包含了影响岩性的5个重要因子,即补偿中子空隙度CNL、补偿密度曲线DEN、声波时差DTC、自然伽玛GR和微电阻率RT。归一化后的数据如表3.1所示。
表3.1 归一化后的岩性影响因子
序号CNLDENDECGRGT岩性
10.40360.43650.48600.51610.3419泥岩
20.41540.47110.46390.49810.3806
30.53520.64080.61450.62990.7154砂岩
40.55240.65280.62340.67150.7025
50.77090.78120.82040.84250.8622石灰岩
60.75890.79650.81250.85060.8709
四、测井岩性识别模型的建立
(一)测井岩性识别算法
应用自组织竞争网络进行测井资料岩性识别,首先获取样本资料,即测井数据。在应用自组织竞争人工神经网络对数据进行处理前,利用归一化公式对所有测井数据进行归一化。利用自组织竞争网络的神经网络工具箱函数创建网络。网络创建好后需要对网络进行初始化,接着对网络进行训练,并设置训练次数,由于竞争型神经网络采用的是无教师学习方式,没有期望输出,所以训练过程中不需要设置判断网络训练是否结束的误差项,只要设置网络的训练次数就可以了,网络训练完毕后,利用仿真函数检验网络对岩性模式的分类。利用函数vec2ind将数据串行化输出,为了检验网络的分类性能可以采用同一地区的测试数据对网络进行测试,进行岩性识别。如果岩性识别没有成功,重新对网络进行初始化,重新对网络进行训练、测试。
(二)自组织竞争神经网络结构设计
自组织竞争网络的神经网络工具箱提供了大量的函数工具。自组织竞争网络由输入层和竞争层组成。用newc函数创建一个竞争层,构建一个基本竞争型网络。权值函数为negdist,输入函数为netsum,初始化函数为midpoint或者initcon,训练函数或者自适应函数为trains和trainr,学习函数为learnk或者learncon函数。函数返回值是一个新的竞争层。由于需要识别的类别数目是3,神经元数目也设置为3,为了加快学习速度,将学习速率设置为0.1。用newsom函数创建一个自组织特征映射网络。自组织特征映射网络的输入层中的每一个神经元,通过权与输出层中的每一个神经元相连。构成一个二维平面阵列或一个一维阵列。输入层和竞争层的神经元之间实现全互连接。利用基本竞争型网络进行分类,需要首先设定输入向量的类别总数,再由此确定神经元的个数。但利用自组织特征映射网络进行分类却不需要这样,这种网络会自动将差别很小的点归为一类,差别不大的点激发的神经元位置也是邻近的。两种网络模型各自创建好网络后,对网络进行初始化,论文用到函数initcon。接着就可以对网络进行训练,当达到最大训练次数时,训练停止。此时用仿真函数sim检验网络对岩性分类模式的分类。为了检验网络的分类性能采用训练样本以外的数据对网络进行测试。利用自组织竞争神经网络进行岩性识别,不必对输入的测井数据进行统计,只要将网络自动分类号与相应的岩性对应,即可实现自动岩性分类识别。
五、在MATLAB环境下实现测井资料岩性识别
(一)用函数newc创建一个自组织竞争网络来对岩性分类:
1.建立网络
net=newc(minmax(P),3,0.1);
2.网络训练
net=init(net); %初始化函数为initcon
net.tranParam.epochs=200;%训练步数为200
net=train(net,P);
训练结果显示当达到最大训练次数时训练停止。
3.仿真
为了检验训练好的网络的分类性能,利用仿真函数检验网络对上述岩性模式的分类。
Y=sim(net,P)%对训练好的网络仿真
Yc=vec2ind(Y)
运行结果表明网络成功地将岩性模式分成三类。
4.测试:用样本以外的数据测试网络的分类性能。结果显示测试数据属于石灰岩,网络识别成功,网络的性能是不错的。
5.绘曲线图
wts=net.IW{1,1} %查看权重
wts=wts'
运行结果如图5.1所示。
图5.1 训练后网络权重散点图
由图5.1分析可知,竞争型网络会根据输入向量的分布来调整它的权重向量。离输入向量越近(越相似)的权重向量,通过调整靠的越近。训练结果就是,有几类输入向量也就有几类与输入向量相似的权重向量。
(二)用newsom函数创建一个自组织特征映射进行岩性分类:
1.建立网络
net=newsom(minmax(P),[6 5]); %网络竞争层的神经元的组织结构6 5 plotsom(net.layers{1}.positions);%绘制神经元初始位置
title('神经元位置的初始分布')
figure;
运行结果表明神经元位置是均匀分布的,网络还没有对输入向量进行分类的能力。
2.网络训练与网络仿真
net.trainParam.epochs=10;
net=train(net,P);
训练结果:
TRAINR, Epoch 0/10
TRAINR, Epoch 10/10
TRAINR, Maximum epoch reached.
y=sim(net,P) %对训练好的网络仿真
yc=vec2ind(y)%转换为串行数据
运行结果表明训练次数为10时,网络成功的对岩性进行了分类。由此可知训练步数为100时,网络分成了5类,这种分类结果就比较细化了,因为根据深度的不同,砂岩还可以分为粗粒砂岩和细粒砂岩。
3.测试:结果表明该组数据为属于石灰岩。
4.绘曲线图:
图5.2 训练10次后输入向量分布
图5.3 训练10次后神经元分布
由图5.3可知,经过10次训练后,神经元的位置就发生了明显的改变,神经元位置的分布情况表示它们已经对输入向量进行分类了,此时再增加训练次数已经没有什么实际意义了。
实验结果表明,两种网络结构都成功地对岩性进行了正确分类。自组织特征映射网络在训练次数较少的时候就可成功地对岩性进行分类,在提高训练次数的时候分类结果比较精细。
六、结束语
论文研究结果表明,采用自组织竞争网络与自组织特征映射网络进行测井资料岩性识别是可行的,识别率比较高。由于测井资料所携带的重要的地质信息可以确定地层含油储量,而且还是制订开采规划的重要依据,因此利用自组织竞争网络进行测井资料岩性识别具有很大的意义。此外利用自组织竞争网络还可以对我国油田进行油气层识别,提高油田的产量。不足之处在于岩性复杂地区所需要的信息量较大,需要考虑样本数量的需求、模式和测井数据的完备性。
参考文献:
[1]陈祥光,裴旭东.人工神经网络技术及应用[M].北京:中国电力出版社,2003
[2]张立明.人工神经网络的模型及其应用[M].上海:复旦大学出版社,2004
[3]飞思科技产品研发中心.神经网络理论与MATLABR2007实现[M].北京:电子工业出版社,2007
[4]高隽.人工神经网络原理及仿真实例[M].北京:机械工业出版社,2005
[5]许东,吴铮.基于MATLAB 6.x的系统分析与设计[M].西安:西安电子科技大学出版社,2003
[6]王洪元.人工神经网络技术及其应用[M].北京:中国石化出版社,2002
[7]邱颖,孟庆武,李悌.神经网络用于岩性及岩相预测的可行性分析[J].地球物理学进展,2001,16(3):76-84
[作者简介]宗春梅(1977-),女,山西省忻州市人,硕士,毕业于太原师范学院,现工作于忻州师范学院(讲师),主要研究方向—数据挖掘,神经网络等。
自组织特征神经网络论文 篇6
临床上诊断脂肪肝最可靠的办法是活检 (超声引导下肝穿刺活检组织细胞) , 但会给病人带来很大的痛苦。随着超声医学的蓬勃发展, 目前临床上常采用B超成像技术诊断脂肪肝。但B超成像技术诊断脂肪肝在很大程度上是凭医生肉眼进行判断, 这种经验的、感性的认识常导致脂肪肝的误诊, 以及对局灶性脂肪肝与肝血管瘤和原发性肝癌的混淆等。因此, 需要研究一种脂肪肝B超图像辅助诊断系统, 提高诊效率和准确性。本文利用自组织特征映射神经网络 (Self-Organizing
Feature Map, 即SOFM) 的聚类特性对脂肪肝B超图像进行识别, 实现正常肝与脂肪肝的划分, 并对脂肪肝进行轻、中、重度分类。
1 特征提取
由于肝脏微结构对超声波的反射和散射作用使得肝脏B超图像呈现出纹理特性, 脂肪肝患者的肝细胞中由于脂肪沉积, 肝脏微结构发生了明显的变化, 从而正常肝与脂肪肝B超图像之间的纹理特征也出现了较大的差别, 这就为利用纹理特征来区分正常肝与脂肪肝提供了可能。从肝脏B超声像图上看, 正常肝脏的B超表现为:肝脏表面光滑、边缘呈锐角、内部回声为细光点、分布均匀、肝内管道显示清晰;病变肝脏的B超表现为:肝脏肿大、肝实质回声增强, 大于肾脏和脾脏的回声强度, 而且轻、中、重度又各有不同。因此, 特征提取是一个重要环节, 对神经网络分类识别的正确性有直接影响。
一般来说, 对B超图像纹理特征的描述方法主要有空间灰度矩阵、傅立叶能量谱、灰度差分统计、Laws’纹理能量测量和小波变换分形特征等方法, 通过实验对比分析, 本文将脂肪肝B超图像的纹理特征作为分析对象, 采用对肝脏B超图像描述能力较好的灰度共生矩阵进行进行特征值的提取与分析, 分别取, 四个不同方向来描述同一肝脏图像, 计算其角二阶矩、熵、逆差矩。经实验比较发现, 这三个统计量对正常肝和脂肪肝的描述差别明显, 而且相对稳定, 因此, 将这三个统计量选作特征值作为神经网络分类器的输入。
2 基于SOFM网络的脂肪肝B超图像分类识别
SOFM网络是模仿动物和人大脑皮层中具有自组织信号处理的特征, 它可以根据样本自身的规律, 自动提取样本内在的重要统计特征, 是一个由全连接的神经元阵列组成的无教师自组织、自学习网络。SOFM神经网络算法更接近于人脑的认知规律, 可以实现实时学习, 网络具有自稳定性, 不需要外界评价函数, 能够识别向量空间最有意义的特征, 抗噪能力强。它所形成的聚类中心能够映射到一个平面或曲面上而保持拓朴结构不变, 可以对目标的固有特征作出客观的划分。
2.1 输入与竞争层的设计
根据本文设计的需要, 我们从项目合作医院采集了48张肝脏图片, 最后选定28张典型的图片作为我们的训练样本:其中正常肝、轻、中、重度脂肪肝各7张, 余下的20张不同类别的图片作为测试样本。由于每幅图像大小和灰度级不一定完全相同, 这样不宜于设计各层节点数目, 所以为了提高网络的收敛速度, 我们对给定的B超脂肪肝图像进行预处理。在医生的指导下, 从中划分出感兴趣的区域 (ROI) , 选取了64×200, 灰度级为256的图像, 对这部分区域进行特征提取, 计算出每一幅图像的灰度共生矩阵, 并提取它们的二次统计量构成特征矢量, 得到了角二阶、熵以及反差分矩12个反映其图像纹理特征的特征值, 也即是我们可以将一幅脂肪肝图像用一个12维的向量表征。这12维的向量特征值便作为了神经网络的输入。神经网络一般根据输入特征量的多少确定网络输入层神经元个数, 因此, 本次设计的输入层神经元个数为12。对于竞争层 (输出层) , 我们设定神经元个数为4, 即分别代表正常和轻度、中度、重度四种分类结果。
2.2 SOFM网络的训练
SOFM网络是模仿动物和人大脑皮层中具有自组织信号处理的特征, 它是一种无监督的学习方式, 它可以根据样本自身的规律, 自动提取样本内在的重要统计特征。SOFM神经网络算法更接近于人脑的认知规律, 它现在已经成为继BP网络模型之后得到研究最多、应用最为广泛的一种网络模型, 在实际中的应用包括:过程和系统分析、统计模式识别、通信等。
T.Kohonen提出的自组织特征映射神经网络, 它建立在一维或者二维的神经元网格上, 其算法所具有的竞争、合作和更新的学习规则可以捕获包含在输入 (数据) 空间中感兴趣的特征, 使得一个复杂系统从开始的完全混乱调整到最终整体有序。在本次SOFM网络的设计中, 我们设定输入神经元数为12, 输出神经元数为4, 图1为本设计的SOFM网络拓扑结构。
通过多次仿真试验, 我们确定SOFM网络训练参数如下:
初始权矩阵:每个矩阵元素都取[0, 1]区间上的随机数;
net.train Param.Show=50;
net.train Param.Lr=0.9;
net.train Param.epochs=1000;
net.train Param.Goal=1e-3。
针对SOFM网络, 我们的矛盾主要集中在竞争层神经元个数的选取上, 通过反复的分析比较, 我们最后选取了竞争层神经元个数为4的二维网络, 经过反复调试, 最终达到了预期的收敛和预测效果。图2为SOFM网络初始分布图, 图3为SOFM网络快速收敛训练图。
实验结果表明, 经SOFM网络训练测试, 最终将样本分为了4类。SOFM网络实质上实现了一个从输入到输出的映射功能, 而数学理论已证明它具有实现任何复杂非线性映射的功能, 经统计分析可知, 针对我们所选取的20张测试图片, SOFM网络对正常肝的识别率可达85.71%, 对脂肪肝的识别率可达88.89%, 其中, 轻度脂肪肝的识别率可达71.42%, 中度脂肪肝的识别率可达79.82%, 重度脂肪肝的识别率可达85.71%。从结果我们不难看出, SOFM网络对重度脂肪肝的识别率都较高, 这是因为重度脂肪肝的特征明显。从应用角度来看, SOFM网络训练耗时在25秒左右, 实现了对脂肪肝的识别目的, 可以实现远程、在线医疗, 具有一定的推广、概括能力。
3 结论
本文将SOFM网络引入脂肪肝图像识别, 以B超平面图像为研究对象, 利用纹理分析方法提取脂肪肝B超图像特征, 将提取的特征值输入SOFM神经网络图像识别系统, 最终实现脂肪肝B超图像的分类, 建立了计算机B超脂肪肝辅助诊断系统。实验结果表明这一研究可以提高脂肪肝确诊效率和准确性, 进而减轻医生的工作量, 也可以为经验缺乏的医生提供辅助诊断帮助, 为医学诊断提供了方便;同时也推动了我国远程医疗事业, 一旦系统成功, 这对于我国部分医疗不便、经验医师缺乏的边远山区有很强的实用性。
摘要:通过分析肝脏B超图像的纹理特征, 利用自组织特征映射神经网络 (SOFM) 的聚类特性对脂肪肝B超图像进行分类识别, 建立较人为经验识别更为准确的计算机B超脂肪肝医学辅助诊断系统。实验结果表明SOFM网络对脂肪肝的识别率达88.89%, 轻度识别率达71.42%, 中度识别率达79.82%, 重度识别率达85.71%, 该辅助系统可提高脂肪肝的诊效率和准确性。
关键词:脂肪肝,B超图像,自组织特征映射,神经网络,特征提取
参考文献
[1]张健, 姚洪森, 贺南方等.脂肪肝的诊断治疗进展[J].河北医药, 2003 (07) .
[2]汪小毅.基于纹理分析的脂肪肝B超图像识别[J].航天医学与医学工程, 2004 (04) .
[3]李丙春, 耿国华, 周明全.基于自组织特征映射聚类算法的研究与应用[J].新疆大学学报: (自然科学版) , 2003, 20 (04) .
自组织特征神经网络论文 篇7
1 自组织的理论基础知识
一般来说,组织是指系统内的有序结构或这种有序结构的形成过程。自组织理论是二十世纪六十年代末期开始建立并且发展起来的一种系统理论。一个依靠外部指令的系统而形成的组织,是他组织;反之,一个外部指令不存在,按照相互默契的某种规则,各司其职、各尽其责并且自动、协调地形成有序结构的系统,即自组织。一个系统自组织功能越强,其本身产生新功能和保护的能力越强,并且自组织现象在人类社会和自然界中是普遍存在的。系统要想摆脱无序状态,需要满足的条件为:
(1)系统的开放性。原因是孤立的系统最终的结果是变为一个无序的死系统,而开放的系统能与外界进行熵交换。(2)系统是要远离平衡态的。在远离平衡态的状态下,系统会通过“涨落”从一个不稳定的无序状态,形成一个新的稳定有序的结构。(3)系统内部各要素的非线性协同作用。(4)涨落使无序变有序。
2 大学生自组织特征
2.1 青年性
联合国于1985年国际青年节,首次将青年界定为15至24岁之间的人,大学生无疑是代表整个青年团体的象征性标志,他们是时代的晴雨表、时代的镜子,他们绝大多数渴于求知、渴于探索,是社会中最积极、最活跃、最有生气的一部分力量。而网络等一系列作为媒介的工具应运而生,成为大学生自组织最显著的特征。
2.2 自发性
自组织的诞生源于社会的发展,而它的快速发展使得自组织成为生活中一种调剂品,它能满足大学生的自尊、兴趣和日益上涨的好奇心,并且在网络等新媒体的带动下,使得它能在短时间内快速传播和发展。它主要是基于发自内心的一些共同点。共同的兴趣和爱好,形成的趣缘,以及共同的利益和追求,形成的利缘等,都是这类群体的联接点,而由于这些联接点,使组织自觉的接受一部分人,同时自觉的排斥一部分人形成了主体特定化的鲜明特征。
2.3 多样性
由于大学生正处于快速发展期,处于不断的变化之中,走向不可预知,显示出多元化的特点。而网络为主体在大学生自组织中主要发挥论坛讨论和提供功能性服务两个方面。人人网、飞信、微博、QQ等网络的低成本、开放性和自由性,使其成为大学生自组织运行中不可替代的载体,一旦有新的自组织成立,并且符合大学生的心理供求,即立刻传播开来,反之,没有吸引力,则会立刻陨灭,悄无声息。
3 大学生理想信念教育系统自组织特征
理想信念教育可以理解为高校思想政治教育之一,而教育系统是一种人类社会所特有的复杂系统,思政教育中的价值观、人生观是理想信念的指引方向。大学生的理想教育系统由学生、教师、教学环境、教材、家庭背景、教学目标等要素组合而成。其中的各个要素和理想信念教育都是教育系统具有复杂型特征的子系统。
该系统中的各要素作用都不尽相同,并且相互制约、相互联系、相互依赖、相互促进。同时在大的环境下,随着学生的认知程度不断的变化和提高,并且在非线性区域内,通过与外界环境不断的进行能量和物质的交换,当外界条件达到一定阈值时,在序参量的作用下,通过涨落是学生的人生观和价值观由原来的无序的混乱状态,经过自组织成为了一种新的有序结构。
3.1 大学生理想信念教育的开放性
理想信念教育要与其他教育系统、社会等进行着各种交流以维持结构和功能的相对稳定与完整,随着新媒体的快速发展,理想信念教育的课堂教学已经满足不了学生的认识进度,高校的理想信念教育朝着更为开放的方式发展,辅导员们也渐渐认识到原先的教育方式只会拉大与学生之间的交流,最近几年,各高校也陆续建立了飞信、QQ群、微博、人人网等形式的新媒体活动,加大了学生自组织管理的力度。
3.2 大学生理想信念教育的非衡性
大学生理想信念教育系统保持稳定性是社会发展的需要。从社会学角度看,社会的发展是始终处于平衡与非平衡之间,一种内在与外在的力量推动者社会的发展,在新媒体冲击环境下的信息文化良莠不齐、鱼龙混杂,民族设面临西方文化剧烈冲突,教育者与受教育者受到极响,高校思想政治教育受到强烈的挑战。高校思想政工作者要树立引导的理念,引导受教育者明善恶、知辩真伪,落实高校思想政治教育的目的性和任务性。
大学生对理想信念的确立处于不停地思考、选择和探索的过程。非衡的教学对于学生也有非衡的效果,因此,要选择合适的方式而不应局限于过往的方式,在新媒体的冲击下,高校的思政教育应向新方式发展探析。
3.3 大学生理想信念教育的非线性
Prigogoing通过对开放的非平衡系统长期研究发现,复杂系统内部诸要素的非线性相互作用是形成自组织结构的重要机理。非线性相互作用是理想信念教育系统的基本特性之一,它正是需要借助于教师、学生、教材、社会环境等之间的非线性相互关系才表现出迷人的复杂性,才能够得以不断演化与发展的。在理想信念教育过程中,教师、学生、教学方式与媒体之间发生着认知、情感、行为等多纬度的联系。辅导员并不是一部专门的输出那种与教材完全相同而一成不变的教学信息的机器,同一教学信息就可以引起不同的反应,不同的教学信息又可能造成同一效应,即出现了教学双方对教学内容组织、处理的多样化和个体发展的多样化的现象,教的目的与学的获得会有差异性。因此,师生之间不存在直接的因果关系。学生学习要受原有知识、已具备的能力和心理发展水平等个方面的约束与限制,学生的理想信念与其所收获之间就是一种典型的非线性关系。
参考文献
[1][比]伊.普利高津.从混沌到有序[M].曾庆宏,沈小峰,译.上海:上海译文出版社,1987.
[2]周浩,周筱艳.自组织理论和高校成人教育管理[J].湖南师范大学教育科学学报,2007.3:103-105.
[3]朱怡.系统自组织理论及对思想政治教育的启迪[J].安庆师范学院学报,2001.5:76-77.
[4]孔一霖.大学生理想信念与思想政治教育[J].教师论丛,2011.1:177-178.
[5]王焕成.新媒体环境下高校思想政治教育的理念探索与路径选择[J].湖北广播电视大学学报,2010.4:37-38.
[6]万远新,曹戈等.大学生理想信念问题调查[J].卫生职业教育,2011.1:103-105.
自组织特征神经网络论文 篇8
负荷预测是电力系统调度运营的重要环节,其精度直接影响着电网的安全稳定。按预测时长,可将负荷预测分为: 超短期、短期、中期、中长期负荷预测。目前研究最广泛的是短期及中长期负荷预测,而对于时长介于两者之间的连续一周至一个月的负荷预测研究相对较少。连续多日负荷预测便是处于中期预测和短期预测间的新型负荷预测,对未来连续多日甚至一个月的负荷进行预测对电力调度和电力营销有着重要意义。但影响连续多日负荷的因素较多且构成复杂,因此对连续多日的负荷进行预测的难度较大,通常通过分析历史负荷曲线,挑选与预测日负荷特征相似的数据构造样本进行预测,但预测时间往往较短[1],相关研究也较少。
日最大负荷是指一昼夜时间内负荷最大峰值,是估算电力系统备用容量、日负荷率、制定峰谷电价等指标的重要依据,影响着整个电网、尤其是网架结构薄弱地区电网运行的安全稳定性。目前,研究者对日最大负荷的研究通常集中在短期负荷预测,并且大多致力于气象因素和日最大负荷的关系[2,3]。由于未来连续多日的气象信息难以获取且准确度不高,因此对于连续多日日最大负荷的研究也较少。
目前,自组织特征映射网络( self-organizing feature map,SOM) 与神经网络相结合的预测模型多用于对疾病、天气的预测[4],本研究基于此提出一种基于SOMElman神经网络的连续多日负荷的预测方法,同时充分考虑连续多日中存在节假日的可能,针对节假日负荷规律与工作日不同的特点,分别分析二者日最大负荷变化规律并加以利用。非节假日,本研究通过自组织特征映射网络对历史负荷数据进行特性分析并结合Elman神经网络进行预测,该方法通过特征提取消除冗余信息,精简输入样本数量,利用Elman神经网络具有适应时变能力、预测精度准确、预测时间短的优点,以提高对未来一个月每日最大负荷预测的精度。节假日,本研究通过分析假日期间负荷特点,设定假日影响因子,算例分析结果表明预测精度显著提高。
1SOM-Elman组合预测方法
1. 1 SOM神经网络聚类
自组织特征映射网络( Self-Organizing Feature Map,SOM) 是一种特征聚类和高维可视化的无教师学习算法,它是通过模拟大脑神经元的侧向抑制、自组织等特性而产生的一种人工神经网络[5],网络结构如图1 所示。
算法流程如下:
(1)初始化
取[0,1]区间的随机值作为神经网络的连接权值Wij,初始领域Nc( 0) 设置为较大范围,确定网络的学习速率 η( 0) ,0 < η( 0) < 1; 迭代次数为T,归一化:
Xk—n维,k = 1,2,. . . . ,N; Wj—n维,j = 1,2,. . . ,M。
( 2) 接受输入
取任意一个Xk: Xk= ( X1k,X2k,. . . ,Xnk) 从网络的输入层输入,作为输入向量。
( 3) 寻找获胜节点
选择输入向量k和连接权向量j间欧式距离最小的神经元c为获胜神经元,即: ‖Xk- Wc‖= min{ djk}
( 4) 参数调整
对式( 3) 中的获胜节点c及其领域内所有节点的权值按公式( 3) 进行调整。
式中: 0 < η( t) < 1—学习速率,是增益函数; hc,j( t) —领域函数。
(5)更新学习速率η(t)和领域函数hc,j(t)
hc,j(t)通常采用高斯函数,如下:
式中: dcj—获胜神经元c和任一领域内被激活的输出神经元j之间的距离,调整规律如下式所示:
( 6) 循环学习
将其他输入模式依次重复步骤( 3) ,直到所有输入模式学习完毕;
( 7) 令t = t + 1,返回步骤( 2) ,直至t = T或网络收敛为止[6,7,8]。
SOM神经网络聚类的显著特征是它赋予质心一种空间组织,这是它与其他基于原型的聚类的根本差别,它将相邻关系强加于簇质心上,因此互为邻居的簇之间比非邻居之间更相关,聚类准确度更高[9,10]。
1. 2 Elman神经网络
Elman是一种典型的动态神经网络,它在BP人工神经网络输入层、隐含层、输出层的基本结构基础上增加一个承接层,它用来存储内部状态,从而使系统具有适应时变特性的能力[11],由于电力系统负荷具有动态特性,动态神经网络对电力负荷的预测准确度更高,时间更短[12],结构如图2 所示。
Elman网络空间表达式为:
式中: y—输出节点向量; x—中间层节点向量; u—输入向量; xc—反馈状态向量; w3—中间层至输出层连接权值; w2—输入层至中间层连接权值; w1—承接层到中间层的连接权值; g( * ) —输出神经元的传递函数,是中间层输出的线性组合; f( * ) —中间层神经元的传递函数,常用S函数[13]。
1. 3 SOM-Elman神经网络组合预测方法
连续多日负荷预测是介于短期负荷预测和中期负荷预测间的新型负荷预测,它主要针对未来一周至一月的负荷进行分析预测。但电力负荷本身具有非线性及随机性的特点,导致负荷波动的因素很多。未来连续多日的最大负荷变化特点与过去近一周的负荷数据相似度并不高,若模仿短期负荷预测方法,直接利用前一周的负荷数据对日最大负荷进行预测准确度不高。因此需找出与待测日类似,相关度较高的历史负荷数据作为输入。对日大负荷的特征进行提取,寻找相似序列是连续多日负荷预测的关键。
1. 3. 1 日最大负荷特征提取
本研究利用SOM网络对输入的历史日最大负荷数据进行聚类分析,经过迭代计算,得到各个神经元之间的权值,各个类别的神经元会将数据之间存在的相似性体现出来,使得同一类别的神经元的权值比较相近,最后将训练样本数据分类,作为训练样本集。
本研究取某市2011 年1 月1 日至2013 年8 月30日的( 除春节、国庆节所在月份) 共37 组电力负荷数据,编号后通过SOM算法对输入样本进行聚类,学习次数T = 500。考虑到特征向量的维数以及实用性,分为4类,设置网络的输出节点矩阵为2 ×2 结构,其中分类结果由各组数据的编号表示,聚类结果如表1 所示。
分类拓扑结构如图3 所示。
1. 3. 2 SOM-Elman神经网络组合模型
本研究所用预测方法流程图如图4 所示。
本研究对历史负荷数据利用自组织特征映射算法进行特征提取,对多组历史数据进行分类,选出与预测月相似的同类型月,以其历史负荷作为神经网络的输入样本集,通过建立Elman神经网络进行负荷预测。
2法定假日预测方法
清明节、五一劳动节、中秋节等重大节假日( 本研究仅针对法定假期为3 天的节日进行分析) 。由于法定节假日大多数工业暂停,假日期间的最大负荷与其他时期存在较大差异[14],将节假日与日常负荷用相同方法进行预测效果不佳。为了充分合理考虑实际情况,对节假日单独进行分析建模预测十分必要。
2. 1 假日最大负荷特征分析
通过对比2010 年- 2013 年某市节假日( 本研究中特指放假为期3 天的法定节假日) 的最大负荷数据,分析后发现:
( 1) 节假日期间,日最大负荷明显降低,且节日当天负荷达到最低值;
( 2) 法定节日出现在假期第一天,则第一天负荷最低,随后逐日升高; 法定假日出现在第二日,则第一天负荷最大,第三天次之,节日当天最低; 法定假日出现在第三天,则与日递减。
2011 年某市元旦、清明、五一节假期3 天的最大负荷曲线如图5 所示,图中节日分别出现在第一天、第二天、第三天。
2. 2 法定假日预测方法
根据本研究中分析的节假日最大负荷变化特点,分别针对节日所在位置的不同情况设置节假日影响因子,对其进行编码:
( 1) 节日为第一天: 3 天假日的影响因子编码分别为0. 15 0. 30 0. 55;
( 2) 节日为第二天: 3 天假日的影响因子编码分别为0. 55 0. 15 0. 30;
( 3) 节日为第三天: 3 天假日的影响因子编码分别为0. 55 0. 30 0. 15;
取某市2010 年1 月至2013 年4 月期间3 天节假日的负荷数据作为神经网络的训练样本,将历史负荷数据与假日影响因子作为Elman神经网络的输入,进行建模预测,可得到精度较高的假日最大负荷。
3算例分析
本研究用2011 年1 月到该年4 月每月每日最大负荷对该年5 月每日最大负荷进行预测,将预测结果与BP神经网络预测的结果进行对比,其中两种预测方法的隐含层节点数相同,验证本研究方法的可行性。
预测误差采用相对误差、平均绝对百分误差( MAPE) 衡量[15],即:
通过SOM神经网络对历史负荷数据进行聚类分析,得到的聚类结果如表2 所示。
经聚类后的样本数据分别建立Elman神经网络模型进行预测,选取预测误差最小的一组作为结果。某市某年5 月日最大负荷预测误差分析如表3 所示。
从表3 算例结果可知,采用SOM-Elman组合模型进行预测,平均绝对误差为3. 21% 。由于预测前对历史负荷数据进行了聚类分析,预测时使用的样本数据与待预测月负荷变化规律具有相似性,相关程度较高因此预测准确度较高。Elman神经网络具有适应时变特性的能力,能更加准确地反应负荷的动态变化特性,因而预测精确度比起静态神经网络BP神经网络来说较高,算例中精确度提高5. 53% 。对于节假日,本研究用BP神经网络对五一节当天负荷进行预测,由于不能对节假日这一突变做出判断因此预测结果十分不理想,而将5 月1 日劳动节单独建立模型进行预测后,充分利用节假日的负荷特性将预测误差缩小到0.63% ,结果准确度大幅度提高。
4结束语
本研究首次将SOM聚类用于连续多日的日最大负荷特征提取,并区分节假日对其负荷特性进行单独研究。提出的SOM-Elman组合预测模型实现了对未来一个月的每日最大负荷的预测,并且预测精度较高。对未来一个月的日最大负荷的预测有助于电力部门提前对重要设备进行巡查抢修,也对电力调度有所帮助,具有一定的实际应用价值。
经对算例结果的分析,预测结果中个别误差较大的数据是受当天气温及降雨量影响。因此,如何将气象因素对连续多日日最大负荷的影响考虑进预测模型及如何得到准确的未来一个月的气象预报都是有待深入研究的问题。
摘要:针对影响连续多日每日最大负荷的因素较多且构成复杂,连续多日负荷预测方法少难度大、含节假日的连续多日负荷预测精度低等问题,分析了近几年工作日电力负荷数据特点,研究了自组织特征映射(Self-Organizing Feature Map,SOM)聚类算法并将其用于负荷数据的预处理,研究了节假日负荷的特性,总结了其负荷变化规律并加以区分预测,提出了一种基于自组织特征映射神经网络的连续多日负荷预测新方法。该方法区分普通工作日与节假日,普通工作日采用自组织特征映射神经网络聚类方法对日最大负荷进行特征提取,建立了以周期特征相似的历史数据作为训练样本的神经网络模型,节假日设定假日影响因子单独预测。运用某市近年的负荷数据进行预测,算例结果显示综合预测误差为3.21%,表明该方法预测精度完全满足实际需求,为连续多日最大负荷预测提供了一种可行的方法。
自组织小脑神经网络算法研究 篇9
关键词:自组织小脑神经网络,非线性逼近,卫星姿态控制
0 引言
传统的小脑神经网络计算速度快,应用越来越广泛。但是其基函数为常数0或者1,只能记忆静态信息,泛化能力差,精度不高。Chiang 和Lin [1]研究一种高斯基函数的小脑神经网络,输入信号根据输入状态空间的范围划分高斯基函数的中心,将输入信号与基函数相关联的对应地址空间里的相应权激活,经过加权得到输出 。但是上述神经网络高斯基函数中心点的选取和输入的最大最小值有关,在实际应用中,在线学习不确定时很难预测最大最小值,这样的网络存储空间的大小很难确定,结构不能自动获得,影响学习和控制的性能,因此一些能够自适应地改变神经网络结构的网络受到重视。
Hu和Pratt[2]研究了可以根据输入数据来改变自身结构的方法,但是这种方法运用了不可微分的阶梯性质的基函数,并且只研究了结构增加的方法,没有研究减少结构的方法。C.M.Chen[3]提出了一种自组织的遗传算法的小脑神经网络,运用了信息熵结合黄金分割的方法来决定结构的增加和减少,这种方法的缺点是结构过于复杂,缺乏在线的学习能力。
该文研究了一种自组织小脑神经网络在线逼近非线性函数,这种网络不需要预先确定存储空间的大小,可以根据输入数据自适应地改变神经网络节点数和相对应的权值,具有良好的智能性,并且可以达到全局收敛。针对挠性卫星姿态实例,采用变结构控制,并用神经网络补偿系统不确定性。
1 自组织小脑神经网络算法研究
自组织小脑神经网络是在高斯基小脑神经网络的基础上提出的。如图1为高斯基函数神经网络,输入x是n维空间,输出为:
式中,as为基函数的选择矢量,有C个单元等于1,其余视为0,相当于以输入数据为中心,以C作为边长,作了一个超立方体。其中:
wj(xs)=vjbj(xs), (2)
式中,vj为权值,bj(x)为径向基函数,基函数中心点和方差是在已知每维输入空间大小情况下选取的。写成矢量形式:
但上述的高斯基函数的小脑神经网络前提是已知了输入X的范围,在实际应用中多数不知道范围大小,在这种情况下,自组织小脑神经网络根据输入大小来增加或者减少节点数。此时:
1.1 增加节点数
已经存在的节点可以叫做族。如果一个新的输入量的值在这个族的范围内,则自组织小脑神经网络不会再产生新的节点,只是改变权值[5,6]。
在联想存储空间中定义:
MDk(xs)=‖xs-uk‖2k=1,…,nk, (4)
式中,uk=
如果满足MDk(xs)>Kg,Kg是预定好的最低限度,则产生一个新的节点。这意味着对于一个新的输入数据,如果这个数据跟与族里面的已经存在的节点的中心距离都大于一个设定值,即表示现有的族太小,则需要产生一个新的节点。产生如下的节点:
nk(t+1)=nk(t)+1, (5)
这里的nk(t)是已经存在的节点数目,新产生的节点的中心和方差设置为:
1.2 减少节点数
考虑第j个输出,定义:比例
式中,yj(x)是第j维输出,vjk(x)是输入数据与第k个中心节点的权值,MMjk(x)表示这个输入数据与第k个节点的权值在整个输出的比例。可以找到第j个输出中最小的比例,即:
设Kc是预定的上限,如果满足:
定义误差函数
vi(k+1)=vi(k)+Δvi(k)+alfa(vi(k)-vi(k-1))。 (10)
2 应用实例
该文将自组织小脑神经网络应用于挠性卫星姿态控制中。挠性卫星姿态控制系统状态方程为:
取状态向量
式中,
选取滑面
变结构控制选择为:
式中,Tf为常数,δ为消颤因子。卫星的姿态控制律为:
Tc=Teq-Tvsc, (16)
由于参数ηs、
系统的总控制力矩为:
神经网络与变结构控制相结合,使控制器既具有变结构控制对扰动不敏感的特点,又具有神经网络在线学习的能力,可加快系统响应速度,提高系统的抗干扰能力。
3 仿真分析
该文设计的姿态机动角度为70°,挠性卫星模态为4阶,执行机构为飞轮,控制力矩带有饱和特性。
变结构控制中边界层厚度δ为0.08,滑模面系数kc为0.4,边界层参数Tf为30,神经网络参数xite为0.2,alfa为0.08,加节点的时候Kg为0.001,减节点的时候Kc为0.000 01。
经过仿真,发现在有外加干扰Td=sin(t)时,用滑模控制,不用神经网络补偿时,如图2所示,角度和角速度波动比较大,精度不高。
用自组织小脑神经网络补偿干扰,如图3、图4和图5所示,在80 s角度和角速度达到要求精度,模态幅值为±0.003之间振动,可见神经网络提高了系统的鲁棒性。通过仿真发现,在未知干扰大小的情况下,小脑神经网络收敛速度快,误差小,网络的节点数随着输入的变化而变化,做到了自适应调节节点的目的,最后收敛于一个固定值,而且避免了局部极小的现象。
4 结束语
该文设计一种自组织小脑神经网络,这种网络计算速度快,可以根据输入自适应增加或者删除节点。针对挠性卫星姿态机动控制,由于外加力矩Td在实际中是未知的,而且变化剧烈,采用自组织小脑神经网络对不确定性进行补偿,得到了良好的控制效果。
参考文献
[1]CHIANG C T,LIN C S.CMAC with General BasisFunctions[J].Neural Networks.1996,9(7):1199-1211.
[2]HU J,PRATT F.Self-organizing CMAC Neural Networksand Adaptive Dynamic Control[J].IEEE IntelligentControl,1999:259-265.
[3]LEE H M,CHEN C M,LU Y F.A Self-organizingHCMAC Neural-network Classifier[J].IEEE Trans.,2003,14(14):15-27.
[4]LIN Chin-min,CHEN Te-yu.Self-Organizing CMACControl for a Class of MIMO Uncertain Nonlinear Systems[J].IEEE Transactions on Neural Networks,2009,20:1377-1384.
[5]ALEXANDRIDIS A,SARIMVEIS H,BAFAS G.A NewAlgorithm for Online Structure and Parameter Adaptation ofRBF Networks[J].Neural Networks,2003:1003-1017.
[6]QIN Ting,CHEN Zong-hai,ZHANG Hai-tao,et al.ALearning Algorithm of CMAC Based on RLS[J].NeuralProcessing Leters.2004,19(3):49-6l.
自组织特征神经网络论文 篇10
自组织竞争网络是一种无导师学习的人工神经网络, 通过竞争机制自动地寻找样本中的内在规律与本质属性, 自组织自适应的改变网络参数。其基本思路是网络竞争层各神经元竞争对输入模式的响应机会, 最后的只有一个神经元成为竞争的胜利者。并对那些与获胜神经元有关的各连接权一同朝着更有利于它竞争的方向调整。获胜的神经元就表示对输入模式的分类。除了竞争方式外, 还可以通过抑制方式、侧抑制方式获胜[1]。
基本的自组织竞争网络由输入层和竞争层组成。可假设竞争层有m个神经元, 输入层有n个神经元, 网络拓扑结构如下图1-1所示。
所对应的网络权值为:
自组织竞争网络具有较好的动态性能, 能够自我学习, 并根据所记忆的学习方式对输入模式进行最接近的分类, 即以竞争层获胜神经元表示分类结果。
2 基于迭代算法的改进神经网络
2.1 算法提出
本文将描述输入模式的变量定义为特征变量。根据1, 自组织竞争网络能够通过自我学习进行模式分类, 在特征变量充足且所有输入模式类别未知的情况下可以得到唯一且较为准确的分类结果。经MATLAB仿真试验, 在部分模式类别已知的情况下训练自组织竞争网络, 可能出现分类结果无法复现的情况 (即两次或多次分类结果不一致) , 故该情况下会得到失准的分类结果。
为弥补这一缺陷, 本文将引入迭代算法对部分模式类别已知情况下的分类结果进行校准。
2.2 算法描述
定义未知类别的模式为未知模式, 已知类别的模式为已知模式。改进算法的基本思路是为每一个未知模式赋一个随机的初始类别, 并与已知模式混合进行第一次分类。若分类结果与初始分类结果不一致, 则将已知模式的类别还原后重新进行一次分类;不断重复分类过程, 直至所有模式的类别不在发生改变。此时得到最终的模式分类结果。
定义Si, k为第i号模式在第k次迭代中的类别。以将n个输入模式分成t类为例, 则Si, k满足下列约束条件:
根据上述描述可知, 得到最终分类结果的充要条件是迭代收敛。迭代收敛的条件方程为:
引入迭代算法, 可使自组织竞争网络自我校准, 满足收敛条件方程, 得到唯一而可靠的分类结果。
2.3 仿真结果
验证迭代自组织神经网络算法的分类功能。
以我国南方某城市为例, 共3个城区, 分别为L区、O区、W区, 为城市中的小学划定所属区域可便于教育管理与辖区入学。已知3所小学的分区情况, 根据经纬度坐标为其余9所学校划定所属区域。
分别采用自组织竞争网络与迭代自组织神经网络进行分区, 得到MATLAB仿真结果如下。
(1) 已知分区:
L区:西山小学O区:塘下小学W区:新川小学
(2) 自组织神经网络分类结果:
L区:西山小学, 广场小学, 东方小学, 实验小学;
O区:塘下小学, 曲溪小学, 源口村小学, 南汇小学, 茶山小学;
W区:新川小学, 光明小学, 桥头小学。
仿真时间:4.5秒
(3) 迭代自组织神经网络分类结果:
L区:西山小学, 广场小学, 实验小学, 南汇小学;
O区:塘下小学, 曲溪小学, 源口村小学, 东方小学;
W区:茶山小学, 新川小学, 光明小学, 桥头小学。
仿真时间:25分30秒
结果显示, 迭代自组织神经网络给出了更为准确的分区结果, 但耗时较长。说明引入迭代算法在提高模式分类准确度的同时, 将很大程度的降低程序运行速度。
3 迭代自组织神经网络算法应用分析
根据2, 迭代自组织神经网络算法适用于已知部分输入模式类别情况下的模式分类。故可利用该算法识别未知模式的类别, 进而应用于电气工程、环境工程等领域。下面将以电气工程为例, 分析迭代自组织神经网络算法在变压器故障检测中应用的可能性。
电力变压器是电网中的主要元件之一, 其安全运行是电网可靠运作的必要条件。变压器油溶解气体的色谱分析是变压器故障诊断的一种重要方法[2]。为提高故障诊断的准确度, 可尝试引入迭代自组织神经网络算法。
以油中5中特征气体 (H2、CH4、C2H2、C2H4、C2H6) 的体积含量作为特征变量。根据长期运行经验, 可得到某型号变压器在正常运行及故障运行时的检测数据, 作为已知模式。同时, 以实时监测数据作为未知模式。采用迭代自组织神经网络法可进行检测数据的模式分类, 得到实时监测数据所属类别, 进而得到变压器故障检测结果。
同理, 迭代自组织神经网络算法也可试用于水质检测、人脸识别等方面。
4 总结
迭代自组织神经网络算法可以在分类过程中进行自我校准, 适用于已知部分输入模式类别情况下的模式分类。改进算法有效提高了模式分类的准确度, 具有应用于电气工程、环境工程等领域的可能性。但本文仅局限于算法的提出和算法应用思路的分析, 具体工程应用及算法速度问题的解决有待于后继研究来实现。
摘要:本文在自组织竞争网络的基础上, 结合迭代算法, 提出了一种改进的神经网络算法, 即迭代自组织神经网络算法。改进算法可有效提高模式分类的准确度, 但会很大程度降低程序的运行速度。本文最后, 将简要分析该改进算法在电力、环境工程等领域推广与应用的可能性。
关键词:自组织竞争网络,迭代算法,模式分类
参考文献
[1]汪海波, 张海臣, 段雪丽.基于MATLAB的自组织竞争神经网络聚类研究[J].邢台技术学院学报, 2005 (1) :46-47.
【自组织特征神经网络论文】推荐阅读:
模糊自组织神经网络论文01-02
组织化学特征07-20
组织变革特征05-15
组织特征及性能09-11
病理组织学特征05-08
非营利组织特征11-28
创新型组织的特征研究10-28
网络自组织09-25
自组织小脑神经网络05-12
自组织竞争网络11-19