过程神经元网络（共12篇）
过程神经元网络 篇1
1 引言
过程神经元网络是根据生物神经系统信息处理机制并结合实际问题的应用背景提出的一种新的人工神经网络模型。网络的输入输出可为过程或时变函数。过程式输入放宽了传统神经元网络模型对输入的同步瞬时限制, 是传统神经元网络在时间域上的扩展[1,2], 是更一般化的人工神经元网络模型。由于过程神经元网络的输入和连接权都可以是时变函数, 过程神经元增加了一个对于时间的聚合算子 (对于连续系统, 一般取积分运算) , 这使得过程神经元网络的训练和计算与一般非时变神经元网络有着很大的不同, 计算复杂度大大增加。同时由于网络连接权函数形式的任意性, 如果不给出其一般的函数类型, 权函数很难通过样本集的训练来确定。
为解决此问题, 文中考虑一种网络权函数可以被一组已知基函数展开的过程神经元网络模型。不妨设网络连接权为连续函数, 在C[0, T]空间中选择适当的基函数有许多种形式[3], 将权函数在满足展开精度要求的前提下, 表示为基函数的有限项展开形式也有成熟的方法, 因此在权函数形式未知的情况下, 可以构造一种权函数基展开的过程神经元网络模型, 从而能够借助于现有的学习算法训练过程神经元网络。
2 基展开过程神经网络模型
过程神经元的结构与传统MP模型[4]的结构相类似, 由加权、聚合和激励运算三部分组成。过程神经网络是由若干个过程神经元按一定的拓扑结构组成的前向网络。这里, 考虑一种基于权函数基展开过程神经网络, 为讨论方便, 设其为一个多输入单输出系统 (不难将其推广到多输入多输出情况) , 网络的拓扑结构如图1所示。
其中, 输入层有n个单元, 中间层 (隐层) 有m个单元, 输出层为线性关系。过程式输入与输出之间的关系为:
式 (1) 中, tij (t) 为输入层与隐层的连接权函数, vj为隐层过程神经元到输出层的连接权值, θj为隐层的输出阈值, [0, T]为时间采样区间。
3 权函数正交基展开学习算法
3.1 输入函数的正交基展开
设过程神经网络输入空间为 (C[0, T]) n, b1 (t) , b2 (t) , .., bk (t) , ..为C[0, T]的一组标准正交基函数 (例如勒让德正交多项式、三角基函数、小波基函数等) , X (t) = (x1 (t) , x2 (t) , .., xn (t) ) 为输入空间的任意函数, 则xi (t) 可表示为。
记:, 则:
3.2 学习过程
考虑基于权函数基展开的过程神经网络。将网络权值基函数取为与输入空间相同的一组正交基b1 (t) , b2 (t) , .., bL (t) , 则wij (t) 可表示为
式 (4) 中, wij (l) 为网络非时变权系数。
将公式 (4) 代入 (1) , 则网络输入与输出之间关系可表示为:
整理为
由于b1 (t) , b2 (t) , .., bL (t) 为一组正交基函数, 所以
故 (6) 式可化简为
给定K个学习样本:
其中dk为第k个样本的期望输出。网络误差函数可取
式 (9) 中, ail (k) 为第k个学习样本第i个分量函数展开式中对应第l个基函数的系数。
采用传统BP算法训练过程神经网络。网络权值学习规则为
其中α, β, γ, 为学习速度。
为表述方便, 令:则
若取激励函数f为s函数, 则
3.3 算法描述
步1:选取输入空间基函数bl (t) , l=1, 2, .., L;
步2:给定网络学习误差精度ε, 累计学习迭代次数s=0, 学习最大迭代次数M;
步3:初始化权值和阈值vj、wij (l) 、 (i=1, 2, ..., n;j=1, 2, ..., m;l=1, 2, ..., L) ;
步4:由式 (9) 计算误差函数E, 如果E<ε或s>M转步6;
步5:按式 (10) ～ (15) 修正权值和阈值, s+1→s, 转步4;
步6:输出学习结果, 结束。
4 仿真实验
实验构造了3类15个二维三角函数输入样本, 过程输入区间为[0, 1]。而对于时变的函数逼近, 普通神经元是无能为力的, 输入函数样本对如下:
第1类:
第2类:
第3类:
采用本文提出的学习算法进行网络训练。过程神经元网络结构及参数选择如下:2个输入节点;9个过程神经元隐层节点;1个输出节点。训练误差精度取为0.01, 进行傅立叶基函数展开, 项数为50;学习效率均取为0.45;最大迭代次数设为5000。网络学习1698次后收敛, 训练结果见表1。
结束语
过程神经元网络同时包含对于空间和时间的二维聚合运算, 映射机制和计算过程较非时变神经元网络复杂的多。本文在网络学习算法设计中, 在输入空间中引入了权函数正交基, 将输入函数和网络权函数表示为权函数正交基函数的展开形式, 利用基函数的正交性, 可简化过程神经元在时间聚合运算中的复杂性, 实验结果验证了算法的有效性。同时也表明过程神经元网络对于解决时变过程信号模式识别问题的适用性。
参考文献
[1]何新贵, 梁久祯.过程神经元网络的若干理论问题[J].中国工程科学, 2000, 2 (12) :40-44
[2]何新贵, 梁久祯, 许少华.过程神经元网络的训练与应用[J].中国工程科学, 2001, 3 (4) :31-35
[3]柳重堪.正交函数及其应用[M].北京:国防工业出版社, 1982:162-179.
[4]McCulloch W S, Pitts W H.A logical calculus ofthe ideas immanent in neuron activity[J].BulletinMathematical Biophysics, 1943, 5:115-133
[5]周志华, 曹存根.神经网络及其应用[M].清华大学出版社, 2004:37-55.
过程神经元网络 篇2
每一个神经元都是一个细胞(见图2—4)，有细胞体，讯息由树突传入，在细胞体内经过处理，经由轴突(Axon)传至另一个神经元的树突。一个神经元的轴突末梢和另一个神经元的树突触须之间，有一个微细的空隙，称为突触。 讯息在神经元体内传递的方式是电行，在突触传给另一个神经元所用的方式则是体内自制的生化物，称为神经传递素。现在已知可以做神经传递素工作的生化物超过 80种，其中的8～9种做了约98%的工作。我们的情绪反应，因而思想和行为反应，都是被这些神经传递素控制着：不同的神经传递素，便有不同的反应。
2、神经元之间的连接网络一个人在出生之前，脑中的1000亿个神经元已经几乎全部准备好，而神经元之间的连接网络则是十分稀疏的。因为婴儿未能意识思考，故此，他只会凭外界的刺激而制造连接网络。
任何声音、景物、身体活动，只要是新的(第一次)，都会使得脑里某些神经元的树突和轴突生长，与其他神经元连接，构成新的网络。同样的刺激第二次出现时，会使第一次建立的网络再次活跃。就是说，新网络只能在有新刺激的情况下产生。一个人的一生之中，不断有新的网络产生出来，同时有旧的网络萎缩、消失。
一个旧的网络，对同样的刺激会特别敏感，每次都会比前一次启动得更快、更有力。多次之后，这个网络便会深刻到成为习惯或本能了。这便是学习和记忆的成因。在某些情况下，一次学习便能记忆得很久，这便是恐惧症和一见钟情的成功。这种现象需要一些特定的条件存在，这里不谈了。每当有同样的事物出现时，同样的网络便会启动。当然，没有建筑出来的网络是不存在的，因此也不能被启动。这就是说，如果个人有五个不同的网络，我们的脑只能启动这五个网络，我们的思想和行为的反应亦只能在这五个选择中。
3、脑做工作的自动性和高速度每个人的脑随着身体和年龄的成长而增长。如果同一件事曾经有过五个不同的发展过程或结果，类似的事下次便会出现：我们大脑的前额叶收到由眼、耳或其他感觉器官传入的讯息，会马上启动所有有关的连接网络。就是说，大脑会自动地在资料库中找出所有有关的储存资料，然后做对比节选的工作，最后，把最有可能适合这一次用的资料，传给边缘系统，就是说，会在那已有的五个网络中选择最贴切的一个而启动之。边缘系统负责情绪和(在绝大部分情况下)做出决定。上面前额叶做的搜集、对比和节选工作，在500万分之一秒内完成，而且是我们生活中每一刻不断地做的工作!速度如此之快，只有潜意识才能做到，意识不能!
儿童学习的苦与乐
从脑神经学的角度看儿童成长过程中学习能力的培养，
我们知道：
①学习是随时随刻地在进行中，而不只是在课堂里才做的工作。
②少变化、少尝试、少活动的孩子的能力也会少，因为脑中可供选择的网络少。
③用恐惧、羞愧、犯罪感推动的孩子活动会少，会对学习没有兴趣，因为进化过程中这些情绪是引导我们避开那些事情的!
网络神经为谁紧绷 篇3
据中国互联网络信息中心统计，截至2011年6月底，中国网民规模达到4.85亿，手机网民规模为3.18亿，微博用户1.95亿，互联网普及率攀升至36.2％，虽然与美、日等国尚有差距，然而中国网络舆论场的强度，放眼全世界也找不出第二家。2011年网络舆论力度骤然增强，上网“发声”的阶层更为广泛，网民自觉、持续、高度警觉地关注着中国现实社会的各种热点事件。
从“7·23”动车追尾事故和郭美美事件所酿成的网络舆论高潮中不难发现，层出不穷的突发事件和某些看似“躺着也中枪”的偶然遭遇，越发触及了现阶段资源配置、利益分配、廉政、城乡融合、民众政治参与等社会深层问题。能不能较好地协调和处理好各种利益冲突，是我国面临的一个重大的现实课题和最紧迫的任务。
2011年的湖南处于工业化、城镇化加速发展和“四化两型”建设深入推进的关键时期，资源供需矛盾日益突出，资源约束不断加剧，国土资源工作始终面临着保障发展、保护资源的两难局面和双重压力，国土资源成为经济社会发展的一个矛盾焦点。那么面对“网络问政”这道无法逃避的必答题，湖南国土资源究竟现状如何、何以作答？是为本刊发布《2011年度湖南国土资源网络舆情报告》的初衷所在。
特征1：民生与廉政成热点
从以上三份榜单不难发现，涉及民生与廉政方向的事件或者话题性人物成为了网络关注的重中之重，有关“环境污染”、“征地拆迁”、“官员执政作风”等关键词或者高居榜首，或者频频出现。这些都彰显了网民的主要关注和利益诉求。
而以微博为首，包括天涯社区、红网论坛、凯迪社区等众多对公共事务关注度高的论坛、社区网站在这些话题上表现得尤其活跃。
特征2：核心工作公众“不太感冒”
另外一个显著特征是，国土资源作为一项基础性、先行性的事业，其对于国民经济发展的重要支撑保障作用并没有充分得到大众的主动关注与理解。比如2011年度湖南所开展的矿产资源整规、耕地保护、土地综合整治等并未入榜。而从总量上来看，2011年涉及湖南国土资源的主要话题与事件中，受到网民关注最多的也只有1万多条，与真正的时事热门话题相去甚远。
特征3：长株潭地区成话题中心
长株潭地区作为当前湖南经济最发达，发展最为迅速的区域，无论是从综合发展程度还是发展中所面临的形势问题复杂程度都领先全省，其本地公众参与网络问政的热情，受外界关注程度也都远远高于省内其他地方——从长株潭各国土资源部门包揽整个“2011湖南国土资源部门搜索排行榜”前十便可见一斑。
相关链接
湘江治污成最热话题
2011年8月5日，湘江流域重金属污染综合治理启动仪式在株洲市举行，省委书记、省人大常委会主任周强宣布治理工作全面启动。
湘江的污染问题与沿岸周边的矿山、企业的排放密不可分，与农田土地的被污染密不可分，因此湘江治污同样成为了国土资源部门的重要课题。作为湖南的母亲河，湘江的安危直接牵动着千万湖南人的心，而居住在河域周边的居民近年来也饱受污染之苦，正因为此，这一话题在网络上被广泛关注，成为了湖南国土资源领域2011年最热话题。
2011年3月，国务院正式批复《湘江流域重金属污染治理实施方案》。这是迄今为止，全国第一个由国务院批复的重金属污染治理试点方案。
《方案》编制工作于2009年7月正式启动，国家成立了以国家发改委为组长单位，国家环保部、湖南省政府为副组长单位的编制领导小组，历时一年半，先后多次征求国家18个部委和湘江流域8市政府及有关部门的意见。
《方案》涉及湘江流域长沙、株洲、湘潭、衡阳、郴州、娄底、岳阳、永州，明确株洲清水塘、湘潭竹埠港、衡阳水口山、郴州三十六湾、娄底锡矿山、长沙七宝山、岳阳原桃林铅锌矿7大重点区域，提出民生应急保障、工业污染源控制、历史遗留污染治理3大重点任务。经过治理，铅、汞、镉、铬、砷等重金属排放总量在2008年基础上削减70%左右。
规划项目927个，总投资595亿元，规划期限2011—2015年，展望至2020年，力求通过5—10年的时间基本解决湘江流域重金属污染重大问题，成为全国重金属污染治理的典范。
网络时代舆情的复杂性
互联网放大了国土资源舆情的复杂性，由偶然性因素引发的敏感性集体诉求燃点低、爆点高。
互联网的迅速普及，带来了网络舆论异军突起。一方面，网络舆情是网民思想情绪和群众利益诉求在网络上的集中反映，是网民热切关注的聚焦点，是民众议论的集中点，是社情民意的晴雨表和风向标；另一方面，网络为社会个体自由表达个人意见、参与公共事务讨论提供便利条件的同时，也为一些有害信息和杂音提供了传播渠道和广阔空间，容易造成情绪渲染和炒作，成为社会问题的放大器和社会事件的策源地。
如前文分析，征地拆迁与国土资源部门干部执政问题是国土资源系统网络舆情的热点，而可以预料的是，这两大热点依然将在一段时间内存在。在反映群体利益诉求的话题讨论上，国土资源系统网络舆情将表现出如下特征：
1.“大众麦克风”与“话语缺失”并存
随着互联网大众化趋势日益明显，现实社会中任何一个事件或者问题，都有可能在网上引起广泛关注，成为公共事件。但由于人们思想活动的独立性、选择性、差异性，加上网络的开放性，信息的不对称性，在涉及公权力、公益性强和公众关注度高的国土资源部门及其公职人员时，极易形成舆论一边倒的态势。而事件的真正当事人、国土资源部门因为各方面的因素，往往会反应滞后、话语缺失，很难主导网络话语权。“大众麦克风”在偏离理性的情况下就会形成“多数人的暴政”。
2、“利益诉求”与“情绪发泄”共振
通过网络表达合法利益诉求，得到回应，是政府倡导和鼓励的。但由于网络准入门槛低，网民的理性很大程度上取决于个人的法律自觉和道德自律，网民对现实问题处理的不满容易转向在网络上宣泄，使一些网络诉求带有明显的个人情绪化倾向。
3、直接利益者与非直接利益者混杂
据中国互联网络信息中心调查，目前，中国网民规模已稳居世界第一位，其中学生、自由职业者及无业人群约占45．1％，低收入及无收入人群约占43．7％。部分无书可读、无业可就、无人去管人员在现实社会难有作为，在网络空间却大显身手，从社会事件的“围观者”变成参与者，转帖发帖，渲染放大，“一呼万人应”，客观上形成了一个强大的“压力集团”。
相关链接
湘乡市国土资源局原局长陈光荣受贿54.5万获刑10年
因受贿54.5万元，湘乡市国土局原局长陈光荣被湘潭市岳塘区法院一审判处有期徒刑10年6个月，并处没收财产5万元。
2010年10月26日上午，陈光荣受贿案在岳塘区法院开庭。检方指控，2003年至2010年初，陈光荣在担任湘乡市民政局局长、湘乡市国土局党组书记兼局长的7年时间里，利用职务便利，单独或伙同部下彭国英受贿54.5万元。
由于权力与责任同样重大，国土资源部门被认定为“高危部门”并非空穴来风，陈光荣便是国土资源领域又一个落马者。陈光荣案发后，经新华网、红网等媒体的报道，在网络上引发了一定程度的热议，这样的讨论也再次证明了网络形势的复杂性，“好事不出门、坏事传千里”，对国土资源部门严抓自身建设、增强网络宣传应对能力和舆论引导能力提出了更高的要求。
善待网络问政，提升网络舆情引导力
面对日益高涨的“网络问政大潮”，要做的绝非避而远之，而应是主动应对，完善机制。
2011年12月29日，《中共湖南省委关于贯彻党的十七届六中全会精神加快建设文化强省的意见》指出，湖南将实施网络内容建设工程，建设全省网络问政和政务微博平台，提高各级领导干部善待善用善管网络媒体的意识和能力。
国土资源部门被评为“高危领域”；社会大众对于国土资源工作普遍缺乏了解和理解……这些情况的形成与国土资源部门一直以来的自身宣传和推广意识不强、手段单一陈旧、宣传效果欠佳有很大的关系。在当前普通民众对于公共事务关注和参与热情高涨的大形势下，闭门造车、闭塞言路，保持所谓“距离感”和“神秘感”已经成为相当不明智的做法，而在传媒业迅猛发展、传播方式日新月异的情况下，如何能紧跟公众焦点，采取最有效和民众最感兴趣的传播途径成为了管理者不能不考虑的问题。
误解缘于不了解，质疑缘于不信任，争议缘于不透明。互联网作为当前最热门和传播效率最高的传播工具，国土资源部门应尽快掌握，熟练运用。这对于进一步加深社会对国土资源的了解，拉近与普通民众距离，建立具有亲和力的形象有极大帮助。
胡锦涛总书记在考察人民网时曾提出“我们强调以人为本、执政为民，因此想问题、作决策、办事情，都需要广泛听取人民群众的意见，集中人民群众的智慧。通过互联网来了解民情、汇聚民智，也是一个重要的渠道。”
因此，面对日益高涨的“网络问政大潮”，要做的绝非避而远之，而应是主动应对，完善机制。
首先是是舆情收集机制。应采取主动收集的方式，尽可能多地将国土舆情集中上来；同时，为公众开辟更多的信息反馈渠道和报送机制，动员和吸引网民参与。
其次，需把网络舆情与信访排查结合起来，分类进行研判。对真实信息，按照属地管理原则通知当地国土资源部门办理、回复；对不实信息，责成责任主体澄清事实，发布真相；对负面和敏感信息，及时报告网络监管部门按规定处理，消除影响。
三是信息反映机制。定期将监测收集的舆情信息，通过一定的载体报送领导机关及相关部门，为掌握社情民意、完善政策措施、推进事要解决、改进机关工作提供建议。
四是沟通互动机制。对网民关于国土工作的意见、建议和投诉请求的办理情况，及时在网上进行反馈，充分调动网民支持信访工作的积极性。同时，对一些重要诉求和人员，建立网下联系制度，引导网民依法合理表达诉求，成为网络社会的理性力量。
过程神经元网络 篇4
1 时序过程神经元网络模型
由若干个时序过程神经元按一定的拓扑结构组成的网络称为时序过程神经元网络。时序过程神经元由时间序列输入加权、时空二维聚合和激励输出三部分组成。与一般过程神经元不同, 时序过程神经元的输入和连接权值均为离散时间序列。时序过程神经元网络的输入与输出之间的映射关系为:
式 (1) 中, wij (tk) (k=1, 2, …) 为在时刻tk输入层节点i到隐层节点j的连接权值, vj为隐层节点j到输出节点的连接权值, 为隐层节点j的激励阈值, f为隐层神经元激励函数, g为输出节点激励函数, θ为输出节点激励阈值。
若时序过程神经元网络的输入为有限时间序列, 且时间序列长度为T, 式 (1) 可写为
2 基于离散Walsh函数变换的学习算法
对于输入为有限时间序列的时序过程神经元网络的训练问题, 本文采用基于离散Walsh函数变换的网络训练方法确定网络连接权值和激励阈值。
由于输入过程区间0[, T]经变量代换后可转换为区间[0, 1], 下面同样只讨论输入过程区间[0, 1]。在[0, 1]区间上, 给定K个序列长度为2p学习样本:
其中, , dk为期望输出。对学习样本进行Walsh变换, 得到式 (4) :
对应系统输入xk1 (tl) , xk2 (tl) , ..., xkn (tl)
(l=, 1, 0L2, p-1) , 式 (2) 对应的时序过程神经元网络的输入与输出之间的映射关系为:
设b1 (tk) , b2 (tk) , …, bL (tk) 为输入函数空间中的一组有限基函数, 则xi (tk) (i=, 12, …, n) 和权函数wij (tk) 可表示为该组基函数的有限项展开形式。
b1 (tk) , b2 (tk) , …, bL (tk) 为Walsh基函数, 式 (5) 展开得
这里, lY为第l个学习样本对应的实际输出。
误差函数定义为
这里, wal (xli (tk) ) (k=, 0, 1, …2p-1) 为第l个学习样本第i个分量的Walsh变换序列。
采用梯度下降算法, 确定网络连接权值和激励阈值。
相应的学习算法描述如下:
步骤1将输入函数整理成长度为N=2p的时间序列;对输入的时间序列进行离散Walsh变换;
步骤2给定网络学习误差精度ε;累计学习迭代次数s=0;学习最大迭代次数M;
步骤3初始化连接权值和激励阈值
步骤4由式 (7) 计算误差函数E, 如果E<ε或s>M转步骤6;
步骤5修正连接权值和激励阈值;s+1→s;转步骤4。
步骤6输出学习结果;结束。
3 在水淹层识别中的应用
根据数据挖掘的一般过程, 首先确定目标。实验数据选取大庆油田葡区斜21-加密29 (X21J29) 、中90-加密252 (Z90J252) 、中342-加密21 (Z342J21) 和北1330 (B1330) 四口井的井组数据作为训练样本集, 提取水淹层识别参数等模式特征, 然后将从采集到的测井资料进行归一化处理, 并将归一化处理后的采样数据 (即测井曲线随深度变化的地质-地球物理特征) 看成是一组时间序列数据, 采用基于离散Walsh变换的方法[5], 将时间序列采样数据进行转换, 网络通过离散Walsh函数变换确定连接权值和激励阈值, 通过时序过程神经元隐层完成系统对输入时间序列空间和时间的加权聚合和累积, 以及对输入时间序列特征的提取和记忆, 形成类别输出, 实现水淹层类型自动识别。结果显示时序过程神经元网络挖掘模型由于充分反映了时间序列中实际存在的累积效应, 其精度有了进一步提高。
4 结语
本文主要研究了时序过程神经元网络挖掘模型及其在水淹层识别中的应用问题。针对传统人工神经网络解决时间序列数据挖掘问题的局限性, 本文引进了一种比人工神经网络更一般化的新型神经网络, 即过程神经元网络。结果表明:该网络模型用于求解与时间 (或过程) 有关的众多实际问题, 具有良好的适应效果。关于时间序列数据挖掘的研究尚处于起步阶段, 本文虽提出了基于过程神经元网络的时间序列挖掘模型, 但由于时间原因, 论文中还有许多问题需要深入研究和不断完善。
参考文献
[1]张保稳.时间序列数据挖掘研究[D].西北工业大学, 2002.
[2]刘钊, 蒋良孝.基于神经网络的数据挖掘研究[J].计算机工程与应用.2004, 3:190.
[3]何新贵, 许少华.过程神经元网络[M].北京:科学出版社, 2007.
[4]许少华, 刘扬, 何新贵.基于过程神经网络的水淹层自动识别[J].石油学报, 2004, 25 (4) :54-57.
人工神经网络论文 篇5
关于人工神经网络，到目前为止还没有一个得到广泛认可的统一定义，综合各专家学者的观点可以将人工神经网络简单的概括为是模仿人脑的结构和功能的计算机信息处理系统[1]。人工神经网络具有自身的发展特性，其具有很强的并行结构以及并行处理的能力，在实时和动态控制时能够起到很好的作用;人工神经网络具有非线性映射的特性，对处理非线性控制的问题时能给予一定的帮助;人工神经网络可以通过训练掌握数据归纳和处理的能力，因此在数学模型等难以处理时对问题进行解决;人工神经网络的适应性和集成性很强，能够适应不同规模的信息处理和大规模集成数据的处理与控制;人工神经网络不但在软件技术上比较成熟，而且近年来在硬件方面也得到了较大发展，提高了人工神经网络系统的信息处理能力。
王先臣:打造财政的神经网络 篇6
首先，给大家介绍一下建立全国的财政的神经网络，是财政管理创新的一项重要的内容。财政信息系统建设的目标是实现财政利用资金全过程的管理，也就是要有一个统一的技术支撑平台来集成各项应用，来形成纵向到底，横向到边的完整的信息系统。这也是2006年财政信息化工作会议上提出的目标，也就是说财政资金的运用要能跟踪每一笔资金运用的过程，从中央到省、市、县，各级政府纵向贯通，横向本级政府财政内部从预算到预算的执行，一直到核算，到绩效评价，整个内部一体化系统的建立，到预算单位资金的运用，预算单位和银行、个人等等也建立起一个完整的信息系统。
建立这么一个信息系统最关键的是它的顶层设计，财政管理要在总的框架下做好顶层设计，我们是希望以资产负债的总体架构下来管理好一些基础信息，在管理好基础信息的基础上做好预算编审的管理、预算指标的管理和政府会计的管理，以及决策信息的管理。用这个信息系统来准确地反映一级政府的财政资产的状况、资金的状况，让领导能随时掌握财力的情况以及他关心的关键项目的进展情况。做总体设计的关键就是要有一个完整的预算管理的框架体系，也就是要支撑公共的财政、政府性的资金、社会的保障、国有资本金经营等完整的财政资金的预算管理体系，也就是说首先要从预算开始，对领导要提供一个完整的信息，就是一级政府有多少钱，有多大的实力，能干哪些事情。另外，与财政管理机制要匹配，就是为决策层、管理层以及预算的操作层提供提高效率的有力的支撑。同时，我们在管好预算和支出的基础上，能更好地评价我们的钱用的是不是合理，是不是达到了预先的目标。
对未来的财政信息化，我们有这样的设想，首先是建立网络的感测系统，因为我们管理一级的政府资金，资金的运用和各部门连在一起，是他们重要的组成部分，所以应该很好地实现政府财政各部门、纳税人、银行、供应商等相关机构和决策的良好，对财政和其他的核心业务系统实施实时的感测。另外，在感测的基础上，要敏捷处理，利用用友的政务云来支撑各部门业务系统之间的信息交换。在公共需求和政府财政资源层面形成完整的模型和规划支持数字运行图，也就是说使整个一级政府的资金运行状况在我们脑子里有个缩小的图像。通过我们用友政务的财政管理信息系统，为政府的公共服务提供全面的支撑，那就是支持创新，支持广泛、结构化的公共需求与财政资源，就是我们通过建立信息系统以后有了公共的标准，就使我们的财政数据进行历史性的积累，进行纵向分析，为我们预测未来形成我们的支持，预测我们未来的一些发展，预测我们未来的收入。
过程神经元网络 篇7
以信息为基础的宏观方法对系统科学和智能控制基础理论的形成具有重大影响。Zaborszky[1]提出了用信息测度作为系统辨识的统一性能指标。Weidemann (1969) [2]用信息熵讨论了反馈控制系统。Saridis在文献[3]中指出:“智能随控制的精度增加而降低”, 这一著名的智能控制原则与信息处理过程是一致的, 因此利用信息理论来研究智能控制问题是自然的。
切削过程恒力控制对于提高生产率、保证加工精度至关重要。目前常见的研究方法有模型参考自适应控制[4]、神经网络控制[5,6]、模糊控制[7,8]等。金属切削加工过程具有典型的非线性和时变性;神经网络有充分逼近复杂的非线性映射关系和学习系统的动态特性, 是金属切削加工过程建模的理想工具。
本研究将信息优化理论与神经网络相结合, 对车削加工过程进行研究, 提出恒力车削过程中基于信息优化的神经网络控制。与之前将信息理论与加工过程控制理论结合的相关研究[9,10,11]不同, 本研究不是简单将信息熵函数作为神经网络的优化目标, 而是将神经网络作为加工过程控制输入和输出的信息优化通道, 控制目标在神经网络的隐层和输出层都进行优化, 仿真结果显示该系统控制方法具有一定的优越性。
1 信息优化原理
智能控制与信息的处理过程具有相似性, 信息能够减少和消除人们认识上的不确定性。美国科学家申农 (Claude Elwood Shannon) 将熵作为一个度量信息状态不确定性的尺度, 产生了信息熵的概念。一个智能控制系统在多大程度上成功克服不确定性和复杂性表明了该智能系统智能水平的高低, 所以引入信息熵概念作为智能控制系统的统一测度是合理的。
1.1 信息熵
(1) 离散信息的熵。
设有离散信息的信息熵记为H (X) :
(2) 连续信息的信息熵为:
式中:p (xi) , ω (x) —对应变量的概率分布函数。
信息熵是在平均意义上来表征信息的总体特征的, 它表达了信息的不确定程度;而信息量就是解除不确定度所需的信息的度量, 也就是获得这样大的信息量后, 信息的不确定度就被解除。
1.2 基于信息优化的神经网络
一个具有单隐层BP网络的拓扑结构如图1所示, 为简化讨论, 本研究以具有一个隐层的BP网络为对象, 对于多隐层的BP网络同理类推。图1所示的网络中有M个输入元, K个隐元和N个输出元;xk (k=1, ···, M) , uj (j=1, ···, K) , yi (i=1, ···, N) 分别为输入、隐层输出和网络输出。
为了保证网络从训练样本中获得的信息量最多, 在网络的学习过程中, 就应该保证隐层的信息量尽可能大, 同时还要使网络的输出值和理想输出值相匹配。为了同时保证这两个目标, 可定义神经网络的目标函数为[12]:
式中:α—常系数, α>0。
其中, 神经网络的输出值yir和理想输出值σir的互熵为:
神经网络隐层所含的信息量为:
式中:pjr—第j个隐元输出uj的概率。
在学习过程中, 只需保证E→min, 即可获得隐层信息量较大而输出层互熵较小以满足给定的误差范围的BP网络。
1.3 神经网络学习算法
式 (3) 所定义的目标函数对于网络权系数的导数为:
(1) 对于隐层—输出层。
设输出层第n个神经元输入为:
输出为:
式中:φ (∙) —Sigmoid函数。
以式 (3) 所定义的E为目标函数, 则隐层-输出层权系数为:
传统BP神经网络算法以训练集中样本总数的平方误差均值作为目标函数:
得到隐层-输出层的权系数为:
式 (10) 与式 (8) 相比较, 该式中多了一项yir (1-yir) , 而yir (1-yir) <1, 同时当yir→0或yir→1时会使权系数值趋于0, 从而降低学习的收敛速度。因此, 使用式 (3) 作为神经网络目标函数, 会加快网络的收敛速度。
(2) 对于输入层—隐层。
与隐层—输出层权系数推导方法相同, 可得到输入层—隐层的权系数为:
式中:vjr (n) —神经网络隐层第n个神经元的输入, —神经网络隐层第n个神经元的输出, ujr=φj (vjr (n) ) ;φi (∙) 和φj (∙) —Sigmoid函数。
根据的值, 如果按常用的最速下降法来调整权系数, 收敛速度很慢。本研究采用附加动量法和自适应学习速率法来调整权系数, 以提高收敛速度。在学习过程中, 常系数α值的选取应保证使αI和Cr的大小相匹配, 一般取0.1<α<0.2。
2 加工过程控制
加工过程模型可以表示为如下传递函数[13]:
式中:ωn—伺服系统的自然频率, rad/s;ξ—阻尼系数;K—加工过程总增益, 加工过程模型的增益K随切削深度、主轴转速和进给量的变化而变化。
金属切削加工过程具有非线性和时变性。下面以车削加工过程为例, 当刀具切削深度在1 mm~5 mm之间发生变化时, 用上述信息优化的神经网络来完成加工过程的恒切削力控制。
研究对象如图2所示。
基于信息优化的加工过程的神经网络控制系统如图3所示, 基于信息优化的神经网络模型完成对被控对象的系统辨识, 建立被控对象模型;神经网络控制器NNC实现切削加工参数的自适应调节。NNC为3层BP网络, 输入层和中间隐层的神经元数都为5, 输出层神经元数为1。
Fr—设定的神经网络需要跟踪的恒定切削力大小;F—系统实际输出的切削力大小;u—电机驱动电压;e=abs (E) —式 (3) 目标函数的绝对值
3 加工过程的控制仿真
3.1 仿真参数
根据前述加工过程模型, 本研究对车削加工过程进行仿真。主要参数如表1所示。
3.2 仿真结果及分析
基于信息优化的加工过程的神经网络控制响应结果如图4所示, 图4中分别显示了加工过程的切削力变化及切削进给的变化曲线。粗点曲线对应的是作为对照曲线的自适应神经网络控制;细实线曲线对应的是基于信息优化的神经网络控制。
从图4中可以看到, 基于信息优化的神经网络控制在背吃刀量发生突变时, 加工系统输出的切削力的超调量远小于传统神经网络自适应控制, 而且基于信息优化的神经网络控制的系统输出对给定的恒切削力目标的跟踪更加准确, 收敛更快, 振荡更小。这样有利于在加工过程中刀具和工件, 改善机床运行环境, 延长机床使用寿命。
4 结束语
本研究分析了加工过程智能控制的新方法, 将信息熵理论与神经网络理论相结合, 利用神经网络作为加工过程控制输入和输出的信息优化通道, 使用信息熵作为加工过程智能控制的性能测度, 提出了恒力切削加工过程中基于信息优化的神经网络控制, 实现了车削加工过程的神经网络预测控制的计算机仿真, 并对仿真结果进行了比较分析。控制结果表明, 该方法是有效的, 并且具有一定的优越性, 对采用信息理论的宏观综合方法来研究复杂系统控制问题的途径做出了有益的尝试。
摘要：为了提高加工过程生产率和保证加工精度, 以加工过程的恒切削力控制作为研究对象, 将信息论原理和神经网络智能控制理论应用于加工过程控制, 以信息熵作为加工过程智能控制系统的性能测度能统一各级性能指标, 将神经网络作为加工过程控制输入和系统输出的信息传输通道, 确定了神经网络基于信息优化的目标函数, 推导出了信息优化的三层BP神经网络学习算法, 提出了恒力切削过程中基于信息优化的神经网络控制系统框架。通过加工过程的仿真实例证明, 与传统自适应神经网络控制方法相比, 基于信息优化的神经网络控制方法收敛精确, 速度快, 振荡小, 系统超调量小, 具有较好的综合性能。研究结果为信息理论应用于加工过程控制提供了有效途径。
锌液除铁过程PID神经网络控制 篇8
锌液除铁是在硫酸锌溶液中通入氧气Fe2+把氧化为Fe3+, 加入锌焙砂调节p H值控制水解形成针铁矿聚合物沉淀的过程[1,2,3]。反应过程中对溶液环境要求苛刻, 溶液中Fe2+浓度、Fe3+浓度、p H和温度等条件必须保持在一定范围之内。沉铁工艺复杂、流程长, 主要靠现场工作人员依据出口铁离子浓度和生产经验操作, 氧气添加量不但会影响Fe2+浓度, 同时会影响p H值, 锌焙砂也会影响Fe2+浓度和p H值, 这是一个耦合控制关系, 难以稳定控制, 导致沉铁过程优化控制困难, 锌焙砂和氧气消耗大, 甚至无法保证出口铁离子浓度满足电解生产要求[4,5,6]。
PID神经网络是由比例 (P) 、积分 (I) 、微分 (D) 神经元组成, 同时具有PID控制和神经网络的优点。对于多变量强耦合时变系统, PID神经网络可在学习过程中根据网络输出性能实时调整控制参数, 直至系统达到满足要求的静态和动态性能, 从而达到系统解耦控制的目的[7,8]。
本文利用PID神经网络解耦控制技术对这两个回路进行解耦控制。仿真结果显示PID神经网络解耦控制器效果良好, 具有较好的跟随性和鲁棒性。
1 锌液除铁工艺过程
沉铁工艺采用的5个沉铁反应器沿着溜槽呈高低状依次分布。沉铁后液经浓密机进行固液分离, 部分底液作为晶种返回1#反应器, 反应器内通入常压氧气以氧化Fe2+, Fe3+则以针铁矿形式逐步沉淀, 为保持沉铁溶液的酸碱平衡, 需向前4个反应器添加中和剂, 每个反应器出口亚铁离子必须保持在一定范围之内。
沉铁过程反应器内发生的3个主要化学反应为Fe2+的氧化反应、Fe3+的水解反应和H+的中和反应, 这三个反应之间存在着强耦合关系。
2 锌液除铁过程耦合模型
选取1#反应器为代表作为研究对象, 其输入量有:氧气流量和锌焙砂添加量;输出量有:亚铁离子浓度和p H值。硫酸锌溶液中通入氧气把Fe2+氧化为Fe3+, 当氧气流量增加时使Fe2浓度降低, 同时也使p H值升高。同样, 锌焙砂的添加量也会引起Fe2浓度的变化。这两个控制子回路组成了一个不可分割的整体, 共同保证除铁的效果。该过程是一非线性复杂的时变控制系统。系统在实施控制中, 氧化控制和p H控制分别能够引发p H变化和氧化反应变化。
3 PID神经网络
PID神经网络是典型的三层前向神经网络, 包含许多PID子网[8,10]。对于一个n输入n输出的多变量被控对象, PID神经网络解耦控制器为2n×3n×n结构的网络, 即输入层有2n个输入神经元;隐含层有3n个处理神经元, 比例元、积分元、和微分元各n个;n个输出神经元。各子网络的输入层至隐层相互独立, 但隐含层至输出层则是相互交叉连接的, 使整个网络结合为一体。每个子网有两个输入, 分别为给定值和被控量, 控制器的输出为网络输出层, 完成解耦控制工作。
4 PID神经元网络的系统仿真
PID神经元网络控制器和锌液除铁系统构成的闭环控制系统如图1所示。
图1中r1, r2表示控制量的控制目标, 为Fe2+浓度和p H值, u1, u2表示PID神经网络的输出值, 为控制器的控制率, 用来控制氧气和锌焙砂的加入;y1, y2表示控制量的当前值, 为实际系统输出的Fe2+浓度和p H值。PID神经网络控制量的初始值为[13, 1.5], 控制目标为[8 3], 控制时间间隔为20min, 网络权值学习率n=0.06。
从图2可以看出, PID神经元网络控制取得了满意的效果, 控制量不仅迅速逼近控制目标, 而且响应时间较短, 超调量减小。
5 结论
针对时变、非线性、不确定、多变量的耦合锌液除铁过程, 基于PID神经网络的控制方法能够对该非线性耦合系统进行解耦控制, 并达到较高的控制精度。由仿真结果可以看出, 训练后的PID神经网络解耦控制器调节时间明显减小, 对其相应的设定值具有较好的跟随性, 减小了亚铁浓度和p H控制回路之间的干扰, 增强了控制系统的鲁棒性, 是一种有效的解耦控制方法。
摘要：为了消除锌液除铁过程存在的耦合问题, 以便对系统进行有效控制, 提出了一种基于PID神经网络的解耦方法。仿真结果验证了该解耦控制技术能够有效地减少系统中的耦合成分, 达到解耦控制目的。
过程神经元网络 篇9
电力是国民经济的命脉,在我国政治、经济和社会生活中,电力系统发挥着十分重要的作用。在电力系统中,火力发电又显得尤为关键。在火力发电过程中,煤炭经过工业锅炉燃烧产生蒸汽,蒸汽驱动气轮发电机来产生电能。因此工业锅炉是火力发电的、关键生产设备之一[1],而锅炉效率是表征锅炉经济运行的主要综合技术指标,在锅炉的性能考核时有相应的锅炉效率的计算模型,但所需测量参数比较多,在锅炉实际运行过程中,受运行条件的限制,几乎不可能测得进行锅炉效率计算的所有参数,此外在实际生产过程中,影响系统运行的因素繁多,即使相同的设备、相同的运行工况也会因为某一个操作参数发生变化而影响系统运行过程。因而单纯从物质、能量等角度建立准确的、反映设备生产过程的机理性数学模型十分困难。从生产现场采集的数据中隐含了与过程运行状态相关的建模知识,对此生产数据的准确建模,可以建立起能反映生产过程运行状态的较为精确的数学模型,在保证稳定性的同时,提高整个系统运行的效率和系统的可维护性,让生产由一般意义上的安全运行向经济运行飞跃。
2 锅炉生产过程的神经网络建模
锅炉系统的主要性能参数是锅炉效率,由于电厂锅炉的效率受设备、工况、燃料等等多种因素影响,并且它们之间存在着高度的复杂性和非线性性,无论是正平衡法还是反平衡法都是经验的公式总结,不能完全反映真实锅炉燃烧过程的实际情况,因此在实际使用中有很大的局限性。神经网络作为一种智能建模方法,能够充分逼近任意复杂的非线性关系,非常适合描述具有黑箱性质和非线性强的对象。同时采用神经网络方法对锅炉效率进行建模预测的结果对锅炉效率的优化也可以起到一定的指导作用,因此本文采用神经网络对锅炉效率进行建模研究。
2.1 建模思路
在了解锅炉的生产过程,特别是了解了锅炉效率的计算模型后,可以很容易得确定影响锅炉效率的因素,通常情况下,对锅炉效率用神经网络进行建模时,需要测定以下参数:排烟温度、排烟处的氧量、飞灰含碳量、应用基低位发热量、应用基灰分、NOx排放等等。将这些因素作为神经网络的输入,而将锅炉效率作为神经网络的输出建立模型。模型结构如图1所示。此模型比较简单,需要测量的数据量不大,计算比较方便。
上述参数中,排烟温度、排烟处的氧量等可以从电厂DCS中获得实时数据,而应用基低位发热量、应用基灰分等一类和煤种煤质相关的数据可以从检验部分获得。而飞灰含碳量、NOx排放浓度等数据通常是要靠计算出来的。这些靠计算得到的数据其计算又牵涉到很多复杂的影响参数,并且参数之间的非线性程度也比较高,往往也很难通过某一数学公式计算出来,即便根据经验总结出相应的计算公式,在不同生产环境下计算出来的数据也不一定准确,这时,我们也可以通过神经网络的方法建立飞灰含碳量和其主要影响因素之间的模型以及NOx排放的质量浓度和其主要影响因素之间的模型,对其进行建模、预测和软测量。
2.1.1 锅炉生产过程中飞灰含碳量建模
影响锅炉热效率较大的几个因素主要是排烟损失和固体不完全燃烧损失,对于煤粉燃烧锅炉,固体不完全燃烧损失中又以飞灰含碳量造成的不完全燃烧损失为主。排烟损失与锅炉运行参数(配风、煤质、氧量等)的关系较简单,已知锅炉燃用煤质、排烟氧量、排烟温度及环境温度等有关参数后即可确定它们之间的函数关系。锅炉散热损失、其他热损失与锅炉运行参数之间的函数关系也容易获得。而锅炉飞灰含碳量与锅炉运行参数之间的关系较复杂,受煤种、锅炉负荷、配风方式、炉型、燃烧器型式、炉温、过剩空气系数、煤粉细度、风粉分配均匀性等多种因素的影响,因此实际测量比较困难。
针对以上问题,可以采用神经网络对锅炉飞灰含碳量特性进行建模,将煤种、锅炉负荷、配风方式、炉型、燃烧器型式、炉温、过剩空气系数、煤粉细度、风粉分配均匀性九个参数值作为神经网络的输入,采用三层BP神经网络,隐含层神经元数目为19,将锅炉的飞灰含碳量作为神经网络的输出,构造结构为9-19-1的神经网络,如图2所示。
2.1.2 锅炉生产过程中NOx排放建模
锅炉燃烧过程中锅炉热效率与NOx排放的影响因素大部分相同,但具有矛盾的要求。电站锅炉燃烧产物(简称排放物)的生成机制很复杂,受多种因素的制约,诸如煤种、锅炉热负荷、风煤比、配风方式、炉膛温度以及其分布的均匀性等,鉴于理论、实验和检测研究的不完备,目前难以用机理性模型描述。锅炉生产过程中NOx的排放往往可以用神经网络的方法进行建模和软测量。
锅炉实际运行中,影响NOx排放质量浓度的各运行因素(炉膛氧的质量分数,炉内风分配,炉膛热负荷,煤粉的分配)是相互影响的,加之所得试验工况有限,因此不容易找出NOx质量浓度的规律。但是从NOx生成的机理来看锅炉燃烧过程中NOx质量浓度主要取决于空气中的氧和燃料的混合情况和燃烧反应的温度,即主要是空气与燃料分级的程度。各实际运行因素均是通过影响燃烧过程的上述条件而影响NOx质量浓度的。因此可将各种运行因素从空气与燃料的分级和燃烧反应温度的角度进行反映,提出影响NOx质量浓度的综合性指标。此外,炉膛氧的质量分数可用炉膛出口氧的质量分数(或过量空气系数)反映;炉膛热负荷可用锅炉负荷反映。由此出发,可将影响锅炉NOx排放质量浓度的综合性因素确定为:炉内风的分配、炉膛总氧的质量分数、锅炉热负荷。煤粉分配因素因对NOx生成的影响较小而将其忽略。炉内风的分配这个指标综合反映了一次风风速、二次风配风方式和制粉系统运行方式对NOx质量浓度的影响。风分配因素对NOx质量浓度有重要影响,但通常都是通过定性指标来衡量(如配风方式,磨煤机投运套数等),因此如何将风分配因素定量化是获得NOx定量计算模型的关键。
NOx的排放质量浓度在风量上移时一般会下降,风量下移时一般会增加;缩腰配风有利于减少氮氧化物的生成可理解为风分配的不均匀性越大,空气分级程度增加,从而降低NOx质量浓度,所以均等配风风中心虽然并不比缩腰配风高,但NOx的排放质量浓度要高很多。因此风分配的影响可通过风量中心位置和风分配的不均匀性来反映。这样就可将反映风分配因素的定量化指标确定为风中心位置和风分配不均匀系数,从而解决了风分配因素量化的困难。将风中心位置定义为炉内风的质量中心高度,可通过如下公式计算:
式中:L为炉内风中心位置,mm;mi为各风口风量,m3;li为各风口到基准点的距离,mm;M为总风量,m3。
通过上述分析可得出,各种因素按对炉内NOx质量浓度影响的大小排列,依次是:炉内风中心位置、炉膛氧的质量分数的大小、炉膛热负荷。由于各个指标都已量化,所以可以作为神经网络的输入,将锅炉的NOx质量浓度作为神经网络的输出建立模型,如图3所示。
有了以上两个参数的神经网络模型,就可以通过调整网络结构和网络参数比较准确地对飞灰含碳量和NOx排放质量浓度进行建模预测。用此模型的结果合并锅炉效率的其他影响因素作为锅炉效率网络模型的输入,将锅炉效率作为网络的输出,就可以建立锅炉效率的神经网络模型,如图4所示。
此模型要求锅炉所有单位在锅炉的运行过程中检测的数据不多,它能在对锅炉效率建模预测的同时实现对飞灰含碳量、NOx排放质量浓度以及锅炉效率的软测量。对指导锅炉生产过程的优化有很重要的意义。当然,由于各单位的设备情况和检测手段不一样,上述参数可能有少部分在个别单位测量不到相应的数据,这样的情况下,我们不必完全按照上述网络模型进行建模,可以通过经验,在可测得的数据项中选择和锅炉效率相关性比较大若干项的作为网络输入,当然比较好的方法是使用数据挖掘技术,在可测得的数据项中找到和锅炉效率最相关的若干项数据作为网络的输入。此时有可能会忽略对飞灰含碳量和NOx排放质量浓度的测量。
2.2 建模方法
通过以上分析,得到了对锅炉效率建模所需要的参数,将此方法用在江苏某公司锅炉效率的建模预测中,通过该公司检验部门及公司的DCS系统中可以监测到对建模有用的参数数据列在表1中。
由于仅仅针对该公司的一台锅炉燃烧过程进行建模,一些锅炉自身的参数不会发生变化,因此这些参数可以在建模时不予考虑。
在运用神经网络建模以前,根据经验或者使用数据挖掘的方法,在现有的监测数据中挑选出对锅炉效率的影响比较大的数据项。将挑选出来的这些影响较大的数据项作为神经网络的输入,将锅炉效率作为神经网络的输出建立神经网络模型。建模过程流程图如图5所示。
3 应用实例
选取某公司2000年11月20日到2001年1月8日的生产监测数据为训练样本,将数据挖掘方法用于可监测到的所有数据项,挑选做锅炉效率影响比较大的因素作为网络的输入参数,它们是排烟温度、飞灰含碳量、水份、灰份、低位发热量、锅炉的最高负荷、主汽温度、主汽压力、主汽焓、给水焓、标准煤量。生成的训练样本集。选择该公司2001年1月9日到2001年1月18日共10天的生产参数作为神经网络建模的输入模式,预测该段时间的锅炉效率,并和实际效率做比较。
选择神经网络的结构为:12-25-1,即:12个输入对应排烟温度、飞灰含碳量、水份、灰份、低位发热量、锅炉的最高负荷、主汽温度、主汽压力、主汽焓、给水焓、标准煤量这12个影响因素数据项,隐含层神经元数为25,输出锅炉效率。设定网络的学习速率为0.9,最大迭代次数为6000,误差限为0.0001。建模预测结果如表2所示。
建模结果显示,用此种网络结构进行锅炉效率建模,其误差均低于3%,精度比较高。
4 结语
通过以上实例的结果可以看出,使用上面讨论的神经网络模型对锅炉效率进行建模预测,在保证结果准确性的基础上,所需要的监测数据项不多,比通过公式计算速度快,需要的参数少,并且在实际生产中的适应性比较强,通过这种方法得到的建模预测结果可以进一步对各项参数进行调优,优化资源的配置,提高锅炉的热效率。
摘要：针对锅炉效率计算中正平衡法和反平衡法都不能完全反映真实锅炉燃烧过程的实际情况,该文提出基于神经网络的锅炉生产过程建模方法,该方法不需要太多监测数据并且保证了建模的准确性。
关键词：锅炉效率,神经网络,建模
参考文献
[1]李斌.国产300MW机组在现有化运行信息系统的研究[D].浙江:浙江大学,2002.
[2]李伟.锅炉热力计算通用软件的开发及大容量锅炉变工矿特性的研究[D].北京:华北电力大学,2000
过程神经元网络 篇10
过程神经网络(Process Neural Network,PNN)是一种新型的动态人工神经网络模型[1,2],由于具有对非线性动态系统直接的辨识建模能力,以及对样本过程模态特征的自适应学习性质,将PNN应用于非线性系统的信息处理在机制上具有较好的适应性[3,4,5]。PNN的聚合运算机制复杂,其训练的计算复杂度相比非时变传统神经网络成倍数增加[6]。尽管多年来许多研究人员对神经网络模型和算法进行了改进和优化以提高训练速度,并在某些方面取得了较好的效果[7,8,9,10],但还普遍存在训练速度慢、易陷入局部极小等缺陷,这些改进算法仍不能满足实际应用的要求。
并行计算是提高大规模计算问题效率的有效方法,对于人工神经网络训练,目前也有一些学者建立了若干并行学习模式,并取得了较好的实验结果[11,12,13]。笔者根据PNN所具有的本质并行机制和信息处理逻辑,提出了一种基于数据并行的PNN训练算法。在算法设计中,将训练样本按照模态特征分布划分给不同的处理机,各处理机对相同的网络模型和不同子样本集进行训练,通过消息机制侦测各计算节点的训练结果并更新网络参数。文中建立了一种基于梯度下降的PNN批处理训练算法,对不同规模的训练样本集和进程数进行了对比实验,并对并行算法性质和计算复杂度进行了分析。
1 PNN模型和训练算法
1.1 过程神经元模型
过程神经元的拓扑结构和时空聚合运算机制如图1所示。
图1中,x1(t),x2(t),...,xn(t)为过程神经元的时变输入函数;w1(t),w2(t),...,wn(t)为相应的连接权函数,Σ为空间聚合算子,∫为时间累积算子,f为激励函数。
过程神经元输入与输出之间的映射关系为:
其中,[0,T]为系统过程输入区间,θ为阈值。
1.2 PNN模型
PNN是由若干过程神经元和其它类型的神经元按照一定结构关系组成的网络模型。一种多输入/单输出三层PNN如图2所示。
图2中,xi(t)(i=1,2,...,n)为网络输入函数,wij(t(i=1,2,...,n;j=1,2,...,m)为网络输入层与隐层之间的连接权函数,g为输出层神经元激励函数,vj(j=1,2,...,m)为隐层节点到输出节点的连接权,y为网络输出。
由图2,PNN输入和输出之间的映射关系为:
式(2)中,θj(1)为隐层节点的激励阈值,θ为输出神经元阈值。
1.3 基于批处理的学习算法
目前,PNN的训练主要采用基于函数基展开、基于数值积分等学习算法[14,15]。本文讨论主要针对基于函数基展开的学习算法进行研究。
考虑由K个样本邀(X1(t),d1),...,(XK(t),dK)妖组成的训练集。由式(2),网络误差函数可定义为:
其中,Xk(t)=(x1 k(t),x2 k(t),...,xnk(t)),dk为第k个样本的期望输出。
采用PNN函数正交基展开的训练算法[8],则基于批处理模式的网络权值学习规则为:
其中,α,β,γ为学习率;Σ△vj,Σ△wij,Σ△θj为n样本累积梯度之和。
2 数据并行算法设计
2.1 算法原理
笔者提出的基于训练集样本划分的PNN并行训练算法主要采用Master/Slave并行模式,同时结合PNN的结构特征和聚合运算机制进行设计。并行模式分为主计算节点(主控节点)和从计算节点。主计算节点依照1.3节建立的算法进行网络权值更改计算,再将新的网络模型发送到各从节点,各从节点对于不同的数据执行相同网络模型下的运算,并把参数调整信息传给主进程,由主进程汇集计算结果并进行网络性质参数调整。不断重复这种迭代过程,直至满足训练终止条件。
2.2 算法性质分析
过程神经网络时空聚合运算机制复杂、计算复杂度高。采用基于L项函数正交基展开的学习算法,在具有相同输入/输出节点的情况下,过程神经元的计算复杂度是BP神经元的L倍;若PNN有m个过程神经元隐层,则PNN的计算复杂度是BP网络的m×L倍;而主节点进行网络参数调整时,计算复杂度是BP神经网络的n×m×k×L倍(k为网络输出节点个数),即PNN并行算法在主从节点处的时间开销都较大增加,提高了算法的计算/通信比。
考虑各个进程的计算负载平衡,采用如下策略。基于相似性原则,利用切比雪夫泛数对训练集样本进行聚类,使每一类样本具有相近的模态特征。在初始分类基础上,通过分裂、相似合并及调整分类数等运算,使每类近似包含从节点个数倍数的样本数。样本分割时,各子样本集从各个类中随机选取个数相同或近似相等的样本,构成训练子集。由于不同样本子集的分布特征近似相同,从而实现均衡计算负载分配。同时,采用批处理的训练模式,也减少了处理器之间的通信次数。
2.3 算法描述
设总训练样本集中共有K个样本,并行计算环境有M台处理器,其中一台作为主计算节点,其他处理器作为从计算节点。具体算法如下:
(1)初始化MPI运行环境;
(2)如果当前进程为主进程,则获取网络学习参数并初始化网络权值,发送给各个从进程;
(3)各从进程建立网络结构并根据所接受的主进程发出的网络权值,初始化网络,各从进程的网络结构均相同;
(4)各个从进程按照过程神经网络批处理算法训练一次该从进程中的所有的样本,并将梯度累加值与从进程的当前误差发送给主进程,在此期间各个从进程同步进行计算互不通信;
(5)主进程将从各个从进程中接受到的信息梯度再次累加,得到总样本的累积梯度,这个梯度反映的是总体样本误差的下降趋势,比较各进程的误差精度,并取误差精度最大值与期望误差限比较,若小于期望误差或达到预设次数,则停止计算,否则转(6);
(6)主进程将累积梯度分发给各个从进程;
(7)各个从进程按照接受到的梯度修改权值,返回(6)。
3 仿真实验
考虑如下时变函数样本集:。其中,t∈[0,2π],x∈[-1,+1],a,b1,b2,b3,c,x为参数。当各参数取不同的值时,生成不同类型和规模的样本集。实验中,各参数采用如下方法赋值:a从1开始以0.2为步长递增,b1从2开始以1为步长递增,b2是在b1的基础上加0.1,b3是在b1的基础上加0.2,c是从0.5开始以0.1为步长递增;x在[-1,1]区间直接按样本数进行等分计算,如样本为1 000,那么x在[-1,1]之间等分999份,从-1开始按步长递增。
PNN采用三层结构,其中3个输入层节点,10个过程神经元隐层节点,1个神经元输出层节点。在不同样本规模及不同进程数下进行实验,训练时间、加速比、计算效率等评价指标的对比结果如表1所示。
从实验结果可以看出,随着问题规模的增大,并行算法比串行算法训练时间有明显的降低;但当节点规模过大时,训练的时间反而增大,同时随着进程数的增加,并行过程的效率在减小。其主要原因是在适当的并行粒度下,增加进程数可以使得各个子进程分担样本集中的训练任务,从而降低训练时间;但是当进程数增加到一定数量后,通信开销却随着进程数的增加而不断增加。这主要是因为在机群环境下,一次通信的开销要远远大于一次计算的开销,尽管节点增多使得各从节点分得的计算量相应减少,但节点间的通讯时间会明显增加,因此,应适当选择并行粒度。
4 结束语
针对过程神经网络的学习问题,建立了一种基于数据并行的训练算法。在局域网内多台计算机所组成的机群环境下,搭建了MPI并行环境。综合考虑计算负载平衡、计算/通信比、计算效率等算法性质,文中采用了基于梯度下降批处理的训练模式,以及考虑训练样本模态变化特征的子样本集划分策略,仿真实验结果表明,该方法较大提高了算法效率。
摘要：针对过程神经网络时空聚合运算机制复杂、学习周期长的问题,提出了一种基于数据并行的过程神经网络训练算法。该方法基于梯度下降的批处理训练方式,应用MPI并行模式进行算法设计,在局域网内实现多台计算机的机群并行计算。文中给出了基于数据并行的过程神经网络训练算法和实现机制,对不同规模的训练函数样本集和进程数进行了对比实验,并对加速比、并行效率等算法性质进行了分析。实验结果表明,根据网络和样本规模适当选取并行粒度,算法可较大提高过程神经网络的训练效率。
基于概率神经网络的尿样颜色识别 篇11
关键词： 概率神经网络（PNN）； 颜色识别； 生化分析
中图分类号： TP 391.4文献标识码： Adoi： 10.3969/j.issn.10055630.2012.05.005
引言颜色识别在遥感技术、工业过程控制、材料分拣识别、图像处理、产品质检、机器人视觉系统等领域已得到广泛应用。利用已有的彩色图像处理设备，如彩色扫描仪、彩色数码相机、摄像头等，可以进行尿液的医学生化分析[1]。但是，由于系统信号传输的非线性、硬件设备本身的局限性及其它各种外在因素的影响，不同设备间颜色信息的传递也不是线性的，而是非常复杂的。即使是同一彩色图像，经不同的彩色图像处理设备扫描或拍摄后再输入到计算机中所得到的RGB数据文件在比例关系上和数量大小方面也会呈现明显的失调和不一致[2]。概率神经网络（PNN）是一种基于概率密度函数理论且泛化能力很强的神经网络，并且能够广泛地应用于模式识别等领域。可以利用线性学习算法完成以往非线性算法的工作，又可以保持非线性算法的高精度特性[34]。现基于PNN，提出一种与尿液反应后尿试纸的颜色识别方法。针对颜色色空间转换的非线性复杂关系，在获取标准阈值颜色色度值后，进行归一化处理，建立PNN，用于尿样颜色的识别，并与颜色色差评价方法进行比对。1概率神经网络（PNN）
1.1PNN特点PNN是统计方法与前馈神经网络相结合的一种神经网络模型。与多层前馈神经网络（back propagation，BP）相比较，PNN的主要优势为：（1）网络收敛速度快。网络结构仅有两层，并且运算时不需要返回网络再对权值进行修改；（2）无论多么复杂的分类问题，只要有足够的训练数据，PNN可以保证获得贝叶斯准则下的最优解；（3）允许减少或增加训练数据而无需进行长时间的训练。
光学仪器第34卷
第5期王春红，等：基于概率神经网络的尿样颜色识别
图1概率神经网络结构
Fig.1Schematic diagram of PNN structure1.2PNN结构PNN是一种能够用于模式分类的径向基神经网络，实质是基于贝叶斯最小风险准则的一种并行算法[5]。PNN网络结构如图1所示，共三层：输入层、隐含层和输出层。第一层为输入层，网络第二层为隐含层，用径向基函数作为激励函数，一般为高斯函数（即exp（-n2），n为径向基函数神经元输入值）；第三层为输出层，即竞争层。图1中Q为输入向量的个数，R为输入向量的维数，LW1，1为输入权值向量，LW2，1为隐层权值向量，K为输出神经元个数，C为扩展常数。C值越大，隐含层神经元对输入向量的响应也越大。PNN分类方法：径向基层计算输入向量同样本输入向量间的距离dist，输出一个距离向量。竞争层接受距离向量，计算各个模式出现的概率，通过竞争传递函数compet寻找输入向量中的最大元素，把响应的神经元输出设置为1，其余输出设置为0。2样本体系结构
2.1标准阈值尿液生化分析中每一具体项目分为正常（-）、临界正常（-+）和非正常情况（+，++，+++）。将尿试纸与标准阈值实验液作用，在规定的时间内，检测尿试纸可见光谱反射率或用色度仪器测试颜色三刺激值XYZ。CIE1931颜色三刺激值XYZ计算公式为X=k∑λS（λ）R（λ）x—（λ）Δλ
Y=k∑λS（λ）R（λ）y—（λ）Δλ
Z=k∑λS（λ）R（λ）z—（λ）Δλ（1）式（1）中，S（λ）为照明光源相对光谱功率分布、R（λ）为物体可见光谱反射率、x—（λ）、y—（λ）和z—（λ）为CIE标准观察者的光谱三刺激值函数，Δλ为采样间隔，一般Δλ=10 nm。在Lambda 9紫外可见近红外分光光度计上测试获得光谱反射率数据，即可由式（1）得到光源下的颜色三刺激值XYZ。实验中比对实验所用光源和测试标准阈值颜色所用光源相同。为能更好地反映两个颜色间色差大小与人眼感知程度的一致性，通常将物体颜色三刺激值XYZ转换成CIE Lab匀色空间色度值[6]，依据下式进行计算。L*=116×fYYn-16
a*=500×fXXn-fYYn
b*=200×fYYn-fZZn（2）式（2）中，L*为米制明度；a*、b*为米制色度。Xn，Yn，Zn为标准照明体的三刺激值。fXXn、fYYn、fZZn的计算公式为f（I）=I13I>0.008 856
f（I）=7.787×I+16116I≤0.008 856（3）实验在A标准光源、D65标准光源下分别进行，尿胆素原（URO）标准阈值色度数据如表1所示。表2为标准光源A和标准光源D65下的相邻标准阈值间的色差。由表1和表2中的色度数据可以看出，标准阈值间的色差远远超出了人眼分辨颜色差别的阈值。标准光源A和标准光源D65下的色差值较接近。D65标准光源下，对于尿胆素原测试，RGB空间色度值如表3所示。
2.2指标数据的量化、规范化处理为减少网络的训练难度，需要对输入数据进行归一化处理[7]。利用计算公式将输入数据量化为闭区间[0.05，0.95]上的无量纲指标属性值。当输出越大分析结果越高时，效应系数计算公式为：Fj=0.9×（Xj-Xjmin）/（Xjmax-Xjmin）+0.05（4）当输出越小分析结果越高时，效应系数计算公式为：Fj=1-[0.9×（Xj-Xjmin）/（Xjmax-Xjmin）+0.05]（5）其中，Fj为目标值Xj的效应系数，Xjmin为第j个指标的最小值，Xjmax为第j个指标的最大值，j是评价指标数。将D65标准光源下标准阈值的RGB值经过上述处理后，便得到样本数据。3用PNN进行尿液生化分析
3.1PNN的建立每项检测项目中均有5个阈值，即共有5个训练样本，与待测尿液反应后的尿试纸颜色的RGB值为测试样本。（1）输入层神经元数的确定。输入层神经元数的多少与评价指标数相对应。采用颜色RGB值对尿液生化分析结果进行模拟评价，因此，网络输入层神经元个数为3。（2）隐含层神经元数与训练样本数相同。共计5个，传递函数为高斯函数（radbas），加权函数设为欧氏距离加权函数（dist）。编程中设计输人函数为netprod，输出函数为compet，加权函数为dotprod。（3）输出层神经元数的确定。网络输出结果共分5个等级，即-、-+、+、++、+++，因此输出神经元个数取为5。
3.2PNN的训练和预测用MATLAB神经网络工具箱中newprm（）函数设计PNN网络，代码：net=newpnn（P，t，spread），其中P为归一化样本向量，t为输出目标向量，即评价等级，分别用1、2、3、4、5代表-、-+、+、++、+++五个等级，net为产生的PNN，spread为径向基函数分布密度，设为0.1[8]。利用vec2ind函数可将分类结果转换为容易识别的类别向量，亦可用ind2vec函数将类别向量转化为PNN可以使用的目标向量。将验证样本数据输入已训练完成的PNN进行预测，测试函数Y=sim（net，X），Y为预测结果，X为归一化验证样本矢量。网络输出：Y=1354212归一化后的尿胆素原验证样本数据和网络的预测结果如表4所示。
表4尿样颜色分类结果
Tab.4The classification results of urine color
验证样本1234567R0.049 00.601 70.152 60.567 20.843 60.152 60.567 2G0.092 20.505 20.939 30.748 70.229 80.187 50.304 0B0.083 60.627 10.847 80.813 90.321 40.134 50.389 3期望输出-++++++-+--+预测结果-++++++-+--+
4结论（1）与尿液生化分析颜色色差方法[1]进行了比对，预测值Y与计算颜色色差方法结果完全一致，说明网络有较好的预测精度，概率神经网络用于尿液生化分析中的尿样颜色识别是完全有效的。（2）该方法无须进行色空间转换，只利用设备原有RGB颜色空间RGB值即可实现，用MATLAB语言编程，结果直观，具有良好的图像界面支持，易于操作，具有一定的使用价值。（3）由于照明光源直接影响物体的颜色，因此尿样检测的照明光源要和提供检测项目标准阈值的照明光源相同或相近。参考文献：
[1]王春红，周越，赵红霞.基于色差评定理论的尿液生化分析方法研究[J].生物医学工程学杂志，2008，25（1）：77-82.
[2]蔡明杰，贾宏志，毕波，等.基于黑白摄像系统的伪彩色处理[J].光学仪器，2011，33（3）：33-36.
[3]YOUNES C，SURANJAN P，RONALD M.Conjugate gradient and approximate newton methods for an optimal probabilistic neural network for food color classification[J].Optical Engineering.1998，37（11）：3015-3023.
[4]LIU G.Remote sensing image segmentation with probabilistic neural networks[J].Geospatial Information Science，2005，8（1）：28-32.
[5]柳松，王展.基于径向基概率神经网络的人脸识别方法[J].计算机工程与科学，2006，28（2）：57-60.
[6]荆其诚，焦书兰，俞柏林.色度学[M].北京：科学出版社，1979.
[7]王文成.神经网络及其在汽车工程中的应用[M].北京：北京理工大学出版社，1998.
过程神经元网络 篇12
1 人工神经网络
人工神经网络(ANN)是模拟人脑中的神经元并且这些神经元广泛互联而成为一种复杂的网络模型。它是对人脑功能的抽象、简化和模拟。自1943年第一个神经网络模型——MP模型被提出至今,神经网络的发展十分迅速,特别是在1982年提出的霍普菲尔德(Hopfield)神经网络模型和鲁美尔哈特(Rumelhart)在1985年提出的反向传播算法(BP),使Hopfield模型和多层前馈型神经网络成为用途广泛的神经网络模型[3]。图1为一个简化的神经单元的基本形式。它是一个多输入单输出的非线性器件,其中:Tj表示第j个单元的内部阀值,ai(i=1,2,…,n)为输入信号;wij表示与神经元ai连接的权值。该神经元模型可描述为:
undefined;
bj=f(Ii);
其中Ii=Wj·a-Tj;Wj=[w1j,w2j,…,wnj]T
f表示神经元的输出函数。最常见的三种函数形式是:硬极限函数(Hard Limiter)、阀逻辑函数(Threshold Logic)和S型单调函数(Sigmoid)[4,5]。其中,最典型的S型函数为:
undefined
由多个神经元相互连接构成的网络即构成人工神经网络。它与单个神经元相比,具有更强的识别和处理能力。为进一步提高网络处理能力,可构成层网络。将上层网络的输出作为下层的输入,介于输入和输出层之间的称为隐藏层。隐藏层的多少根据具体实验而确定。BP(Error Back Propagation Training)神经网络是应用最广泛的一种人工神经网络,具有很强的非线性处理能力,可以逼近任意连续函数和非线性映射,能够模拟任意的非线性输入、输出关系。BP神经网络按有教师学习方式进行训练,它是一种多层前馈神经网络。图2为三层BP网络结构图[6]。
2 基于人工神经网络的转炉控制模型在我国的研究与应用
近年来,人工神经网络以其并行运算及强大的非线性处理能力被广泛应用于转炉炼钢控制中,随后转炉人工智能静态控制模型被成功开发,使终点命中率有了很大提高。因此,国内外许多学者进行了大量的基于神经网络的转炉控制研究[7]。
2.1 基于BP人工神经网络转炉炼钢的终点预报
钢铁研究总院丁容、刘浏等将BP网络技术与传统增量模型结合,开发出转炉炼钢人工智能静态模型[8]。通过在武钢80t转炉上的实验表明,该模型对静态控制精度和终点命中率均有所提高。BP网络采用3层结构,输入层16个变量,1个隐含层,输出层2个变量即温度和碳含量[9]。实验结果见表1。
上海大学屠海、洪新等应用BP人工神经网络对转炉终点[Mn]、[P]成分作离线预报,当预报误差目标精度20%时,预报命中率超过90%[10]。该模型使用Matlab中的神经网络工具箱中的BP网络计算,输入层神经元个数为12个,分别是:铁中锰含量、铁中磷含量、废钢比、压块量、总锰量、总磷量、总CaO量、碱度、单位渣量、slag-Tfe(熔池的氧化性)、Mn系数和单位吹炼氧耗。隐含层神经元为4个,输出神经元代表[Mn]成分。对任意34组数据用神经网络预报[Mn]成分,其命中率达97%。同样采用BP网络预报磷,但考虑到供氧温度和耗氧量对终点[P]成分的影响,修正了原有预报[Mn]成分预报模型,开发了副枪准确下枪时刻模型,用于准确测定冶炼中该时刻的碳氧关系及熔池的氧化性(slag-TFe)和耗氧量,最终在误差±10%范围内符合率达95.5%。符合副枪测定模型计算的氧耗、副枪测点碳及温度在神经网络终点磷的预报中达到了命中率91%的水平。
2.2 基于RBF神经网络的终点预报模型
东北大学自动化研究中心的柴天佑、谢书明等人建立了基于RBF神经网络的转炉炼钢终点温度及碳含量预报模型[11],并结合某钢铁企业一座180 t转炉的实际数据进行模型验证研究。结果表明,当预报误差在|Δt|小于15℃,|ΔWC|小于5时,温度命中率为85%,碳命中率为80%,碳温同时命中率为75%。由此可见,该模型收敛速度快,预报精度高。
2.3 基于自适应模糊神经网络的转炉终点预报模型
钢铁研究总院冶金工艺研究所的杨立红、刘浏等人开发了基于自适应模糊神经网络系统的转炉终点磷的预报控制模型[12]。根据冶炼工艺和现场数据,采用自组织神经网络模式识别方法对303炉现场数据进行了分类,建立了基于自适应模糊神经网络系统的转炉终点磷含量的预报控制模型。研究表明,模型计算值与实际值的相关性达到0.5867;磷含量(质量分数,%)控制在±0.003范围内的命中率达到79.21%。表2为该模型取磷含量输入值低于目标值0.004%时,冶炼合格率超过91%。
东北大学王永富、李小平等采用机理模型及基于数据的自适应神经模糊推理系统混合建模方法,建立了转炉炼钢动态过程预设定模型[13]。该模型通过减法聚类,最小二乘法及梯度下降法辨识了T-S模型,并用该模型对机理模型进行补偿建模。图3给出了训练样本对机理模型补偿的补氧量与实际数据的仿真结果。其混合建模的总体相对误差为6.2%,从动态统计结果可得出利用混合模型得到的总体预报结果与实际值比较接近, 比单纯依靠机理建模具有更高的预报精度。
3 结论
(1) 转炉炼钢过程是一种极其复杂的物理化学变化过程,影响终点温度和碳含量的因素多达几十种,并且这些因素之间存在着非线性关系。而人工神经网络恰好具有良好的非线性处理能力及容错性,将其应用于转炉炼钢过程中,特别是炼钢终点预报,对进一步提高钢水合格率起到巨大的作用。
(2) 对于转炉炼钢系统,目前开发的人工智能静态控制模型和动态模型,使我国转炉炼钢过程自动化水平有了进一步的提高,并且有效地促进了钢铁工业的整体自动化水平。