前向神经网络(共7篇)
前向神经网络 篇1
引言
神经网络的训练问题一直人们关注的热点问题, 而训练算法的选择决定着神经网络的训练速度和拟合精度。近年来学者们提出了许多训练算法, 其中比较著名的有BP训练算法[1]、Gauss-Newton训练算法[2]、LM训练算法[3]等。BP训练算法收敛速度较慢, 容易陷入局部最小, LM算法是一种改进的Gauss-Newton法, 克服了BP算法的缺点, 在收敛性和精度上有了很大改进, 然而LM算法的缺陷是训练规模较大的神经网络时计算量较大, 运行速度较慢。
子集训练算法[4]是解决LM计算量大运行速度慢的有效方法, 其实质是在训练每一步中通过对隐层神经元输出矩阵进行QR分解, 来确定对神经网络误差下降贡献较大的隐层神经元 (独立神经元) 。对独立神经元的连接权值进行LM训练, 将其余贡献较小的隐层神经元 (非独立神经元) 的输出权值归零。这种归零子集训练算法 (ZSBT) 的缺点是:神经网络的拟合精度被损坏, 对于归零的非独立神经元, 影响了它们成为独立神经元发挥作用。为此, 本文提出了一种定值子集训练算法 (FSBT) , 该算法在训练过程中保持非独立神经元的输出权值不变, 只训练独立神经元的权值。实验结果表明, 该方法是一种有效的神经网络训练算法。
一、子集训练算法
1.1LM训练算法。设有一个输入层有l个神经元, 隐含层有p个神经元的单输出三层前向神经网络, 其结构如图1所示:
神经网络的输出y可以表示为:
对于第t个训练样本, 定义误差函数为
其中, y (t) 是第t个训练样本作为输入时神经网络的输出, yd (t) 为此时神经网络的期望输出。
假设一共有n个训练样本, 则训练问题转化为最优化式 (3) 的问题
神经网络所有权值和阈值组成的向量为
令雅可比矩阵为
其中
LM算法可以表示为
1.2定值子集训练算法。在第t个样本作为输入时第i个隐含层神经元的输出可以表示为:
定义矩阵
定值子集训练算法步骤如下: (1) 确定输入神经元、隐层神经元和输出神经元的个数, 对权值和阈值进行初始化。 (2) 对网络进行训练。在训练的每一步根据式 (11) 对隐神经元输出矩阵进行QR分解, 确定独立神经元。根据式 (8) 对独立神经元的输入权值和输出权值进行更新, 非独立神经元的所有连接权值保持不变。 (3) 拟合误差E小于给定值后停止训练。
二、仿真实验
用三个经常用来评价神经网络性能的标准函数作为实验对象[6], 其表达式如下:
函数1
函数2
函数3
令隐神经元个数为40, 再选用LM拟合这三个非线性函数[7], 并结合图2、图3、图4中FSBT和ZSBT的拟合结果, 得到三种算法的拟合误差比较, 见表1:
由图2、图3、图4和表1可以看出, FSBT的拟合误差比ZSBT小, 和LM相当。
由表2可以看出, 虽然FSBT比ZSBT精度高, 两种算法的运行时间接近。此外, 当隐层神经元数目有限时, 两种子集训练算法和LM算法在训练速度上没有明显差别[9];当隐层神经元个数较多时, 子集训练算法的训练速度明显比LM快。网络规模越大, 子集训练算法的优势越明显。
三、结论
本文在LM算法的基础上, 基于归零子集算法 (ZSBT) 的思想[10], 提出了定值子集算法 (FSBT) 。实验证明: (1) 精度基本一致时, 定值子集算法的快速性明显优于LM算法。 (2) 在对复杂函数拟合时, 定值子集算法比归零子集算法的精度有明显提高。
参考文献
[1]吴玉香, 王聪.基于确定学习的机器人任务空间自适应神经网络控制[J].自动化学报, 2013 (6) :806-815.
[2]熊国江, 石东源, 朱林, 等.基于径向基函数神经网络的电网模糊元胞故障诊断[J].电力系统自动化, 2014 (5) :59-65.
[3]王友国, 姜梦琦, 翟其清.多阈值神经网络系统中的随机共振研究[J].计算机技术与发展, 2015 (12) :142-148.
[4]杨雅辉, 黄海珍, 沈晴霓, 等.基于增量式GHSOM神经网络模型的入侵检测研究[J].计算机学报, 2014 (5) :1217-1233.
[5]刘春艳, 凌建春, 寇林元, 等.GA-BP神经网络与BP神经网络性能比较[J].中国卫生统计, 2013 (2) :173-176.
[6]吴玉香, 王聪.不确定机器人的自适应神经网络控制与学习[J].控制理论与应用, 2013 (8) :990-996.
[7]ZHENG Yu-Jun, LING Hai-Feng, CHEN Sheng-Yong, et al.A Hybrid Neuro-Fuzzy Network Based on Differential Biogeography-Based Optimization for Online Population Classification in Earthquakes[J].IEEE Transactions on, 2015, 23 (4) :1070-1083.
[8]Polshchykov, K.O.Synthesis of neuro-fuzzy systems of data flows intensity control in mobile ad-hoc network[C].Microwave and Telecommunication Technology (Cri Mi Co) , 2013 23rd International Crimean Conference, 2013:517-518.
[9]Kolosov, Victor P.;Bezrukov, Nikolay S.;Naumov, Denis Ye.Prediction of osmotic airway hyperresponsiveness in patients with bronchial asthma using adaptive neuro-fuzzy network[C].Biomedical Engineering and Computational Technologies (SIBIRCON) , 2015 International Conference on, 2015:130-133.
[10]Silva, A.;Caminhas, W.;Lemos, A., et al.Real-time nonlinear modeling of a twin rotor MIMO system using evolving neuro-fuzzy network[C].Computational Intelligence in Control and Automation (CICA) , 2014 IEEE Symposium on, 2014:1-8.
前向神经网络 篇2
关键词:曲线拟合,切比雪夫多项式,最小二乘拟合,前向神经网络
曲线拟合是科学研究的一种常用手段,在数据处理中尤为重要。在科学与工程计算中,常常遇到大量带有误差的离散数据点加直观地了解xi与yi的关系或者预测未知的数据,通常是将这些数据拟合成一条函数曲线,从而总结、验证相关物理量之间满足的函数关系,称这种问题为曲线拟合(curve fitting),它要求构造一个满足所有离散数据点的近似函数f (x) 近的总体误差达到最小。通常的曲线拟合的主要方法是最小二乘拟合[1]。本文提出的Chebyshev前向神经网络的隐含层神经元激励函数的改进,其拟合精度比最小二乘法以及以往的Chebyshev前向神经网络拟合方法都要高。
1 前向神经网络拟合原理[2]
前向神经网络是一种常见的神经网络结构,网络中各个神经元接收前一级的输入,并输出到下一级,神经元自身及神经元之间不存在连接,即网络中没有反馈[3]。图1是简单的前向神经网络模型,其中输入层和输出层各有1个神经元,中间层为隐层,含有多个神经元,隐层不直接与网络外部输入输出联系,隐层可以有多层,也可以没有。在本文中隐层的层数为1,隐层的神经元数由切比雪夫(Chebyshev)多项式的项数确定,图1描述为1-n-1结构的三层前向神经网络模型,n表示隐层有n个神经元。
在前向神经网络模型中,输入层的输入为自变量x= (x0, x1, …xn) 一般采用线性输出。
通过学习规则[3,4,5]对权值的调整不断地使S (x) 与目标y总体误差最小,这就是前向神经网络的拟合原理。
下面采用第一类切比雪夫 (Chebyshev) 多项式作为前向神经网络的隐含层函数,可对权值直接确定[5,6],不用再进行复杂的权值训练,可以提高算法速度。第一类切比雪夫 (Chebyshev) 多项式第项解析表达式定义[5,6]如下:
其递推公式[7,8]如下:
把第一类切比雪夫(Chebyshev)多项式各项作为前向神经网络隐含层神经元的激励函数,输出层采用 (1) 式的线性输出,输入层到隐含层的权值为1,隐含层到输出层的权值为,这就构成了Chebyshev前向神经网络。权值的直接确定减少了权值修正的迭代次数,提高了算法运算速度。权值直接确定公式如下:
其中:
2 第一类切比雪夫 (Chebyshev) 多项式的改进
与以往的神经网络改进相比,都是在学习规则上不断地改进和创新,以提高算法运算速度或减小误差。而本文在Chebyshev前向神经网络的基础上进行改进,在各隐含层神经元激励函数上都加上一个调整项:
即:
隐含层神经元激励函数进行调整后,权值的确定仍然采用 (2) 式确定,矩阵也要做出相应的调整。
3 Mtalab实例仿真与分析
3.1 Matlab实例仿真
本文针对非线性目标函数在区间[-1, 1]内以0.01的间隔采样,得到输入样本,分别用10次最小二乘拟合和第一类切比雪夫前向神经网络以及改进的第一类切比雪夫前向神经网络进行曲线拟合比较,均采用误差函数E进行误差分析。
10次最小二乘拟合误差分析如表1。
Matlab仿真如图2。
3.2 仿真结果分析
从图2可以看出,在最小二乘拟合为10次多项式拟合神经网络隐含层神经元数为25时,最小二乘的拟合效果明显比Chebyshev前向神经网络拟合与改进的Chebyshev前向神经网络拟合要差很多,可以看出,改进的Chebyshev前向神经网络拟合效果比原始的Chebyshev前向神经网络拟合效果要好。从误差方面分析,表1中可以得出:改进的Chebyshev前向神经网络比以往的Chebyshev前向神经网络拟合效果要好。
4 结语
本文通过Matlab实例仿真,对前向神经网络隐含层激励函数第一类切比雪夫(Chebyshev)多项式的改进,明显拟合效果要优于常用的最小二乘拟合方法以及以往的Chebyshev前向神经网络拟合方法,对非线性复杂函数有着更好的拟合效果,拟合精度更高。本文还可对函与做同样仿真,同样可以得出,改进的Chebyshev前向神经网络比以往的Chebyshev前向神经网络拟拟合精度更高。
参考文献
[1]Mathews J H, Fink K D.Numerical Methods Using MAT-LAB[M].Beijing:Pearson Education Inc, 2004
[2]施彦.韩力群.康小亲.神经网络设计方法与实例分析[M].北京:北京邮电大学出版社.2009:23-24
[3]飞思科技产品研发中心.MATLAB6.5辅助神经网络分析与设计[M].北京:电子工业出版社, 2003
[4]张雨浓, 杨逸文, 李巍.神经网络权值直接确定法[M].广东:中山大学出版社, 2010:15-18
[5]张雨浓, 李巍, 蔡炳煌, 李克讷.切比雪夫正交基神经网络的权值直接确定法[J].2009
[6]莫国瑞, 刘开弟.函数逼近论方法[M].北京:科学出版社, 2003
[7]Chebyshev P L.Sur une nouvelle serie[J].Bull.Phys.Math.Aca-d.Sci.St.Petersbourg, 1858, 257-261.
前向神经网络 篇3
人工神经网络具有高度非线性建模能力以及良好的容错性和自学习能力,因此在人工智能、模式识别、信号处理和机器人及非线性控制等领域有着广泛的应用[1~5]。我们曾利用神经网络开展过诸如矩阵方程求解和矩阵实时求逆等科学计算工作[6,7]。BP(Back Propagation)神经网络是反向传播的多层前馈式网络,是目前应用最广泛也是最重要的人工神经网络模型之一。
基于负梯度法(或称梯度下降法)的BP神经网络是1986年由Rumelhart和Mc Clelland[8]等人提出的一种多层前向神经网络模型,其核心是误差反向传播算法(BP算法)。该算法的标准做法是沿着负梯度下降方向,迭代修正网络各层的权值和阀值,以最小化误差最终达到计算精度要求,从而实现输入输出的非线性映射。20世纪80年代中期以来,多层前向神经网络的BP算法一直备受人们的关注,但是BP网络存在着诸如收敛速度慢和易陷入局部极小点的缺点,因此人们对此提出了许多改进的算法。它们大体上可分为两类[9]:(1)基于标准梯度下降法的改进,(2)基于数值优化方法的改进。人们在对BP网络改进时多是着手于改进其学习算法,期望改进网络训练的迭代规则来解决收敛速度慢和局部极小点问题。
本文则期望从改进网络结构和激励函数的思路出发来解决网络收敛速度慢和局部极小点问题,实验结果表明其优于以上传统的两种改进做法。从多项式插值和逼近理论[10,11]出发,本文构造了一种Jacobi正交基前向神经网络(如图1),它能快速有效地学习给定样本并逼近目标函数,同时也能精确地给出目标函数在未学习区间的短期预测。
如图1,该前向神经网络采用了一组特例Jacobi正交多项式函数(实为第二类Chebyshev正交多项式)为隐层神经元的激励函数,而其输入层和输出层神经元使用线性激励函数并固定阀值为零。该神经网络的隐层神经元权值可以在学习过程中通过BP算法训练而得,也可以利用后文给出的伪逆思想直接确定。该神经网络不仅结构简单,而且因权值可以直接确定从而避免了冗长的迭代训练过程,其仿真和预测的精度也得以大大提高。本文也将给出仿真实例显示基于伪逆的权值直接确定法的优越性。
2 网络模型与理论基础
如图1所示,我们给出了一种Jacobi正交基的前向神经网络。该网络由输入层、隐层和输出层组成。其中,输入层和输出层有一个神经元并使用线性激励函数f(x)=x;隐层有n个神经元并使用一组特例Jacobi正交多项式(即第二类Chebyshev正交多项式)函数()jϕx,j=0,1,2,,n-1。下面我们给出Jacobi正交多项式和第二类Chebyshev正交多项式的定义。
定义1[11]设ϕj(x)是j次实系数多项式。若多项式系{ϕj(x)}j=0n-1是区间[a,b]上关于权函数ρ(x)的正交函数系,即满足
{ϕj(x)}j=0n-1为区间[a,b]上关于权函数ρ(x)的正交多项式系,并称nϕ-1(x)为区间[a,b]中关于权函数ρ(x)的n-1次正交多项式。
定义2[12]Jacobi正交多项式可原始定义为:在封闭区间[-1,1]上关于权函数ρ(x)=(1-x)α(1+x)β的正交多项式称为Jacobi多项式,记为Jj(α,β)(x)=
我们可以看出,Legender多项式是上述Jacobi多项式对应于α=β=0的特例;第一类Chebyshev多项式是Jacobi多项式对应于α=β=-1/2的特例;第二类Chebyshev多项式是Jacobi多项式对应于α=β=1/2的特例[12]。下面我们以第二类Chebyshev多项式实例化Jacobi正交基前向神经网络。
定义3[12]第二类Chebyshev正交多项式可原始定义为:
它是封闭区间[-1,1]上关于权函数的正交多项式,即:
并可证明,第二类Chebyshev多项式满足如下递推关系式:
值得注意的是,由该Chebyshev第二类多项式组成的前向神经网络之所有神经元阀值都可恒定设为0,这样在保证网络逼近能力的同时,也可以进一步简化神经网络的结构及其未来的硬件实现。上述第二类Chebyshev正交基前向神经网络仍然可以看作是一种BP神经网络模型,并采用通常的误差回传学习算法修正权值向量w。
下面我们给出该Jacobi正交基前向神经网络(实例为第二类Chebyshev正交基神经网络)逼近能力之理论基础。依据多项式插值和逼近理论[10~12],我们总是可以构造一个多项式函数ϕ(x)来逼近未知函数φ(x)。
定义4[11]假定区间[a,b]上的未知函数φ(x)和线性无关函数系{ϕj(x)}j=0n-1之每个ϕj(x)都连续(可记为∈C[a,b])。给定[a,b]上的权函数ρ(x),对于广义多项式:
确定其系数w0,w 1,,wn-1,使得a∫bρ(x)(φ(x)-ϕ(x))2dx为最小。这样得到的函数ϕ(x)称为φ(x)在区间[a,b]上关于权函数ρ(x)的最佳平方逼近(函数)[或称最小二乘逼近(函数)]。定理1[11]给定区间[a,b]上的连续函数φ(x),则其最佳平方逼近函数ϕ(x)存在而且唯一;另外,ϕ(x)的系数w0,w 1,,wn-1可以通过求解而得。
3 权值迭代方法
对于图1所给出的Jacobi正交基的前向神经网络模型,其隐层神经元个数为n,隐层神经元与输出层神经元之间的权重记为wj,j=0,1,2,,n-1,因此该神经网络输入x与输出y的关系可以描述成公式(3)。如果我们采用训练样本集{(x i,yi),i=1,2,,m},并定义该神经网络的误差函数E如下:
则图1所示神经网络的基于标准BP算法的权值wj修正公式可如定理2(因篇幅所限,其证明从略)所述。定理2(权值修正)图1所示的Jacobi正交基前向神经网络的权值迭代公式可设为[13]:
其中j=0,1,2,,n-1,迭代次数k=0,1,2,。
若将上述定理2以矩阵和向量形式描述,我们则有定理3;即更为简洁的权值向量迭代公式。
定理3(简洁修正)图1所示的Jacobi正交基前向神经网络的权值迭代公式(5)可以简化为如下矩阵向量形式:
其中输入相关矩阵X、权值列向量w和输出相关向量γ分别定义为:
4 权值直接确定
第3节讨论了Jacobi正交基前向神经网络基于标准BP算法的权值迭代公式,其中定理2和定理3是等价的。定理2是标量形式的公式描述(或称元素级的迭代运算与描述),而定理3是定理2和权值迭代公式(5)的矩阵向量形式描述。在引言中我们曾提到,对于这种新型的神经网络结构,我们可以直接一步地给出网络权值从而能够避免冗长的网络训练及迭代过程。
下面定理展示了我们是如何做到这一点的。
定理4(直接确定法)给出参量X、w和γ如定理3所定义。图1所示Jacobi正交基前向神经网络之最优权值可以直接给定为:
或记为ω=pinv(X)γ,其中pinv(X)表示求相关矩阵X的伪逆(此处等同于(XT X)-1XT并可调用MATLAB命令pinv实现)。
基于给出的最优权值(7),该Jacobi正交基前向神经网络能够实现对未知输入输出关系φ(⋅)的最小误差逼近。
证明:我们回顾定理3及公式(6):w(k+1)=w(k)-ηXT(Xw(k)-γ),其中学习步长η>0。当网络训练达到稳态时(即k足够大时,w(k+1)=w(k):=ω),从公式(6)简化可得
因此满足公式(8)的ω即是该Jacobi正交基前向神经网络的稳态最优权值ω:=limk→+∞w(k),并且能够最小化误差函数E。利用矩阵之伪逆思想,解公式(8)即可得公式(7):ω=(XT X)-1X Tγ,我们因此可以一步确定该Jacobi正交基前向神经网络的最优权值向量,定理4因此得证。
值得指出的是,该Jacobi正交基前向神经网络利用矩阵伪逆思想可以一步地计算出网络权值(即,直接确定法或称一步确定法),从而避免了冗长的网络权值迭代过程。仿真结果证实其较好的计算速度与精度。
5 鲁棒性预测仿真
以无单位目标函数y=sin(4x)为例,我们对图1所示的Jacobi正交基(以第二类Chebyshev正交基为实现实例)前向神经网络进行仿真验证。不同与我们以往的工作,我们可以在仿真该神经网络时引入一定的实现误差[如不精确地实现正交基激励函数,使得ϕj(x)=2xϕj-1(x)-(j-1)ϕj-2(x)],以研究该网络的鲁棒性预测效果。其中,Jacobi正交基前向神经网络的隐层神经元个数n=8,取区间[-1.0,0.8]为样本数据训练区间,而区间(0.8,1.0]为未经学习的预测/测试区间。在区间[-1.0,0.8]上以0.01的间隔采样,可取得181个样本点组成训练样本集{(x i,yi),i=1,2,,m}(其中m=181)。以样本数据点xi(i=1,2,,181)作为网络训练输入,对应的样本数据值yi(i=1,2,,181)作为网络目标输出(或称期望输出)。我们分别用公式(5)所描述的标量形式迭代法和公式(6)所描述的矩阵形式迭代法以及直接权值确定法(7)对该181个样本数据对进行训练。
得到调整好的网络权值后,即可将该Jacobi正交基前向神经网络用于测试和预测。表1对三种权值方法的测试结果进行了数值比较,图2至图4分别显示了该三种方法的训练和预测的直观效果。由结果之比较可以得知,对于Jacobi正交基前向神经网络,权值直接确定法在训练时间、训练误差和预测效果上要远远优于迭代法(既包括标量形式迭代法也包括矩阵形式迭代法)。具体而言,在训练105次后,标量形式和矩阵形式的迭代法训练时间分别为2410秒(约为40分钟)和19.7秒,训练和预测的总误差为4.66×10-1;而权值直接确定法的训练时间仅为0.30秒,并且训练和预测的总误差也仅为5.80×10-4。
如图2、图3和图4所示,实线表示神经网络的实际输出值,而虚线表示真实的目标输出值。区间[-1.0,0.8]为网络学习区间,而区间(0.8,1.0]为预测区间(未学习过),这两个区间以分段竖折线隔开。对仿真结果进行观察,我们可以得出,该Jacobi正交基前向神经网络模型具有良好的函数逼近性能、鲁棒预测性;而且我们可以看出,基于伪逆的权值直接确定法比传统的BP迭代法有更好的预测效果。
6 结语
针对传统BP神经网络存在诸如收敛速度慢和易陷入局部极小点的缺点,我们基于多项式插值和逼近理论,提出了一种新型的神经网络模型(Jacobi正交基前向神经网络)及其基于伪逆思想的权值直接确定法。对该网络进行的计算机仿真显示,相对于传统的BP迭代公式,该新型神经网络模型及算法不仅具有更优的逼近性能、更精确的预测效果,而且计算速度更快、鲁棒性更强。
摘要:根据多项式插值与逼近理论,以一组零阀值特例Jacobi正交多项式(第二类Chebyshev正交多项式)作为隐层神经元的激励函数,构造一种基于Jacobi正交基的前向神经网络模型。该神经网络模型采用三层前向结构,其中输入、输出层神经元采用零阀值线性激励函数。为改进传统神经网络收敛速度较慢及其局部极小点问题,针对该Jacobi正交基前向神经网络模型,提出了一种基于伪逆的直接计算神经网络权值的方法(即,一步确定法),并利用该神经网络进行预测。计算机仿真结果表明,相对比传统的BP迭代训练方法,权值直接确定法计算速度更快、预测精度更高。
前向安全数字签名技术浅析 篇4
关键词:前向安全,数字签名,方案
1997年Anderson提出了前向安全的概念, 前向安全思想的主要突破在于, 在密码学算法上设立了一种预防机制, 以减少由于密钥暴露而带来的危害。
一、前向安全数字签名的基本思想
把整个签名的有效时间分成T个时段, 在每个j (1≤j≤T) 时段内使用不同的签名密钥SKj产生签名, 在每个时段的最后, 签名者以一个单向的模式, 从当前时段j (1≤j≤T) 的密钥SKj得到一个新的下一个j+1 (1≤j+1≤T) 时段的密钥SKj+1, 并且安全地删除当前时段j (1≤j≤T) 的密钥SKj, 而用于验证的签名公钥PK在整个签名有效时间T内都保持不变。
二、前向安全数字签名的一般构建
前向安全数字签名方案的关键在于密钥进化和前向安全性, 这也是与一般的数字签名不同的特色所在。实际上, 这两点是相辅相成的。前者是后者的原因, 后者是前者的必然结论。前向安全数字签名方案的私钥随着时间的推移按时段不断进化更新, 而相应的公钥在整个签名周期内保持不变。
三、前向安全数字签名的几种解决方案
1、长公钥长秘密密钥方案:
系统建立时, 签名者重复执行密钥生成算法产生T个密钥对 ( (p1, s1) , (p2, s2) … (p T, s T) ) , 其中pi为签名的公开密钥, si为相应的签名秘密密钥 (i=1, 2, …, T) 。设密钥进化方案的公钥为PK= (p1, p2, …p T) 以及初始密钥SK0= (s0, s1, …, s T) , 其中s0为空串。当进入i时段, 签名者完全删除Ski-1, 则i时段的密钥为SKi= (s1, …, s T) , i时段消息m的签名为。对消息m的签名 (其中ξ=SGN (m, si) ) 的验证即检验VRFY (m, pi, ξ) =1是否成立。方案是前向安全的, 但是公钥和密钥的长度随着总时段数T线性地增长, 显然是不可取的。
2、短公钥长秘密密钥方案:
Anderson提出了以上方案的一个改进, 其结果为公钥很短, 但秘密密钥长度依然随着T线性增长。签名者同以上的方案一样首先产生T个密钥对 ( (p1, s1) , (p2, s2) , … (p T, s T) ) , 并产生一个附加的密钥对 (p, s) , 令σ=SGN (i||pi||s) (i=1, …, T) 即σ=SGN (i||pi) 是对时段i及第i个公钥pi的一个签名, 然后删除s。系统的公钥为p (短公钥) , 系统的初始密钥为SK0= (s0, σ0;si, σ1;…s T;σr) , 其中s0, σ0为空串。当进入i时段, 签名者完全删除si-1, σi-1, 则i时段的秘密密钥SKi= (si, σi;si+1, σi+1;…;s T, σT) , i时段消息m的签名为, 令ω=SGN (m, si) , 即消息m的签名为, 用si对应的公钥pi验证签名, 用p验证pi的签名σi, 要求检验VRFY (m, ω, pi) =1和VRFY (i||pi, p, σi) =1是否同时成立。这个方案和第一方案一样, 随着时间段的推移不断删除前一个阶段秘密密钥, 以此来获得前向安全性, 这类方案公钥的长度很小且与T无关, 但问题在于签名秘密密钥长度随总时段数T线性增长, 也是不可取的。
3、长签名方案:
通过使用证书链签名的公钥和私钥的长度都很短, 但是产生的签名却很长。签名者生成初始密钥对 (p0, s0) , 公钥p0, 密钥s0。在每个时段一个新密钥生成即刻删除旧密钥, 证书链被包含在签名中。具体地说:在1时段的开始, 签名者生成一个新的密钥对 (s1, p1) , 设σ1=SGN (1||p1||s0) , 然后删除s0, 第1时段的私钥为 (s1, p1, σ1) , 用s1对消息m的签名是<1, (SGN (m, s1) , p1, σ1) >, 令ω1=SGN (m, s1) , 即消息m的签名为, 用s1对应的公钥p1验证签名, 用p0验证p1的签名σ1, 为检验VRFY (m, ω1, p1) =1和VRFY (1||p1, p0, σ1) =1是否同时成立。重复以上过程, 当时段i≥2, 签名者拥有 ( (p1, σ1) , (p2, σ2) , … (pi-1, σi-1) ) 和前一个时段的密钥si-1, 生成一个新的密钥对 (pi, si) , 令σi=SGN (i||pi||si-1) 并删除si-1, 第i时段的私钥为 (si, pi, σi, pi-1, σi-1, …p1, σ1) 相当于一个证书链, 其作用是保证当前公钥pi的真实性。时段i消息m的签名为, 令ωi=SGN (m, si) , 即消息m的签名为, 用si对应的公钥pi验证签名, 用p0验证p1的签名σ1, 用p1验证p2的签名σ2, …, 用pi-1验证pi的签名σi, 检验VRFY (m, ωi, pi) =1, VRFY (1||p1, p0, σ1) =1, VRFY (1||p2, p1, σ2) =1, …, VRFY (1||pi, pi-1, σi) =1是否同时成立。此方案可得到前向安全性, 且签名的公钥和私钥的长度与总时段数T均无关。但是签名长度、验证时间随着T线性增长, 与T成正比, 也是不可取的。
随着网络和通信技术的飞速发展, 环保信息安全已经成为关系到国际民生的重大问题, 希望本文能为相关领域的研究提供借鉴。
参考文献
[1]阿力木江·艾沙:《一种强前向安全数字签名方案》[J].计算机工程与应用, 2008, (9) .[1]阿力木江·艾沙:《一种强前向安全数字签名方案》[J].计算机工程与应用, 2008, (9) .
前向神经网络 篇5
1 仪器结构及工作原理
1.1 仪器结构
前向散射能见度仪,由硬件和软件组成。其既可作为独立设备与微机终端连接组成能见度自动观测系统,也可以作为能见度分采集系统挂接在其他采集系统上。
作为独立设备的前向散射能见度仪至少应包含以下3个部分:采集器、传感器和支架。为保证设备良好运行还应包括供电电源、电源防雷器和蓄电池等;且可选配无线通信模块(图1)。
1.2 硬件
1.2.1 传感器与数据采集器。
传感器部分包括发射器、接收器和控制处理器等。数据采集部分指数据采集箱。数据采集箱可以安装在室内,也可以安装在室外。
1.2.2 系统电源。
系统所用电源为直流12 V。配有蓄电池,并对蓄电池浮充充电,以备市电停电时可由蓄电池进行供电。1.2.3通信接口与通讯模块。联接采集器与计算机、计算机与中心站、采集器与中心站等的通信联接设备。通信接口使用RS-232或RS-485。通过外接无线传输模块,可以扩展通信距离。无线传输模块的类型有GPRS、CDMA等。无线传输时,可以实现多点传输,至少可同时将数据发到2个数据中心站。
1.2.4 计算机。
前向散射能见度仪独立运行时应配备计算机,作为数据接收终端,并实现对能见度仪的监控、能见度数据处理和存储,计算机应能满足业务软件运行的基本配置要求。
1.3 软件
1.3.1 采集软件。
采集软件由厂家提供,写在采集器中,必须遵守本规范及其他气象技术标准。至少具备如下主要功能:可以对参数和系统时钟进行调整;采集的传感器输出信号,经过处理形成能见度观测值;存储和传输能见度观测值;运行状态监控。
1.3.2 业务软件。
软件根据实际情况需要进行编制。其主要功能包括参数的设置、数据存储、报文生成、实时数据显示、数据质量控制。
1.3.3 采样和算法。采样:每分钟至少采样4次。算法:1 min能见度值(也称为瞬时值),每分钟输出1个数据。
(1)1 min内采样数据的算术平均值。
式(1)中:观测时段内气象变量的平均值;yi—1 min观测时段内第i个气象变量的采样瞬时值(样本),其中,“错误”等非“正确”的样本应丢弃而不用于计算,即令yi=0;N—1 min观测时段内的样本总数,由“采样频率”和“平均值时间区间”决定;m—1 min观测时段内“正确”的样本数(m≤N)。
(2)10 min平均值。1 min输出1次10 min平均值,是在1 min能见度值(瞬时值)基础上的10 min滑动平均。
1.4 工作原理
前向散射能见度仪的发射器与接收器在一定距离的两处,同时成一定的角度。由于接收器只能接收大气的前向散射光,所以通过测量散射光强度,得出散射系数,进而估算出消光系数(图2)。根据柯西米德定律计算气象光学视程(MOR),其公式如下:
式(2)中,MOR为气象光学视程,ε为比阈值,σ为消光系数。当ε=0.05时,有。
2 日常维护与故障处理方法
2.1 日常维护
为了保证仪器的正常运行,应做好对仪器的日常巡视、维护等工作。一是观察期间,每个整点前10 min应查看观测数据。如果发现数据错误或异常应及时处理。二是每日日出后和日落前巡视能见度仪,如果发现有影响数据采集的杂物,要及时进行清除。为避免损伤眼睛,禁止长时间直视发射端镜头。三是每月应检查供电设施,确保供电安全。四是一般每2个月定期清洁传感器透镜,切忌长时间直视发射端镜头。五是定期检查、维护的情况应记入值班日志中。六是对能见度自动观测数据有影响的还要摘入备注栏。七是检查时应尽量避免用手电筒等光源照射能见度观测设备。此外,前向散射能见度仪在运行中,切忌长时间连续直视发射端镜头[1,2]。
2.2 常见故障处理
2.2.1 缺少信息。
第一步检查终端设置是否正确。先更改波特率,例如,更改为9 600 bps。检查是否有7个数据位、偶数奇偶性和1个停止位。第二步发出OPEN命令,再发出其他命令以查看DNQ1/V35是否已处于命令模式。第三步前往设备位置。随身携带维护PC(终端)、工具和校准仪装置。第四步检查DNQ1/V35是否加电。打开PWC10/20/50电子器件外壳盖子,查看运行和信号/偏移LED是否闪烁。第五步,如果LED未打开要检查电源电压、所有接头是否都正确插入。第六步,如果红色LED闪烁(闪烁1次/s表示运行正常),则将维护终端连接到RS端口,然后检查第一步和第二步[3,4]。2.2.2信息存在,但能见度值不存在。第一步,DNQ1/V35控制电子器件可能正在运行,使用STA命令检查状态信息,如果有任何活动警报,则能见度值不存在,要特别检查P12、M12、BACKSCATTER和LEDI。第二步,前往DNQ1/V35位置,检查电缆接头、接收单元和发射单元装置(卸除这些装置时,要遵循操作要求)。
2.2.3 能见度持续过低。
可能是3种情况:一是检查护罩的情况;二是尝试为接收单元/发射单元光学器件找到一个更好的方向;三是电气故障,可参照“信息存在,但能见度值不存在”处理。前向散射能见度仪设有防连接到供电线的反极性功能,如果供电线连接到非电源的引线,那么可能会发生损害,具体取决于电源的馈电电压和限流功能。
2.2.4 仪器没有响应。
这种情况下,可执行以下操作:检查连接。可以通过RS-232维护线对DNQ1/V35进行诊断;检查波特率,出厂默认值为9 600,7,E,1;打开接收单元的盖子;连接电源并观察内部LED。初始化顺序(3 s):LED4红灯亮(信号变亮/偏移关闭),LED3黄灯亮(运行,1 Hz),LED2红灯关闭(传输数据),LED1黄灯关闭(接收数据)。启动顺序(1 s):LED4红灯亮(信号变亮/偏移关闭),LED3黄灯关闭(运行,1 Hz),LED2红灯关闭(传输数据),LED1黄灯关闭(接收数据)。运行顺序从头开始:LED4红灯亮10 s/关闭5 s,连续顺序LED3黄灯闪烁,1 Hz发送初始化字符串时,LED2红灯短暂亮一下(传输数据),LED1黄灯关闭(接收数据);如果顺序正确并且发送指示灯有响应,可检查以下项:初始化字符串“PWDxx Vn.nnyyyy-mm-dd SN:___”应响应维护终端,如果响应无法理解要检查终端的通信设置,可尝试使用其他期望的波特率;如果LED未亮,检查内部接头连接,可进行以下测量:测量输入电压:X1-5=电源GND,X1-4=电源+V;如果LED是亮的但顺序反复启动,进行以下操作:检查电缆终端,了解是否与邻接的引线构成短路。使用供电能力更强的电源(电源可在短时间内进入限流状态)。使用更大电源电压(最大为55 VDC),这有助于启动需要的电流。
3 结语
前向散射能见度仪的投入使用是地面气象观测自动化程度提高的具体体现,在使用过程中会出现不同种类的故障,但是只要业务人员了解工作原理,同时认真做好日常的维护工作,必将大大降低故障的出现几率,如果出现故障,也不要慌张,可以参照本文中列举的故障现象进行一一排除。当然,在实际工作中,可能还会出现其他的故障,但是只要业务人员在工作中多观察、多分析、多动脑、多积累,仪器保障能力一定会不断提高。在出现故障时,力争在最短时间内排除故障,确保能见度仪处于良好的运行状态,保证数据的连续性和准确性。
摘要:介绍了前向散射能见度仪的构成、工作原理和日常维护,对常见故障进行了描述,并说明了故障处理方法,帮助基层业务人员及时处理各类故障,为前向散射能见度仪正常运行提供技术保障。
关键词:前向散射能见度仪,结构,工作原理,日常维护,故障处理
参考文献
[1]前向散射能见度仪观测规范[M].北京:气象出版社,2011:2-5.
[2]朱乐坤,李林.前向散射能见度仪校准技术[J].气象科技,2013,41(6):1003-1007.
[3]张毅,刘小容,钟运新,等.前向散射能见度仪的工作原理及维护维修[J].气象水文海洋仪器,2015,32(1):118-120.
激光前向散射云滴谱探测系统 篇6
申请公布日:2016.10.26
申请人:西南技术物理研究所
地址:610041四川省成都市武侯区人民南路四段七号
发明人:杨泽后;郭学良;史晓丁;王东吉;樊冬;杜运理;李晓锋;陈涌;吕明爱;张国娟;彭涛;伍波;周鼎富
前向神经网络 篇7
目前,在通信对抗系统中,针对通信信号的干扰方式有大功率压制干扰和脉冲干扰等方法。大功率压制干扰是一种简单并有效的干扰方式,其缺点是容易暴露,而受到反辐射武器的攻击。由于大多数的无线通信系统都采用信道编码和交织等抗干扰纠错处理技术,若采用连续波功放进行干扰,受功放技术的限制,不能输出足够大的干扰功率,就不能达到较好的干扰效果。脉冲功放可输出更大脉冲功率,但由于只能周期间断地发射大功率信号,如何设计脉冲干扰信号的参数,达到对具有纠错编码和交织信号的干扰效果是需要研究的问题。
下面针对传统通信信号干扰技术的不足,提出一种针对前向纠错编码的脉冲干扰方法,通过有目的地使干扰目标的接收数据中包含某种错误图样,以超出干扰目标中纠错机制的纠错能力,破坏其纠错过程,达到干扰其译码过程的目的。所提方法可以在干扰能量和干扰效果2个方面进行折中,对于不同参数的编码类型,通过计算机搜索的方式挑选最优的干扰参数、设计干扰波形,可以达到更好的干扰效果。
1纠错能力分析
1.1卷积码的纠错能力分析
卷积码是一种线性码,码字序列对之间的最小距离可以简化为寻找所有码字序列和全0序列之间的最小距离。在网格图中,关心输入序列为0、起始状态和结束状态都是0、中间不出现0状态的路径。如果在最大似然译码过程中,t时刻合并在0状态的路径比全0路径短,那么全0路径将被舍弃,此时出现了译码错误,用这种情况来量化译码器的性能。所有分叉后又合并的任意长度路径中的最小距离称为最小自由距离df[1],其纠错能力为:
t=⎣undefined」。 (1)
式中,⎣x」表示不超过x的最大整数。
卷积码的纠错能力是由其距离特性来表征的,但由于不同的卷积码的译码方法有不同的距离度量,其纠错能力与所采用的译码方法有关。当采用最大似然译码时,卷积码能在3~5个约束长度内纠正t个差错,确切的长度依赖于差错的分布,对于特定的编码和差错图样,该长度可以用转移函数来界定[2]。
对于典型约束长度k=7,生成多项式G1=171,G2=133。它的传递函数系数为:
T(D)=11D10+38D12+193D14+…, (2)
表示与全0序列距离为10的路径有11条,与全0序列距离为12的路径有38条。该编码方式的自由距离为10,t=4。
undefined。 (3)
在二进制对称信道条件下,采用硬判决译码时,其误比特率PB的上界为[3]:
undefined。 (4)
式中,undefined为信道码元差错概率,undefined。
对于AWGN信道的相干BPSK调制,误比特率上界为:
undefined。(5)
式中,df=10。
表1列出了编码效率为1/2、约束长度k为3~9、具有最大自由距离的卷积码,经高斯信道传输和硬判决译码后,相对于未编码相干BPSK解调的编码增益df。
卷积码的信息位长k和码长n与分组码相比要小,理论分析和实际应用均表明,在编码速率相同的条件下,卷积码的纠错性能优于分组码[4]。由于卷积码的码元与之前的信息元具有约束关系,所以卷积码对于突发错误的纠错性能较差。
1.2RS码的纠错能力分析
RS码属于非二进制循环码,一个RS码可以表示为:
(n,k)=(2m-1,2m-1-2t)。 (6)
式中,m为码元的比特数;n为已编码分组总码元个数;k为已编码分组中数据码元个数;n-k为监督码元个数;t为RS码能够纠正的错误码元个数。RS最小码本距离dmin=n-k+1,对相同输入输出分组长度的线性编码,RS码可以达到最大可能的码本最小距离[5]。
RS译码的错误码元概率可以用信道码元错误概率PE表示[6]:
undefined
。 (7)
RS码具有很好的突发错误纠错能力,对于记忆信道特别有效[7]。对于(n,k)=(255,239)的RS码,RS译码器可以纠正任意8个错误码元而不需要考虑码元所受到的破坏类型,即译码器将用正确的字节替换错误的字节,而不管这个错误是由于一个比特错误还是8个比特错误引起的。
2干扰信号设计
2.1针对卷积码的干扰信号设计
脉冲干扰通过在干扰脉冲内发送干扰信号产生一定的干信比,造成干扰脉冲持续时间内通信信号解调后出现误码[8],这样可以人为地控制错误码元在时间上的分布。脉冲干扰的参数包括脉冲宽度、脉冲周期、起始时刻和脉内干扰信号功率等。
由1.1节可知,卷积码具备很好的纠随机错误的性能,若在产生相同平均误比特率情况下,将错误比特集中,即产生突发错误可以获得较高的译码器输出误比特率。由卷积编码器的构造,经编码的前后码字具有一定的约束关系,当误码率较大时或误码成特定分布时,会产生误码率放大的效果。因此对于卷积码的干扰波形的设计可以遵循以下原则:
① 设计可以生成连续突发错误的干扰波形;
② 寻找使卷积码误码率放大的误码分布,根据该分布设计相应干扰波形。
由上述可知,卷积码的纠错性能与译码方法有关,采用最大似然译码时卷积码能在3~5个约束长度k内纠正t个差错。针对这种译码方法,一种典型的脉冲干扰信号参数是干扰信号脉冲宽度W的取值范围为2×t
2.2针对RS码的干扰信号设计
由1.2节可知,对于RS编码,干扰位置应避开监督分组位置;干扰产生的误比特在消息分组中越分散,产生的输出误比特越多,当误比特分散到一个消息码元中至多有1 bit错误的程度时,一定的输入误比特率产生的输出误比特最多,与输入误比特率相当,即在一定干信比情况下,通过设置干扰方式只能破坏RS码的纠错能力,使输入误比特率与输出误比特率相等,而不能使RS译码产生类似卷积码中误码率放大的效果。因此对于RS码的干扰波形的设计可以遵循以下原则:
① 干扰所造成的误比特应避开监督分组位置;
② 干扰波形产生的误比特尽量分散在信息分组中,这一点与卷积码相反。
假设RS编码参数为编码分组长度为n码元,消息分组长度为k,码元比特数为m,纠错能力为undefined码元。典型的脉冲信号为不等间隔脉冲,其参数是脉冲周期P为n个码元,脉冲宽度为1
3仿真验证
3.1针对卷积码的脉冲干扰效果仿真
下面通过仿真分别分析了在不同脉内输入误比特和干扰脉冲宽度条件下,突发脉冲干扰对卷积码的影响程度。卷积码选择典型(2,1,7)编码,编码效率1/2,译码算法为维特比译码算法。
① 选择仿真参数为干扰脉冲周期为3 000bit,干扰脉冲宽度为250 bit,干扰脉冲内的误码率在4×10-3~4×10-1变化,统计译码器的输入误比特率和输出误比特率的关系如图3所示。由图3可知,BC段具有较好的干扰效果,即此脉冲参数条件下,脉内误比特率在0.1~0.2可以达到较好干扰效果,在给定译码器输出的起效误比特率(0.005~0.035)时,可以得到脉内输入误比特率的对应值。
② 选择仿真参数为干扰脉冲周期为3 000 bit,平均误码率保持不变,干扰脉冲宽度在120~2 100 bit变化,每个干扰周期误码大致为60 bit。在一定平均误码率的情况下,通过控制干扰脉冲宽度来控制误码分布,统计译码器输出误码的分布规律如图4所示,其中,平均误码率为0.02。B点输出误码率最大值,此时的干扰脉冲宽度值为平均误比特率确定时的最优值。AB段干扰脉冲内的误比特率很高,随着脉冲宽度逐渐增加,脉内误比特率的逐渐减小,译码器的输出误比特率却迅速增加直至最高点B点。随后脉冲宽度继续展宽,误比特在脉冲内的分布越来越分散,输出误比特率迅速减小。CD段随着脉冲宽度大大变宽,输入误比特更加分散,突发错误逐渐转变为随机错误,并且逐渐进入卷积码的纠错范围之内,使得输出误比特率非常小。
3.2针对RS码的脉冲干扰仿真
与卷积码类似,下面通过仿真分析不同脉冲周期、脉冲宽度和不同脉冲个数条件下RS码的纠错能力,以得到特定条件下的最优干扰方式。RS编码参数选择n=255,k=239,m=8,可纠正的码元数t=(n-k)/2=8个码元(1 byte)。
① 选择仿真参数干扰脉冲宽度为8 bit,干扰脉冲个数为9个,干扰脉冲内的误比特率为0.3,干扰脉冲周期在8~60 bit变化,统计RS译码器的输出误比特率,如图5所示。由图5可知,当干扰位置处于一个编码分组中的消息分组范围内,并且干扰效果超出RS码纠错范围时,这些干扰脉冲的分布间隔(消息分组范围内的干扰位置)并不影响译码器的输出误比特率。
② 选择仿真参数译码器输入平均误比特率为0.03,干扰脉冲内的误比特率为0.45。干扰一个编码分组所产生的误比特个数大致为60 bit,通过计算机仿真,分析每个分组中误比特的分布对RS码纠错性能的影响。分别通过设置不同的干扰脉冲宽度和干扰脉冲个数,使误比特平均分布在这些干扰脉冲位置范围内,干扰脉冲的间隔始终要大于8 bit(一个码元长度),统计结果如图6所示。由图6可知,随着干扰脉冲个数的增加,误比特在消息分组中越来越分散,译码器的输出误比特率也随之增加。当干扰脉冲个数达到60、每个脉冲内的误比特个数为1时,达到的输出误比特率最大,与输入平均误比特率相当。
4结束语
上述提出了针对前向纠错编码的脉冲干扰方法,利用脉冲干扰控制目标通信系统的错误分布,超出目标的纠错能力,达到较好的干扰效果。在实际中针对不同编码通过采用特定脉冲干扰样式,能够在干扰能量和干扰结果的权衡中找到最优点。
摘要:数字通信系统通常采用前向纠错编码提高系统可靠性,传统干扰方法针对采用前向纠错编码通信系统的干扰效果较差,为了克服此缺点,提出了通过控制错误分布的脉冲干扰方法。分析了典型卷积码和RS码的纠错能力,根据2种纠错编码的特性分别探讨了干扰信号设计原则和方法。计算机仿真表明,针对不同的编码样式采用特定脉冲干扰参数,能够取得更好的干扰效果。
关键词:卷积码,RS码,脉冲干扰
参考文献
[1]SKLAR B.数字通信—基础与应用(第2版)[M].徐平平,宋铁成,叶芝慧,等译.北京:电子工业出版社,2002.
[2]SWEENEY P.差错控制编码[M].俞越,张丹,译.北京:清华大学出版社,2004.
[3]樊昌信,詹道庸,徐炳祥,等.通信原理(第4版).北京:国防工业出版社,1995.
[4]DANIEL J.COSTELLO JR.Error Control Coding Funda-mentals and Applications[M].北京:人民邮电出版社,1986.
[5]王新梅,肖国镇.纠错码—原理与方法[M].西安:西安电子科技大学出版社,2001.
[6]刘玉君.信道编码[M].郑州:河南科学技术出版社,1992.
[7]姜丹.信息论与编码.合肥:中国科学技术大学出版社,2002.
[8]苏小桅.随机脉冲干扰样式的仿真分析[J].成都大学学报(自然科学版),2007(3):236-239.