首页范文大全神经网络反向传播原理十篇神经网络反向传播原理十篇

神经网络反向传播原理十篇

发布时间:2024-04-25 18:10:27

神经网络反向传播原理篇1

关键词:网络安全;态势评估;Bp算法

中图分类号:tp393文献标识码:a文章编号:1009-3044(2011)14-3265-02

UsingBackpropagationtoachievetheRatingofthenetworkSecurityposture

tanGJin-min

(HonglinetworkLimitedCompanyofChangchun,Changchun130051,China)

abstract:inordertoalleviatetheincreasinglyseriousproblemofnetworksecurity,wecanuseassessmenttechnologyofthenetworksecuritysituation,optimizedthefactorsthataffectnetworksecurityinadvance.wetrytousedBackpropagationinnetworksecuritysituationassessment,andusedalotofexperimentaldatainthetrainingmodel,testedsomeofthedata.

Keywords:networksecurity;situationassessment;Bp

随着互联网时代的来临,网络的规模和应用领域不断发展,人们对网络依赖程度不断增加,网络已经成为社会、经济、军事等领域中不可或缺的重要组成部分。但同时,我国网络安全问题日益突出,目前网络系统的安全现状已经清楚地表明:传统的网络安全防护技术已无法为网络系统的安全提供根本的可靠保障。要在错综复杂的网络环境中切实有效地提高网络安全,迫切需要探索新的理论和方法,网络安全技术研究已经步入一个全新的时代。网络安全态势评估(networkSecuritySituationalassessment,nSSa)研究就是顺应这个需求而生并迅速发展成为网络信息安全领域一个新的研究热点。网络安全态势评估技术能够从整体上动态反映网络安全状况,并对安全状况的发展趋势进行预测和预警,为增强网络安全性提供可靠的参照性依据。

1相关研究

网络安全态势是指由各种网络设备运行状况、网络行为以及用户行为等因素所构成的整个网络的当前状态和变化趋势。网络安全态势感知,即是在大规模网络环境中,对能够引起网络态势发生变化的安全要素进行觉察、理解、显示以及预测未来的发展趋势。态势强调环境、动态性以及实体间的关系,是一种状态,一种趋势,一个整体和宏观的概念,任何单一的情况或状态都不能称之为态势。

1999年,Bass等人首次提出了网络态势感知概念,即网络安全态势感知。国国家能源研究科学计算中心(neRSC)所领导的劳伦斯伯克利国家实验室于2003年开发了“SpinningCubeofpotentialDoom”系统,该系统在三维空间中用点来表示网络流量信息,极大地提高了网络安全态势感知能力。2005年,CmU/Sei领导的CeRt/netSa开发了SiLK,旨在对大规模网络安全态势感知状况进行实时监控,在潜在的、恶意的网络行为变得无法控制之前进行识别、防御、响应以及预警,给出相应的应付策略,,该系统通过多种策略对大规模网络进行安全分析,并能在保持较高性能的前提下提供整个网络的安全态势感知能力。国内方面,网络态势感知也是在起步阶段,主要是从军事信息与网络安全的角度来研究,这对我军在新形势下的信息安全保护和信息战有重大的战略意义。

2网络安全态势评估系统

下面介绍一个网络安全态势评估系统,它的工作流程图如图1所示。

这其中的关键技术就是态势评估过程,在这里我们使用Bp算法来完成网络安全态势评估。

2.1Bp算法

Bp算法,也就是误差反向传播(errorBackpropagation,Bp)算法,Bp算法的最早提出是在1986年,两位科学家Rumelhart和mcCelland他们领导的科学小组通过长时间的分析,弄清了非线性连续转移函数的多层前馈网络的误差反向传播算法,并且在《parallelDistributedprocessing》一书中进行了非常详细的阐述,这个分析阐述实现了minsky的设想。我们也经常把Bp算法称之为Bp网络。

下面简单介绍一下Bp算法的基本思想,在学习也就是网络训练过程中,信号的传播分为正向传播和反向传播,其中反向传播的是误差信号。在进行正向传播时,将训练样本输入,也就是从神经网络的输入神经元输入,样本数据经各隐藏层逐层处理后,最后从输出层传出。如果从输出层输出的数据与期望的输出(事先给定的)不一样,这就说明计算出现了误差,为了解决这个误差问题,训练就会进行反向传播。反向传播就是将输出数据与期望数据的误差以某种形式通过隐层向输入层逐层反向传,在这个过程之中,会把误差值分摊给各隐层的所有神经元上,这样就能获得各层每个神经元的误差信号,我们可以通过这些误差信号来修改各个神经元上的权值。上面所讲的训练样本信号正向传播和误差信号的反向传播是不断地进行的,这个不断进行的过程也就是Bp网络的学习和训练过程,经过了这个过程,误差信号逐步减小,达到了一个我们事先约定的限度,或者完成了所有训练样本的输入,这时就可以结束训练过程,同时整个网络确定了下来,网络中的神经元上的权值也固定了下来,这样就可以进入实际的应用阶段,可以用这个网络来进行工作了。

2.2指标体系的建立

安全态势评估的核心问题是确定评估指标体系。指标体系是否科学、合理,直接关系到安全态势分析的质量。为此指标体系必须科学地、客观地、合理地、尽可能全面地反映影响系统安全性的所有因素。指标体系的建立必须按照一定的原则去分析和判断,指标体系建立过程中所遵循的原则并不是简单的罗列,它们之间存在着密切的关系。指标体系设立的目的性决定了指标体系的设计必须符合科学性的原则,而科学性原则又要通过系统性来体现。在满足系统性原则之后,还必须满足可操作性以及时效性的原则。进一步,可操作性原则还决定了指标体系必须满足可比性的原则。上述各项原则都要通过定性与定量相结合的原则才能体现。此外,所有上述各项原则皆由评估的目的性所决定,并以目的性原则为前提。

根据查找资料等,发现在不同的攻击下一下一些指标有明显变化,就选择这些指标组成指标体系,CpU占用率、内存占用率、端口流量、丢包率、网络可用带宽、平均往返时延、传输率、吞吐率。我们就选择这8种指标作为我们的评价指,根据原系统的设计将网络的安全态势分为五个级别分别是:Good、oK、warning、Bad、Critical。这5种状态由高到底的标示出整个网络安全状态。

2.3评级系统的实现

因为有8个评测指标,所以网络的输入层有8个神经元,输出因为要求的评估等级为5,所以输出层的神经元为5个,对应的网络输出模式为(1,0,0,0,0)(0,1,0,0,0)(0,0,1,0,0)(0,0,0,1,0)(0,0,0,0,1),隐含层的神经元个数也要确定,在这里我们将隐含层的神经元个数设为8*2+1=17个,这个也是Bp神经网络常用的原则。

同取样本数据100组解决Bp神经网络的训练问题,,进行学习训练,同样使用matlabR2007b作为平台训练Bp神经网络,隐藏层神经元的传递函数选择的是S型对数函数logsig,输出层神经元的传递函数选则purelin,性能目标采用mSe,设为0.01,训练步数设为500,学习速率设为0.1,经过多次迭代运算后达到收敛目标,这时候结束训练过程,保存该训练好的网络。然后将25组测试数据代入网络进行网络状态评估。

3结论

神经网络反向传播原理篇2

【关键词】图像识别技术神经网络识别

模式识别研究的目的是用机器来模拟人的各种识别能力―比如说模拟人的视觉与听觉能力,因此图像识别的目的是对文字、图像、图片、景物等模式信息加以处理和识别,以解决计算机与外部环境直接通信这一问题。可以说,图像识别的研究目标是为机器配置视觉“器官”,让机器具有视觉能力,以便直接接受外界的各种视觉信息。

一、图像识别系统

一个图像识别系统可分为四个主要部分:被识图像、图像信息获取、图像预处理、图像特征提取、分类判决。

二、图像识别方法

图像识别的方法很多,可概括为统计(或决策理论)模式识别方法、句法(或结构)模式识别方法、模糊模式识别方法以及神经网络识别方法。重点介绍神经网络识别方法。

2.1神经网络识别方法

2.1.1人工神经网络的组成

人工神经网络(简称ann)是由大量处理单元经广泛互连而组成的人工网络,用来模拟脑神经系统的结构和功能。而这些处理单元我们把它称作人工神经元。

2.1.2人工神经网络的输出

2.1.3人工神经网络的结构

人工神经网络中,各神经元的不同连接方式就构成了网络的不同连接模型。常见的连接模型有:前向网络、从输入层到输出层有反馈的网络、层内有互联的网络及互联网络。

2.1.4学习算法

1)感知器模型及其算法

算法思想:首先把连接权和阈值初始化为较小的非零随机数,然后把有n个连接权值的输入送入网络中,经加权运算处理后,得到一个输出,如果输出与所期望的有较大的差别,就对连接权值参数按照某种算法进行自动调整,经过多次反复,直到所得到的输出与所期望的输出间的差别满足要求为止。

2)反向传播模型及其算法

反向传播模型也称B-p模型,是一种用于前向多层的反向传播学习算法。

算法思想是:B-p算法的学习目的是对网络的连接权值进行调整,使得调整后的网络对任一输入都能得到所期望的输出。学习过程包括正向传播和反向传播。正向传播用于对前向网络进行计算,即对某一输入信息,经过网络计算后求出它的输出结果;反向传播用于逐层传递误差,修改神经元之间的连接权值,使网络最终得到的输出能够达到期望的误差要求。

B-p算法的学习过程如下:

第一步:选择一组训练样例,每一个样例由输入信息和期望的输出结果两部分组成;第二步:从训练样例集中取出一样例,把输入信息输入到网络中;第三步:分别计算经神经元处理后的各层节点的输出;第四步:计算网络的实际输出和期望输出的误差;第五步:从输出层反向计算到第一个隐层,并按照某种原则(能使误差向减小方向发展),调整网络中各神经元的权值;第六步:对训练样例集中的每一个样例重复一到五的步骤,直到误差达到要求时为止。

3)Hopfield模型及其学习算法

它是一种反馈型的神经网络,在反馈网络中,网络的输出要反复地作为输入再送入网络中,使得网络具有了动态性,因此网络的状态在不断的改变之中。

算法思想是:

(a)设置互连权值

其中xis是s类样例的第i个分量,它可以为1或0,样例类别数为m,节点数为n。

(b)未知类别样本初始化。Yi(0)=Xi0≤i≤n-1

其中Yi(t)为节点i在t时刻的输出,当t=0时,Yi(0)就是节点i的初始值,Xi为输入样本的第i个分量。

(c)迭代直到收敛

神经网络反向传播原理篇3

【关键词】灰色新陈代谢;Bp神经网络;组合预测

引言

在预测时间中,对于同一问题,可以采用不同的预测方法。不同的预测方法,往往各有其优劣点,仅仅是单个的预测方法,存在不足之处。所以,我们希望能够将各种方法有效地组合起来,取长补短,尽可能提高预测精度。组合预测就是综合利用各种预测方法提供的信息,以最优准则得到综合模型。

组合预测通常包括线性组合预测和非线性组合预测。线性组合预测模型是各预测模型的凸组合,由于可能出现具有争议的负权重问题,而使得组合预测的方法受到一定限制。非线性组合预测可以解决这种局限性,但是构造合适的,特别是通用性的非线性组合函数,目前为止,任然比较困难。由于Bp神经网络的学习过程也是对神经元的阈值和神经元之间的连接权重不断修改的过程。如果把Bp神经网络看成是一个从输入到输出的映射,则这个映射是一个高度非线性映射。基于此文献提出了基于人工神经网络的非线性预测方法,在上述研究成果的基础上,本文采用基于Bp神经网络的非线性组合预测模型来进行预测。

1、主要目的和研究方法

本文从建模机制方面考虑,首先采用灰色新陈代谢模型,新初值模型,改进离散灰色模型,对我国人口进行建模,结果表明,这三个模型都能提高模型的预测精度。最后,针对单一模型的预测方法都会存在某些不足,本文从数据挖掘角度出发,引入Bp神经网络,对上面Gm(1,1)的改进模型,进行组合预测,并用实例证明了这一模型的可行性。

2、Bp神经网络

误差反向传播网络简称(errorBackproragation,Bp)Bp网络。其中包括有三层的神经元,包括输入层的、隐层的和输出层的。隐层的神经元函数通常是用单极性或双极性的Sigmoid函数。Bp算法的学习过程是由正方向传播和反方向构成的,正向传播指的是输入信息从输入层到隐层最后到输出层的,而反向传播指的是从期望输出和网络的实际输出差从输出层经隐层向输入层传播来进行连接矩阵的修改的,通过这正向传播和反向传播的互相交替执行,直到期望输出与实际输出的误差小于某个给定的值,或者达到其他终止条件为止。

Bp算法的学习过程主要包括4个部分:

(1)输入模式,通过正向传播计算网络的实际输出。

(2)输出误差逆向传递,把输出误差反向传播来输入层来进行权值与阈值的调整。

(3)循环训练,就是输入模式与输出误差逆向传播不断交替的执行。

(4)学习结果的判别,即误差是否已经接近极小值。

3、计算过程和结果分析

下面以1990年-2008年我国人口总数作为原始数据,2009年、2010年、2011年留作拟合精度比较。并以此建立的模型,来预测未来15年的人口总数。

以灰色新陈代谢Gm(1,1)模型预测预测值,改进的离散灰色预测模型的预测值,函数变换模型的预测值作,新初值模型的预测值,作为组合预测的输入,即为Bp神经网络模型的四个输入神经元,实际的人口数量Y作为输出神经元,而网络输出为通过Bp神经网络组合预测的计算结果。对于隐含层的神经元个数,一直没有统一的方法。下面按照文献[3]提出的方法,按照规则5提出的方法,将隐含层的神经元个数确定为5,根据这个思路,可以构建基于Bp神经网络的组合预测模型。

网络训练过程中,学习速率取为0.8,动量因子α取为0,将训练样本输入网络训练30000次后,网络全局误差为0.11,新初值Gm(1,1)模型平均相对误差为0.3056%,改进离散灰色Gm(1,1)平均相对误差为0.3436%,基于Bp神经网络的平均年人口增长率0.2469%。由于神经网络良好的曲线拟合性,从以上误差比较可以看出,基于神经网络的分线性组合预测模型,确实可以改善各单项预测结果,提高预测精度和稳健性。

4、结束语

各种预测模型各有其不同的特点,以及不同的使用范围,都只能从某一个侧面去探寻事物之间的规律,因此单一模型预测往往不能全面利用各种有效的信息,所得到的预测精度也有限。若整合各个单一模型的预测结果,则得到的信息就比较全面。本章中利用Bp神经网络的非线性组合预测模型,对几种单一的预测模型进行组合,以此来提高预测精度。

参考文献

[1]parkDC.electricloadforecastingusinganartificialneuralnetwork[J].ieeetransonpwRS,1991,6(2):442-449.

[2]焦李成.神经网络系统理论[m].西安:西安电子科技大学出版社,1999.

神经网络反向传播原理篇4

关键词:神经网络技术,annBp网络算法

 

1、人工神经网络概述

人工神经网络是模拟生物神经信息处理方法的新型计算机系统,它可以模拟人脑的一些基本特征,(如自适应性,自组织性和容错性),是一个并行、分布处理结构,它由处理单元及其称为联接的无向信号通道互连而成。

人工神经网络力图模仿生物神经系统,通过接受外部输入的刺激,不断获得并积累知识,进而具有一定的判断预测能力。尽管神经网络模型的种类很多,但基本模式都是由大量简单的计算单元(又称为节点或神经元)广泛相互连接而构成的一种并行分布处理网络。。基于神经信息传输的原理,各个节点通过可变的权值彼此相连接,每个节点对n个加权的输入求和,当求和值超过某个阈值时,节点呈“兴奋”状态,有信号输出。节点的特征由其阈值、非线性函数的类型所决定,而整个神经网络则由网络拓扑、节点特征以及对其进行训练所使用的规则所决定。

2、多层前向网络

神经网络按拓扑结构分为前馈型网络和反馈型网络。前馈型网络在结构上采用的是其信息只能从前一层到它下面一层的单元,在网络运算过程中不存在任何反馈。从学习观点看,前馈网络是一种强有力的学习系统,其结构简单,易于编程;从系统观点看,前馈网络是非线性映射,通过简单非线性处理单元的复合映射可获得复杂的非线性处理能力,因此具有较强的分类能力和模式识别能力。

反向传播(Bp)网络是典型的前馈型网络,结构上它属于多层前向网络,它的结构如图1所示。它分为输入层、隐含层和输出层,层与层之间多采用全互连方式,同一层之间不存在相互连接。网络中每一层权值都可通过学习来调节,且网络的基本处理单元(输入单元除外)为非线性输入、输出关系,处理单元的输入、输出值可连续变化。由于Bp网络可在多个连续的输入和一个或多个连续的输出之间建立非线性映射这一特性,它常被用于智能预测。

多层前向网络是使用最广泛的一种网络结构,它可很好的解决XoR等经典的非线性问题,比起单层的感知器有很大的优越性,尤其80年代中期,Rumelhart和mcclelland最先提出了多层前馈网络的反向传播学习算法,简称Bp算法,它的效率很高,是目前应用最为普遍的训练算法,这使得多层前馈网络应用更加广泛。应该指出,我们常说的Bp网络,严格说是基于Bp算法的多层前向网络。

图1Bp网络结构图

4、Bp网络算法

Bp网络算法的思想是把一组样本的i/o问题变为一个非线性优化问题,使用了优化中最普通的梯度下降法,用迭代运算求解权对应于学习记忆问题,加入隐含层节点使优化问题的可调参数增加,从而可得到更精确的解。Bp网络模型设计的最大特点是网络权值是通过使用网络模型输出值与已知的样本值之间的误差平方和达到期望值而不断调整出来的,并且确定Bp神经网络评价模型时涉及隐含层节点数、转移函数、学习参数和网络模型的最后选定等问题。下面简单介绍一下基本Bp算法相关数学描述:

(1)梯度下降算法

(2)S(Sigmoid)型函数

Bp网络的激活函数经常使用的是Sigmoid对数或正切激活函数和线性函数。对数S型函数f(x)=1/(1+exp(-x)),Sigmoid函数具有非线性放大功能,它可以把输入从负无穷大到正无穷大的信号,变换成-1到1之间的输出,对较大的输入信号,放大系数较小,而较小的输入,放大系数较大,所以采用S型激活函数可以去逼近非线性的输入/输出关系。

(3)Bp算法

Bp网络学习是典型的有导师学习,其学习算法是对简单的学习规则的推广和发展。Bp网络实现了多层网络学习的设想,其学习过程包括正向传播和反向传播两部分。。

在正向传播过程中,给定网络的一个输入模式时,输入信息从输入层经过隐含层逐层处理,并传向输出层,每一层神经元的状态只影响下一层神经元的状态,由输出层单元产生一个输出模式,这是一个逐层状态更新过程,称为前向传播。。如果输出响应与期望输出的模式误差值不满足要求,那么就转入误差反向传播,将误差值沿连接通路逐层传送并修正各层连接权值。对于给定的一组样本,不断用一个个训练模式进行学习,重复前向传播和误差反向传播过程,当各个训练模式都满足要求时,Bp网络训练完毕。

其中的激发函数我们采用S型函数,即f(x)=1/(1+exp(-x))。Bp算法描述如下:

(2)提供训练样本:输入矢量Xk,k=1,2,..n和期望输出tk,k=1,2,…,m;对每个输入样本进行(3)到(5)的迭代。

(3)计算网络的实际输出okj。

(4)分别计算输出层和隐含层的训练误差

其中(4-2)为输出层的误差值,(4-3)为隐含层的误差值。

(5)修正权值和阈值

(6)判断实际误差指标是否满足规定误差的要求,满足则到(7)。

(7)结束。

Bp算法是人工神经网络中最为重要的网络之一,也是迄今为止应用最为广泛的网络算法,实践证明这种基于误差反传递算法可以解决许多实际问题,但其算法自身也存在着局部极小点、算法的收敛速度慢等缺陷,需要我们在今后的研究中不断完善改进。

神经网络反向传播原理篇5

大学生网络传播的特点

前卫性――后喻社会的求知挑战。在工业化时代以及以前,社会的物质生产方式构成了所有文化生产的基础,是文化进化的直接动力,并且框制了文化生产的速率和方向。受土地、自然力量等因素的制约,人类转而将约束力视为崇拜的图腾,以求得希望的寄托以及心灵的慰藉。这些时代里,技艺和经验在生产过程中是稀缺资源,这些资源可以直接参与创造使用价值。附着于人身并与从事某项事业的时间在某种程度上呈正比例相关,因此年长者成为知识的控制者并与年轻人形成优劣互补。

后工业化时代,科技的爆炸式发展汇聚成为信息社会的洪流。时间的层级梯度以及空间的横断跨度被电子信息电光火石的信息存储、计算、传输所击穿。传统基于时间积累的自上而下的知识传递模式被打破,基于时间传统和地域垄断的传统权威被消解,因而后喻文化现象产生了。作为后喻文化的思想背景,后现代思潮主张社会发展的开放性、差异性、非连续性。在后喻社会,信息工业为后喻社会提供了强大的技术支持,知识的生产不再依据长年累月的积累,而可以依据信息的共享以及群体智力拼图而协作完成,知识不再遵循进化论,而以类似原子爆炸的方式自我聚合裂变。知识传播方式的发展水平直接影响知识的传播方向并决定了权威的海拔层级顺序。后工业化时代之前,印刷媒体承担了知识传播的媒介,由于印刷媒介的非互通性,知识积累只能依据少数个体通过年龄的台阶累积生长,时空的断层形成了阶层,社会的阶层性形成了行业以及圈子,加剧了知识传播能力差别并导致了话语权的形成。因此长辈、教师成为知识权威的化身,扮演了知识单向传播的绝对主导者。

后喻社会里,传统传播方式的权威被消解了。首先,其知识权威被消解,传统传播方式下知识信息被垄断,信息以广播式发散的方式被辐射,而今网络已经将知识的阶层平面化,并以其生动、新奇的魅力与传统传播模式抢夺注意力资源。其次,传统主流媒体的道德权威被消解。传统主流媒体的道德权威是被社会阶层机制所强制加冕的,成为理所当然的道德代言人。主流媒体具有天然的道德海拔优势,可以居高临下地对受众进行理所当然的道德指使与呵斥。网络的当下“上帝已死”,韦伯所指的“众神时代”已经降临,每一个人都是自己的主宰,都是一定场域下的“神”。传统主流媒体的神性已被质疑,既往的灌输式传播已被网络传播冲击得千疮百孔。传统语境里,由于话语霸权的天然赋予,主流媒体具有“一言堂”式的家长地位,信息的流动是单向的。即使有的受众胆敢发出“不同的声音”,其内心亦是忐忑不安的。进入web2.0时代后,每一个人都成为传播的主体,在地位平等的虚拟世界里,每一个网络主体都可以发出平等的声音。

“后喻”社会,网络已经内化为80后、90后基本的生存能力,与前辈们对新生信息工具的不适应乃至自卫式的抗拒相比较,他们具有了获得信息的非对称性优势。以往教师作为知识的垄断者对学生的单向灌输已经难以形成知识落差并由学生心灵所吸收。80后、90后大学生在海量的网络知识空间里,利用网络工具、网络交际形成了属于自己的话语空间,孵育出与主流文化相区别的青少年亚文化。这种亚文化自我指向并声称欲与传统主流文化划清界限。他们的价值取向多元,在价值目标缺失的同时缺乏坚定的信念和神圣的信仰。而传统的舆论说教仍被束缚于机械的填鸭以及单一价值的生硬植入,与这种亚文化难以兼容,因而难以取得被教育者的共鸣以及良好的传播效果。

逆反性――反中心主义下的逆反心理。网络社会与现实社会相区别,现实社会呈金字塔结构,表现为权力自下而上的逐渐聚拢,同时权力机构逐渐减少。网络社会由于网络技术对时空的压缩、击穿乃至超越,颠覆了现实的金字塔结构而呈现去中心化的扁平网络结构。这种结构具有去中心化、离散化、开放化、无组织化等特点。②网络的去中心化特质解构了现实世界中的“一中心”,这种解构并非代表着互联网完全消解了中心,而是以“多中心”代替了“一中心”,每台主机、每个网民、每个“我”便是中心。互联网没有中心,而事实上每一个节点都可以成为中心,互联网消解了权威,而以无数个体的权威加以替代。这似乎就是麦克卢汉所预言的“处处皆中心,无处是边缘。”

“去中心化”理论始于20世纪中期的后结构主义者雅克・德里达。后现代主义者利奥塔和福柯则成为其代表人物。福柯认为“人类已经死亡”,否定了人类的中心地位,认为因为主体和中心的缺失,人类再也不清楚何为正确,主体已经零散化。而利奥塔反对宏大叙事,主张关注边缘而不是关注中心,提倡小型叙事。区别于后现代的多元论,传统哲学是一种一元决定论学说,其被“中心”所决定。一元决定论维护的是一种“中心主义”的文化理念。传统的思想道德教育亦然,维护的是一种主流的价值文化观念。这种主流价值文化观念无疑是先进的,但是其传播方式必须俯下身来,适应后现代的传播规律,否则将因难以兼容而被受众所拒绝。

从网络受众的角度分析,80后、90后大学生由于年龄阶段特征以及技术上的优势,网络受众视野开阔、思维独立,较传统媒体的受众具有更强的分析能力和自我意识,因此具有更为强烈的批判意识和能力。对权威的怀疑乃至否定、或者将自己与一切区别开来的标新立异可以获得一种自我肯定的。传统媒介受众更倾向于顺从,而网络却是标新立异和逆反的舞台。80后、90后的网络化生存已经内化为其思想行为的一部分,思想的印记折射到思想教育领域便使传统的灌输式教育显得苍白无力。在彰显自我个性的80后、90后面前,传统的主流思想往往成为一个权威的靶子。当下的大学生往往习惯于网络上“语不惊人死不休”,故意或不自觉采取一种与主流观点相对立的观点以彰显其思想的独特。其如此行为的主要动机是为了博取他人的关注以赢取“点击率”,并博取较大份额的话语市场。

群体性――从众心理驱使的群体认同。按照弗洛伊德的理论,人具有三个层面――“本我、自我、超我”。在网络中人们躲在“匿名”的墙角阴影之下,在自认为没有社会约束力的心理暗示下,更容易卸下伪装以及责任的负担而宣泄本能的冲动。在网络化生存中,“交流暗示缺失”的现象随处蔓延,因为非语言暗示的缺位,人们倾向于对于网上发现的与自己观点类似的言语获得一种基于想象的群体认同,出现“虚假一致”的“镜式知觉”。这种情绪的蔓延加速了非理性化情绪的聚合式传染,而且越带有情绪化色彩的极端化言论越容易获得众人的关注而具有更为广泛的话语市场。因此,粗俗、偏激、情绪化的非理性言论更为容易获得群体煽情的爆炸式效果。由于获得了众多情绪化的低频共振,这种非理性的话语便在一定时空场域获得了话语制高点。与这种话语相比较,传统主流传播模式的内容理性有余而略显呆板,形式单一而曲高和寡。在网络的自由观点市场上与众多猎奇的、新特的、粗暴的观点肉搏,显得心有余而力不足。

此外,受众还存在着“沉默的螺旋”效应。根据诺埃尔的这个假设,人们在表达自己的想法和观点时,如果遇到自己赞同的观点且其受到广泛的欢迎,就会积极参与进来,就会越发大胆地发表和传播;如果发觉某一观点很少有人理会甚至被众人围攻,即使自己赞同,亦会保持沉默。意见的一方的沉默造成了另一方的增势,如此反复循环,便形成了一方的声音越来越大,而另一方越来越沉默的螺旋式发展过程。③

我国当下的80后、90后大学生基本住校,本身就与其他离群索居的网民相比具有更明显的群居性。他们一方面习惯于将自己置于群体的包裹之中,以求得安全感;另一方面,大学生个体的内心世界观仍趋稚嫩,多动而易变;大学生群体充满青春活力,富有朝气但是情绪传导性强,易受外界影响。80后、90后个体处于如此具有情绪传染性的群体之中,从众现象更加显著。这种现象投射至网络虚拟世界中,与网络群体效应叠加便具有了共振效应,有时放大了与群体类同的观点,取得群体的优越感而更加坚定地支持原有的观点;有时候却是抑制了与群体相左的观点,选择的是消极沉默或者被动改写。

大学生网络传播引导策略

笔者一向反对网络传播的“管理”,而倾向于“引导”。科学管理之父泰勒认为:管理就是“确切知道要别人去干什么,并使他们用最好最经济的方法去干”④。网络传播具匿名性、即时性、去中心性,呈现一种后现代的散落态势,这种动态下对网络管理客体的认知缺失决定了管理的前提落空。《科学管理原理》作者泰勒认为,管理就是实行计划、组织、指挥、协调和控制⑤。这种工业化时代的组织理念决然难以掌控网络的千变万化。而“引导”本身克服了管理的僵化以及生硬,以温和的姿态劝导,以深邃的洞见引领,避免了管理所导致的反抗与抵制,对于动态瞬变的网络传播具有更强的兼容性。当下80后、90后大学生网络传播呈现前卫性、逆反性、群体性的特征,可以有针对性的采取相应的引导策略。

传播后喻性的引导策略――传播互动与群体自治。当下的80后、90后大学生成长于改革的大潮中,现实的社会环境是逐渐开放的,社会条件是跨越式繁荣的,伴随着经济的全球化带来的是文化的多元化与价值观的多元化。这样一个盛世的时代已经将“自由”“民主”“个性”的印记深深地烙在80后、90后大学生身上。他们更加注重对物质生活的追求,更加注重精神世界的独立,更加反感他者观点的蛮横强加。由此他们更加敢于质疑与挑战权威,对传统传播方式以及他们承载的思想滋生了一种排斥、抵制乃至攻击的倾向。传统的传播模式采取的是简单、单向、生硬的“信息灌注”,已经对当下的80后、90后大学生难以兼容。对80后、90后大学生的传播与引导又是我们不可放弃的话语阵地,因此,必须转变引导的姿态,必须与引导的受众进行互动,在互动的基础上让大学生群体自治,从而实现自我引导。

1.传播互动。首先,改变管理的姿态,转变为平等的引导。后喻时代的传播应该转变颐指气使的凌人气势,俯下身去,与受众平等的交流,争取做指导者、引领人,而不是传统意义上的控制者、管理者。首先,必须改变自己一成不变的传播风格,根据其信息消费者的实际需求,主动开辟全媒体的传播方式,充分利用新媒介的融合,采取受众所喜闻乐见的“悦读”方式,实施“反迁移”的受众战略。其次,在此基础上,扩大信息生产的参与面。传统的传播方式都是一方生产、一方接受,后喻时代的web2.0传播方式应该让传统的信息受众都介入信息的生产过程中,将二元对立的传播方式转化为信息生产、传播的一体格局。这种信息生产者与信息消费者融为一体的格局既将受众的智慧内化为信息自身的能力,又避免了二元之间的对立与排斥。对于大学生群体而言,他们正是青春富有朝气具有话语冲动的群体,将这个群体的话语能量有目的地引导并加以释放,具有一举多得的功效。

2.群体自治。后喻时代,新的文化传导路线已经取代了传统的文化传承路径。在前喻社会里,年长的教诲年少的,社会的信息传递是一个按照年龄逐渐演变的缓慢生长过程。在后喻社会里,随着社会的急剧变化,原处于被动的年轻人反客为主成为教化者,这就是文化反哺现象。这种现象在网络传播中更为显著,网络信息的生产者以及消费者以青年群体为主体,他们成为网络发展的推动力,塑造了网络的脾性以及性格。对于80后、90后大学生网络传播的引导,不能以胡子长管胡子短的固有思维推进,而必须尊重网络信息生产的现状,以网民中坚的大学生进行自我教育、自我管理方可以取得事半功倍的效果。

传播逆反性的引导策略――议程设置。80后、90后的逆反心理,是由于传统传播方式的僵化与生硬造成的。传统的传播方式,试图将精英们主观臆造的体制化思维、宏观性叙事注入微观个体的思维里,将传播主体硬生生地区分为传播主体与传播客体的二元对立,这种二元对立源自于传播主体对传播信息的过度自信与强调。

其实对于传播效果而言,告诉别人怎么想往往并没有告诉别人想什么来得有效。议程设置理论是研究传播效果的理论,这一理论关注媒介议程与受众议程的关系。1968年和1972年,科姆・麦肯姆斯和唐纳德・肖以两次美国大选为背景进行了二者之间关系的研究,揭示了二者之间的相关性,其结论为:媒介不能让受众如何想(态度和行为),但在让受众想什么上很有效果。⑥

议程设置理论是基于传统媒介的研究结论,对于网络媒介依然适用。80后、90后大学生不乏“愤青”,逆反性强而且具有强烈的批判精神,往往其传播行为故意与主流媒介划清界限以彰显其个性。但是他们的世界观尚未完全固化,具有较强的可塑性。根据他们的个性特征进行因势利导,可以对他们的传播过程进行议程上的设定。

首先,传统媒体与网络媒体之间的互动,网络传播的优势在于松散性的包容性与及时的反馈性,传统媒介的优势在于日积月累经验与品牌价值,他们二者的受众各有侧重,覆盖面有所区别。所以,对于事件的舆论传播引导,可以利用传统媒介与网络媒介同时介入、或者交叉介入形成一定的时间差,二者互相协同。当网络传播的方向有所偏差的时候,传统媒介可以介入对其进行校正;当网络传播的观点热闹但是嘈杂难以形成较为规整的意见时,传统媒介可以有选择地对意见群中的正确声音进行有选择性的宣扬以放大其效果。这样两种媒体的步调频率相协调可以取得和谐的共鸣。

其次,必须主动利用社会热点进行议题互动,掌握议题设置的主导权。80后、90后大学生内心其实亦渴望受到主流社会的接纳,其逆反性表现在某种程度上是尚不能融入主流的一种青年亚文化表现,其实他们希望主流的关注甚至“收编”。因此,网络传播的引导必须重视他们的诉求,对社会以及网络热点进行及时、正面的应对,掌握传播的制高点,主动信息透明化以澄清真相、设置议程的推进以引导传播的方向,真正做到与受众进行互动,以求得良好的引导效果。

传播群体性的引导策略――意见领袖与意见平衡。互联网的出现,公共领域面向任何领域敞开。网民的群体具有极强的流动性,网络群体犹如潮汐,随着网络事件发展的涨落而聚散。同时,网络的匿名性又导致传播的行为超脱了肉身的束缚,网络匿名的影子可以突破地理的限制呼啸来去,较难形成较为稳固的群体,理性且持久的对话难以形成,在这样的临时性群体中,意见领袖的作用便显得尤为重要;如果形成了较为稳固的网络社区,在意见的交锋中容易导致群体极化现象,形成“党同异伐”的圈子。为了避免意见极化的现象,应该对各种意见采取意见平衡的策略。

1.意见领袖。意见领袖的概念源自美国哥伦比亚大学在研究“大众传播媒介如何影响”选民投票的时候发现的。大众传播媒介首先是通过影响“意见领袖”,然后尤其影响其他人的,这就是一种“两级传播”的假设。这种假设对于网络传播亦同样适用。对于80后、90后大学生,他们一方面逐渐寻求脱离父母的阴影而独立,另一方面由于处于“心理断乳期”而情绪容易波动,急于寻求一种能代替父母依赖的“替代品”。这种现象体现在网络传播中就是他们对意见领袖较之一般网民的倍加顶礼膜拜。因此,对于80后、90后大学生群体网络传播的引导,必须重视网络意见领袖的作用并有意识地加以培育。中国网络世界中的意见领袖除了现实世界中的名人群体外,大部分是草根网民,他们的特点是重情绪、有主张、喜联想、少证据。许多情形下他们不是敌人,而是盟友。因此,一方面可以与已有的意见领袖沟通协商,争取他们的理解和支持,将意见领袖的负面对抗转化为正面的建构力量。另一方面,可以培育自己的意见领袖,或者发动名人群体、80后、90后突出人物上线以壮大引导的声势,或者在草根网民中主动鼓励甚至培训与主流观点一致的意见领袖。

2.平衡观点。稳定的网络社区经过讨论,意见交锋的结果容易造成意见极化现象。人肉搜索以及网络暴力的形成是由于网络社区的极化现象形成的,这种极化现象会导致信息的过度过滤,使具有相同思想的人容易走到一起,而导致意见的分裂形成断层。这种分裂带不利于信息与经验的共享,容易导致群体的想象狂欢而形成难以自我节制的网络暴力,从而导致人肉搜索的负面效应。为了避免这种情况,我们需要为网络社会搭建一个避免社区文化过分极化的架构,将不同意见、议题和观点都在同一个平台上“亮相”,形成一个意见表达的民主竞技场。因此,我们可以设计这样一个网络传播架构,在每一个议题的设定中将这些议题中的可能观点都分类放在同一个页面(平台)上。这种架构可以通过共同协议的自律形式,保证在接触一种观点的同时可以同时通过超级链接接触到异质的观点,使每一个断线的虚拟灵魂可以保持一种镜像的警醒,使每一种观点都可以互相牵制与约束。这其实就是一种网络上的公共论坛原则,保证了虚拟空间的公共社区领域都确保开放给所有的观点“演讲者”平等使用而不被意见的某一极端“洪流”淹没。通过这种虚拟的信息民主,不同的观念之间可以形成一种互相制约的均衡状态。[本文为国家社会科学基金课题《80后、90后:网络一代的传播方式研究》(批准号:09BXw026)及其子课题广东省高等学校思想政治教育课题《校园网络舆情监测与引导机制研究》(批准号:2010CY005)的阶段性研究成果。]

注释:

①百度百科:baike.省略/view/4689.htm?fr=ala0_1_1

②杨帆:《论网络传播中的群体心理》,2007年四川大学硕士学位论文。

③⑤杨筱柏:《高校网络舆论在思想政治工作中的效能研究》,河北师范大学2007年硕士学位论文。

④百度百科:baike.省略/view/18841.htm#4

⑥陈立思、陈辉:《西方网络议程设置理论与网络思想政治教育》,2010(1)。

参考资料:

1.宋爱芬、史学武:《后喻文化时代的社会条件与社会影响》,《新疆职业大学学报》,2008(12)。

2.李俊:《后现代主义与当代高校德育改革》,南京师范大学2008年硕士论文。

3.曾小明:《网络舆论及其导向管理》,国防科学技术大学研究生院2008年硕士论文。

4.宋石男:《互联网与公共领域构建――以web2.0时代的网络意见领袖为例》,《四川大学学报(哲学社会科学版)》,2010(3)。

神经网络反向传播原理篇6

【关键词】神经网络;matlab;图像压缩

1引言

Bp神经网络归类于前馈型神经网络,原始信息由输入单元输入,经输入单元分配到隐含层的各神经元,除输入层以外,每个神经元的信息是由上一层神经元状态与相对应的连接权值决定的,输出层可以认为是最后一层隐含层。除输出层外,每一个神经元都与下一层的各神经元相连,而同一层的神经元之间没有连接。

Bp神经网络主要应用于非线性函数的逼近、数据压缩、模式识别、分类等领域。

在Bp神经网络中选择合适的网络层数、各层神经元个数及训练函数就可以实现从输入到输出的非线性映射。其学习过程可分为工作信号的正向传播和误差的反向传播两个过程,传播过程如图1所示。

(1)工作信号的正向传播

信号由输入经过隐含层到输出层,在信号向前传播的过程中,网络的各层权值是固定不变的,每一层神经元的信息只影响下一层的神经元而不会影响同层或者上一层神经元。如果输出层的输出结果与期望值不同就转入误差的反向传播。

(2)误差的反向传播

网络的输出与期望值之间的差值就是误差信号。误差信号由输出层开始逐层向前传播,并且将误差分摊给各层的所有神经元,再由此获得各个层的误差信号,通过修正各神经元之间的连接权值,使误差减小。这个通过信号的正向传播和误差的反向传播来不断修正各神经元之间的连接权值的过程是不断进行的,一直运行到预先设定的训练步数或者达到设定的误差就停止。

2Bp神经网络的应用

2.1基于Bp神经网络函数逼近的实现

2.1.1Bp神经网络的函数逼近能力

Bp神经网络是一个输入到输出的高度非线性映射,即F:RnRm,f(x)=Y。对于样本集合:输入xi和yi输出都可认为存在某一映射g使得g(xi)=yi(i=1,2,3...)成立。求出一个映射f,使得在某种意义下,f是g的最佳逼近。

2.1.2基于Bp神经网络函数逼近的matlab实现

设要逼近的非线性函数是:y=5+2e(1-x)cos(2πx),-0.4?x?3.6。建立一个三层网络,设置隐含层神经元个数为20,最小误差为0.01最大训练步数为50。编写matlab程序,得到误差曲线如图2所示。

由仿真结果图可以得出,经过训练后的曲线和原函数曲线非常接近,由此说明,训练后的神经网络函数逼近效果很好。

2.2Bp神经网络在图像压缩中的应用

图像是最重要的一种信息传递方式,然而,图像数据量大给信息传递带来了困难,当前的硬件技术所能提供的存储资源和网络宽带远不能满足日益增长的图像传递要求。图像作为一种重要的资源,对它进行压缩处理在一定程度上能够减缓它对硬件的要求。

2.2.1图像冗余

图像数据压缩的根本方法是减小图像冗余,数据图像的冗余主要表现在以下几种形式:空间冗余、时间冗余、结构冗余、视觉冗余、知识冗余等,有了图像的这些冗余信息,就找到了图像压缩的根据。此外,根据大面积着色原理,图像必须在一定面积内存在相同或相近的颜色,图像中相邻像素间存在的相似性产生了图像预测编码。

2.2.2图像压缩的分类及图像性能指标

图像压缩的实质就是去除多余数据,依据在压缩过程中是否有信息损失,可以将图像压缩分为两种,有损压缩和无损压缩。无损压缩没有信息的损失,解压后可以完全恢复,例如一些文件的压缩都可以完全恢复。有损压缩则不能完全恢复,有一定的信息损失,但不会影响对信息的理解。

目前比较流行的压缩方式有JpeG压缩,基于小波变换的图像压缩算法,分型压缩,矢量量化压缩。依据Bp神经网络对非线性能够无限逼近的能力,可以保证在比较高的图像质量下尽可能实现较高的压缩比。

图像性能指标有图像的信噪比及峰值信噪比。

(1)图像的信噪比(SnR)是衡量图像质量高低的重要指标,见公式(5),其中m和n是图像长和宽上的像素点数,f(i,j)和g(i,j)分别是原始图像和重构图像在点(i,j)处的灰度值,信噪比越高说明图像质量越高。

SnR=10log

(1)

(2)峰值信噪比经常用作图像压缩等领域中信号重建质量的测量方法,见公式(6),其中m和n是图像长和宽上的像素点数,f(i,j)和g(i,j)分别是原始图像和重构图像在点(i,j)处的灰度值,其值越大,表示图像失真越小。

pSnR=10log

(2)

2.3Bp神经网络实现图像压缩

由上述可知,Bp神经网络可以逼近非线性函数,而图像的各像素点之间是非线性关系,故运用Bp神经网络,通过选取合适的网络层数和训练函数就可以实现图像压缩。

2.3.1网络层数的选择

神经网络设计中,隐含层层数的确定要根据实际应用的需要。虽然隐含层层数多可以降低误差,提高精确度,但是也增加了神经网络的训练时间,而误差完全可以通过改变隐含层神经元个数或者使用合适的训练函数来减小。本文选择三层神经网络,实践证明,三层神经网络可以达到很好的效果。

2.3.2训练函数的选取

针对不同的应用,Bp神经网络提供了多种训练方法。不同的训练函数对应结果如表1。

由此可见,traincgp(polak-Ribiere变换梯度法)有较快的收敛速度,本文选择此训练函数。

2.3.3基于Bp神经网络图像压缩原理及仿真结果

网络结构的确定包括输入层、隐含层和输出层,隐含层的节点数小于输入节点数,输入节点数和输出节点数相同[8]。网络在进行学习时,输入会将网络数据通过隐含层映射到输出作为导师信号,在这个学习的过程中,输入层到隐含层称为网络的编码过程,隐含层到输出层称之为网络的解码过程。

将训练用图像的所有像素点作为压缩网络的输入,为控制网络的规模,对图像进行划分。设训练用图像由n×n个像素点构成,将其划分为m个子图像块,每个子图像块分别由p×p的子像素块构成。为了加快收敛速度,保证性能的稳定性,对图像进行归一化处理。归一化可以使用mapminmax函数进行,但是考虑到图像数据的特殊性,像素点灰度值为整数,且处于0-255之间,因此归一化处理就可以统一将数据除以255。

用matlab创建一个三层网络,函数如下:

net=newff(minmax(p),[32,64],{'tansig','logsig'},'traindx','learngd','mse')。

其中,应用的激活函数为tansig和logsig,采用trainoss训练函数网络初始权值和阈值均取随机数,然后开始训练网络,最小误差设置为0.001,最大训练步数设为10000。运行结果如下,matlab程序流程图如图5所示,仿真结果如图7所示。

tRainoSS-srchbac,epoch16997/20000,mSe0.000998813/0.001,Gradient0.00206669/1e-006

tRainoSS,performancegoalmet.

pSnR=29.9979

SnR=22.8039

由运行结果可得,图像压缩后峰值信噪比是29.997,信噪比是22.8039,误差已经达到要求。

训练网络误差曲线如图3所示。

由误差曲线可得,在训练步数达到1000左右的时候,误差下降趋势趋于平缓,因此选择训练步数为1000,然后改变隐含层神经元个数,比较不同的压缩比情况下的误差、信噪比及峰值信噪比,不同压缩比下的结果如表2。

由表可得,随着压缩比的增大,信噪比和峰值信噪比减小,误差增大。

2.4Bp网络的局限性

在实际应用中,Bp神经网络存在的几个问题:(1)误差下降慢,训练次数多,影响收敛时间;(2)隐含层神经元个数是靠经验得来的,没有可靠的理论依据;(3)没有考虑到测试样本或者训练样本对算法的影响。

参考文献

[1]钟珞,饶文碧,邹承明.人工神经网络及其融合应用技术[m].北京:科学出版社,2007:23-27.

[2]高隽.人工神经网络原理及仿真实例[m].北京:机械工业出版社,2007:2-78.

[3]倪志伟,李锋刚,毛雪岷.智能管理技术与方法[m].北京:科学出版社,2007:12-33.

[4]andreaGoldsmith.wirelessCommunications[m].CambrigdeUniversitypress,2005:1-5.

[5]martint.Hagan,HowardB.Demuth,markH.Beale.神经网络设计[m].北京:机械工业出版社出版社,2002:3-17.

[6]张立明.人工神经网络的模型及其应用[m].上海:复旦大学出版社,1993:7-99.

[7]徐丽娜.神经网络控制[m].北京:电子工业出版社,2003:10-80.

[8]钱海军.基于Bp神经网络的图像压缩的matlab实现[J].电脑开发与应用,2011,24(12):77-79.

[9]刘春艳.基于遗传算法―Bp神经网络的主汽温控制系统的研究[D].太原:太原理工大学硕士研究生学位论文,2006.

基金项目:

山东省教育科学“十二五”规划课题,课题编号:2011GG256。

神经网络反向传播原理篇7

关键词:Bp神经网络;计算机实验室管理;评价指标分析

中图分类号:tp183文献标识码:a文章编号:1674-7712(2013)04-0088-01

一、Bp神经网络

从本质上讲,Bp神经网络算法是以网络误差平方和为目标函数,运用梯度法求目标函数达到最小值的算法。纠错原则是Bp算法最为基本的一个原理,将网络输出的误差进行反向传播,运用梯度下降法,对网络的连接权值进行调整和修改,使其误差最小。在学习过程中,Bp算法可以划分为两个阶段,一是前向计算,一是误差反向传播。在这里我们主要通过具体的来分析,假设一个两层的Bp神经网络,其输入为p,输入神经元有r个,隐含层内神经元有s1个,激活函数为F1,输出层内有神经元s2个,对应的激活函数为F2,输出为a,目标矢量为t,那么信息在进行正向传递时,具体的情况如下:

二、模型设计

其次是模型设计。Bp神经网络的建立,在确定了相关指标体系以后,就需要将确定相关的结点数,如输入结点数、隐含结点数、输出结点数、每一层的结点数等,在起初建立时,需要根据初始网络参数,适当地调整网络结构,通过网络训练,使得整个学习过程更加稳定,与此同时,对于指定的误差进行调整,并且规定最大值,并且利用相关的测试数据来进行Bp神经网络的优化处理,确定其达到设计的准确性与规范性,那么一个Bp神经网络模型就建立起来了。第三是模型确立。对于模型的确立主要体现在三个方面,这里作简单分析,一是输入输出神经元个数确立,通常情况下,实验室管理指标主要有13个二级指标和4个一级指标,其中,这13个指标就是输入神经元的个数,同时将输出的神经元作业评价的结果,由于评价的结果只有一个,那么输出神经元的个数也只有1个。二是隐含神经元个数确立。

三、仿真分析

根据以上分析我们知道,Bp神经网络算法是以网络误差平方和为目标函数,运用梯度法求目标函数达到最小值的算法。为此,对于仿真分析,需要根据纠错原则,确定网络输出的误差的反向传播,并且结合梯度下降法,优化网络的连接权值,调整和修改误差值,通过matlab软件编程,构造Bp神经网络,确定指标体系后,确定相关的结点数,设置权值,nntool中input的value设置,根据初始网络参数,调整网络结构,并指定的误差进行调整,利用相关的测试数据来进行Bp神经网络的优化处理,确定其达到设计的准确性与规范性。

四、总结

总而言之,Bp神经网络评价模型的建立,不仅可以促进实验室管理的规范化,而且有利于提高实验室日常管理水平,因此,要对其模型建立进行具体分析,优化其结构和和功能,最大限度发挥其价值和作用。

参考文献:

[1]李俊青,陈鹤年,严丽丽,季文天.基于Bp神经网络的计算机实验室管理评价指标[J].实验室研究与探索,2011(04):71-73.

神经网络反向传播原理篇8

内容摘要:本文首先选取若干科技园的投入产出统计指标,采用Dea进行分析,得到各自效率值,最后重新选取同样影响效率的其他相对指标作为输入,将已得效率值作为输出,由此作为学习样本,利用Bp神经网络进行学习,并在此基础上进行科技园效率预测,从而实现对科技园运营效率的控制。

关键词:DeaBp神经网络大学科技园效率评价

研究方法

(一)数据包络分析

数据包络分析(Dea)是用于评价系统相对效率的分参数化方法。他们的第一个模型被命名为CCR模型。从生产函数角度看,这一模型是用来研究具有多个输入、特别是具有多个输出的“生产部门”同时为“规模有效”与“技术有效”的十分理想且卓有成效的方法。利用数学规划模型,该方法可以解决具有多输入多输出特征的同行业企业生产效率评价问题。

在进行大学科技园运营效率评价时,将每一个科技园看做一个决策单元,假设有n个待评价的科技园,决策单元DmUj(1≤j≤n)的输入、输出指标向量分别为Xj=(X1,X2j,…,Xmj)t>0,Yj=(Y1,Y2j,…,Ysj)t>0,即有m个类型输入和s个类型产出,h0为DmUj0的效率指数。

设输入和输出指标的权向量为v=(v1,v2,…,vm)t>0,u=(u1,u2,…,us)t

建立C2R模型(分式规划):

令,ω=tv,μ=tu,进行C2变换,转换为模型:

为了直接判别DmU的Dea有效性,考虑模型的对偶问题为(模型):

X0,Y0分别表示决策单元DmU0的输入和输出,λj,θ0是决策变量。如果决策单元是有效的,则θ*0=1。

(二)Bp神经网络

Bp网络是一种单向传播的多层前向网络,解决了多层网络中隐含单元连接权的学习问题。输入信号从输入节点依次传过各隐含层,然后传到输出节点,每一层节点的输出只影响下一层节点的输出。为了加快网络训练的收敛速度,可对输入矢量作标准化处理,并对各连接权值赋予初值。Bp网络可看作是一个从输入到输出的高度非线性映射,神经网络通过对简单的非线性函数进行数次复合,可近似复杂的函数。基本的Bp神经网络拓扑结构如图1所示。

它的具体数学模型如下:

隐层节点的传递函数及网络输出函数f(x)均采用Logistic函数:。

误差计算模型:反映神经网络期望输出与计算输出之间误差大小的函数。

第j个单元节点的输出的误差为,总误差为,tjk是j节点的期望输出值,yjk是j节点的实际输出值。

中间层节点的数学模型如下:。o1jk表示中间层上,输入第k个样本时,第j个节点的输出。Xj为第j个节点输入。w1ij为输入层到中间层的权值。

输出节点的数学模型如下:。o2jk表示输出层上,输入第k个样本时,第j个节点的输出,w2ij为中间层的到输出层的权值。

修正权值:

Bp算法的实现为:Bp算法分两步进行,即正向传播和反向传播。正向传播时,输入的样本从输入层经过隐单元一层一层进行处理,通过所有的隐层之后,则传向输出层;在逐层处理的过程中,每一层神经元的状态只对下一层神经元的状态产生影响。在输出层把现行输出和期望输出进行比较,如果现行输出不等于期望输出,则进入反向传播过程。反向传播时,把误差信号按原来正向传播的通路反向传回,并对每个隐层的各个神经元的权系数进行修改,以望误差信号趋向最小。

实证研究

(一)指标与数据选择

本文选取北京大学国家大学科技园等37家有代表性的部级大学科技园2008年的数据进行研究,分析分为两个部分进行,各自的指标选择如下:

Dea分析阶段:取年末固定资产净值、科技园区人员数量、科技园区总面积、科技园孵化基金总额等四个指标作为投入变量,以在孵企业数、在孵企业工业总产值、在孵企业净利润、累计毕业企业数、累计毕业企业工业总产值等五个指标作为产出变量。

Bp神经网络学习阶段:考虑到从效率分析的角度说,投入低的地区不见得效率就低,因此在对科技园效率进行评价时必须采用相对指标。因此,选取在孵企业平均收入、在孵企业净利润与工业总产值的比值以及已毕业企业平均工业总产值作为投入变量,将效率分析值作为唯一产出变量,进一步采用Bp神经网络进行学习。

(二)效率分析结果

采用DeaSoLVeR3.0软件进行Dea分析,结果如表1所示。有15家大学科技园的运营效率达到Dea有效,有10家大学科技园的运营效率Dea值在0.5以下,这说明这些大学科技园的投入存在不合理的地方,导致产出不足。

(三)Bp神经网络预测

采用alyudaneurointelligenceV2.2软件进行Bp神经网络预测,结果如表2所示。由于科技园产出相对投入存在一定的滞后性,这里选择为2005年的数据。

Bp神经网络的输入节点有3个,输出节点只有1个即效率值。本文采用1层隐含层,即采用一个3层网络来建立科技系统与效率之间的非线性映射关系。在节点选择上,如果隐层节点数量太少,网络从样本中获取的信息能力就差,不足以概括和体现训练集中的样本规律;隐层节点数量过多,又可能把样本中非规律性的噪声等也学会记牢,从而出现所谓过度吻合问题,反而降低了泛化能力。根据经验公式,本文将隐层节点数定为6个。

在进行训练中,参数设为默认值,经过20000次循环趋于稳定。为了测试模型的预测精度,将输入数据作为模拟值,得出Bp神经网络预测的计算结果,只有3个大学科技园的效率误差在5%以上,最大误差为7.37%,取得了较高的预测精度。

根据人工神经网络模型,可以对大学科技园的运营效率进行中期或事前评价,一旦发现效率低下的迹象,可以分析其产生的原因,采取相应的措施进行控制。

本文评价方法选取既避免了人为计算权值的主观性和不确定性,同时Bp神经网络快速的学习能力,也保证评价结果更加客观准确。本文的创新之处在于将Dea和Bp神经网络结合起来,提出了对大学科技园进行评价的新的模型。今后从以下方面研究:提高指标选取的合理性,提出更加科学的指标体系;对评价方法进行改进,提出更加有效和科学的方法或模型。

参考文献:

1.徐小钦,陶星洁,王永宁.基于层次分析法和动态聚类法的大学科技园评价[J].重庆大学学报(自然科学版),2004

2.范德成,张巍.大学科技园评价指标体系研究[J].科学学与科学技术管理,2005

神经网络反向传播原理篇9

关键词:商业银行个人信用等级评估Bp人工神经网络模糊评判

个人信用等级评估指标体系

商业银行个人信用等级评估指标体系设立的目的简述为银行通过评估借款人的“3C”,即品德(Character)、能力(Capacity)以及抵押(Collateral),对借款人在债务期满时偿债能力(abilitytopay)和还款意愿(willingnesstopay)等进行预测。根据指标体系设立原则,参照国际标准、国内外银行经验和企业信用等级评估方法,综合考虑商业银行特点及所在地区情况,通过对以往借款人群的考察,以专家判断为基础,可选择4大类21个指标全面评价个人信用等级(如表1)。

人工神经网络的具体应用

人工神经网络(artificialneuralnetwork,简称ann)是20世纪80年代后期迅速发展的人工智能技术,由大量简单的基本元件――神经元相互联结,模拟人的大脑神经处理信息的方式,进行信息并行处理和非线形转换的复杂网络系统。标准的人工神经网络是由3个神经元层次组成的Bp(Backpropagation)网络模型,即反向传播神经网络。Bp人工神经网络处理信息是通过信息样本对神经网络的训练,使其具有记忆、辨识能力,完成各种信息处理功能。

可行性分析

我国个人信用等级评估起步较晚,相关信息残缺,而Bp人工神经网络具有强大并行处理机制,高度自学习、自适应能力,内部有大量可调参数,因而使系统灵活性更强。

进行个人信用等级评估与预测时,有些因素带有模糊性,而Bp人工神经网络的后天学习能力使之能够随环境的变化而不断学习,能够从未知模式的大量复杂数据中发现规律,与传统的评价方法相比,表现出更强的功能。

Bp人工神经网络方法克服了传统分析过程的复杂性及选择适当模型函数形式的困难,它是一种自然的非线性建模过程,无需分清存在何种非线性关系,给建模与分析带来极大的方便。

Bp人工神经网络可以再现专家的经验、知识和直觉思维,较好地保证了评估与预测结果的客观性。

模型建立

三层Bp人工神经网络模型的最下层称为输入层,中间层为隐含层,最上层为输出层。各层次间神经元相互联接,各层次内的神经元没有联接。Bp算法的学习过程由正向传播和反向传播两个过程组成。在正向传播过程中,信息从输入层经隐含层传向输出层。如果在输出层不能得到期望输出结果,则转入反向传播,将误差信号沿原来的联接通路返回。而其权值的调整采用反向传播的学习算法,神经元的变换函数是S(Sigmoid)型函数:

1

f(x)=――――;

(1+e-x)

学习集包括n个样本模式(xp,yp),对第p个学习样本(p=1,2,,3…,n),节点j的输入总和记为netpj,输出记为opj,则:netpj=∑wjiopj,opj=f(netpj)。

如果任意设置网络初始权值,那么对每个输入样本p网络输出与期望输出(dpj)的误差为:e=∑ep=∑[(dpj-opj)2]/2

Bp神经网络的权值修正公式为:wji=wij(n)+ηδpjopj,式中:η为学习速率,是为了加快网络的收敛速度。

个人信用等级评价指标网络结构如图1所示。

此神经网络的输入量xi∈(0,1)(i=1,2,…,21),这里xi为各个因素的效用值。网络的输出量为yi∈(0,1),y为评价的结果,用贴近度来表示。具体的算法步骤如下:按具体要求确定品评价素集;对评价因素的各指标集进行效用函数变换;构造三层前向神经网络,根据评价因素确定输入神经元个数,同时确定网络参数;确定学习样本集(X,Y)及误差量ε;对每一个样本求神经元的输入和输出;计算样本偏差e,若e<ε时,转至最后步骤;进行反向学习;对权值进行修正,转至第五步;存储学习好的网络;并将待评价的个人信用等级评价因素输入,得到评价结果。

实证分析

神经网络反向传播原理篇10

abstract:thesimulationnon-linearmodelshouldbeusedtocarryontheforecasttothenon-lineartendencyrealestatepriceindex.amodelwithimprovedalgorithmisdevelopedtopredictrealestatepriceindexbasedonBpartificialneuralnetwork.theresearchresultsshowthatthenetworkhasgoodabilitytoreflecttheintrinsicchangeruleswithhigherpredictedprecision.

关键词:房地产价格指数;Bp神经网络;改进算法;预测

Keywords:realestatepriceindex;Bpartificialneuralnetwork;improvedalgorithm;predict

中图分类号:F83文献标识码:a文章编号:1006-4311(2011)17-0149-01

0引言

房地产价格指数是动态描述一定区域内各类房地产(如商业、住宅和工业)价格变动及其总体价格平均变动趋势和变动程度的相对数,它是指导业界活动和市场研究的有效工具。房地产业的健康发展对拉动经济增长,调整产业结构,改善人民生活水平起着重要的作用。通过观察房地产价格指数的走势,人们既可从宏观上把握房地产市场的景气状况和市场变化,也可从微观上依据其走势进行投资分析。在计量经济学基础上建立的各种经济模型,大部分都是线性模型。经典的线性模型在很长的一段时间内发挥着很大的作用,但随着研究越来越来深入,线形模型逐渐显露出它的缺陷,即很难用它拟合非线性经济系统,因而必然造成经济预测的误差加大。神经网络理论上可以逼近任意非线性函数并可以随机调整,所以能有效地解决非线性预测的问题,已经得到广泛应用[1-6],利用神经网络来预测我国房地产价格指数具有可行性。

1构建改进算法的Bp神经网络模型

Bp(Back-propagation)神经网络模型是由werbos在1984年提出来的,Rumelhart等在1985年发展了反传学习算法,实现了minsky的多层网络设想。神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。神经网络具有非线性处理、自组织及自适应性、学习能力、联想能力等特点。Bp算法的学习过程由正向传播和反向传播组成。在正向传播中,信息从输入层经隐含层单元逐层处理,并传向输出层,每一层神经元的状态只影响下一层神经元的状态,如果在输出层不能得到期望的输出,则转向反向传播,将误差信号沿原来的通路返回,通过修改各层神经元的权值和阈值,使得误差信号最小。研究中的数据来源于国家统计数据库,时间范围为2005年7月-2010年12月。Bp神经网络模型一般以s形函数作为转换函数,该函数的值域为[0,1],因此在网络训练时要将原始数据进行处理,规范到[0,1]之间,这里数据预处理方法采用标准化法。权重系数的初始值对Bp学习算法的收敛速度影响很大,算法中采用了随机函数生成权重系数的初始值。以前四个月的数据作为输入,后一个月的数据作为输出来训练网络。隐含层神经元节点数的确定是人工神经网络设计中最关键的步骤,它直接影响网络对复杂问题的映射能力。本文采用“试算法”确定神经元个数,经试算最佳隐含层节点数为6个。标准的Bp算法是基于梯度下降法,但它具有学习过程易陷入局部极小、易出现震荡等缺陷,而附加动量法使Bp神经网络不仅考虑在梯度上的作用,而且考虑在误差曲面上变化趋势的影响,它允许忽略网络上的微小变化特性,该方法是在反向传播法的基础上,在每一个权重和阈值的变化上加上一项正比于前次权重和阈值变化量的值,并根据反向传播法来产生新的权重和阈值的变化。

2结果

采用2005年7月-2009年7月的当月(同比)数据作为训练样本,然后利用2009年8月-2010年12月的当月(同比)数据作为测试样本,并对2012年1月的我国房屋销售价格指数进行预测。结果表明训练样本拟合值和真实值的平均相对误差为0.28%,测试样本模拟值和真实值的平均相对误差为1.15%,2012年1月我国房屋销售价格指数预测值为107.4。预测结果表明,我国房屋销售价格指数保持上升的趋势。

3结论

人工神经网络具有人脑的思维特征,应用Bp神经网络进行我国房屋销售价格指数预测,只需将历史数据作为训练样本来进行网络的训练,当训练达到误差要求后,获得有关该问题知识的网络权值和阈值,就可以用来进行我国房屋销售价格指数预测。传统的Bp神经网络本身存在一些缺陷,比如收敛速度慢,容易陷入局部最小值等,所以传统的Bp神经网络实用性不是很强,必须改进Bp算法的缺陷,才能使之有效的应用到现实中来。研究中发现改进后的Bp神经网络计算速度快、方法简单、建模方便、预测结果客观准确,具有推广应用前景。

参考文献:

[1]刘占军,张星辉.基于遗传神经网络的机械故障诊断[J].价值工程,2010,29(25):152-153.

[2]李斯娜.数字图像融合综述[J].价值工程,2010,29(20):99.

[3]王晓东,薛宏智.基于bp神经网络的股票涨跌预测模型[J].价值工程,2010,29(31):47-49.

[4]朱刘阳.一种雷达信号自适应盲分离算法[J].价值工程,2010,29(30):211-212.