神经网络的含义十篇

发布时间:2024-04-26 11:20:19

神经网络的含义篇1

关键词:神经网络;上证指数;预测

1.引言

金融时间序列的预测对于投资决策以及规避风险有重要的意义,其中股票市场走势预测始终更是金融领域分析的热点和难点。对于金融时间序列的预测是否足够准确影响着预测方法的有效性,较低的准确率使得预测失去了实际应用的意义。目前的金融时间序列预测方法有很大一部分是通过使用神经网络进行预测,神经网络本身具有良好的拟合非线性的特性,克服了类似于aR模型、ma模型和amRa模型难于拟合非平稳序列的缺点[1]。在理论上,神经网络可以拟合任何函数,具有很好的自适应性和学习性。同时,由于神经网络计算的高效性,被广泛应用于预测时间序列领域。目前常用的用于预测时间序列的神经网络有Bp神经网络、径向基神经网络以及小波神经网络。本文将对这三种神经网络在预测上证指数中的准确率进行比较分析。

2.神经网络概述及原理

2.1.Bp神经网络

Bp神经网络是一种多层前馈神经网络,该网络的主要特点是信号前向传递,误差反向传播[2]。向前传递是由输入层接收到外界信号后将信息传入到隐含层进行处理运算,之后传入到输出层。如果输出层得出的结果与预期不一致则产生预测误差,接下来就开始反向传递,根据预测误差调整网络权值和阀值,从而使Bp神经网络预测输出不断逼近期望输出。

2.1.1Bp神经网络结构

Bp神经网络模型如图1所示,包括输入层、输出层和隐含层。输入层负责将输入信号传递给隐含层,输入结点本身没有计算功能。

2.1.2Bp神经网络模型的建立

Bp神经网络模型通过matlab软件进行编程建模,数据的选取是利用大智慧软件选取1990-2012的5302个收盘价作为样本,其中,前5150个样本为训练样本训练神经网络,后152个样本为测试样本。为了提高神经网络的预测效率,加快训练速度,所以在训练神经网络之前将原始数据归一化。归一化公式为:(x-xmin)/(xmax-xmin),其中xmax代表最大值,xmin表示最小值;根据上证指数的特性,将Bp网络的结构设计为三层,即输入层,隐含层和输出层;输入层有6个结点,即式(1)中的输入变量xi(i=1,2,…,n),表示预测时间结点的前6日收盘价;隐含层是该模型的运算核心,共有8个结点,其执行式(1)的运算,隐含层的输出结果为中间变量oj(j=1,2…,l),变量oj将被传入到输出节点进行运算;输出层有一个结点,执行式(3)的运算;选取第7日的收盘价为预期输出。

2.2.径向基神经网络

径向基神经网络即径向基函数神经网络。该型神经网络从输入层到隐含层通过径向基函数完成非线性变换;而隐单元到输出是线性映射的,因此输出层权值的调整可通过线性规划方程直接算出[3]。径向基神经网络一般有三层即输入层、隐含层和输出层。输人层由输入结点组成;隐含层中神经元采用的是径向基函数,该函数是局部响应函数;第三层为输出层。径向基神经网络的节点激活函数采用径向基函数。

2.2.1径向基神经网络结构

输入层只负责信号输入,输入层与隐含层的连接权值都为1,即输入层与隐含层的权值不用调整改变。隐含层结点的输出为:

3.实验结果

3.1三种神经网络模型的预测结果比较

4结语:

上证指数的走势可以视为经济的运转状况的反映,而经济的运行状况受到社会中的各种因素和因素间的交互效应的影响,从而上证指数的走势具有很强的非平稳性以及非规律性,很难预测准确。本文比较了Bp神经网络、径向基神经网络、小波神经网络对预测上证指数的准确性,发现Bp神经网络的预测效果是三种神经网络最好的,表明Bp型神经网络相比之下更加适用于对上证指数的预测。(作者单位:北京信息科技大学经济管理学院)

参考文献:

[1]徐超,魏连鑫,王卫新.基于小波网络的上证指数预测实证分析[J].时代金融,2011.(24):146.

[2]史峰,王小川,郁磊,李洋.matlab神经网络30个案例分析[m].北京:北京航空航天大学出版社,2010.

[3]左喆,董申.基于神经网络的股票市场预测[J].财经论坛,2010.(24):204-205.

神经网络的含义篇2

本文主要研究了采用数字图像处理技术对现有的aUV拍摄的海底图像进行处理,获得了包括海底输油管道、岩石、沙滩和沟壑等特征的大量图像样本,并用Bp神经网络对样本进行训练,以获得成熟的Bp网络,利用该网络可以提高对水下管道图像的判断效率,大大的增强了aUV视觉系统的工作性能。

【关键词】图像处理技术海底输油管道Bp神经网络

自主式水下机器人(autonomousUnderwaterVehicle,aUV)是人们探索海底资源和进行海洋活动的重要工具。由于aUV的独特优势,其在海底石油管线巡检中正发挥着越来越大的作用。aUV在工作时实现管道追踪和航线轨迹规划主要依靠声学或光学等手段。当aUV距离管道目标较近时,aUV的水下成像和处理系统可以生成较为清晰直观的管道图像并实时存储,这些图像除了能让aUV实现光学上的轨迹导航,后期还能帮助作业人员分析管道的状态,判断管道的腐蚀和破坏程度,给后续施工提供参考材料。

另一方面,由于水下环境较为复杂,aUV水下成像系统所拍摄的底片常常包含有各种噪点和背景物。因此,为了提高水下成像和处理系统的工作质量和效率,有必要对图片进行数字化处理,以准确获取信息,实现aUV对管道的高效追踪和巡检。

为了实现这一目的,本文首先研究了采用图像信号处理的方法对水下图像进行处理,通过计算机数字图像处理,本文获得了大量优质的可用于分析的水下图像;其次,本文利用神经网络的相关方法,采用Bp神经网络对获得的水下图像进行分类识别,经过网络训练,获得了具有较好分类效果的Bp神经网络,可以对不同目标物的图像进行分类识别。本文的主要研究思路如图1所示。

1常见的水下图像类型

为了验证本文提出的图像处理及Bp神经网络分类方法的有效性,我们选取了几类典型的通过的水下图像,分别为分布有石块的海底、海底沙滩、海底沟壑和海底输油管道,具体图像见图2。

本文将利用数字图像技术对这几种典型的水下图像进行处理,以获得供Bp神经网络训练的优质样本。

2水下图像数字处理技术

要对水下图像进行分析和识别,首先需要大量包含丰富信息的优质数字图像,以便进一步的分析。本文将获得水下图像进行灰度变换、中值滤波、模糊增强和阈值化等数字处理技术进行处理,以获得可以更好为计算机软件识别的特征信号,通过此方法获得的数字图像可以作为本文研究的基础。图3为常见的两种水下仿真图像经过处理后的数字图像。

3基于Bp神经网络的水下图像的分类和识别

3.1Bp神经网络水下图像识别的基本原理

要对水下图像进行机器识别必须先对其图像特征进行描述。根据相关研究文献,本文选择图像中目标物长径比、伸长度、圆形度、一阶不变矩4个特征参数来对水下目标中最常见的输油管道、分布有石块的海底、海底沙滩、海底沟壑进行描述;通过研究这4类特征参数在不同图像中的不同值,来确定水下样片中的核心图像为管道还是岩石、沟壑等物。

Bp神经网络即后反馈神经网络,是一种改进型的神经网络,该神经网络可以以任意的精度逼近任意一个连续函数,利用Bp神经网络可以很好地实现预测和分类的功能。

本文采用Bp神经网络,以经过数字技术处理后的水下图像为研究对象,以长径比、伸长度、圆形度、一阶不变矩为判定指标,对图像进行了分类识别研究。

从通过前文介绍方法采集到的水下数字图像中,选择出10组作为Bp网络研究的样本,通过matlab计算每张图像中的4个特征参数,获得图像类型与特征参数的关系如表1所示。

3.2定义输入和输出样本数据

(1)定义输入样本数据。从表1中的10组数据中随机选择6组(序号分别为:1、3、6、7、8、10)作为输入样本,经数据归一化以后输入matlab软件。

(2)对输出状态进行编码。输出为4维向量,定义期望输出向量如表2所示。

(3)构建Bp神经网络:由于本文构建的网络的输入和输出情况较为简单,为了简化网络结构,提高运算速度,采用包含一个隐含层结构的Bp神经网络。其中,网络输入单元为4种水下图像的特征参数,输出单元为4种海底图像形貌。根据网络为4-x-4结构形式,由经验公式可知隐含层节点数为3~13之间的整数,计算每个值对应的表征神经网络性能的均方误差值(mSe),可知当隐含层层节点数为4时,得到的mSe值最小为26,因此,网络的隐含层节点数选为4。本文所用Bp神经主要传递函数为“logsig”和“purelin”函数。

(4)Bp神经网络的训练。在matlab中应用输入和输出样本向量对网格进行训练,定义期望误差为1e-6。训练过程中,Bp神经网络经过13次迭代之后达到了满意的期望误差限。

(5)利用Bp神经网络进行水下图像的分类判断。下面利用所有的10个样本对训练出的神经网络进行测试检验,在matlab中输入表1中归一化后的所有数据,获得网络的输出数据,经过整理,结果如表3所示。由表3可看到,经过训练后的Bp神经网络可以很好地对各个样本的状态进行判断分类,且判断的结果具有很高精度。另一方面,表中2组和9组样本的诊断出现了错误。为了提高网络诊断精度,可以在训练样本中加入这个样本,重新对网络进行训练。

4结束语

视觉探测系统是aUV的重要系统,影响着其海底管道巡检的工作效率,而水下图像的分类识别技术又是视觉探测系统的核心。本文主要利用了计算机数字图像技术对海底图像原片进行处理,提取其特征后,利用Bp神经网络进行训练,获得成熟的网络以用于图像的分类,最后得到的目标图像可用于aUV的光学轨迹导航等。本文的研究思路对相关aUV水下目标识别与跟踪等研究领域有一定借鉴意义。

参考文献

[1]李左车.aUV管道巡检的相关研究与工程应用[J].机器人,2013,35(4):56-59.

[2]李亚兵.水下图像增强算法的研究[D].中国海洋大学硕士学位论文,2008

[3]高俊.基于神经网络的视觉检测方法[J].计算机工程,2005.35(4):76-81.

[4]左宾.神经网络技术在数字图像分类中的应用[J].光学技术,2012,22(1):45-51.

作者简介

高本国(1986-),男,云南省昆明市人。硕士学位。现为昆明船舶设备研究试验中心助理工程师,主要从事机械结构设计方面的工作。

神经网络的含义篇3

关键词:Bp神经网络;软件质量;质量属性;质量评价

DoiDoi:10.11907/rjdk.161521

中图分类号:tp301

文献标识码:a文章编号文章编号:16727800(2016)009000103

基金项目基金项目:国家自然科学基金项目(71471103)

作者简介作者简介:秦晋(1990-),男,安徽省阜阳人,山东工商学院管理科学与工程学院硕士研究生,研究方向为管理信息系统、可信软件;智荣腾(1991-),女,山东龙口人,山东工商学院管理科学与工程学院硕士研究生,研究方向为管理信息系统、软件成本管理。

0引言

当前,软件行业飞速发展,云计算、大数据、软件定义网络等新技术层出不穷,当这些新理念融合到软件产品开发中时,软件规模、复杂度和智能化水平将不断提高,应用环境日益复杂,对软件质量的要求也越来越高。建立一个具有较高准确度的软件综合质量评估方法很有必要\[1,2\]。软件综合质量评估是一个复杂的系统工程,由于软件综合质量评估中体系和方法不统一,如何准确地对软件综合质量进行评估尚未形成统一标准\[3\]。近年来,基于各种理论与方法的软件评估模型层出不穷,一些软件评估模型被广泛运用于软件产业,并取得了显著成效\[4\],例如aHp评估模型、Dea数据包络分析、模糊综合评价模型等,但这些模型主要依赖于专家的经验判断,受主观性因素影响较大。本文通过研究软件质量体系的属性特征,参考软件质量属性相关定义,构建基于Bp神经网络的软件质量评估体系,根据软件质量属性样本,运用Bp人工神经网络对样本进行训练、学习,最后量化所选指标,得出预测结果。实验证明该方法能科学、准确地对软件质量进行评估与预测。

1Bp神经网络

人工神经网络(artificialnetworks,ann)是在现代神经科学研究成果的基础上提出的,是由大量处理单元互联组成的非线性、自适应信息处理系统,其基本处理单位称为神经元,目前比较成熟的ann模型及相应算法甚多,其中采用误差反向传递学习算法的多层神经网络(即Bp神经网络)运用最为广泛,其自学习功能与联想存储功能以及高速寻找优化解的能力被运用在诸多领域,解决某些传统方法无法解决的问题。Bp神经网络是一种具有很强非线性映射能力的多层前馈型神经网络,一般包含输入层、中间层(隐含层)、输出层3个层次,部分神经网络可根据实际情况设置3层以上的结构网络,相邻上、下层之间的神经元实现全连接,Bp神经网络的常见结构模型如图1所示。

Bp神经网络的学习过程由正向传播和反向传播组成,正向传播中,信息由输入层经隐含层处理后,传向输出层,并且上一层神经元的状态只影响下一层神经元状态,若输出层得不到期望的数值,则进入反向传播,将误差信号沿原有连接通道返回,通过修改各层神经元的权值,使误差变小,经过反复迭代计算,得出误差值范围内的结果。Bp神经网络的非线性处理能力可很好地处理信息含糊、不完整、存在矛盾等复杂情况的认知判断问题\[5\],故使用Bp神经网络来解决软件质量评估的复杂性问题是可行的。

4结语

基于Bp神经网络的软件质量评估充分利用了以往评价结果,将量化过程集成于Bp神经网络的学习过程中,解决了人为主观随意性及思维不定性,评估准确、客观、科学、有价值,对特定问题有一定借鉴意义。同时,基于Bp神经网络的软件质量评估扩展性强,可针对不同类型指标,不同评估等级变换输入输出层进行调节,对软件质量综合评价具有重要意义。

参考文献:

[1]王峰.基于层次分析法的软件质量评估模型分析与研究[J].现代电子技术,2012(24):2123.

[2]于本海.可信软件测度理论与方法[m].北京:科学出版社,2014.

[3]王李进,吴保国,郑德祥.基于人工神经网络的软件质量评价[J].计算机应用与软件,2008(12):133134.

[4]杨爱民,张文祥.软件质量及其量化评价方法[J].计算机工程与设计,2006(21):39873990.

[5]王伟.基于Bp神经网络的web软件质量分析[J].软件导刊,2012(2):1618.

[6]熊鹏程,范玉顺.基于模糊层次分析法的集成软件质量评估模型[J].计算机应用,2006(7):14971499.

[7]iSo.ieC25010:2011Systemsandsoftwareengineeringsystemsandsoftwarequalityrequirementsandevaluation(SQuaRe)Systemandsoftwarequalitymodels[J].internationalorganizationforStandardization,2011.

[8]tRUStieRG.trustieseriestechnologystandard(V2.0)[Z].2009.

神经网络的含义篇4

关键词:伪逆;任意基函数;神经网络

中图分类号:tp18

文献标识码:a文章编号:1672-8513(2010)06-0428-04

anarbitraryBasisFunctionneuralnetworkwithweightsimmediateDetermination

YinYing,QiXian

(FacultyofScience,KunmingUniversityofScienceandtechnology,Kunming650093,China)

abstract:Basedonbiologyandapproximationtheory,anewneuralnetworkmodelwasconstructedwhichusedarbitrarybasisfunctionsastheactivationfunctionsofthehiddenneurons.Simulationresultsshowedthatthismethoddeterminedtheweightsdirectly,hadahigherconvergencespeedandexcellentperformanceofnon-linearfunctionapproximating.

Keywords:pseudo-inverse;arbitrarybasisfunction;neuralnetwork

人工神经网络作为一种新的方法体系,具有分布并行处理、非线性映射、自适应学习和鲁棒容错等特性,这使得它在模式识别、控制优化、智能信息处理以及故障诊断等方面都有广泛的应用.基于误差回传(Backpropagation,Bp)的前向神经网络及其变形已成为目前影响最大、应用最广的一种网络学习算法模型.但传统前向神经网络的权值调整常采用基于梯度下降的Bp迭代学习算法,存在学习收敛速度慢、学习率难以选取(过大易发生震荡,过小会影响收敛速度和延长学习时间)及易陷入局部极小等固有缺陷.为此人们提出了许多改进的算法[1-6],值得注意的是这些改进多着重于学习算法,期望通过改进网络训练的迭代规则来解决收敛速度慢和局部极小点的问题.

本文以生物神经系统中的神经元特性[7]和欧式空间逼近理论[8]为理论基础,采用网络权值直接确定法构建了一个任意基函数神经网络模型,能够快速有效地学习给定样本并逼近目标函数,解决收敛速度慢和局部极小点的难题.

1任意基函数逼近基础

与任意n维向量空间类似,函数空间中的任意函数均可由该空间中一组基函数线性表出,而任一组线性无关基函数均可通过Schmidt正交化为一组正交基函数.

定义1设x1,x2,…,xn是(无限维)线性空间X上的线性无关向量组,c1,c2,…,cn是[wtHZ]R中任意实数,由元素∑ni=1cixi的全体(即任意加权和)组成的集合是X的一个子集,记为δ=Span{x1,x2,…,xn},该空间的最佳逼近问题称为Chebyshev最佳逼近.

定义2设φ0,φ1,…,φn是欧式空间X上的n+1个线性无关元素(向量),定义子集δ=Span{φ0,φ1,…,φn},在δ中寻求对X的某一目标元素f的Chebyshev最佳逼近S*,是指S*[KG-*2]∈δ,使得S*[KG-*2]∈δ,均有f-S*≤f-S.

定理1S*[KG-*2]=∑ni=1c*iφi是δ对f的Chebyshev最佳逼近(元素),其充要条件是(S*-f)φi;i=0,1,…,n.

推论1Chebyshev最佳逼近(元素)S*若存在,则唯一.

推论2对于欧式空间C[a,b]中任意的线性无关向量组g0,g1,…,gn,令子集δ=Span{g0,g1,…,gn}.则f(x)∈C[a,b],Sn(x)=∑ni=1wigi(x)∈δ,使得Sn(x)是目标(元素)f(x)的Chebyshev最佳平方逼近(又称最佳均方逼近或最小二乘逼近),即∫abρ(x)[f(x)-Sn(x)]2dxmin.

2权值直接确定的任意基函数神经网络模型的构造[Bt)]

设期望输出(向量)[wtHX]D=[d1,d2,…,ds][wtBZ]t∈[wtHZ]Rs,权值列向量[wtHX]w=[w1,w2,…,wn][wtBZ]t∈[wtHZ]Rn,定义在样本输入作用下隐层神经元的激励函数响应矩阵f为

f=[KH*6]f1(x1)[KG*2]…[KG*2]fn(x1)f1(xs)[KG*2]…[KG*2]fn(xs)[KH*6]∈[wtHZ]Rs×n则有如下基于矩阵伪逆的权值确定定理.

定理2[3]任意基函数神经网络y=∑ni=1wifi(x)的权值可直接确定为

[JZ(]w=(f[wtBZ]tf)-1f[wtBZ]t[wtHX]D或w=f+[wtHX]D,[JZ)][JY](1)

其中f+表示输入响应矩阵f的伪逆,此处等于(f[wtBZ]tf)-1f[wtBZ]t,并可调用matlab命令pinv计算.

由于任意一组线性无关的基函数f1(x),f2(x),…,fm(x)均可以通过Schmidt变换矩阵S,将其转变为一组两两正交的基函数h1(x),h2(x),…,hn(x);反之,一组两两正交的基函数也可以通过线性变换S-1转化为一组线性无关(而非正交)的基函数,这说明正交基函数系和线性无关基函数系在本质上是等价的.因此,对于任意未知目标系统/函数f(x),只要找到一组线性无关的基函数f1(x),f2(x),…,fm(x),根据前述推论中的表达式∫abρ(x)[f(x)-Sn(x)]2dxmin,确定相应的加权系数c1,c2,…,cm,即知∑mi=1cifi(x)就是f(x)的最佳均方逼近,由此可以构造出任意基函数人工神经网络模型.[HJ]

若以任意一组线性无关的基函数作为三层前向网络中各隐神经元的激励函数,输入层至隐层的连接权值恒为1,式(1)作为隐层至输出层之间的连接权值,如图1模型可描述如下:

输入(感知)X=(x1,x2,…,xn);

连接权w=(w1,w2,…,wn)[wtBZ]t;

加权求和(信息汇集)net=∑ni=1wixi=Xw;

激励函数f(・);

输出(响应)D=f(net).

3仿真实验

例1目标函数d1[KG-*2]=cos[KG*3]x/x2[KG-*2]+x+1,x∈[-1,1],任取一组含有11个线性无关的基函数作为单输入单隐层神经网络的神经元激励函数(隐神经元个数选为m=11):

{1,x,x2,x3,x4,1ex,1-x2,11+x2,2+x,x2+x,sin(πx)}.以0.1的间隔均匀选取训练样本数s=21,以0.01的间隔均匀选取测试样本数s=201.仿真结果如图2,3,4所示.实线代表正确的目标输出,虚线代表网络的实际输出,黑点代表含噪样本点.

例2考虑目标函数d2=sin5(πx),x∈[-1,1],任取一组含有10个线性无关的基函数作为神经元激励函数:

{1,x,(3x2-1)/2,(5x3-3x)/2,(35x4-30x2+3)/8,ex,e-x,11+x2,2+x,sin(2πx)}仿真结果如图5,6,7所示.

以上仿真实验表明:选取任意不同的线性无关的基函数作为隐层的神经元激励函数可能会改变网络的拓扑结构(基函数个数决定隐神经元个数),会使最终的权值发生变化,但对不同的非线性目标系统/函数都能实现很好的逼近仿真效果(所得权值和性能指标与被逼近的目标也有一定的关系).此外,含噪仿真实验显示本网络及算法具有较强的鲁棒性,对含噪声数据同样具有较好的学习能力,达到较高精度.同传统的神经网络相比,权值一步确定,无需反复迭代,克服了传统神经网络固有的迭代时间长、迭代次数多、易陷入局部极小等缺点.如图8,9和表1所示.

4结语

本文结合欧氏空间Chebyshev最佳逼近理论和Bp神经网络权值直接确定理论,以任意一组线性无关的基函数作为该神经网络中各隐神经元的激励函数,由此构造了一个权值直接确定的任意基函数神经网络模型.理论分析与仿真实验表明,该网络模型具有良好的逼近能力和抗干扰性;且网络权值可由伪逆思想一步确定,相比传统的权值迭代法更简便、省时;为神经网络建模和权值优化技术提供了新的思路和尝试.

参考文献:

[1]

LanGB.monotonicmulti-layerperceptronnetworksasuniversalapproxmators[C]//LecturenotesinComputerScience.Spriger,2005,3697:31-37.

[2]ZHanGYn,GeSS.Designandanalysisofgeneralrecurrentneuralnetworkmodelfortimevaryingmatrixinversion[J].ieeetransactionsonneuralnetworks,2005,16(6):1477-1490.

[3]邹阿金,张雨浓.基函数神经网络及应用[m].广州:中山大学出版社,2009.

[4]仝凌云,潘佳,樊玮,等.基于粗糙集与神经网络的机场气象新型预测模型[J].云南民族大学学报:自然科学版,2007,16(3):185-188.

[5]张天瑜.基于RBF神经网络的伺服系统模型参考自适应控制[J].云南民族大学学报:自然科学版,2009,18(1):62-65.

[6]何童丽.灰色神经网络模型在高校招生预测中的应用研究[J].云南民族大学学报:自然科学版,2010,19(1):60-62.

神经网络的含义篇5

关键词高等教育规模预测RBF神经网络

中图分类号:G640文献标识码:a

0引言

高等教育规模预测对政府部门制定高等教育发展规划与政策具有重要意义。目前,国内外常用的高等教育规模预测方法有:时间序列预测法、①回归预测分析法、②logistic模型③和灰色预测模型。④高等教育规模受到诸如经济发展、人口数量及文化环境等众多因素的影响,各种因素的影响比较复杂,导致高等教育规模与影响因素之间呈现复杂的非线性关系,上述传统的预测方法难以获得理想的预测精度。神经网络是一种大规模并行计算模型,对数据本身的知识要求不多,只要给出输入、输出数据,通过网络本身的自学习、自适应能力就可达到较高精度的非线性逼近。RBF神经网络是神经网络的一种形式,具有网络结构简单、收敛速度快等优点。作为一种局部逼近网络,RBF神经网络能以任意精度逼近连续函数。为此,本文将RBF神经网络应用于我国高等教育规模预测中。

1RBF神经网络

径向基(RBF)神经网络是一种3层前馈网络,由输入层、隐含层和输出层构成。各层由若干个结点组成,每个结点代表一个神经元,隐含层的结点数根据具体问题确定。RBF神经网络的学习相当于在多维空间中寻找训练数据样本的最佳拟合平面。每个隐含层结点的函数构成了拟合平面的一个基函数。⑤输出层结点通常由简单的线性函数描述。RBF神经网络结构如图1所示。

RBF神经网络学习中,输入层结点接受输入信号并将其传递到隐含层,隐含层结点的作用函数对输入信号在局部产生响应,即输入信号靠近作用函数的中央范围时,隐含层结点产生较大的输出值,RBF网络的输出为隐含层结点输出的线性组合:

其中,和分别为第个隐含层结点的径向基函数的中心和宽度。

2实例应用

2.1指标选取

运用RBF神经网络对我国高等教育规模进行预测。以高校在校生数作为衡量高等教育规模的指标,根据文献⑥对高等教育规模影响因素的分析,高等教育规模与国内生产总值GDp、第三产业占GDp比重、恩格尔系数、总人口数之间存在稳定的长期均衡关系。为此,本文将以上4项指标作为高等教育规模的影响因素,选取1997-2007年的高校在校生数及影响因素进行实例分析。

2.2网络训练及预测

高校在校生数及影响指标的数量级相差较大,为减少不同量纲对RBF神经网络收敛速度的影响,对数据样本进行预处理,利用下式将数据样本归一化到[0,1]区间:

其中,为原始数据样本,为归一化后的数据样本。将整个数据样本分为两组:前8个数据样本用于训练RBF网络,后3个数据样本用于检验RBF网络的有效性。

建立3层RBF神经网络,输入层为4个神经元,输入值为高等教育规模的各影响指标;输出层为1个神经元,输出值为高校在校生数。隐含层的神经元数设为4。网络的训练精度设为0.00001,径向基函数的扩展速度设为1。利用训练好的RBF神经网络预测2005-2007年的高校在校生数,再将获得的预测值反归一化到原始数据的预测值。

预测结果表明,在预测期内,RBF神经网络对我国高校在校生数的预测精度较高,2005-2007年的预测相对误差都比较小,分别为:0.55%,1.71%和-2.98%。由图2可知,RBF神经网络较准确地预测了我国高校在校生数的变动趋势,预测值比较接近于实际值。2005、2006年的预测值略高于实际值,2007年的预测值略低于实际值。

为进一步验证RBF神经网络在高等教育规模方面的预测性能,采用均方根误差(RmSe)、平均绝对误差(mae)、平均相对误差(mpe)、西尔统计量(tHeiL)4项预测性能评价指标对RBF神经网络进行评价,以上评价指标值越小,说明RBF神经网络的预测性能越好。结算结果表明,RBF神经网络的4项评价指标值RmSe、mae、mpe、tHeiL分别仅为36.9801,31.4670,0.0175和0.0057,这说明RBF神经网络在高等教育规模预测方面具有较好的预测性能,是一种有效的高等教育规模预测方法。

3结论

神经网络的含义篇6

关键词:变压器;故障诊断;蚁群算法;神经网络

作者简介:彭宇(1979-),女,北京人,华北电力大学经济与管理学院硕士研究生,北京市电力公司顺义供电公司,工程师。(北京

102206)

中图分类号:tm407文献标识码:a文章编号:1007-0079(2013)23-0225-02

电力变压器作为电力系统中最重要和最贵重的设备,其运行的安全性与电网供电可靠性有直接关系。所以,电力变压器的故障诊断技术一直都是研究的焦点,传统的故障诊断方法主要是根据变压器油中溶解气体的组成、含量与故障类型和故障严重程度之间有密切关系的原理而得出的,俗称油中溶解气体分析法(DGa法)。基于DGa法得出的实用性算法中应用最为广泛的是三比值法。该方法通过计算C2H2/C2H4,CH4/H2,C2H4/C2H6三种比值,根据已知的编码规则和故障类别,查表确定故障类别。但此方法存在“编码盲区”问题,即有时会出现“无编码”问题的情况。由于上述缺陷,有学者在此方法基础上发展出了专家系统、模糊数学、人工神经网络等方法来判别变压器故障,取得了一些成效,但都有或多或少的不足之处。专家系统在辨别变压器故障时往往具有复杂性、不完全性、模糊性;模糊数学在处理故障诊断时隶属函数确定困难,容易过多引入人的主观臆断;人工神经网络在学习过程中收敛慢,对初始设置较敏感且容易陷入局部最优。

本文基于DGa法知识,提出蚁群神经网络作为诊断变压器故障的新方法。该方法利用了人工神经网络映射非线性能力和泛化能力强等优点,同时利用蚁群优化(aCo)算法来改善其存在的缺点,使变压器的故障诊断准确率和快速性都得到了提高,通过算例仿真验证了方法的高效性和正确性。

一、蚁群优化(aCo)算法基本原理

aCo算法是一种模拟蚂蚁群体在寻找食物时能找到距食物最短路径的仿生随机搜索算法。蚁群中每个蚂蚁个体间不直接通信,而是通过在其经过的路径上留下一种叫“信息素”的分泌物来引导其他个体的行为,某条路径上经过的蚂蚁越多,留下的信息素也越多,后来的蚂蚁被吸引到该条路径上的概率也就越大。这样,通过先行者的先验知识传递给后来者,将最终导致最优路径选择成功。

二、神经网络中aCo算法的模型

本文针对Bp神经网络在训练中存在的对初值设置较敏感、收敛速度慢和容易陷入局部最优等缺点,利用aCo算法的全局优化和启发式寻优特征来寻找Bp神经网络的最优权值,使得神经网络能够具有更加优越的智能寻优能力。

1.基本原理

神经网络的训练过程可以看作是一个找到一组最优的权值组合的优化问题。这组最优的权值组合可使得Bp神经网络的输出结果与期望结果间的误差最小。

因为tSp问题是蚁群算法成功解决了的经典问题,所以此处采用神经网络权值的寻优问题与tSp问题同比对照来说明权值组合的寻优过程。

假设网络中有n个参数,包括所有权值和阈值。首先,按一定顺序对这些参数进行排列,记为h1,h2,…hn,对于参数hi(1≤i≤n),将其设置为n个随机非零值,形成集合Shi(1≤i≤n)。此时,让蚁群从蚁巢出发去寻找食物,也就是每只蚂蚁在集合Shi中选择一个权值,在全部集合中选择一组神经网络权值。这里的一个权值就相当于tSp问题中的一座城市(下文称其为“虚拟城市”)。当蚂蚁对所有虚拟城市完成了一次拜访,就是在全部集合中选择了一组权值,就算找到了食物。由各只蚂蚁找到的这组权值作为神经网络的计算用权值得到的结果与真实值相比较,得出计算误差,这个误差值就相当于tSp问题中路径的路程。路径的选择目标是要求得的路径路程为所有路径之中的最小值,神经网络权值的选择目标也就是要求得到的误差值是所有神经网络权值组合中使计算误差为最小的一组。用得到的误差值对蚂蚁在选择虚拟城市(权值)时的信息素进行反馈调整。将这个过程反复进行,直至全部蚂蚁收敛到同一组权值,或达到给定的迭代数上限时停止搜索。

2.算法基本步骤

对于一个有n个参数的神经网络训练问题,设定蚂蚁数量为m。基本步骤如下:

(1)初始化。

确定备选权值:将神经网络所有权值的取值区间[wmin,wmax]均匀地划分为μ个子区域,将每个子区域边界上的点作为一个备选权值。

令时间t=0、循环次数nC=0,设每个点都具有相同的信息素量τ0和信息素挥发系数ρ,设置最大循环次数nCmax。

(2)启动所有m只蚂蚁,让每只蚂蚁从集合Shi(1≤i≤n)中选择一个元素,按下式计算蚂蚁选择其他虚拟城市(权值)的概率:

(1)

式中:pj(k)为蚂蚁k选择权值j的概率;τj(t)为t时刻权值j上的信息素浓度;ηj(t)为t时刻权值j的启发信息;α和β为常数。t(k)为第k只蚂蚁的禁忌表,用于存放蚂蚁k所选择候选权值的集合。蚂蚁k从概率最大的权值中随机选择一个权值i存入t(k)。当蚂蚁为所有的权值参数选择了值之后,就完成了一次遍历,它选择的所有值构成该神经网络的参数。

启发信息ηj(t)的计算公式。启发信息是aCo中一个与问题相关的用来引导蚂蚁搜索的量,它与信息素一起确定优化选择。基于启发信息是使蚂蚁在选择城市时,尽量选取当前候选集中路程短路径的基本思想,这里采用如下公式来计算启发信息:

(2)

式中:aj(t)表示前面所有迭代中第k只蚂蚁选择备选集中权值j的次数和;Bj(t)表示前面所有迭代中所有蚂蚁选择备选集中权值j的次数和。

(3)重复步骤(2),直至蚂蚁全部完成一次遍历,即全部到达食物源为止。

(4)令t=t+n;nC=nC+1;利用各只蚂蚁选择的权值参数组计算出神经网络的计算输出结果,并以此获取误差e。记录误差较小的ω组权值和最优解emin,比较emin与给定的误差最小e0的大小,若emin≤e0则转到步骤(8),否则进行步骤(5)。

(5)调节信息素。为防止信息素的聚集,要对先前留下的信息素随时间进行挥发处理。信息素挥发系数ρ表示信息素的持久性。经过时间n,蚂蚁从蚁巢到达食物源,各个路径上的信息素要按下式进行挥发调整:

(3)

(4)

式中:Δτjk(Shi)表示第k只蚂蚁在本次循环中留在集合Shi第j个元素上的信息素,可用下式计算:

(5)

式中:Q为常数,表示蚂蚁完成一次遍历后所释放的信息素总量,用于调节信息素的调整速度;ek是用第k只蚂蚁选出的一组权值作为神经网络计算权值的输出误差,定义为ek=|os-oq|。其中os和oq分别是神经网络的实际输出和期望输出。显然,误差越小相应的信息素的增量就越大。这即是蚁群算法正反馈机制的体现。

(6)重复步骤(2)到步骤(4),直至满足最大迭代次数。

(7)采用Bp算法进一步训练神经网络。

(8)采用验证样本对训练好的神经网络进行泛化能力检验,若验证误差满足要求就退出程序;否则转到步骤(1)重新开始训练。

三、基于蚁群算法的故障诊断

由于人工神经网络具有强大的自适应功能、联想记忆和分布式存储功能和复杂的非线性映射能力等优点,已广泛应用于自动控制、组合优化、模式识别和图像处理等领域。Bp网络是目前应用最广泛的神经网络模型之一,已在电力变压器的故障诊断中成功得到应用。但由于Bp网络采用的是误差反向传播算法,是按误差函数梯度下降的方向进行收敛,所以就不可避免地出现了学习收敛速度慢和容易陷入局部最优点的问题。利用蚁群算法具有全局优化和启发式寻优的特点,将其运用到Bp网络的权值和阈值组合寻优上,进行变压器的故障诊断,可大大提高诊断特性。

1.Bp网络建立

由于油浸式电力变压器内部发生潜伏性绝缘故障后,反映故障信息的特征很多,因此,选取具有代表性的特征就成为故障识别的关键。大量相关文献显示,采用H2、CH4、C2H6、C2H4、C2H2这五种特征气体的体积含量作为变压器绝缘故障的诊断特征量效果良好。

(1)输入特征量的归一化处理。经过归一化处理的数据对于神经网络的训练和学习会更容易,所以这里对五种气体的体积含量在进入网络训练前进行计算体积含量相对比例的归一化处理,使其变换到0~1之间。设故障特征量为a,a的元素ai(i=1,2,…,5)分别表示H2、CH4、C2H6、C2H4、C2H2五种特征气体占气体总体积含量的相对比例,计算式如下:

(6)

式中:

(2)网络结构设计。理论分析证明,具有单隐含层的前馈网可以映射所有的连续函数。增加隐含层数目可以提高Bp网络的非线性映射能力,但隐含层的数目超过了一定值,反而会使网络性能下降。本文采用含一个隐含层的三层Bp网络。隐含层节点数使用经验公式:

(7)

式中:m为隐含层节点数,n为输入层节点数,l为输出节点数,α为1~10之间的整数。本实验中输入节点数为5,输出节点数为4,故隐含层节点数应在4~13之间。用matLaB软件设计了隐含层数目可变的Bp网络,通过对比确定最佳隐含层数目为7。

最终设计出的Bp网络结构为三层:输入层节点数为5,分别对应五种特征气体占气体总体积含量的相对比例;隐含层节点数为7;输出层节点数为4,分别对应变压器绝缘故障的4种故障类型。

2.算例仿真比较

为了对该网络模型进行验证,收集290条经过剔除、筛选的变压器油中气体浓度数据,选取其中150条为训练样本,另外的140条为测试样本。这两类数据中都包含了正常状况和4类不同绝缘故障运行工况下的量。设置最大迭代次数nCmax为1000次,误差收敛因子为0.0001,隐含层和输出层的激励函数采用非线性Sigmoid函数;权值区间取[-2,2],将区间分成50份,即μ=50,蚂蚁群数目m=40,蚂蚁选择概率中启发信息的α=0.7、β=2.3。残余信息量ρ=0.6,信息素总量Q=100。

由表1实验结果可知,本文给出的基于aCo算法的三层Bp网络与单纯的Bp网络相比具有更快的收敛速度,能够达到更小的均方差值。因此,此算法收敛过程具有明显的优势。

由表2中的诊断结果表明,本文提出的基于aCo-Bp神经网络算法在变压器绝缘故障诊断上具有比单纯的Bp网络更高的诊断准确度。

四、结论

本文利用aCo算法在解决离散问题时优良的启发式学习和全局寻优能力,试图将其运用到Bp神经网络的训练中来弥补Bp神经网络学习、收敛慢的缺点,充分发挥了两种方法的优点。实验结果表明,将该方法运用到电力变压器绝缘故障诊断中,与单纯的Bp神经网络法相比,其在提高收敛速度和降低误判率方面有更优良的特性。

参考文献:

[1]杨海马,刘瑾,等.Bp神经网络在变压器故障诊断中的应用[J].变压器,2009,46(1):67-70.

[2]丁晓群,林钟云.神经网络应用于电力变压器故障诊断[J].电力系统自动化,1996,20(2):32-35.

[3]基于蚁群算法的最短路径问题的研究和应用[J].计算机工程与应用,2007,43(13):233-235.

神经网络的含义篇7

关键词:RBF神经网络matLaB仿真,淀粉利用率

 

引言

在白酒发酵过程中,温度、水分、淀粉含量、酸度等参数是决定白酒产量和品质的重要指标,各参数间相互影响、相互制约。其中,对淀粉利用率的测量,工业上一般采用盐酸水解法,该法操作繁琐、步骤多、用时长,造成严重的测量滞后,且受人为因素的影响造成测量误差。本文重点介绍利用RBF神经网络建立淀粉利用率的预测模型,仿真效果好,具有良好的网络泛化能力和实践推广价值。

1、RBF神经网络

径向基函数神经网络(RadialBasisFunctionneuralnetwork)简称RBF神经网络,它是以函数逼近理论为基础而构造的一类前向网络,具有很强的生物学背景,有模拟人脑中局部调整、相互覆盖接收域的神经网络结构,可以以任意精度逼近任一连续函数,在非线性建模和辨识方面应用广泛。

RBF神经网络结构通常由三层组成:输入层、隐含层、输出层(见图1),其网络特征是输入层与隐含层之间采用直接映射,隐含层与输出层直接采用加权线性求和模。RBF网络的输出表达式为:

式中,J为中间层的RBF神经元数,为中间层j神经元和输出层k神经元之间的权值,为第j个RBF中心向量,X为输入向量。

图1RBF神经网络结构

2、淀粉利用率

白酒酿制时,各过程参量都有其技术标准(见表1),实践表明,温度、水分、酸度是影响淀粉利用率的主要参数。温度的变化影响整个发酵过程,是判断窖内发酵是否正常的重要标准。它决定糟醅内淀粉的利用率和窖内糟醅升酸的幅度;酸度是形成浓香型白酒香味成分的物质,酸度过低会抑制微生物的生长繁殖,降低产酒量;淀粉的含量与原料的投放、原料的品质和发酵环境密切相关,合理调整温度和酸度能够保证淀粉利用率。。

在白酒发酵过程中,依据淀粉利用率的检测值调整工艺过程,不仅能够影响发酵过程,并且是保证出酒率、酒质风格的重要质量参数,同时对后续生产过程也影响巨大。淀粉利用率的在线测量,能够实现白酒酿制过程的自动化生产与操作,节约检测成本,具有重大的实际意义和经济价值。。

表1白酒酿制质量参数标准

神经网络的含义篇8

关键词:神经网络;预测;eviews;matLaB;excel

中图分类号:tm614文献标识码:a文章编号:1006-8937(2012)20-0041-02

1问题重述

风电功率预测分为日前预测和实时预测。日前预测是预测明日24h96个时点(每15min一个时点)的风电功率数值。实时预测是滚动地预测每个时点未来4h内的16个时点(每15min一个时点)的风电功率数值。

某风电场由58台风电机组构成,每台机组的额定输出功率为850kw。2006年5月10日至2006年6月6日时间段内该风电场中指定的四台风电机组(a、B、C、D)输出功率数据(分别记为pa,pB,pC,pD;另设该四台机组总输出功率为p4)及全场58台机组总输出功率数据(记为p58)。

问题:风电功率实时预测。

①预测量:a.pa,pB,pC,pD;b.p4;c.p58。

②预测时间范围分别为:5月31日0时0分至5月31日23时45分;5月31日0时0分至6月6日23时45分。

2问题分析

根据题意所要求是要实时预测和用excle、eviews初步分析过的数据,且预测为用单一的风电功率预测风电功率,将神经网络结构设计为三层Bp网络,Bp模型用功率预测功率,采样时间间隔为15min,因为相邻时刻的值之间突变的可能性较小,所以采用一个小时内的4个数据作为一组,用前三个数据预测下一个数据,因此输入变量就是一个三维的向量,第四个数据就是目标输出量。

3模型假设

①由于历史数据足够多,故假设由历史数据可以反映未来风电功率的取值。

②由于采样时间为15min,所以假设相邻时刻的风电功率值突变可能性很小。

③预测功率时刻上传。

4符号说明

各种符合及含义说明如表1所示。

5模型的建立与求解

根据题意和初步分析过的数据,将神经网络结构设计为三层Bp网络,Bp模型用功率预测功率,采样时间间隔为15min,因为相邻时刻的值之间突变的可能性较小,所以采用一个小时内德6个数据作为一组,用前三个数据预测下一个数据,因此输入变量就是一个三维的向量,第四个数据就是目标输出量。

根据Kolmogorov定理,输入向量3个,则输入层神经元3个,则隐含层神经元为2×3+1=7个,输出向量1个,输出层神经元1个。由此可作出神经网络结构图,如图1所示。

创建一个满足上述要求的Bp网络;net=newff([minmax(p),[71],{‘tansig’,’purelin’},’trainlm’]);当输出节点的目标值为t时,模型计算公式为:y=f(net),输出节点的输出为:net=∑vjy-θ,隐层节点的输出有:sj=f(netj),(j=1,2,...,j);netj=∑wji-θj,(j=1,2,...,j)。

以上两式中,转移函数一般都用单极性Sigmoid函数:

当网络输出与输出不等时,输出误差e定义如下:

e=1/2∑(t-z)2

将上式误差定义展开到隐含层,则有:

e=1/2∑[t-f(netj)]2=1/2∑[t-f(∑vjy-θ)]2

再将上式定义展开到输出层,则:

e=1/2∑[t-f(∑vjy-θ)]2=1/2∑[t-f(∑vjyf(∑wjixi-θj)-θ)]2

由上式可以看出,网络输入误差是各层权值vj,wji的函数,因此调整权值可改变误差e,显然,调整权值的原则是使误差不断减小,采用梯度下降法,使权值的调整量与误差的负梯度成正比,即如下:

式中,负号表示梯度下降,a∈(0,1)。

将样本提供给网络,按上述过程训练,预先设定误差e的大小,当训练结果与目标值之差小于预先设定的误差限时,网络收敛,训练结束。若训练次数已达到预设的最大训练次数,训练终止,网络无法收敛,学习过程结束。用流程图表示如图2所示。

6Bp神经网络预测的matLaB实现

①数据样本的预处理,在论文前面已经统一进行了预处理。

②确定激活函数,取tansig和purelin为激活函数。

③设定网络的最大学习迭代次数为20000。

④设定网络的学习精度为a。

⑤创建和训练Bp神经网络的matLaB程序。

⑥测试Bp神经网络,将测试的输出数据还原,与实际数据比较分析误差。

7模型的评价及推广

由于风的波动性和间歇性,风电的典型特征就是不可控,大容量风电场的介入会对电网运行产生较大的冲击甚至危险。为了保障电网的安全,对风电场发电功率进行预测十分必要。

通过这种模型,不仅从数量上揭示了风电场风电功率的发展变化规律,也从动态上刻画了现象的内部数量关系及其变化规律。

参考文献:

[1]杨秀媛,肖洋,陈树勇.风电场风速和发电功率预测研究[J].中国机电工程学报,2005,(11).

[2]焦淑华,夏冰,徐海静,等.Bp神经网络预测的matLaB实现[J].哈尔滨金融高等专科学校学报,2009,(1).

神经网络的含义篇9

只有清楚地了解电梯控制系统的运行原理才能够及时准确的诊断出电梯故障原因,因此清楚的了解电梯运行原理,每一个电梯维修人员必须要做到。电梯运行过程总体上可分为以下几个阶段:第一、登记层外召唤信号和登记内选指令阶段;第二、电梯门关闭或者电梯按照系统指令停运阶段;第三、启动阶段;第四、在到达信号记录的楼层前进行减速制动;第五、平层开门阶段。在整个过程中电梯需要从外界接收信号并处理,然后完成相应的指令或者输出信号,由此可以将电梯看作是一个完整的独立的系统,只需要外界给予相应的信号就可以自动的做出动作。电梯系统内部复杂的构件紧密的结合在一起,正是如此才使得电梯系统故障具有了复杂性、层次性、相关性以及不确定性的特点。

二、神经网络技术基本原理

生物学上的神经是由一个个简单的神经元相互连接进而形成了复杂的庞大的神经系统,同理,神经网络就是由大量简单的处理单元相互连接形成的复杂的智能系统。单独的处理单元类似于一个神经元,是一个可以接受不同信息但是只输出一种信息的结构单位。神经网络系统与生物学神经系统相似的是具有自我修改能力,它可以同时接收大量的数据并进行统一的分析处理,进而输出相应的处理结果。这就使得神经网络系统具有了高度容错性、高度并行性、自我修改性、学习性以及高度复杂性,也正是由于这些特性才使的利用神经网络技术能够及时准确的查明电梯故障原因并得出故障解决方案。电梯故障诊断中应用的神经网络模型分为三个层次:输入层、接收外部信号或者是电梯自我检测信息(如载重信息);隐含层、对接收到了大量数据进行相应的分析处理;输出层、将记录着动作命令的数据传送出来。在电梯出现故障时,首先可以通过神经网络模型快速确定故障发生在哪一层达到节约时间的目的。但是神经网络也会因为收敛速度过于慢、训练强度太大或者是选择的网络模型不好等问题导致诊断结果受到影响。

三、神经网络模型在电梯故障诊断中的应用分类

神经网络模型已经成为了如今电梯故障诊断中应用最广泛的技术模型,相比于传统方式它具有诊断速度快、故障原因命中率高的优点,因此引起了各方面专业人士的强烈关注,并在他们的不懈努力下得到了发展与创新。它跨越多个专业领域、通过对各种复杂的高难度工作的不断的发展与改进出现了越来越多的应用模型,下面主要介绍了当前应用最普遍的Bp网络模型,并且简单的引入并介绍了近年来新兴的模糊神经网络模型和遗传小波神经网络模型。

(一)Bp网络模型

Bp神经网络作为神经网络应用最广泛的一种,它多应用的误差反向传播算法使其在模式识别、诊断故障、图像识别以及管理系统方面具有相对先进性。基于Bp网络的电梯故障诊断技术就是通过学习故障信息、诊断经验并不断训练,并将所学到的知识利用各层次之间节点上的权值从而表达出来。Bp网络系统的主要诊断步骤主要可以分为三步。第一步:对输入输出的数据进行归一化处理,将数据映射到特定的区间。第二步:建立Bp网络模型,训练Bp网络模型。第三:通过已经训练好的网络模型对原来的样本进行全面的检测。算法步骤:a、在一定的取值范围内对数据进行初始化;b、确定输入值数值大小,计算出预期输出量;c、用实际输出的值减去上一步得到的数值;d、将上一步得到的误差分配到隐含层,从而计算出隐含层的误差;e、修正输出层的权值和阈值,修正隐含层的权值;f、修正隐含层的阈值,修正隐含层和输入层的权值。

(二)遗传小波神经网络模型

遗传算法运用了生物界的优胜劣汰、适者生存的思想对复杂问题进行优化,适用于复杂的故障,起到了优化简化问题的作用。对局部数据进行详细的分析是小波法最大的特点,所以它被誉为“数字显微镜”。遗传算法小波神经网络就是运用小波进行分解的方法分解模拟故障信号,将得到的数据进行归一化,将归一化后的数值输入到神经网络模型中。它融合了神经网络、小波分析和遗传算法三者所有的优点。基于遗传小波神经网络的电梯故障诊断的一般步骤为:测试节点信号采样、小波分解、故障特征量提取、归一化得到训练样本集、遗传算法优化、得到故障类型。遗传小波神经网络模型在故障原因复杂、数据信息量巨大的电梯系统的应用中能够发挥更大的作用。

(三)模糊神经网络模型

模糊神经网络模型就是创新性的将神经网络与模糊理论结合到一起。它采用了广义的方向推理和广义的前向推理两种推理方式。与其它两种模型不同的是,它的语言逻辑、判断依据和结论都是模糊的。但是它的数据处理能力还有自我学习能力并没有因此而变差,反而更加丰富了它的定性知识的内容。在处理实际问题的过程中,首先要建立所有可能发生的故障的完整集合,其次将所有的故障发生原因归入到同一个集合中去,最后就是建立故障和原因的关系矩阵。分别叫做模糊故障集、模糊原因集、模糊关系矩阵。相较于Bp网络模型,这种模型更加的简单易行,充分发挥了神经网络和模糊逻辑的优点,不会因为故障原因过于复杂而失去诊断的准确性,在原本丰富定性知识和强大数据处理能力的基础上具有了很大的自我训练能力。

四、结语

神经网络的含义篇10

关键词:Bp神经网络遗传算法粒子群优化算法

中图分类号:tp311.52文献标识码:a文章编号:1007-9416(2013)07-0100-02

1引言

钢材轧制系统是一个非常复杂的非线性系统,相关工艺参数数据量巨大。传统的生产实践中,往往依赖工程师的个人经验,通过统计方法进行预报,花费大量的时间和精力,而且生产过程又不断受各种随机因素的干扰,无法通过对生产工艺参数的调整对产品的力学性能进行精确的预测。通过人工神经网络模型在线预报产品力学性能,可省去繁琐的传统数学模型的建立过程,利用大量在线采集的产品数据和各种参数实际值,使得产品在线预报力学性能达到的较高的精度,从而有效的降低了生产成本,提高了产品最终力学性能。

本文根据某钢铁公司Q235钢种的化学成分和轧制工艺同最终成品的力学性能之间的关系,基于Bp神经网络模型,构建预测钢材力学性能算法。在节省投资、节约能源、保护环境及可持续发展等方面具有重要的经济意义和战略意义。

2Bp网络算法

1986年Rinehart等人提出了多层前馈网络误差反向传播(errorBackpropagation,简称Bp)算法。他们通过对Bp算法在数学上的详细分析和完整推导,系统地解决了多层神经网络中隐含层单元连接权的学习问题。

理论上单隐层Bp网络可以任意精度逼近任意非线性曲线,因此本系统采用了单隐层Bp网络构建神经网络模型,如图3.1所示。

网络输入为钢材的化学成分和工艺参数。钢材化学成分包括:碳、硅、锰、磷、硫等15个成分参数。工艺参数选用F4-F6三道次参数、终轧温度、卷曲温度、上冷却水温度、下冷却水温度、中间坯厚度等参数作为神经网络候选输入参数。神经网络采用单输出层,分别为:屈服强度、抗拉强度、延伸率。

Bp神经网络是有导师类型的神经网络,采用误差梯度下降规则训练网络,导致网络学习速度慢且易陷入局部极值。由于网络结构的选择尚无完整的理论指导,初始权值阈值的选取和隐层节点的确定等都存在一定的盲目性,因此网络预测能力与训练能力的矛盾,易出现“过拟合”现象。为了加速收敛和防止震荡以及改善网络泛化能力,应采取相应的优化策略。

3遗传算法优化Bp网络

遗传算法是一种基于生物进化原理共享出来的搜索最优解的仿生算法。遗传算法优化Bp神经网络是用遗传算法来优化Bp神经网络的初始权值和阈值,使优化后的Bp神经网络能够更好的预测函数输出。遗传算法优化Bp神经网络的要素包括种群初始化、适应度函数、选择操作、交叉操作、和变异操作。

(1)种群初始化。个体编码方法为实数编码,每个个体均为一个实数串,由输入层与隐含层连接权值、隐含层阈值、隐含层于输出层连接权值以及输出层阈值4部分组成。个体包含了神经网络全部权值和阈值,在网络结构已经已知的情况下,就可以构成一个结构、权值、阈值确定的神经网络。

(2)适应度函数。根据个体得到Bp神经网络的初始权值和阈值,用训练数据训练Bp神经网络后预测系统输出,把预测输出和期望输出的误差绝对值之和作为个体适应度值。

(3)选择操作。遗传算法选择操作有赌法、锦标赛法等多种方法,本案例选择赌法,即基于适应度比例的选择策略。

(4)交叉操作。由于个体采用实数编码,所以交叉操作方法采用实数交叉法。

(5)变异操作。选取第i个个体的第j个基因进行变异。

4优化算法性能比较

将基于自适应学习因子和附加动量项的Bp神经网络应用于屈服强度力学性能建模。实际问题中,选用260组样本数据进行网络的训练,100组数据对训练好的网络进行测试。选定网络输入层单元16,网络输出层单元数为1,根据经验公式确定单隐层节点数的分别为13、14、15、16、17、18、19、20,然后用试凑法确定最佳的节点数18。网络中学习率自动调整[51、52],学习速率的调整准则是:在每个迭代步上考察所有样本的误差平方和较上次迭代是否有所下降,再对学习率加以调整。学习因子取0.15,动量因子取0.3,期望输出与实际输出的误差平方和作为代价函数。

遗传算法参数设置为:种群规模为10,进化次数为50次,交叉概率为0.4,变异概率为0.2。把最优初始权值和阈值赋给神经网络,用训练数据训练100次后预测抗拉强度值,预测误差曲线如图3.3所示。从图3.3可以看出遗传算法优化的Bp网络预测更加精确,并且遗传算法优化Bp网络预测的均方误差为,而未优化的Bp网络均方误差为,预测均方误差也得到了很大提高。

遗传算法优化Bp神经网络的目的是通过遗传算法得到更好的网络初始权值和阈值,其基本思想是用个体代表网络的初始权值和阈值,个体值初始化的Bp神经网络的预测误差作为该个体的适应度值。通过选择、交叉、变异操作寻找最优个体,即最优的神经网络初始权值。

将基于pSo优化算法获得权值作为Bp网络的初始权值训练网络并对抗拉强度强度力学性能建模,将训练后的网络应用于140组测试数据,结果如图3.5所示。

图3.5中(a)表示传统Bp算法训练结果;(b)表示经过优化后的预测结果。由图3.5可以看出,经过优化后的神经网络,预测数据多分布在自适应曲线两侧,网络表现出较好的预测性能,并且优化后的网络训练速度也得到加快。

5结语

本文针对Bp神经网络采用梯度下降算法,导致的学习速度慢,算法容易陷于极小点及个别网络参数难以确定等缺陷,提出两种优化Bp网络的方法:遗传优化算法和粒子群优化算法。分别应用两种算法优化Bp网络初始权值和阈值,与传统的单隐层Bp算法比较,验证了改进的Bp网络预测效果较好。通过对比两种优化算法,粒子群算法优化神经网络可以达到更好的钢材性能预测效果。

参考文献

[1]刘维群,李元臣.Bp网络中隐层节点优化的研究[D].洛阳:洛阳师范学院,2000,23-28.