神经网络常用算法十篇

发布时间:2024-04-26 11:24:07

神经网络常用算法篇1

【关键词】计算机网络模型神经网络算法

计算机网络在人们日常生活越来越重要,被广泛应用到各个行业。随着社会不断发展,人们需求不断加高,使计算机得到良好改善,目前,计算机网络运用集线式服务器来实现网络互连,促进网络发展。但是也有很大弊端,过多的联想信息虽然满足人们需求,但是对技术的要求也更加苛刻,现有的技术满足不了计算机网络运行,使人们日常操作不方便。为了解决这一问题,研究人员需要全面优化计算机网络,提高运行能力和性能,运用神经网络算法,使计算机更加适合现代社会发展,储存更多信息。

1神经网络算法概论分析

1.1神经网络算法整体概论

神经网络算法是按照人体大脑的思维方式进行模拟,根据逻辑思维进行推理,将信息概念化形成人们认知的符号,呈现在显示屏前。根据逻辑符号按照一定模式进行指令构造,使计算机执行。目前,神经网络被广泛使用,使直观性的思维方式分布式存储信息,建立理论模型。

优化网络的神经网络主要是Hopfield神经网络,是1982年由美国物理学家提出的,它能够模拟神经网络的记忆机理,是全连接的神经网络。Hopfield神经网络中的每个神经元都能够信号输出,还能够将信号通过其他神经元为自己反馈,那么其也称之为反馈性神经网络。

1.2优化神经网络基本基础

Hopfield神经网络是通过能量函数分析系统,结合储存系统和二元系统的神经网络,Hopfield神经网络能收敛到稳定的平衡状态,并以其认为样本信息,具备联想记忆能力,使某种残缺信息进行回想还原,回忆成完整信息。但是Hopfield神经网络记忆储存量有限,而且大多数信息是不稳定的,合理优化计算机联想问题,使Hopfield神经网络能够建设模型。

1.3神经网络算法优化步骤简述

人工神经网络是模拟思维,大多是根据逻辑思维进行简化,创造指令使计算机执行。神经网络算法是按照人体思维进行建设,通过反应问题的方法来表述神经思维的解;利用有效条件和能量参数来构造网络系统,使神经网络算法更加可靠;大多数动态信息需要神经网络来根据动态方程计算,得出数据参数来进行储存。

2神经网络算法的特点与应用

2.1神经网络主要特点

神经网络是根据不同组件来模拟生物体思维的功能,而神经网络算法是其中一种程序,⑿畔⒏拍罨,按照一定人们认知的符号来编程指令,使计算机执行,应用于不同研究和工程领域。

神经网络在结构上是由处理单元组成,模拟人体大脑神经单元,虽然每个单元处理问题比较简单,但是单元进行组合可以对复杂问题进行预知和处理的能力,还可以进行计算,解决问题能力突出,能够运用在计算机上,可以提高计算机运算准确度,从而保障计算机运行能力。而且一般神经网络有较强容错性,不同单元的微小损伤并不阻碍整体网络运行,如果有部分单元受到损伤,只会制约运算速度,并不妨碍准确度,神经网络在整体性能上能够正常工作。同时,神经网络主干部分受到损伤,部分单元会进行独立计算,依然能够正常工作。

2.2神经网络信息记忆能力

神经网络信息存储能力非常强,整体单元组合进行分布式存储。目前,神经网络算法是单元互相连接,形成非线性动态系统,每个单元存储信息较少,大量单元互相结合存储信息大量增加。神经网络具备学习能力,通过学习可以得到神经网络连接结构,在进行日常图像识别时,神经网络会根据输入的识别功能进行自主学习,过后在输入相同图像,神经网络会自动识别。自主学习能力给神经网络带来重要意义,能够使神经网络不断成长,对人们未来日常工作能够很好预测,满足人们的需求。

2.3神经网络的突出优点

近年来,人工神经网络得到越来越多人重视,使神经网络得到足够资源进行良好创新。人工神经网络是由大量基本元件构成,对人脑功能的部分特性进行模仿和简化,人工神经网络具备复杂线性关系,与一般计算机相比,在构成原理和功能特点更加先进,人工神经网络并不是按照程序来进行层次运算,而是能够适应环境,根据人们提供的数据进行模拟和分析,完成某种运算。

人工神经系统具备优良容错性,由于大量信息存储在神经单元中,进行分布式存储,当信息受到损害时,人工神经系统也可以正常运行。人工神经网络必须要有学习准则制约来能够自主学习,然后进行工作。目前,人工神经网络已经逐步具备自适应和自组织能力,在学习或训练过程中改变突触权重值,以适应周围环境的要求。通过一定学习方式和某些规则,人工神经网络可以自动发现环境特征和规律性,更贴近人脑某些特征。

采用并行分布处理方法,使得快速进行大量运算成为可能。神经网络的一个很大的优点是很容易在并行计算机上实现,可以把神经的节点分配到不同的CpU上并行计算。钱艺等提出了一种神经网络并行处理器的体系结构,能以较高的并行度实现典型的前馈网络如Bp网络和典型的反馈网络(如Hopfield网络)的算法。该算法以SimD(SingleinstructionmultipleData)为主要计算结构,结合这两种网络算法的特点设计了一维脉动阵列和全连通的互连网络,能够方便灵活地实现处理单元之间的数据共享。结合粒子群优化算法和个体网络的并行学习机制,提出了一种基于粒子群优化的并行学习神经网络集成构造方法。

3结束语

全球化的发展,信息交流不断加快,促使各个行业相互融合。神经网络算法具备简单、稳定等不同优势,神经网络研究内容相当广泛,神经网络算法能够与其它算法相互结合,在一定程度提高计算机网络模型运算能力。但是计算机网络模型中神经网络算法学习能力比较低下,梯度下降法不准确,所以需要有关人员进行深度研究,探索神经网络算法,使其更加完善,从而保证计算机整体性能的提高。

参考文献

[1]陈竺.计算机网络连接增强优化中的神经网络算法[J].电子技术与软件工程,2014(19).

[2]史望聪.神经网络在计算机网络安全评价中的应用分析[J].自动化与仪器仪表,2016(06).

神经网络常用算法篇2

关键词:计算机;网络故障;检测

中图分类号:tp306.3文献标识码:a文章编号:1007-9599(2012)03-0000-02

ComputernetworkFaultDetection

wangLiyan

(BeijingLucencyenviron-techCo.,Ltd.,Beijing100039,China)

abstract:thecomputernetworkfailuremoretypesofcomputernetworkfaultdetectionisacomplexsystemsengineering,requirementsnotonlyfortheprocessingstepsofthenetworkfailureandmaintenancehasveryhighrequirementsonthenetworkfaultanalysismethodandcomputerfailures.inthispaper,mainlyfromseveralaspectsonthecomputernetworkfaultdetectionanalysis.

Keywords:Computer;networkfailure;Detection

计算机网络的日常维护是保障网络安全的一项基础工作。计算机网络故障不仅影响网络的正常运行,而且对计算机网络的使用效率也会产生影响。因此,应该有效的预防计算机网络故障是非常重要的。计算机网络故障检测在预防计算机网络故障时显得非常重要。

一、计算机网络故障分类

本文就计算机网络故障分类主要从两个方面进行分析:(1)按网络故障的性质来分,网络故障主要分为物理故障和逻辑故障。一般而言物理故障比较容易解决,它主要是在设备、线路等位置出现问题,有的是由于人为因素多导致的硬件故障。物理故障的表现一般都是断断续续的网络连接,或者完全断开的网络连接。逻辑故障相对较复杂,主要发生在软件方面,其实也就是软件方面的故障,如网卡驱动问题、ip地质冲突问题、网络协议问题等。这种故障一般都使网页无法浏览,网速变慢等。(2)按网络故障的不同对象来分,网络故障主要分为主机故障、线路故障、路由器故障。主机故障的出现往往都是由于主机配置不当所引起的;线路故障表现为线路不同、路由器配置错误等;路由器故障通过表现线路发生故障,线路故障与路由器故障有时是一样的。除此之外,计算机网络故障还可分为安全故障。此故障主要就是在启动多余的服务情况下攻击者的攻击主要是通过多余进程的正常服务和漏洞来进行的。

二、计算机网络故障处理步骤

计算机网络故障处理是一个相对复杂的过程,其需要相应的步骤支持,才能确保故障很好处理。第一步,计算机网络使用者和管理者要明确网络故障的现象,收集造成故障有关的一切信息。第二步,使用者和管理者要根据网络故障的现象和已经收集的信息,分析故障产生的原因,制定相应的故障处理方案。第三步,在进行故障处理的过程中随时做好检测工作,保证计算机网络故障有效解决。第四步,使用者和管理者要总结故障处理过程中积累下来的经验,为以后故障处理提供可靠的参考数据与信息。

三、计算机网络故障分析方法

计算机网络故障产生的原因很多,比较复杂,因此,计算机网络故障分析需要全面进行,采用科学有效的方法对故障进行分析,才能为故障的解决提供可靠的参考依据。一般采用的方法是工具检测法、经验分析法、网络连接结构分析法。首先,工具检测法主要检测网络配置是否正确、网络服务和网络协议是否安装正确,对于系统的应用程序采用专门的检测软件,检测网络是否正常运行,各项参数以及相应结果是否正常。工具检测法是计算机网络故障检测最常用的方法。其次,经验分析法,其主要依靠网络的管理人员在长期维护网络工作设备的过程中积累一定的维护经验,针对设备相关配置情况以及排除故障等方面,采用恰当的方法进行故障处理。一般经验分析法所维护的设备主要是路由器检测、交换机检测等。再次,网络链接结构分析法,计算机网络的结构主要是由服务器、网络链路和客户机组成的,因此在检测计算机网络故障时要从这三个方面进行检测,主要是针对计算机硬件、软件以及驱动程序、应用程序、计算机病毒等多个方面进行排查,以明确计算机网络故障产生的根本原因。

四、计算机网络故障检测

随着计算机网络技术的快速发展,计算机网络故障检测已经成为准确判断计算机网络故障的一种可靠方法。本文以神经网络的计算机网络故障检测为主进行分析。神经网络不需要预先给出有关模式的经验知识和判别函数,它是一种自适应的模式识别技术,它所形成的决策区域是通过自身的学习机制自动形成的。决定网络的特性的因素有拓扑结构、学习和训练规则、神经元特性。网络获得某种映射关系是通过状态信息来对不同状态的信息进行训练而来的。并且网络可以连续学习,这种映射关系在环境发生改变时可进行自适应调整。对Bp神经网络的理论研究表明:具有一个输入层和一个线性输出层,至少一个S型激活函数的隐含层的Bp网络,能够以任意精度逼近任何连续可微函数。使用S型激活函数时Bp网络输入与输出关系:

输入:

输出:

输出的导数:

神经网络是由大量的神经元广泛互连而成的网络,目前Bp神经网络是现在应用最广泛的一种神经网络,本文以Bp神经网络为例来对计算机网络故障进行检测。Bp神经网络是单向传播的多层前向网络,它由输入层、中间层和输出层组成,中间层可有若干层,每一层的神经元只接受前一层神经元的输出。Bp神经网络中没有反馈,同一层的节点之间没有耦合,每一层的节点只影响下一层节点的输入。图1为Bp神经网络结构图。Bp神经网络的特点如下:(1)非线性映射能力。大量输入-输出模式映射关系存贮在神经网络中,不需要对这种映射关系的数学方程进行事先了解。只要具有充足的样本模式对网络进行学习训练,它就能够完成非线性映射(从n维输入空间到m维输出空间)。(2)泛化能力。当训练时,没有见过非样本数据,其也能够完成正确的映射。这就是所谓的泛化能力。(3)容错能力。网络的输入输出规律受输入样本中带有较大的误差甚至个别错误影响较小。

图1Bp神经网络结构图

Bp神经网络模型算法是一种监督学习算法,在对网络进行训练的前提条件就是有p个输入和输出样本对(X1,Y),(X2,Y2),…,(Xp,Yp)。标准的Bp网络训练算法可分为两布训练,即信息的正向传递和误差的反向传播。

Bp神经网络模型只有一个输入和一个输出与外界相联系,其与“黑匣子”很相似。神经网络模型训练是通过采集的样本数据和Bp算法来进行的,使其与组合导航系统原始算法模型的非线性特征越来越近。如图2所示Bp神经网络故障检测算法的原理图。从图2中可以看出,基于神经网络的计算机网络故障检测分为两个步骤。首先,要满足神经网络训练所需的足够的样本数量,然后得到期望的诊断网络;其次,根据当前诊断输入,来对系统进行诊断,利用神经网络进行诊断。一般情况下,先要对诊断的原始数据和训练样本数据进行处理,然后才开始学习和诊断,诊断过程主要包括两个内容――预处理和特征选取/提取,从而能够为网络诊断提供合适的诊断输入和训练样本,这也是基于神经网络的计算机网络故障检测的主要目的。

图2Bp神经网络的计算机网络故障检测

基于神经网络的计算机网络故障检测的一般步骤和注意事项如下:(1)合理的网络结构的规模的确定,尤其是网络中间层神经元个数的选择是网络结构确定和网络性能的关键;(2)训练样本集和测试样本集的确定。训练样本集的作用就是对网络进行训练,而测试样本集的作用就是对网络训练的效果和推广能力的监测。(3)根据训练样本集对网络进行训练,并经过测试样本集的测试,满足要求的神经网络便可进行故障检测;(4)基于Bp神经网络的故障检测和定位根据组合导航系统的实际输入来进行。

五、计算机网络故障处理与维护

在本文的第一部分中已经对计算机网络故障分类进行了分析,因此计算机网络故障处理与维护也主要对硬件故障和软件故障进行分析。(1)硬件故障处理与维护。使用者和管理者首先要检测联网电脑的网卡、网线、集线器、交换机、路由器等故障,以及查看计算机硬盘、内存和显示器是否正常运行,对于其中线路故障,线路的损坏和线路受到干扰;接口故障是插头松动和端口本身的物理损坏;交换机或路由器故障是设备出现物理损坏,造成计算机网络无法正常运行的问题,要及时对损坏的计算机硬件进行及时更换。(2)软件故障处理与维护。主要是计算机网络设置的检查、网络安全性的检测、网络通畅性检测等。检测计算机网络设备的运行状态,检测网络设备的系统配置,以及服务器杀毒软件的更新和升级,以及安装网络防火墙,以保障数据传输与处理的安全性、可靠性。

随着计算机的广泛应用,其已经成为人们生活、工作和学习的主要工具,但是同时它也给人们带来了安全问题。计算机网络故障一旦发生,人们的生活、工作和学习都会受到影响,因此,计算机网络故障检测显得非常重要,其能够预防计算机网络故障的发生或者其发生所带来的损失。

参考文献:

[1]陈敏,李旺.计算机网络中的故障定位技术研究[J].国外电子测量技术.2007(07)

神经网络常用算法篇3

关键词:Bp神经网络;adaboost算法;入侵检测

中图分类号:tp393文献标识码:a文章编号:1009-3044(2012)12-2687-02

随着计算机网络技术的飞速发展,网络入侵检测系统成为了近几年信息安全领域研究的热点。入侵检测可以有效地维护网络安全,实现实时保护,抵制各种外部入侵、内部攻击等,弥补了防火墙的不足。网络入侵检测实际上是通过分析网络数据包,把正常数据和异常数据进行有效地分类,找出异常数据。近年来,涌现了大量的基于机器学习的网络入侵检测系统模型,如基于免疫遗传算法、神经网络、支持向量机等等的异常检测算法模型[1]。其中Bp神经网络具有学习能力强、结构简洁和非线性映射能力,在网络入侵检测中得到了广泛的应用。但是由于网络数据量非常大,传统的Bp神经网络模型在预测分类时往往具有预测分类精度低、模型收敛速度慢等缺陷,不能有效地找出异常攻击样本[2][3]。该文基于这些缺陷,提出了一种基于adaboost算法集成Bp神经网络的网络入侵检测方法,采用matlab软件进行仿真实验,在KDD99数据集进行测试,实验结果表明该方法可有效提高小类样本的预测效果,降低漏报率和误报率。

1Bp神经网络模型

1.1Bp神经网络定义

Bp神经网络是目前应用最广泛的人工神经网络之一,是一种前馈型的、有导师学习、采用误差反向传播算法的神经网络。在该模型中,信号由正向传播和反向传播两过程组成。正向传播时,数据由输入层输入传输至隐藏层,隐藏层单元处理后的结果由输出层输出,如果输出结果与输出期望不符时,进行反向传播,即调整权值对输出结果进行再次正向传播的数据处理,不断重复此过程直至输出结果与输出预期的误差在预设范围内,或者完成了预设的学习次数为止[4]。图1为Bp神经网络模型。

[2]panHao,LiXingfeng.ResearchoftheintrusionDetectionapproachBasedontheSplit-assemblyBpneuralnetwork[C].proc.ofthe3rdinternationalSymposiumonmagneticindustry&the1stinternationalSymposiumonphysicsandindustry.Shenyang,China:[s.n.],2004.

[3]韩力群.人工神经网络教程[m].北京:北京邮电大学出版社,2006.

[4]刘星昊.融合多数据源构建基因调控网络[D].长春:吉林大学,2010.

[5]FengrongSun,Drewmorris,paulBabyn.theoptimallineartransformation-basedfmRi.featurespaceanalysis[J].medicalandBiologicalengineeringandComputing.2009,47(11):19-29.

[6]张治国.人工神经网络及其在地质学中的应用研究[D].长春:吉林大学,2006.

神经网络常用算法篇4

关键词:神经网络;工程造价;Vague集贴近度

0引言

对建筑工程造价进行科学有效的测算和控制,会使工程造价的组成比较合理,进而节约工程开销成本。现在,经典的建筑工程造价测算方法主要有下面几种:定额法、类比工程法、回归分析法和模糊数学法[1]。其中,定额法必须对定额成本、定额差异和定额变动差异进行单独核算,任务较重,现实中很难实施;类比工程法是通过类比工程的相似性实现工程造价的测算,该方法估算准确度不够高;回归分析法的估算准确度同样不高,该方法将很多重要因素忽略了;模糊数学法是通过模糊数学的思想对工程造价进行估算,该方法的不足主要是特征隶属度不好准确确定。由于人工神经网络可以自学并进行推理,本文通过人工神经网络和Vague集贴近度理论对住宅楼的工程造价进行估算和控制,可以为建筑工程造价估算提供很好的服务。

1Bp神经网络

Bp神经网络是一种前馈型神经网络,包含三种层次或者多层次,各种层次之间相互连接,同一层次可以自由结合,Bp神经网络的构成见图1。所属模型的神经元数量决定了Bp神经网络的层数,各个层次之间通过相互的权值实现联接[2]。

人工神经元(artificialneuron)模型:

人工神经元是神经网络的基本元素,其原理可以用图2表示。

图中x1~xn是从其他神经元传来的输入信号,wij表示表示从神经元j到神经元i的连接权值,θ表示一个阈值(threshold),或称为偏置(bias)。则神经元i的输出与输入的关系表示为:

Bp神经网络的结构非常简洁,包括正向传播和逆向传播。下面分别对Bp神经网络信息的正向传播和误差信息的反向传播原理进行介绍。

1.1信息的正向传播

式(1)中,n为信息的总个数。

1)输入向量为

多层神经元网络(Bp网络图3)。

Bp(Backpropagation)神经网络,即误差反传误差反向传播算法的学习过程,由信息的正向传播和误差的反向传播两个过程组成。由图3可知,Bp神经网络是一个三层的网络:

输入层(inputLayer):输入层各神经元负责接收来自外界的输入信息,并传递给中间层各神经元;

隐藏层(HiddenLayer):中间层是内部信息处理层,负责信息变换,根据信息变化能力的需求,中间层可以设计为单隐层或者多隐层结构;最后一个隐层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程;

输出层(outputLayer):顾名思义,输出层向外界输出信息处理结果。

2建筑工程造价估算模型

2.1Bp神经网络训练建立Bp神经网络模型,对工程特征向量进行归一化处理,可以开始神经网络训练,目标是使网络性能函数极小化,实现非线性映射的目的。本文利用nguyen-widrow方法[5]对权值和阈值的初值进行确定。nguyen-widrow方法具体原理为

上式中,w是数值矩阵,θ是权值矩阵,S、n是节点的个数。rand(S,n)为s行n列的平均自由分布任意矩阵,i(S,n)为s行n列标准矩阵。

2.2Bp神经网络训练调整与测试Bp神经网络训练调整与测试连接强度加权值调整方法,具体公式为:

Bp算法在按步骤经行的收敛过程中,每一步的学习率都将发生变化,而不是固定不变。此时Bp神经网络不应用连接强度加权值的调整方法,同时也不使用误差函数对梯度调整和η调整方法;最终应用相对权重增加量Δwij进行网络调整与测试,权值wij的修正值Δwij,如下所示:

以上的分析表明,运用Bp神经网络进行建筑工程单方造价估算是可行的,然而该方法对建筑工程项目总造价的估算还不够精确。当前建筑工程项目需要考虑的影响因素非常多,虽然可以引入大量的特征因素,然而里面有很多因素都非常模糊化;即使可以对特征因素进行具体说明,提高输入点的数量,这时样本数据会随着增加,此时神经网络将会复杂化,求解效率会降低。所以,本文通过以上运用Bp神经网络对建筑工程项目单方造价的估算,采用Vague集贴近度对Bp神经网络进行改进,对建筑工程总造价进行估算[3]。

2.3加入Vague集贴近度改进Bp神经网络文献[4]采用普通模糊集理论来对工程隶属度进行确定。本文中建筑工程特征因素隶属度是指建筑工程特征值隶属于准备建设的项目特征值的大小程度:

3实例分析

选取2013年西安市某工程项目数据进行实例分析,工程造价指数以2013年为基准,通过加权平均法求解造价年综合指数。通过选择,最后选取了二十个样本,前面十八个样本为训练样本,剩余的两个当作检测样本。神经网络训练数据见表1。

3.1Bp神经网络训练采用Bp神经网络对模型进行构建,对建筑工程特征向量数据处理结束后,可以开展神经网络训练。神经网络训练基本的训练公式为

net,tr=train(net,p,t)

训练公式中net为最终的网络,tr为数值统计,p是输入矩阵,t是输出矩阵。

3.2Bp神经网络与Vague集贴近度预测采用Vague集贴近度的数据,基于Bp神经网络训练样本进行预测,通过训练好的网络对与本文样本数据相类似工程项目的单方造价进行预估,求得单方造价均值为1800元/m2。紧接着可以对建筑工程的总造价进行预估,通过对10项样本进行造价估算预测,采用Bp神经网络和Vague集贴近度相结合的方法进行造价预估,估计误差在±10%范围内(见表2),造价估算结果非常准确。

4结论

本文应用Bp神经网络造价预测和Vague集贴近度理论,从理论和实际应用两方面对建筑工程造价估算进行了研究。文中的方法能更准确地反应工程造价的不确定性,为建筑工程项目造价估算方法研究提供了一种新的视角和方法。

参考文献:

[1]史峰.Bp神经网络在工程量清单中快速估价的应用研究[m].北京航空航天大学出版社,2010.4.

[2]张风文.基于matLaB神经网络的工程实例分析[J].华东交通大学学报,2010,8(3):26-33.

[3]郭一斌,王红革,王翔.基于Vague集贴近度的工程项目投资快速估算方法[J].现代经济信息,2011,12(2):50-55.

神经网络常用算法篇5

【关键词】Bp神经网络;优化;故障诊断;仿真

BasedonoptimizedBpneuralnetworkSimulationStudyonFaultDiagnosisofDieselengineFuelSystem

wanGShi-wu

(Dept.ofequipment,BengbuautomobilenCoacademy,Bengbuanhui233000,China)

【abstract】theneuralnetworkhasmanyabilities:parallelproeessingself-leaningandself-adapting,approachinganynonlinearfunctionetc,itisaneffectivewaytodealwithcomplexdiagnosisproblemofnonlinearmultivariableanduncertainty,neuralnetworkofthesecharacteristicsmakesitapplymoreandmoreextensiveinthefieldofthefaultdiagnosis.inthispaper,usestheLmimprovementstudyalgorithm,usethewell-trainednervenetworktocarriesonthedieselenginefaultdiagnosisanddrawntheresult,alsoenablethefaultdiagnosistohavetheartificialintellectualization.

【Keywords】Bpnervenetwok;optimize;Faultdiagnosis;Simulation

1Bp神经网络

Bp神经网络是多层前馈神经网络,它的名字源于网络权值的调整规则,采用的是后向传播学习算法,既Bp算法。Bp网络是目前应用最广的神经网络之一,Bp网络是由一个输人层,一个或多个隐层以及一个输出层组成,如图1所示,上下层之间实现全连接,而每层神经元之间无连接。网络的学习过程包括正向传播和反向传播。在正向传播进程中,输入信息从输入层经隐层加权处理传向输出层,经功能函数运算后得到的输出值与期望值进行比较,若有误差,则误差反向传播,沿原先的连接通道返回,通过逐层修改各层的权重系数,减小误差。随着这种误差逆向传播修正的不断进行,网络对输入模式响应的正确率也不断上升。

图1三层Bp模型神经网络

研究表明,带有两个隐层的Bp网络能形成任何形状的决策区域。当Bp网用作非线性映射时,允许网络实现输入到输出之间的任意映射关系,即可建立故障征兆空间与故障空间的某种映射关系,每当给出一个实测的故障征兆矢量,网络即能通过状态演化(前传和联想)收敛到与其最相近的模式,从而诊断其故障原因。典型的基于神经网络模式识别的故障诊断系统结构如图2所示。

图2基于神经网络模式识别功能的故障诊断系统结构

2Bp神经网络的不足

Bp神经网络模型虽然在各方面都具有重要意义,而且应用也很广泛,但它也存在一些不足。从数学上看,它是一个非线性优化问题,不可避免的存在局部极小点,学习算法的收敛速度慢,网络隐层单元数选取带有很大的盲目性和经验性,新加入的样本要影响已学完的样本等。

具体来说,Bp算法对样本进行逐个学习时,常会发生“学了新的,忘了旧的”的遗忘现象。故此值得对样本不断循环重复,这样一来其学习时间必然延长。为了克服这个缺点,将逐个学习改为批量学习,即对所有样本都进行学习后将其误差相加,然后用这个误差之和来对网络的权系数进行调整。但是这样一来,在误差求和时,这些误差有可能互相抵消,这就降低了算法的调整能力,也就是延长了学习的时间。所以,按批量学习其收敛速度也会很慢。同时,批量学习方法还有可能产生新的局部极小点。比如各误差不为零,但其总和为零,这种情况发生后算法就稳定在这个状态上,造成新的局部极小点。

3Bp神经网络学习算法的优化

为了提高神经网络算法的学习效率及稳定性,在反向传播(Bp)算法中可以引入基于非线性最小二乘法的Levenberg-marquart(Lm)最优算法,替代原Bp算法中的梯度下降法寻找最佳网络连接权值。

Lm算法是一种优良的非线性最小二乘优化方法,这种方法的一般模型为:

F(x)=■f■■(x),x∈Rnm≥n

其中m为训练样本数,n相当于神经网络两层之间的权值个数。

令:

f(x)=f■xf■x…f■x

其目标函数还可写为F(x)=ft(x)f(x)

则F(x)的梯度为:

gradF(x)=2■f■x■2■f■x■…2■f■x■=f■f■…f■f■f■…f■…f■f■…f■=f■f■…f■=atf=f(x)

其中,fi=fi(x);fij=■;a=(fij)m×n

常称a为雅可比矩阵;fi(x)称为残量函数定义为:i(x)=di-yi(x)

其中di为目标函数,yi为神经网络输出。其Hessian矩阵为:

G(x)=■[fi(x)fi(x)t+fi(x)2fi(x)]=a(x)ta(x)+S(x)

Lm算法是二阶收敛的newton算法的变形,又称变尺度法。牛顿法的权值调整算法如下:

x(k+1)=x(k)-[G(x(k))]-1x(k)=x(k)-(ata+S)-1・f(x(k))

若高阶项S可省略的话,则变为Gauss-newton法:

x(k+1)=x(k)-(ata)-1・f(x(k))

在Gauss-newton法中,我们要求a是满秩的。遗憾的是在实际情况中,a为奇异的情况经常发生,使得算法常常收敛到非驻点。这样造成的结果是线性搜索得不到进一步下降,从而无法找到最优点。Lm算法通过引入一个可变因子μ,将一个对角阵μi加到ata上去,改变了原矩阵的特征值结构使其变成满秩正定矩阵,从而确保线性搜索的方向为下降的方向。其权值调整规则为:

x(k+1)=x(k)-(ata+μi)-1・f(x(k))

我们可以利用μ来控制迭代,μ可以在一较大的范围内进行调整。μ较小时即为Gauss-newton法;μ较大时即为最速下降法。μ参数的引入,以及在迭代过程中μ参数的可调节性,极大地改善了算法收敛的稳定性。

采用Lm最优化算法训练神经网络,替代原Bp算法中的梯度下降法寻找最佳网络连接权值。仿真试验证明,这种学习算法提高了Bp网络算法的学习效率及稳定性,并提高了网络的收敛速度,更好的实现了对柴油机燃油压力信号的故障诊断。

4基于优化的Bp神经网络柴油机燃料系故障诊断

4.1确定故障特征信息

柴油机燃油系统的状态信息主要体现在高压油管的压力波形中,当某处发生故障时,必然使原有供油状态发生变化,燃油流动的压力和流速等参数会有相应的改变,反映在压力波形上将导致波形形态和波形参数值的变化。因此利用压力传感器测取高压油管的燃油压力波形,并对波形进行分析、提取出故障特征,再利用人工神经网络模型对特征值进行模式识别就可达到故障诊断的目的。图3、图4分别为100%和25%供油量喷油压力波形图。

图3100%供油量喷油压力波形图

图425%供油量喷油压力波形图

4.2提取特征参数

特征参数的提取是模式识别过程中的重要环节,它关系到模式识别效果的准确性。由于燃油压力波形是一种规则波形,任一压力波形都标志着柴油机燃油系统的一种工作状态。压力波形的状态信息主要体现在波形的结构形态上,可以直接从其时域波形上提取波形的结构特征,并表示为便于计算的特征空间。根据分析和试验,对于燃油压力波形来说,最大压力、起喷压力、落座压力、次最大压力、波形幅度、上升沿宽度、波形宽度、最大余波宽度等特征最能表现出柴油机运行时的状况。为了获得最佳诊断效果,我们选用这八种参数构成特征向量空间,如图5所示。

图5波形特征

4.3Bp神经网络的建立及故障诊断过程

4.3.1数据样本采集

柴油机燃料系故障主要是供油量不足,主要表现为针阀卡死、针阀泄漏、出油阀失效等。在发动机800r/min时,用传感器分别采集正常油量、针阀卡死、针阀泄漏、出油阀失效四种状态的燃油压力数据,绘制出不同状态下的燃油压力波形,对每个波形手动提取出最大压力、启喷压力、落座压力、次最大压力、波形幅度、上升沿宽度、波形宽度、最大余波宽度这8个特征值。一般情况下,每个状态至少采集提取5个实际样本,每个样本都包括以上8个特征值,用来建立网络,训练网络,并进行故障诊断。

4.3.2Bp神经网络的建立和训练

新建Bp神经网络newnet,如图6所示,网络设计采用三层Bp网络,网络的输入层个数为8个,输出层的个数为4个,隐含层的个数并不是固定的,经过实际训练的检验和不断的调整,确定隐含层的个数近似遵循下列关系n2=2n1+1。其中n1为输入层个数,n2为隐含层个数,因此隐含层个数为17个。

图6newnet网络结构

四种故障模式可以用如下形式表示输出:

正常油量(1,0,0,0);针阀卡死(0,1,0,0);针阀泄漏(0,0,1,0);出油阀失效(0,0,0,1)。

输入层至隐层的连接权wij、隐层至输出层的连接权Vjt、隐层各单元的输出阈值θj、输出层各单元的输出阈值γj,都选取为(-1~1)之间的随机数,然后按照Bp网络的学习步骤进行学习。网络输入层的传递函数采用双曲正切S型传递函数tansig,第二层传递函数采用S型对数函数Logsig,利用基于非线性最小二乘法的Lm最优算法,替代原Bp算法中的梯度下降法训练神经网络,求出最佳网络连接权值和阈值。

利用所采集数据样本,作为网络训练的原始样本,确定初始连接值和阈值后利用matlab编程,训练的速度为0.1,训练误差精度为0.01,对网络训练9000次,得出最终的各个连接权值和阈值,训练结束。

4.3.3故障诊断过程及结果

网络训练结束后,将表1中的测试数据输入训练好地Bp网络。

经过运算后,网络输出层得出如下的诊断结果:

Y=0.99570.00420.06000.0768

0.00020.99950.00140.0015

0.08460.00880.99650.0211

0.02020.01330.00030.9620

从测试结果可以看出,诊断结果与实测值具有良好的一致性,诊断误差分别为0.0043、0.0005、0.0035和0.0380可见诊断误差非常小,因此可以判定,该Bp神经网络完全可以满足柴油机燃油系常见故障的诊断要求。

5结束语

仿真试验表明,基于优化的Bp神经网络的故障诊断结果与实测值具有良好的一致性,只要选择足够典型的原始故障样本训练Bp神经网络,网络的容错性和稳定性就较好。针对设备运行的复杂性,仅选用单一的诊断参数往往会做出错误的判断,而基于神经网络的故障模式识别方法能充分利用信息特征,实现输人与输出之间的映射关系,得出准确的诊断结果。

【参考文献】

[1]黄丽.Bp神经网络算法改进及应用研究[D].重庆师范大学,2008:6-15.

[2]孙即祥.现代模式识别[m].国防科技大学出版社,2001,5.

[3]李国勇.智能控制及其matLaB实现[m].电子工业出版社,2005,5.

[4]李焕良,等.基于Bp神经网络的电气系统故障诊断[J].起重运输机械,2005,6:55-56.

[5]王俊生.柴油发动机燃油系统的故障分析研究[J].山西建筑,2003,4:250.

神经网络常用算法篇6

[关键词]神经网络、网络安全评价、网络安全

中图分类号:tp183文献标识码:a文章编号:1009-914X(2015)13-0301-01

引言

对于计算机网络安全评价中,优化计算机网络安全评价方法,应用神经网络,发挥非线性安全评价能力,提升计算机网络安全评价速度,有助于提高网络安全评价的精度。以下对此做具体分析。

1、网络安全评价与神经网络

1.2计算机网络安全评价

网络安全评价,就是针对影响计算机网络安全的因素,建立全面、合理的评价指标,能够客观、科学地反映网络安全影响因素。网络安全评价,应具备、可行性、简要性、独立性、完备性、准确性,这样才可以准确反映评价信息。

1.2神经网络

针对神经网络,形成初期,就是以人体脑部信息处理的形式作为基础,然后,再经过数学模型的匹配,以此作为研究脑细胞结构、脑细胞动作以及人体生物神经元特征的网络结构[1]。后来,随着计算机技术的发展,在先前神经网络模型的基础上,不仅增加神经网络的学习机制,同时,还提出针对神经网络的感知器模型,并将其应用在工程建设之中,然后利用映射拓扑性质,形成映射自组织网络模型,在计算中进行模拟。

2、应用神经网络技术的优点

对于网络安全评价中,应用神经网络不仅可以提升网络完全评价的质量,还可以提升网络安全效应,其主要具备以下优点。首先,就是在网络安全评价中,应用的神经网络,神经网络有自适应性与容错性,通过自我调整可以减小网络误差[2];神经网络知识是存储在连接权上的,依据生物神经元学习与记忆形成,同时还具备外推性、自动抽提的功能,可以对直接的数据以及数值进行学习训练,神经网络技术中,还可以自动的确定出原因同结果之间的关系,同时总结网络的安全评价规律,能够将已学的知识应用到网络安全评价样本之中[3]。并且,针对神经网络技术,其应用范围较广,还具备实时应用的潜力,在网络安全评价中,可以有效保证网络的安全,确保其评价结果的准确性与客观性。

3、神经网络算法

3.1粒子群优化算法

每个粒子i包含为一个D维的位置向量xi=(xi1,xi2,……,xiD)和速度向量vi=(vi1,vi2,……,viD),网络安全评价中,粒子i在搜索空间时,可以保存搜索的最优经历位置pi=(pi1,pi2,……,piD),并且可以在神经网络的每次迭代开始之时,该粒子就可以根据自身的惯性与经验,在群体的最优经历位置上调整速度向量,达到最好的位置。c1、c2作为正常数,也就是加速因子;r1、r2就是[0,1]中的均匀分布随机数,d是D维维数,ω就是惯性权重因子。粒子位置与速度更新公式如下:

初始化网络安全评价神经网络种群后,可以将种群大小记为n。基于网络安全评价中,神经网络的适应度支配思想,可以将种群划成两个子群,一个作为非支配子集a,一个作为支配子集B,并且两个子集基数需要满足子群基数之和。粒子群优化算法中,其算法终止准则,就是最大迭代次数tmax,以及计算精度ε以及最优解最大凝滞步数t,则可结束网络安全评价工作。

3.2Bp神经网络学习算法

对网络安全评价神经网络权系数置初值。

对网络安全评价神经网络各层的权系数,可以置一个较小非零随机数,但网络安全评价神经网络中,。

输入网络安全评价神经网络的一个样本,,并以与其对应的期望输出结果。

计算网络安全评价神经网络各层输出,针对其第k层的第i个神经元,其输出为,公式为:

计算网络安全评价神经网络的学习误差,

计算神经网络输入向量与隐层神经元以及输入层权值的距离,距离较大为获胜神经元。求出各层学习的误差。针对输出层,有

对于神经网络隐层,仅计算获胜神经元的学习误差,i为获胜神经元。

修正神经网络局部权系数和阀值

调整神经网络,与获胜神经元相连弧线的权值和阀值

其中:

当求出网络安全评价中神经网络的各层各个权系数后,可按给定的品质指标,以此判别网络安全是否满足使用要求;如果说已经满足了要求,则可以结束算法;如果,没有满足要求,则进行返回处理执行。

4、基于神经网络的网络安全评价

4.1设计网络安全评价模型

网络安全评价中,输入层神经元节点的数量,必须要和计算机网络的安全评价指标数量相同,例如,针对计算机网络安全评价体系中,就可以设计18个二级的指标,针对计算机网络安全评价模型的输入层,在其设计神经元节点数量时,也必须是要是18个指标[4]。并且,对于大部分Bp神经网络中,还应该采用单向的隐含层,针对隐含层节点数量,可以根据需求的神经网络性能进行设计。针对网络安全评价中,如果说隐含层节点数数量过多,就会使网络安全评价中的神经网络学习时间延长,故此在通常情况下,可以将隐含层设计为5个。针对神经网络输出层设计中,主要就是输出网络安全评价结果,可以将神经网络输出节点数设2个,其输出结果是(1,1),以此来表示安全;输出结果是(1,0)表示基本安全;输出结果是(0,1)表示不安全;输出结果是(0,0)表示很不安全。

4.2构建网络安全评价体系

针对网络安全评价中,使用粒子群优化算法,优化传统的Bp神经系统,有效克服网络安全评价的局限性。其优化方法如下:可以将Bp神经网络的目标向量以及传递函数、结构,进行初始化;然后设置粒子群初始速度、动量系数、初始位置等参数,并且可以利用粒子群训练集,训练网络安全评价中的Bp神经网络,使其在网络安全评价中具备适应度值;可以将每个粒子历史以及最好适应度值,同当前的适应度值进行比较。当前比历史适应度值优,需要保存当前粒子的适应度值,使其作为最好适应度值;并且,还需要计算粒子惯性权值;降低在网络安全评价中,粒子适应度值的误差。针对网络安全评价的Bp神经网络中,其学习过程之中,对于任何一个给定样本以及期望输出,都应该将其执行到满足所有的输入输出为止。

结论

综上所述,在网络安全评价中应用神经网络,具有可行性,有效避免传统网络安全评价中的存在的弊端,引入神经网络技术,可以基于粒子优化神经网络,确保计算机网络安全评价结果的准确性、客观性,发挥积极的应用价值。

参考文献

[1]李忠武,陈丽清.计算机网络安全评价中神经网络的应用研究[J].现代电子技术,2014,(10),80-82.

[2]郑刚.计算机网络安全评价中神经网络的应用研究[J].网络安全技术与应用,2014,(09),55-57.

神经网络常用算法篇7

【关键词】神经网络手写识别系统应用

随着计算机技术的快速发展,其在人们的办公学习和日常生活成了不可替代的工具。键盘已经几乎完全替代了笔在人们生活中的地位,随之而来的后果就是人们越来越少的区书写汉字,导致越来越多的中国人甚至都忘记了汉字该如何书写,这种现象在很多研究和报道中都有体现。计算机和键盘是由西方国家发明的,其符合西方国家的语言习惯,对于中国人来说,用字母、符号去完成方块汉字的输入就需要使用者非常熟悉汉语拼音或者五笔编码,对于文化程度较低的使用者来说,这些都限制着他们使用计算机。鉴于计算机键盘的这些缺陷,联机手写输入法应运而生,这为计算机的输入带来了新的发展机遇和挑战。

1联机汉字手写识别的意义及难点

联机汉字识别是用书写板代替传统纸张,笔尖通过数字化书写板的轨迹通过采样系统按时间先后发送到计算机中,计算机则自动的完成汉字的识别和显示。

1.1联机汉字手写识别的意义

联机手写汉字识别的诞生具有非常重要的意义。首先这种输入方法延续了几千年中华文明的写字习惯,实现用户的手写输入,对于长时间不提笔写字的用户来说能够加强其对汉字书写方面的认识,防止“提笔忘字”现象的继续恶化。其次,手写汉字输入不需要学习和记忆计算机的汉字编码规则,其完全符合中国人的写字习惯,使人机之间的交流更人性化,更方便快捷。另外,随着移动智能终端的不断普及,联机汉字手写识别的应用范围将进一步扩大,以适用于不同层次人群对信息输入的需要,具有较大的市场发展前景。

1.2联机手写汉字识别问题的难点

手写汉字识别是光学字符读出器中最难的部分,也是其最终的目标,手写汉字识别的应用主要依赖于其正确识别率和识别速度[1]。手写汉字识别系统的问题具有其特殊性:

(1)中国汉字量大。我国目前的常用汉字大概在4000个左右,在实际应用中的汉字识别系统应该能够完全识别这些常用的字才能够满足需要,由于超大的汉字量,使得手写识别的正确率和识别速度一直不高。

(2)字体多,结构复杂。汉字的手写字体丰富多彩,且汉字的笔画繁多,以及复杂的结构,再加上汉字中的形近字颇多,这些都为汉字识别系统的发展造成了很大的困难。

(3)书写变化大。不同用户在进行手写输入时其字体的变化是很大的,这种变化因人而异,对汉字识别造成了很大的干扰,增加了汉字匹配的难度。

2人工神经网络概述

人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型,通常简称为神经网络,是一种仿生物神经的信号处理模型。在二十世纪四十年代初人们开始进行神经网络的研究,经过几十年的发展,神经网络也产生了一系列的突破,目前应用最多的是Hopfield模型和Bp算法。

神经网络的一般模型一般包括十个方面:环境、处理单元、传播规则、神经网络的状态、互联模式、稳定状态、操作模式、活跃规则、活化函数和学习算法。其中,神经元、互联模式、学习算法是神经网络模型中的三个关键因素。神经网络的一个重要内容就是学习,其学习方式可以分为监督学习和无监督学习,其学习过程一般遵循Hebb规则,误差修正学习算法以及胜者为王的学习规则,其中Hebb规则是神经网络学习中最基本的规则。

人工神经网络具有独特的优越性。首先其具有主动学习的功能,在汉字识别过程中,先将汉字模板及可能的识别结果输入到神经网络中,神经网络能够通过其自身的学习过程来实现对汉字的识别,自学功能对于神经网络的预测功能具有非常重要的意义。其次,神经网络系统具有联想存储功能,其反馈功能能够实现这种联想。另外,通过计算机的高速运算能力,神经网络具有高速寻找优化解的能力。

3人工神经网络在联机手写识别系统中的应用

汉字识别属于大类别模式识别,人工神经网络可以通过函数逼近、数据分类、数据聚类三种作用方式以及“联想”的特殊模式对汉字进行识别。Hopfield神经网络作为反馈网络的一种,其自联想记忆网络可以使系统不需要通过大量的训练即可对汉字进行识别,因此Hopfield神经网络对于汉字识别来说具有独特的优势。其中的离散型Hopfield神经网络能够通过串行异步和并行同步的工作方式,使其反馈过程具有非常好的稳定性,而网络只有通过不断的演变稳定在某一吸引子状态时,才能够实现正确的联想。

联机手写识别可以分为训练阶段和识别阶段。训练阶段流程依次为:标准书写字符图像预处理,提取特征并建立特征库,建立Hopfield网络模型,训练网络,保存权值。识别阶段的流程为:坐标序列转化为bmp图像,预处理测试样本,提取特征,送入网络运行,运行网络到平衡状态,分析结果值。根据联机手写识别的工作流程以及Hopfield网络模型的理论,基于Hopfield神经网络的联机手写识别系统在matlab环境下得到了仿真模拟,效果非常理想。

4总结

手写识别系统能够弥补普通键盘的不足,在提高汉字书写频率的同时,能够满足不同层次人群对计算机应用的技术需要。基于Hopfield神经网络的联机手写识别系统一起自身独特的性能,不仅能够满足手写汉字识别的正确率,而且其识别过程速度非常快。因此它对于实现联机手写识别以及图像识别具有非常重要的意义。

参考文献

[1]俞庆英.联机手写汉字识别系统的研究与实现[D].安徽大学,2005(5).

[2]郭力宾.交叉点的神经网络识别及联机手写字符的概率神经网络识别初探[D].大连理工大学,2003(03).

[3]赵蓉.基于神经网络的联机手写识别系统研究与实现[D].西安电子科技大学,2011(01).

作者简介

周珍娟(1979-),女,江西抚州人。计算机专业硕士。现为江苏城市职业学院讲师。主要研究方向为网络安全,模式识别。

神经网络常用算法篇8

关键词神经网络;反向传播算法;pSo算法;适应度函数

人工神经网络是由人工神经元互连而成的网络,它从微观结构和功能上实现对人脑的抽象和简化,具有许多优点。对神经网络的权值系数的确定,传统上采用反向传播算法(Bp算法)。Bp网络是一种多层前向反馈神经网络,Bp算法是由两部分组成:信息的正向传递与误差的反向传播。在反向传播算法中,对权值的训练采用的是爬山法(即:δ算法)。这种方法在诸多领域取得了巨大的成功,但是它有可能陷入局部最小值,不能保证收敛到全局极小点。另外,反向传播算法训练次数多,收敛速度慢,使学习结果不能令人满意。

粒子群优化算法(particleSwarmoptimizer,pSo)是一种进化计算技术(evolutionarycomputation)。源于对鸟群捕食的行为研究,pSo中,每个优化问题的解都是搜索空间中的一只鸟,我们称之为粒子。所有的粒子都有一个由被优化的函数决定的适应值(fitnessvalue),每个粒子还有一个速度决定他们飞翔的方向和距离。然后粒子们就追随当前的最优粒子在解空间中搜索。如果用粒子群算法对神经网络的权值进行训练,会得到较快的收敛速度,而且可以避免局部最值得出现。研究表明pSo是一种很有潜力的神经网络算法。

本文提出了一种基于pSo算法的Bp网络学习算法,并通过matLaB7.0实现对一组简单的向量进行训练对pSo—Bp算法和Bp算法进行了对比,试验结果说明pSo—Bp算法适合训练Bp网络,并且也有希望应用于其他种类的前向网络的训练。

1pSo算法

pSo中,每个优化问题的解都是搜索空间中的一只鸟。我们称之为“粒子”。所有的例子都有一个由被优化的函数决定的适应值(fitnessvalue),每个粒子还有一个速度决定它们飞翔的方向和距离。然后粒子们就追随当前的最优粒子在解空间中搜索。

D维搜索空间中,有m个粒子,其中第i个粒子的位置是,m,其速度为。将带入目标函数可计算出适应值。记第i个粒子搜索到的最优位置为,整个粒子群搜索到的最优位置为。离子状态更新操作为:

其中,i=1,2…,m,d=1,2…,D;是非负常数,称为惯性因子。也可以随着迭代线性减小;学习因子,是非负常数;r1,r2是介于[0,1]之间的随机数;是常数。

迭代中止条件一般选为最大迭代次数和粒子群迄今为止搜索到的最有位置满足适应阈值。

2基于pSo的Bp网络学习算法

Bp网络是一种多层结构的前向网络,其隐层神经元的激活函数为S型函数,而输出神经元的激活函数可以是S型函数,也可以实线性函数,典型的S型函数为:

(3)

其中:s为神经元的加权输入函数。

用pSo算法训练Bp网络时,定义粒子群的位置向量的元素是Bp网络的全体连接权和阈值。首先初始化位置向量,然后用pSo算法搜索最优位置,使如下均方误差指标(适应值)达到最小

(4)

其中,n是训练集的样本数;是第i个样本的第j个网络输出节点的理想输出值;是第i个样本的第j个网络输出节点的实际输出值;C是网络输出神经远的个数。

基于pSo算法的Bp网络学习算法流程如下:

1)选定粒子数m;适应值阈值ε;最大允许迭代步数;、和;初始化X和V为(0,1)间的随机数。

8)endfor

9)fori=1:1:m

10)按式(1)计算;按式(2)计算;

11)endfor

12)endwhile

13)以所得权值阈值为初始值用Bp算法对网络进行训练

上述流程中,1)到12)用标准pSo算法对权值和阈值进行训练,13)对pSo输出的权值和阈值作为初始值用Bp算法训练网络(matLaB中有集成的训练函数)。另外,,其中是第i个粒子的位置;V=,其中是第i个粒子的速度;是m个粒子迄今搜索到的最优适应值,其对应的粒子位置矩阵是p=;是粒子群迄今搜索到的最优适应值,对应的最优粒子位置是,粒子数m选定为30个。

3结果分析

本实例中随机选取机输入和输出矩阵,如:p=[00000;10001;01001;00100;00010];t=[0000;1000;0100;0010;0001]。由于p是五行的矩阵,所以网络输入层的神经元个数为:5个,t为五行矩阵,故输出层神经元个数为:5个,隐含层神经元个数为:6个。

首先观察一下pSo算法中的适应值(fitness)的变化过程,图1中,实线表示适应值的平均值,虚线表示是最优适应值。从图中可以看出适应值迅速的选择过程。

图2为用pSo—Bp算法和Bp算法在训练误差精度为0.002的情况下的误差演化曲线:(a)为pSo—Bp算法训练误差演化曲线,所用时间是20.422000s。(b)为常用Bp算法训练误差演化曲线,对权值的训练采用的是梯度下降法,所用时间是27.172000s。从图中可以看到:pSo—Bp算法的迭代次数远远小于Bp算法,并且训练时间也缩短了。

(a)

(b)

图2

为了充分说明实验结果,笔者做了多次反复实验,实验结果如下表:在训练误差精度为0.002的情况下,十次试验中pSo—Bp算法的平均迭代次数远小于Bp算法,收敛时间较接近。

算法

次数Bp算法pSo—Bp算法

迭代次数收敛时间迭代次数收敛时间

1158735.79700071719.547000

2105123.17200079433.390000

391718.28100068327.813000

480916.28200087933.265000

5132333.125000109730.218000

6214643.76600093126.046000

7116123.64100056817.391000

853014.68700073625.782000

9141526.75000086927.625000

10122724.17200095329.422000

平均值1216.625.967300822.727.04990

4结论

本次试验中对Bp算法和pSo—Bp算法进行了对比试验,试验结果证明:pSo—Bp算法优于Bp算法。具体表现在:学习算法的收敛速度有所提高;Bp算法中的局部极小问题常令学习结果不满意,pSo的全局优化能力使问题得到解决。

参考文献

[1]martint.Hagan,HowardB.Demuth,markH.Beale,著,戴葵,等译.《神经网络设计》.机械工业出版社,2002年9月

[2]徐丽娜编著.《神经网络控制》.电子工业出版社,2003年2月

[3]高隽编著.《人工神经网络原理及仿真实例》.机械工业出版社,2003年8月

[4]Zbigniewmichalewicz,DavidB.Fogel著,曹宏庆,李艳,董红斌,吴志健,译.《如何求解问题——现代启发式方法》.中国水利水电出版社,2003年2月

神经网络常用算法篇9

关键词:脉冲耦合神经网络(pnCC);人工神经网络;车轮定位;侧滑

随着交通系统的越来越发达,特别是高速公路的迅速发展,人们驾驶汽车的速度也是越来越快。随着行车速度的提高,汽车的操控是否稳定对汽车的驾驶人员的安全来讲至关重要。而汽车操控的稳定性则由汽车的车轮定位参数来决定。车轮的定位主要有2种即前轮的定位和后轮的定位。而前轮的定位参数有:前轮前束、前轮后倾角、主销后倾角、主销内倾角等组成;后轮定位参数有:后轮前束、后轮后倾角等组成。对于不同档次的汽车有的只有前轮定位,有的前轮定位和后轮定位都有。不管前后轮定位是不是都有,只要有一个定位参数有错误将会产生非常严重的影响,主要是影响汽车的操控稳定性。如果主销后倾角过大时则会使转向沉重;而主销后倾角过小则很容易引起前轮摆振,方向盘摇摆不稳以及方向盘自动回正能力变差;如果汽车左右后倾角偏差过大那么就会将引起直线行驶时跑偏,而后轮前束不正确则不仅会引起直线行驶时跑偏,还会造成轮胎非正常磨损等。总之,汽车的车轮定位检测对于汽车的驾驶者来讲是非常重要的。

1汽车诞生之后出现的车轮定位检测的方法

在最早的时候,主要是使用专用的定位测量工具来测量的,如前束尺、外倾角、后倾角等测量工具。随着汽车技术的迅猛发展,使用这些定位测量工具远远满足不了现在定位检测的要求。为了提高定位检测的效率,在市面上出现了一种采用激光技术测量前束的光学水准定位仪。使用这种定位仪的时候操作比较简单,价格也比较低,但是使用它测量的时候仍然需要人工来读取数据。再后来随着电脑式四轮定位仪的出现,大大提高了原先的定位检测效率。这种电脑式的四轮定位仪由电脑主机、显示器、打印机、前后车轮检测传感器、传感器支架等硬件组成,并且还配有数字视频图像数据库,通过数据库可以显示检查和调整的准确位置等。为了更智能化地进行车轮的定位检测,最新的车轮定位系统开始引入了第三代人工神经网络模型,也就是专业上来讲的脉冲耦合神经网络。这一概念的引入给汽车车轮定位检测系统带来了智能化。

2人工神经网络系统

它是一种采用类似人的大脑神经的工作模式,将复杂的人类大脑用于处理某些复杂的信息并具有一定的智能性。人工神经网络以其大规模的并行计算能力、自适应性和容错性,在工业过程中发挥了非常重要的作用,并迅速应用到了各个应用领域。第三代人工神经网络,是一种新型的人工神经网络。称为脉冲耦合神经网络(pCnn:pulseCoupledneuralnetwork)。这种模型已经开始在汽车车轮定位检测系统中得到了应用。特别是近几年,人工神经网络技术逐步开始应用在汽车故障预测、监测和诊断领域等方面。本文将对第三代人工神经网络即脉冲耦合神经网络(pnCC)在汽车车轮定位检测中的应用进行简要的分析。

人工神经网络因为是源于生物类的大脑活动模式,所以这种人工神经网络也是由很多的神经元组成的。这些神经元相互连接,就形成了人工神经网络。因为人脑工作模式的特殊性,这些人工神经网络的工作模式也不是一般的线性元素所能完成的。和人类大脑一样,神经元也是人工神经网络的基础处理单位。输入的信号可以是多种的,而输出的结果只有一种,这和人类的大脑工作模式是一致的。通过了解,人们知道这种脉冲耦合神经网络的应用已经非常广泛了。特别是应用在日常生活中所见到的图像处理中。因应用方向不同,在引入这种脉冲耦合神经网络的时候所采用的各种方法手段及其设置也都不一样。这些参数的设置直接影响着输出结果。所以一旦引入了这个概念,就需要通过大量的实验来验证参数设置的正确性以及有效性。避免因为前期的设置问题,导致后期出结果的时候有较大的偏差。所以应该把重点放在前期的实验数据上。特别是数据的选择及环境的选择上。人工神经网络是不同于任何网络的一种类似智能的网络架构,它的工作模式和任何的其它网络都不一样,它的这一特性,让人们能够从中理解了这种类似大脑的神经元工作模式。大脑在工作的时候主要靠这些相互连接的神经元相互作用,传送信号,当然这些看似零乱的神经元也是有一定的组织结构的,之间也形成了一种特殊的网络拓扑结构。在传递信号的时候,可以通过各种刺激来增强或减弱相关的神经元的传递信号。当然这种神经元信号在传递的时候速度是非常快的,仅次于人类的神经元传递速度。而要远快于计算机信号的传递速度,人工神经网络在工作的时候,除了可以传递信号外,还可以通过各种刺激来增强或减弱相关的神经元信号。正是因为这种特性,才让人们选择了将脉冲耦合神经网络应用在各个领域中。因为这些优势,它的应用正在逐步扩大,开始应用在各行各业中。

3脉冲耦合神经网络

同人类的神经网络系统一样,脉冲耦合神经网络是由大量的神经元组成的,这些神经元都是简单结构的,但是神经元都是相互连接的,彼此可以接受其它大量神经元传输过来的信息。每一个神经元都可以接收和输出信息。当然这些输入、输出的信息都不是传统形式的信息。它的输入、输出不是线性关系的输入、输出。这样每个不同位置的神经元都在接收和输出非线性关系的信息。它们之间相互影响、相互制约,最终影响到结果的输出。同人类的大脑神经网络一样,人工神经网络系统也需要学习。就像人类从诞生开始就要接受学习一样,人类通过年龄的增长,逐步学习到相应的知识,最终形成了成人的大脑神经网络,当人们遇到事情需要处理的时候,大脑神经网络就开始接收外界的信息,然后根据收到的信息进行非线性运算,最终得出结果或结论。人工神经网络也需要进行这样的学习,只不过这样的学习和人类的学习不太一样,人工神经网络学习有各种各样的算法。而脉冲耦合神经网络和传统的人工神经网络还不太一样,这种系统不需要对传统的网络参数进行学习,这种系统需要在前期对不同环境下的参数进行特定的设置。这是传统神经网络发展的趋势。包括从人工神经网络的信号输入到信号输出都有别于传统的人工神经网络。人的大脑在人出生的时候只是决定了这个神经网络的基础,后天的影响因素能够起到非常重要的作用。而人工神经网络在这一点上则不同于人的大脑。当然人工神经网络的工作原理和计算机的工作原理也不一样,计算机只会根据提供的信息进行一步一步的计算,每一步的计算都有依据,有很强的逻辑性。而人工神经网络在工作的时候,则是依据正常的大脑工作原理,进行非线性甚至非逻辑的运算,最终迅速得出结论或结果。

综上所了解的知识,得出了需要利用人工神经网络技术中的Bp神经网络算法对车轮的两个定位参数外倾角和前束角进行检测。同时,由前面理论可以了解到:当汽车发生侧滑的时候很可能是因为车轮的外倾角或汽车的前束角引起的。所以,就要通过使用人工神经网络系统对这一可能引起侧滑的位置进行检测。本文主要通过对映射反推原理对车轮的外倾角、前束角等进行定位检测。通过反射的定位角度,还确定是否有问题。当然这些都需要提前做大理的工作准备。首先需要进行大量的神经网络模型训练,然后通过前期设置的车轮定位参数,将最终得出的结果进行比较,最后建立一个可以准确诊断的数学模型。这样以后就要以通过这个建立的数学模型进行定位角的测量了。

神经网络常用算法篇10

【关键词】计算机网络安全入侵检测

在我国社会快速发展的今天,计算机网络已经改变了我国民众的生活方式与信息获取方式,但我们在享受计算机网络提供便利的同时,也应注意到其背后存在的威胁与隐患。为了降低信息泄露、计算机系统崩溃等计算机网络安全问题引发事故的几率,我们就必须拥有一种行之有效的入侵检测方法,而对一方法进行研究正是本文研究的目的所在。

1入侵检测系统概述

为了能够较好的进行计算机网络安全中入侵检测系统设计的研究,我们首先需要较为细致的了解入侵检测系统的相关概念信息,这一概念信息主要包括计算机网络入侵与入侵检测系统。所谓计算机网络入侵指的是包括发起恶意攻击行为的人(恶意黑客),也包括对计算机网络与系统造成危害的各种行为(计算机病毒、木马等);而网络入侵检测则是指具体操作是对计算机网络等中的若干关键

点的数据信息进行收集与分析,通过该分析结果对网络中是否存在攻击对象或违反网络安全行为的迹象进行判断,这种功能构成也使得计算机网络入侵检测系统具备着较高的智能性与实用性。

2常见的入侵检测手段

一般来说,计算机网络安全入侵检测存在着异常检测法、误用检测法等多种检测方式,其中异常检测法主要用于检测用户的异常行为及其对计算机资源的异常使用,这种检测方式具备着良好的适应性和检测未知攻击模式的能力,不过其存在的误报率高、检测结果准确性差的问题,这就影响了这种检测手段在我国当下的计算机系统中的广泛的应用;误用检测法也是较为常见的计算机网络入侵检测技术形式,这一技术通过将预先设定的入侵模式与监控到的入侵发生情况进行模式匹配来进行检测,具备着消耗资源少、准确率高、误报率低的特点,模式匹配法、专家系统法、状态转移分析法等都属于这一技术手段的范畴,这一技术在我国当下的计算机保护软件中有着较为广泛的应用,不过依赖操作系统、入侵数据库必须不断更新是其存在的问题。

3计算机网络安全入侵检测系统的设计

在本文进行的计算机网络安全入侵检测系统的设计中,笔者应用了神经网络概念,对其进行了模块化的设计,数据源采集模块、数据预处理模块、特征提取模块、神经网络训练模块、神经网络检测模块和系统响应模块是这一系统设计的六大组成模块,这些模块分别负责监听网络接口并捕获经过的数据包、将数据包的特征信息转换到一个标准的向量空间、消减数据的特征维数、系统的训练、系统的入侵检测、根据检测模块返回的信息对用户行为作出响应。

3.1数据源采集模块设计

在数据源采集模块的设计中,笔者基于Libpcap的数据包捕获机制集网络中的数据包,实现了这一数据源采集模块的功能,这一设计参考了网络中有名的sniffer、snort等嗅探器的设计结构。在笔者所涉及的数据源采集模块中,其能够在实现功能的同时保证不影响操作系统对数据包的正常协议栈处理。

3.2数据预处理模块设计

在数据预处理模块的设计中,笔者参考了KDD99数据集,这一数据集来源于美国麻省理工大学的林肯实验室,专为入侵检测评估项目而开发,这一数据集具备着拒绝服务攻击、探测攻击、来自远程主机的未授权访问、未授权的本地超级用户特权访问等四个大类共22种入侵行为,结合这一信息笔者采用了计算特征变量属性的平均值、计算样本特征的均方差、归一化的流程进行数据的标准化处理,这一处理是基于python处理语言完成的。

3.3特征提取模块设计

在特征提取模块设计中,笔者应用了主成分分析的基本原理,这一原理的运用能够减小消除原指标之间的相关性和冗余信息,同时减小后续工作的计算量。。

3.4神经网络训练和检测模块的设计

作为本文所研究计算机网络入侵检测系统的核心,在神经网络训练和检测模块的设计中,笔者参考了Kohonen神经网络的设计,并根据这一设计进行Bp算法神经网络的改进,这一改进主要通过附加动量法、自适应学习速率法、共轭梯度法、拟牛顿算法的应用实现。

3.5系统响应模块设计

在系统响应模块设计中,笔者为其设计了主动相应与被动相应两种类型的相应模式,其中主动响应模式能够在检测到网络攻击后进行反击,笔者也为这一系统设计了切断与攻击者的网络连接,过滤来自入侵者ip地址的数据包两种措施,这样就能够较好的保证整个系统的实用性。

4结论

为了能够较好的完成本文所进行的计算机网络安全中入侵检测系统设计的研究,笔者结合神经网络概念设计了具有数据源采集模块、数据预处理模块、特征提取模块、神经网络训练模块、神经网络检测模块和系统响应模块等六大模块的神经网络入侵检测系统,而在笔者结合真实数据对这一入侵检测系统进行的性能检测中,笔者发现其在检测率、误报率、训练时间和检测时间等方面都有着较为不俗的表现,由此我们就能够看出本文设计的神经网络计算机网络安全入侵检测系统所具备的实用性与可行性。

参考文献

[1]张旭珍,黄成玉,张志波.基于Snort的入侵检测系统教学实验设计与实现[J].实验室研究与探索,2014(04):159-163.

[2]吴卉男.计算机网络安全中入侵检测系统的研究与设计[J].通讯世界,2016(01):182.

[3]杨云,宓佳,党宏社.嵌入式入侵检测系统的设计与实现[J].计算机工程与设计,2011(01):21-23+27.

[4]唐静.计算机网络安全中入侵检测系统的研究[J].网络安全技术与应用,2015(08):21-22.