神经网络的实现过程十篇

发布时间:2024-04-26 11:52:03

神经网络的实现过程篇1

关键词:智能决策支持系统;人工神经网络;模糊逻辑系统;模糊神经网络

中图分类号:tp183文献标识码:B

文章编号:1004-373X(2008)02-084-03

DesignandRealizationofintelligentpredictionmodelBasedonFuzzyneuralnetwork

YanHongrui,maLiju

(thepLamilitaryRepresentofficeinno.847Factory,Xi′an,710043,China)[HJ1*3][HJ]

abstract:Forthepredictingproblemsthattheintelligentdecisionsupportsystemoftenencounters,accordingtothecharactersofartificialneuralnetworkandfuzzylogicsystem,akindoffuzzyneuralnetworkmodelisdesigned.Firstly,thefuzzylogicsystemforrealizingfuzzypredictionisexpressedbytheconstructionofartificialneuralnetwork.thenthefuzzylogicsystemistrainedbyassociatestudyingalgorithms.atlast,themodeloffuzzyneuralnetworkhasbeenprovedbypracticeandrealizedinprogram.

Keywords:intelligentdecisionsupportsystem;artificialneuralnetwork;fuzzylogicsystem;fuzzyneuralnetwork

智能决策支持系统\[1\](intelligentDecisionSupportSystem,iDSS)是以管理科学、运筹学、控制论和行为科学为基础,以计算机技术、仿真技术和信息技术为手段,面对半结构化的决策问题,辅助支持中、高层次策者决策活动的、具有智能作用的计算机网络系统。神经网络和模糊逻辑是智能决策支持技术应用于信息管理后迅速发展的智能技术,在决策预测领域颇有成效。本文根据人工神经网络和模糊逻辑的特点,设计一种模糊神经网络完成决策支持系统中的信息预测功能,较好地解决了决策支持系统的实用化问题。

1人工神经网络与模糊逻辑系统介绍

1.1人工神经网络

2模糊神经网络模型的设计与实现

2.1模糊神经网络模型的选定

由以上介绍可知,在预测领域中,模糊逻辑具有较强的结构性知识表达能力,能较好地表示用语言描述的经验知识、定性知识,但通常不具备学习能力,只能主观地选择隶属度函数和模糊规则。神经元网络具有强大的自学习能力和数据直接处理能力,但网络内部的知识表达方式不清楚,在学习时只能从任意初始条件开始,其学习的结果完全取决于训练样本。

本文将神经网络的学习算法与模糊逻辑理论结合起来,利用正规化模糊神经网络(nFnn)实现模糊逻辑系统;用模糊规则表示神经网络,用预先的专家知识以模糊规则的形式初始化,用神经网络的学习算法训练模糊系统,然后结合神经计算的特点实现推理过程。

2.2模糊神经网络模型的结构

本文采用一个3层的前向网络(如图3所示)来构造模糊系统(见图3)。这样模糊神经网可以用通用的三层模糊感知器来表示,该模糊感知器定义如下:

(1)U=∪i∈nUi是一个非零的神经元集合,n={1,2,3}是U的索引值集合,对所有的i,j∈n且满足为输入层,为规则(隐含)层,为输出层;И

2.4模糊神经网络的编程实现

系统主要通过4个类来描述神经网络模型。他们是神经元类、神经元权类、神经元层类、神经元网络类。神经元类的作用是模拟单个神经元的数据结构和计算过程。神经元权值类用于保存神经元之间连接的权值。神经元层类的作用是生成每一层的神经元,并进行每一层的计算,他接受神经元网络类的调用,并调用神经元类的函数实现每一层的计算。神经元网络类定义了整个神经网络结构和所有的网络操作,他提供公共函数给应用程序调用,他的计算函数调用神经元层类和神经元类的函数进行网络计算。

通过4个类的描述,将建立和运行神经网络所需的主要数据结构和计算过程做了定义。当程序运行时,首先由应用程序生成神经网络类实例,然后此网络类实例进行层类实例的建立,接下来层类实例建立每层的神经元实例。同时,神经网络类也从外部文件读取网络结构的连接和权值数据,供建立网络时使用。

3模糊神经网络的预测验证

模糊神经网络的预测验证如表1所示。

4结语

模糊神经网络模型把神经网络的学习算法与模糊逻辑理论相结合,将模糊系统用类似于神经网络的结果表示,再用相应的学习算法训练模糊系统,通过样本的学习算法提高网络性能。此模型曾经用于某军事模拟对抗系统中战场态势的预测,成功地实现了该模型的预测功能。但是模糊推理机是基于知识库中的知识和规则进行推理的,如何建立具有专家经验和知识的知识库,是模糊神经网络模型应用中的难点和重点。如何建立实用的知识库

以及决策过程中存在许多不确定性因素等问题还有待于进一步研究。

参考文献

[1]Georgemmarakas.21世纪的决策支持系统[m].朱岩,译.北京:清华大学出版社,2002.

[2]martintHagan,HowardBDemuth,markH.Beale.神经网络设计\[m\].戴葵,译.北京:机械工业出版社,2003.

[3]刘有才.模糊专家系统原理与设计[m].北京:北京航空航天大学出版社,2003.

[4]张乃尧,阎平凡.神经网络与模糊控制[m].北京:清华大学出版社,1998.

神经网络的实现过程篇2

【关键词】网络安全评价;神经网络;实践应用

1引言

随着我国网络技术的不断发展,信息划时代已经到来,信息技术遍布于各个领域中,并且在不同领域中有很好的应用。互联网的使用在我国比较多,在改变人们生活方式的同时,也在很大程度上提高了人们的生活质量。

在此前提下,网络安全已经成为人们关注的焦点问题,需要网络研究人员采用神经网络对网络安全进行必要的评价和监控,挖掘出网络问题的不同因素。选用不同的方法来顺利实施安全评价,在很大程度要保证评价的科学性和真实性,由此神经网络技术的应用能够保证网络安全评价的客观性。

2计算机网络安全评价原理

在计算机网络安全评价中,安全评价有很大的发展空间和效果,评价对象呈现出一个多元化趋势,不单单是对系统的评价。系统的组成要素并不单一,建立有自身的目标范围,由此可以说明网络的建设也是通过这种方法进行。系统虽然是人们开发的产物,但是在很大程度上系统之间也有很大差异,有关研究者需要在差异的前提下实现对内涵的了解,对其中出现的一些信息和数据进行必要的掌握和明确。在网络进行安全评价中,其中的关联性对研究对象来说起到了决定性的作用,主要分析了研究对象的变动情况。安全评价原理中最为重要的就是惯性原理,它是安全评价中尤为重要的一个组成部分,惯性原理以角度的变化对研究对象进行研究,在研究的过程中会产生很大的不间断性,根据这种不间断性可以对研究对象未来的发展方向进行明确,给予清晰的定位。网络安全评估原理还可以用质变和量变之间的关系来实现。

3神经网络在计算机网络安全评价的应用

3.1计算机网络安全

计算机网络安全的维护主要是存储中的不同数据,采用多种不同的方法对数据进行实时性的保护,一般情况下可以分为物理和逻辑两种不同的保护措施;在对网络安全进行分析时,需要在最大程度上确保数据不受风险影响,以完好的状态进行存储,使数据能够持续不断应用到实践中。

3.2计算机网络安全评价体系

计算机网络安全评价体系能够在很大程度上对网络中的安全问题实施全方位的评价,在对安全评价体系建立的过程中,应在最大程度上对现实情况进行研究和考量,评价是实施必须要符合评价标准,在此基础上还需要对影响因素进行必要的选择来确保选项的全面性,只有这样可以使评价系统在网络安全评价中发挥一定的作用,对不同的影响因素明确之后才可以进行评价指标的确定。在对网络进行安全评价时,对指标的要求比较高,需要进行不同级别的划分。

4计算机网络安全评价模型构建

4.1Bp神经网络机理

Bp神经网络中的Bp算法的传播是通过信号来完成,并且对传播方向进行有效的分析和判断,信号进行正向传播,数据需要从输入层传导到隐匿层,在传导的过程中应对数据进行必要的分层管理,然后通过输出层输出。如果数据传导和现实情况有明显差异时,可以断定数据处理在整个传递的过程中出现了某些问题,对于出现的问题必须寻找根源并对其进行解决。在此前提下,如果信号进行反向传播,能够在很大程度上使数据起到关键性的作用。在此过程中,使异常数据进行必要的传导,把差异平均分给各层面,在采取同一方法,把数据偏差降低到最低,想要把偏差降到最小需要对数据进行不断重复传导才能符合要求。

4.2计算机网络安全评价模型设计

(1)输入层。Bp神经网络的构建需要有不同的原则进行支撑,这就需要神经节点和评价指标相互对应,在由评价内容来分层限制评价指标,指标个数在很大程度上影响着节点数,也就是说指标数必须要和节点数相同。

(2)隐匿层。隐匿层中应用最为广泛的就是单隐匿层,在设计网络时需要确定节点数,因为节点数和网络功能有必然的联系,但是不能说节点数越高作用越大,如果某些层面的节点数增多会给网络造成不必要的问题,当然,节点数也要保持一定的数量,如果过少会大大影响容错性能。在进行网络设计时,应使实际状况和主观判断相互结合,对不同环节进行数字的表达。

4.3计算机网络安全评价

计算机网络安全评价模型,对网络安全评价的具体步骤分为几个方面:(1)构建计算机网络安全评价体系;(2)使用粒子群优化算法优化Bp神经系统,克服Bp神经网络自身局限性。

优化方法:(1)将Bp网络的目标向量、传递函数和结构等初始化;(2)对粒子群的初始速度、初始位置、动量系数、迭代次数、参数维数和规模等进行设置;(3)利用粒子群训练集训练Bp神经网络,评价适应度值;(4)将每个粒子的历史,最好的适应度值与当前适应度值相比较,如果当前适应度值比历史最好的适应度值优,则将粒子当前适应度值保存,作为个体粒子历史最好的适应度值;(5)计算粒子的惯性权值。

(6)各个粒子速度和位置进行更新,每个粒子与粒子群之间的系统适应度值误差,应当分别记录;(7)对系统适应度值误差进行判断,当误差超过允许的最大迭代次数,或达到已经设定好的误差限值,结束训练。粒子的全局历史,最优位置就是Bp神经网络的最优阈值和最佳权值。利用优化后的Bp神经网络模型,对计算机网络安全进行评价。

5结束语

由此可以看出,随着信息化时代的到来,网络运用越来越广泛,网络安全问题也是人们需要克服的一大难题,所以在对网络进行网络评价时应采用神经网络这一科学手段,降低网络的风险,加快网络的更好发展。

参考文献

[1]李忠武,陈丽清.计算机网络安全评价中神经网络的应用研究[J].现代电子技术,2014,10:80-82.

[2]郑刚.计算机网络安全评价中神经网络的应用研究[J].网络安全技术与应用,2014,09:55+57.

[3]耿仲华.计算机网络安全评价中对于神经网络的应用探究[J].网络安全技术与应用,2014,09:87-88.

[4]武仁杰.神经网络在计算机网络安全评价中的应用研究[J].计算机仿真,2011,11:126-129.

作者简介:

神经网络的实现过程篇3

关键词:Bp神经网络造价预测研究

abstract:thispaperintroducestheBpneuralnetworkofnetworkstructureandthelearningprocess,andtheBpneuralnetworktopredicttheapplicationofprojectcost.

Keywords:Bpneuralnetworkcostpredictionresearch

中图分类号:tU723.3文献标识码:a文章编号:

Bp神经网络的算法称为反向传播算法(Back-propagation)简称Bp算法,Bp网络也由此得名。Bp网络的学习过程是由信号的正向传播与误差的反向传播两个过程组成。在正向传播过程中,信号从输入层传入,经隐单元逐层处理后传向输出层,如果在输出层的实际输出与期望输出不符,则转入反向传播,将误差信号以某种形式由原来的连接通路返回,通过隐层向输入层反传,并在返回过程中修改各层神经元连接的权值。这种过程循环进行,直到输出误差达到允许的范围或达到网络预先设定的学习次数。

1Bp神经网络的网络结构

Bp神经网络结构如图1所示,输入数据由输入层进入,输入层连接隐层,隐层连接输出层,输出数据从输出层导出。输入层、输出层神经元个数根据具体实际情况设置,隐层可以是一层,也可是多层由相应的输入层、输出层神经元个数根据公式确定。各层之间神经元连接强度的加权值(简称权值)允许不同,权值越大表示该输入的影响越大。神经元的所有输入采用加权和的方式。输入、输出向量分别用x和y,且x=(x1,x2,…,xn),y=(y1,y2,…,ym),表示输入层、输出层分别有n、m个节点输入输出向量分别是n维和m维。

图1Bp神经网络结构示意图

2Bp神经网络的学习过程

简单说来Bp网络的整个学习过程就是权值与阈值的不断修正过程,Bp网络的整个学习过程的步骤如下图:

图2Bp神经网络学习过程

3Bp神经网络在工程造价预测中应用

工程造价预测是一个十分复杂的模式识别问题,特别是预测中存在广泛的非线性问题,这增加了模式识别的复杂性。Bp神经网络由于其本身信息处理的特点,使其能够出色解决那些传统识别方法难以解决的问题,近年来工程领域的仿真预测成为神经网络的重要应用领域之一。

对于一般的神经网络预测,诊断工作可以分为测前工作与测后工作两部分工作。测前工作,根据经验在一定的条件下,将常见的各种费用超支情况及正常情况所对应的理论值用实验或理论计算求出。并以此作为Bp神经网络的样本及样本期望,输入特定的Bp神经网络,进行神经网络训练,实际预测时,在同样的条件下,将实际数据经处理后输入特定的Bp神经网络。其输出即是对应的预测值。神经网络具有推论联想的能力,具有很强的泛化能力,不仅能识别已经训练过的样本,而且能通过推论联想识别为出现过的样本。综上所述,用Bp神经网络进行公路工程造价预测,步骤可以总结为:建模、参数选定、预测模型结构确定。

3.1神经网络建模步骤

在实际应用中,面对一个具体的问题,首先需要分析利用神经网络求解问题的性质,然后依据问题特点,确立网络模型。最后通过对网络进行训练、仿真等,检验网络的性能是否满足要求。主要步骤包括:确定信息表达式、网络模型的确定、网络参数的选择、训练模式的确定、网络测试。

3.2模型参数的确定

(1)实际完成金额

公路工程造价的发展具有连续性,其数量特征呈相对稳定,或者与其他经济现象之间的相互联系具有相对稳定的模式,因而有可能对其发展过程加以模拟,利用实际完成金额等历史资料比较准确地推断其将来。

(2)主要材料价格

由于公路工程涉及工程材料种类多,工程施工经历时间跨度大,期间材料价格波动影响因素较多,要综合考虑这些因素进行预测往往要大量的基础资料。

(3)天气状况

由于公路项目施工主要是在野外作业,所以受天气影响比较大,所以天气状况也是影响工程造价的一个因素。

(4)进场主要施工机械设备数量

设备材料费,是工程造价的主要组成部分。因此,施工设备投入数量,是影响工程造价增减的重要动态因素

4结语

基于Bp神经网络的公路工程造价预测,能够充分利用公路工程造价的历史数据,通过高度的非线性映射,得到预测结果。与传统的工程造价方法相比较,该方法具有自组织、自学习、自适应和泛化能力,因而有广泛的应用前景。而Bp神经网络的精确预测需要真实、可靠、准确的样本输入数据以及相对应的样本期望数据,就需要我国公路工程造价历史数据的不断积累,公路工程造价制度的不断完善。

参考文献

[1]袁助,基于项目总控模式的高速公路造价动态控制方法研究[D],长沙理工大学,2009年.

神经网络的实现过程篇4

关键词:神经网络化工过程人工智能

中图分类号:tm835文献标识码:a文章编号:1007-9416(2016)12-0024-01

大量的处理单元就如同神经单元一样,经过一系列的排列组合构成了复杂的神经网络系统,广泛应用于复杂信息处理、机器视觉、智能化控制等方面。仿生学的设计和智能化软件的设计,使得神经网络系统具有自动处理数据、自动组织、自动学习,使得化工过程控制具有高精度、高安全系数、智能化的特点。化工生产是一个复杂的生产过程,其中涉及的设备多,涉及的工艺复杂,控制难度高,如何促进化工生产的过程控制,从而实现科学管理、优化生产、提高生产率的目的。设备的多样、工艺的复杂、流程复杂等一系列的因素,使得神元或者是多个单元实现智能化控制,既能收集生产过程产生的数据,而且也能对这些数据进行处理,达到监测生产环境、监控生产过程、实时优化生产的目的。

1神经网络技术的基本理论和基本结构

神经网络技术的发展是建立在对人脑神经系统的构成和作用机制认识的基础上,神经单元构成了庞大的神经系统,神经单元接受信息并传递信息,神经中枢处理信息并反馈信息。神经网络技术模拟神经系统处理单元类似于神经单元,计算机控制系统相当于神经中枢,分析数据、处理数据、输出结果。计算机技术的发展、传感器的应用,为神经网络的发展提供了基础。神经网络包括一个输入层和输出层,若干的隐含层。输入层的作用是接受外部信息并传递信息;输出层的作用是接受输入层传递的信息,处理信息并反馈信息;隐含层的作用是将输入层的信息进行组合,预处理。信息的接受、传递、处理和反馈一系列的过程使神经网络发挥作用的过程。

由于处理单元的应用,使得神经网络系统是一种自学习、自处理、自组织的智能化系统。神经系统的运行类似于人学习的过程,由简单到复杂,不断的修正节点的连接方式,直到输出满意的结果和符合实际应用。神经网络系统是建立在数学模型的基础上,利用数学建模搭建神经网络节点,建模主要有m-p模型、Bp模型、RBF模型等。根据外部参数的不同和应用的目的,采用不同的函数,如可逆函数、线性函数、非线性函数、S函数等等,建立数学模型,输入参数,不断的优化模型,优化的过程使神经网络系统自学的过程。神经网络训练算法与模型的设置有关,如Bp模型采取反传处理误差的训练算法,优化算法,达到优化模型的目的,使建立的模型更加符合实际应用情况。

2神经网络在化工过程控制中的应用

神经网络具有很强的信息处理能力、自学习能力、自组织能力。根据输出的信息,可以建立信息之间的关系和处理多余的信息,简化生产过程中的信息,检测生产环境,监控生产,达到最优化的生产过程。神经网络覆盖生产过程中的所有要考虑的因素,因此神经网络的应用也覆盖化工过程控制的方方面面。

化工生产涉及的环节多种多样,当某一环节发生故障,若处理不及时,将使这一环节瘫痪甚至使整个生产过程瘫痪,造成重大安全事故。高效、实时、预测的检测和诊断故障的系统是化工过程控制中安全、高效生产的保障。美国的科学家首次提出将神经网络技术用于化工过程控制中,用于检测、诊断、预警故障。神经网络系统是一种仿生系统,具有思维、意识和学习能力的动力学系统,能够处理复杂的事物和环境,根据实际生产过程不断校正系统,实时监测参数的变化,对故障进行诊断和报警。目前主流的故障诊断的神经网络系统有:反传动态经网络控制系统、自适应神经网络控制系统和RBF神经网络控制系统。

神经网络技术主要靠传感器接受外部信息,大量传感器的应用,有利于智能化控制生产过程。化工过程的控制主要是对生产过程中的机器控制,生产过程涉及的机器种类繁多,同时维持安全、高效率阶段比较困难。神经网络系统自动控制机器生产,控制生产参数和生产流程,最优化生产过程控制和安全化控制,实时跟踪控制生产。控制主要有两种基本的方法,一种数学建模,将对象的目标信息作为标准,经过不断的训练和反馈,修正误差,化模型,优化控制模式;另外一种是控制器设置,如piD控制器,实现实时控制,不仅对精确知识进行处理,而且对模糊信息也能进行处理。国内外都已经有成熟的化工过程控制中的神经网络系统,如对乙酸乙烯酯聚合成乳液过程的实时控制,氯气生产过程的故障预报神经网络系统。

3总结

神经网络技术是21世纪最重要的技术之一,化工过程控制是化工生产的安全保障。化工过程控制应用神经网络技术,有利于提高控制的安全系数,提高生产效率,有利于智能化管理,提高管理水平,有利于整个社会生产力水平的提高和社会智能化发展。化工过程控制采取神经网络技术,有利于工业技术的创新和改善工人工作环境,保障工人人身安全。

参考文献

神经网络的实现过程篇5

关键词:神经网络知识库多神经网络集成方法研究

随着我国科学技术的不断发展,神经网络技术已经获得广泛的应用,在我国的多个领域中使用,且已经小有成就。但是在使用的过程中还不成熟,仍存在很大的不足和问题,这就需要工作人员进行反复的试验和计算,以获得有关于神经网络的模型。神经网络模型在使用的过程中,会受到操作人员的影响,因此结果表现出来的也就不同。神经网络在实际使用的过程中,操作人员多是缺乏专业知识水平的普通工作人员,这就导致神经网络模型的使用效果得不到保障,因此需要系统的、可靠的神经网络模型操作的应用体系。

一、多神经网络集成方法

1.在神经网络知识库基础上发展而来的神经网络集成应用体系

在神经网络技术应用的过程中,要对工作人员所具备的神经网络方面的知识和经验进行培训,可以通过多元化的神经网络来学习和积累与神经网络有关的知识,神经网络所具备的实用性将获得大幅度的提高。现阶段,我国与神经网络技术有关的工程都较为复杂,大多数的工程都具备独立性较强的子系统、功能单元及部件等,将原本复杂的系统分解成多个简单的小系统。因此工作人员在遇到复杂的系统问题时,可以将复杂的问题分解成多个相对独立的部件、功能单元或者是子系统,进行信息资料的输出或者是输入。使用神经网络技术得到相关子系统的特点信息之后,就能够以此为基础面对系统复杂的问题,例如系统中的辨识度问题、同一个系统中包括多个子系统的神经网络问题等。

在上述想法的基础上,对神经网络知识库进行构建,并逐渐完善神经网络集成体系的框架。是按照将复杂的神经网络问题分解成多个子系统的神经网络问题,而不是针对一个相对较复杂的问题进行的。将复杂问题分解成多个子系统,能够充分体现复杂的神经网络技术所具备功能,并为神经网络问题的分类提供便利,不仅可以提高解决问题的工作效率,而且可以积累神经网络方面的经验。在神经网络问题的实际解决过程中,如果子系统所具备的属性是对数据资料的输出和输入是固定的话,就需要子系统记住这些匹配。也可以是将神经网络子系统中存在的知识库与神经网络中的仪器设备相匹配,那么在进行相关信息的输入时,就可以对神经网络知识库中的连接权、阈值等相关参数进行调用,而不进行反复性质的神经网络学习,这时神经网络所具备的功能就是对函数进行传递。如果在子系统的神经网络知识库中存在与子系统属性相匹配的网络部分,就需要在神经网络知识库中找到与初始值和缺省值相匹配的经验值,将其作为基础就可以对神经网络的子系统的连接权、阈值等相关参数进行训练;如果神经网络的知识库中不存在与子系统属性相匹配的网络部分,就要对神经网络的样本进行训练,并在神经网络问题求解的过程中对网络结构的设计和计算方法等进行学习和训练,以求真正与神经网络的知识库相融合。在神经网络知识库基础上发展而来的多神经网络集成体系如下图所示:

图在神经网络知识库基础上发展而来的多神经网络集成体系

2.多神经网络集成的方法与流程

从神经网络的有关资料可以看出,多神经的网络集成体系中存在多个子系统且属于多层并联或者串联的结构体系。从资料明显可以看出,子神经网络系统的结构较为简单,为神经网络进行计算和训练等操作提供了便利。在对复杂的网络问题进行分解的过程中,要进行反复的摸索和计算,以求得到最优化的结果,并把结果存储在神经网络的知识库中,为下一次的操作提供经验和学习的基础。在神经网络系统中存在多个层次,可以将位于下一层的输出当做是上一层的输入使用,位于同一层次的神经网络都可以被上一层的神经网络使用,直到到达神经网络的顶层为止。

二、在Bp网络集成的基础上进行非线性的研究案例

本文通过复杂的非线性函数案例对神经网络的集成方法进行验证,以有效证明神经网络集成方法所具备的有效性、稳定性、可靠性和可行性。在神经网络函数的研究过程中,人们一直都比较注重对神经网络函数逼近原理进行研究,但是没有更为明确的说明。

1.非线性函数逼近原理的举例描述

通过神经网络进行函数的非线性映射的描述,函数F■(x■,x■)中的x■,x■要符合以下要求:x■,x■∈[-1,1]。函数表示为:

F■(x■,x■)=sin■∈(πx■)+cos■(πx■)+2sin(πx■)cos(πx■)

在函数中根据x■=x■=0.05的原则进行取点的操作,并对函数进行神经网络的输入和输出操作的训练,以求得出函数公式最理想的输出结果。

2.函数问题的解题方法

(1)在函数公式求解的过程中,需要用到神经网络知识库中的逼近原理。

(2)在函数公式求解的过程中,需要进行反复的摸索和拼凑,以实现对神经网络拓扑结构的设计,通过Bp算法的使用,实现对函数公式求解的目的。

(3)在函数公式的求解过程中,如果使用多神经网络集成方法的话,就要对神经网络的结构进行设计,以为函数公式的求解提供便利。

F■(x■,x■)=sin■(πx■)+cos■(πx■)+2sin(πx■)cos(πx■)

=(sin(πx■)+cos(πx■))■

根据神经网络中可以将复杂的问题进行分解成多个子系统的原则,将函数公式分解成以下四个简单的函数问题:

f■(x■)=sin(πx■)

f■(x■)=cos(πx■)

f■(f■,f■)=sin(πx■)+cos(πx■)=f■f■

F■(f■)=f■■

对分解之后的函数公式进行求解,通过Bp算法的求解,从而达到对函数公式求解的目的。

3.函数求解过程中所使用的方法对比

在使用神经网络进行求解的过程中,神经网络的结构呈现出较为复杂的特点,由于缺少经验作为基础,因此只能进行多次的尝试和摸索,比较花费人力,浪费时间,得到的结果还不理想,存在一系列的问题,例如速度慢、规律复杂等。本文介绍的案例就进行了反复的尝试,得到的输出三维图与最理想的三维图之间还存在差异。

把原来较为复杂的函数公式分解成多个简单的函数公式之后,在通过多神经网络集成方法进行求解的过程中,每个函数公式都很简单,在训练的过程中,也不存在大量的拼凑和尝试,能够在短时间内就确定函数公式结构的参数。将与函数公式有关的阈值和训练值等都存储在神经网络的知识库中,在遇到同类型的函数公式求解时,就可以从神经网络知识库中直接调用即可,不仅计算的速度快,输出结果的精确度也很高。通过神经网络集成方法找到的函数公式的输出三维图,与最优的三维图之间非常的相似,差异不大,可以忽略不计。

三、结语

在神经网络知识库的基础上使用多神经网络集成方法进行问题的求解时,不仅可以大大节省求解所用的时间,而且可以大大提高输出结果的精确度。可以将复杂的问题分解成多个简单的问题,以提高神经网络的工作效率,对计算方法进行创新和发展。

参考文献:

[1]林民龙.基于神经网络集成的增量式学习[D].中国科学技术大学,2012.

[2]唐东波.基于神经网络集成的电信客户流失预测建模及应用[J].大众商务,2010(06).

[3]李明爱,王蕊,郝冬梅.基于神经网络集成技术的运动想象脑电识别方法[J].北京工业大学学报,2011(03).

[4]刘大有,张冬威,李妮娅,刘杰,金弟.基于网络聚类选择的神经网络集成方法及应用[J].吉林大学学报,2011(04).

[5]潘远.粗集约简的神经网络集成在遥感影像分类中的应用[D].辽宁工程技术大学,2012.

神经网络的实现过程篇6

【关键词】神经网络;塑性加工

1.引言

神经网络技术属于人工智能领域,最早在上世纪五十年代开始出现一些相关理论性的研究,由于受到当时软、硬件环境的约束,因此该技术的发展一直处于停滞状态,直到九十年代才得到足够的重视,并由于其在控制过程中独特的优势而受到广泛的关注和青睐,成为最热门的研究领域之一。人工神经网络的特点主要有大规模并行计算能力突出、数据存储的分布性好、超强的自学习和自适应能力等,甚至基于神经网络衍伸出的一些优化算法还可以具备相当程度的联想、识别和记忆功能,这大大强化了神经网络的适用范围。目前该技术已广泛的应用在生产控制、模式识别、网络控制、信号处理、医学工程以及其他需要智能优化处理服务的自动化控制场合。

2.人工神经网络概述

人工神经网络技术模拟人脑中由大量的神经元连接组成的复杂网络,在求解过程中充分的调动神经元之间的相互作用,从而实现对数据的感知、记忆和处理功能。虽然神经元个体相对简单且功能有限,但通过大量不同神经元的组合,便可使生成的网络系统具有多样化的功能。在人工神经网络中,神经元由三部分构成,分别是包含网络中每条连接权值的权集;用以存储某条组合连接中各个单位连接权值之和的求和单元;对加权和进行非线性映射并约束其强度的非线性激励函数。由这三部分组成的单个神经元可与其他多个神经元相连接,组成各种类型的神经网络。

神经网络的另一个优势在于其独特的分布式数据存储方式上,由于将采集到的大量数据分布存储在各个神经元之间的连接强度上,可大大增强数据的生存性和安全性,即使出现了局部数据的损毁,也不会对最终的计算结果造成太大的影响。从计算机技术方面分析,神经网络中的神经元实质上是一个非线性运算器,可同时接受多路输入数据参与运算,而计算结果则是唯一的单个输出。从数学建模的角度来看,通常使用三个函数来描述神经网络,分别是阶跃函数、分段线性函数和Sigmoid函数,如下所示:

在塑性加工领域,应用最多的是前馈型神经网络,在该类神经网络中,包括输入层、隐层和输出层三层结构。在这三层之间,内部节点相互独立,减少干扰,其实现的输入和输出之间的关联受到多种因素的影响,如节点数、层数、连接权值等等,若要实现该网络输出尽可能的逼近预设值,就必须采用误差函数来对各个连接强度进行动态调整,最常使用的是二乘误差,如下所示:

3.人工神经网络在塑性加工中的应用分析

3.1工艺设计专家系统

工艺设计是塑性加工工序的开始,通过科学的工艺设计,可以将整个加工流程进行合理的安排,预设合适的参数组合,以使得生产出的产品合乎标准,在这一阶段,首先要完成的就是大量资料的收集,随后是数据提炼,计算量相当庞大。而利用人工神经网络来建立专家系统时可以实现大规模的数据并行处理,且不需要循序渐进的推理,直接通过大量的训练来得到最优的解集,这是其他智能算法所不具备的突出优势。而且在神经网络中,推理过程和计算过程是同步完成的,且相关信息分布存储在网络节点间的连接强度上,通过对样本不断的学习和更新来完成对存储知识的不断优化。

3.2无损探伤及缺陷预测

在超声探伤、磁粉探伤等无损探伤中,由于得到的信息较为有限,因此传统的监测系统很难准确判断构件内部缺陷的具体情况,更谈不上精确定位了,且这种困难随着北侧物件体积的增大而直线上升。而神经网络所具有的非线性识别及映射能力则能很好的解决这一问题,通过反复的训练优化,最终定位出最有可能的缺陷位置和缺陷尺寸。若某平板内具有圆形缺陷,可先用有限元法模拟在一定载荷下圆孔的位置、尺寸变化对某些点的位移、应变的影响,将所得到的数据用来训练神经网络。一旦训练成功,就可以利用它确定同类试件内部的缺陷及其尺寸位置。

3.3预测材料性能及参数识别

在塑性加工理论研究中,材料塑性变形行为的表述能否准确反映材料在外载作用下的响应,直接影响到理论结果的准确性。在利用传统方法建立本构模型时要引入许多假定的前提条件,还要通过大量的实践经验和实验验证来选择合适的参数组合,通过在不同环境下的仿真实验,并对结果进行对比分析,不断修正乃至最终确定本构模型,这一过程显然占用了过多的时间和资源。而利用神经网络却可以实现应力―应变的直接映射,直接从实验数据“学习”应力―应变关系,从而避免了大量的数学推导过程和验证―修改的不断反复过程。网络实现对应力―应变关系模拟就是在“训练”过程中不断改变自身各神经元间的连接强度,训练完成后,网络将应力―应变关系(某种材料)“记忆”在其连接强度上即可。

4.结束语

虽然神经网络已经被广泛的应用到各种工业控制场合并表现出强大的学习和自适应能力,但其算法的收敛性和鲁棒性仍有待加强,相信人工智能领域的不断突破,人工神经网络比价发挥出更大的作用。

参考文献

[1]时慧焯.基于人工神经网络的注塑成型翘曲优化方法[D].大连:大连理工大学,2012

[2]付子义.基于Bp神经网络优化的piD控制器研究[J].软件导刊,2015,(12):45-48

神经网络的实现过程篇7

关键词:生物发酵Bp神经网络算法研究

1概述

现代意义上的微生物发酵工程是指在一定条件下使微生物增殖,从而产生对人类有价值的生物成份的过程[1]。发酵过程是一个基于微生物生长繁殖和控制的生物化学反应过程,和普通意义上的上的工业控制不同,具有非线性、时变性和时滞性等特点,内部机理非常复杂。因此对于发酵过程的控制一直都是发酵工业生产中的难点。随着科技进步,新的非线性控制技术的发展为控制发酵过程提供了有力的工具。

当前对于发酵过程的控制,其基本原理是将发酵过程中的主要控制因素采用一定的人工手段进行干预,以发酵过程中所产生的发酵液温度、pH值等关键因素为控制指标,并将其进行动态监测,从而将发酵过程控制在人们所期望的的范围内。由于发酵过程具有实时性,因此对于发酵过程的控制按时间特性可分为离线控制和在线控制两大类[2]。随着研究的深入,在线控制已经成为研究的重点。在线控制是一种基于反馈信息的过程控制方法。其原理是实时监测发酵系统的输出值期望值之间的误差,按照一定的过程控制算法进行调整,将发酵过程中关键的发酵指标控制在期望范围之内。本文将就发酵过程的在线控制方法和实践展开讨论。

2发酵过程控制的硬件系统简介

对发酵过程的控制是建立在必要的硬件条件基础上的。发酵系统的组成主要由两部分构成:即发酵装置和控制器。对于发酵过程的控制关键是控制温度、溶氧、pH值等。这些因素都可以通过实时监测发酵装置传感器信息来实现。

本文中以大肠杆菌发酵产生类人胶原蛋白为例,需要监测的主要内容有四项:pH值、温度、溶氧量和尾气。监测设备分别为:pH电极、铂电极、溶氧电极和尾气分析仪。

对于发酵过程的智能控制,重点是实现对控制器的智能化,在下一节中将进行具体的讨论。在本文中所涉及的控制器软件的智能化设计基于silicoulab公司的片上系统芯片(SoC),发酵装置型号为nLF22机械搅拌式发酵罐,发酵罐罐体上装配有监测温度、溶氧、pH值等参数的传感器和尾气分析仪。这类实时数据的监测和控制在LabView图形化编程软件设计的人机交互界面上进行。

3Bp人工神经网络控制原理

发酵过程具有高度的非线性特点,因此在本文中采用适合于给类问题的基于Bp神经网络控制算法。该算法不依赖精确数学模型,具有非线性的映射能力,可以从大量实时监测数据中寻找输入和输出之间的非线性关系,计算出最优的控制量,从而实现对发酵过程的有效控制。

人工神经网络控制算法是建立在现代神经生物学和仿生学对人类大脑活动的认识模式研究的基础上,通过构造人工神经元形成的网络来模拟神经活动,是当前人工智能研究的热点和智能化控制的研究方向。

人工神经元是神经网络算法的基本信息处理单元,其输入输出关系可由式(1)和式(2)来描述:

ii=■wijxj-θi(1)

yi=f(ii)(2)

上式中,xj为来自于其他与本神经元相连接的神经元所传递的输入信息,wij为神经元i,j之间的信息权重;θi为阈值;函数f称为作用函数或转移函数。

目前在人工神经网络研究中已经有很多种网络模型,本文中所采用的是前馈式神经网络模型。Bp算法((errorBackpropagation)即属于这类前馈式网络模型,该模型以神经网络的误差平方和为目标函数,以某种优化算法(如梯度法)计算使得目标函数最小的控制值[3]。其拓扑结构可参考相关文献。

4Bp神经网络的应用

本文中以大肠杆菌发酵生产类人胶原蛋白过程为例,简介Bp神经网络智能控制在其发酵过程控制中的应用。

4.1输入层和输出层节点数分析依据工神经网络运行的基本原理,输入层的节点数是由训练样本数据的维数来决定,输出层的节点数则取决于控制者的实际控制目标。在本文算例中,发酵过程的关键控制因素主要有4个,即酸碱度(pH值)、温度、溶氧度、搅拌速度和时间。这五类数据通过传感器数据可以方便的得到,因此将其作为训练样本,并得到样本数据的维数为5,输入层的单列节点数为4。对输出层而言,依据生产经验,在胶原蛋白的发酵过程中的关键因素为溶氧量,因此将其作为关键控制因素和最终控制目标,由此可得到输出层的节点数为1个。

4.2隐含层层数和隐含层节点数分析本文中设定隐含层的层数为1(原因可参照单隐含层对非线性函数的逼近特性[4])。隐含层的节点数可由式(3)进行计算:

m=■+■(3)

其中,m为隐含层的节点数,n表示输入层的节点数,L表示输出层的节点数,p表示新样本数据,α为1-10之间的常数。依据实测数据(此处从略),可计算得到隐含层的节点数为18。

4.3程序实现本文中采用matlab编程实现上述Bp神经网络控制,其基本步骤概述如下。

首先利用newff()函数来生成上述指定结构的神经网络,其参数设定如式(4)所示:

net=newff(minmax(p),[4],18,1){‘tansig','purelin',},'traingd

m)(4)

其次设定基于上述网络net的训练参数,该步骤涉及到的函数的参数设定结果为:net.trainparam.epochs=500、net.trainparam.goal=0.02、net.trainparam.show=25、net.trainparam.ir=0.05。

最后采用命令[net,tr]=train(net,Fd,t)训练上述神经网络。

5结果分析

表1中对比了采用Bp神经网络控制前后的利用大肠杆菌发酵产生类人胶原蛋白的产物湿重产量(g)。有表1可见,通过对发酵过程的Bp神经网络控制后,胶原蛋白的产物湿重总体有明显的提高,表明该方法在这类发酵过程控制中是有效的。

6结语

生物发酵过程是一个复杂的过程,具有高度非线性和难于用精确数学模型描述的特点。本文利用Bp神经网络控制方法来综合控制发酵过程中的关键因素,以氧容量作为控制要点,经过网络训练后可提高对发酵过程中关键因素的控制效果,实践表明可大幅度的提高类人教员蛋白的产物湿重产量。上述结果表明利用智能算法控制这类高度非线性的生物发酵过程较之于传统方法具有明显的优势,是今后生物发酵过程控制中重要的研究方向。

参考文献:

[1]陶兴无.生物工程概论[m].北京:化学工业出版社,2011.

[2]谢玉龙.FF现场总线在泰乐霉素发酵控制系统中的应用[D].济南:山东大学,2009.

神经网络的实现过程篇8

摘要:目前世界超过5亿人患有不同的肾脏疾病,但全社会对慢性肾脏病的知晓率尚不足10%,肾病患者甚至一些非肾脏科的大夫对慢性肾脏病的危害缺乏足够的了解,由于慢性肾脏病早期多没有明显症状,很容易被忽略,很多患者直到肾功能完全恶化导致尿毒症时才去就医。同时,针对不同慢性肾病的等级又有对应的不同治疗方向。因此,对慢性肾病进行分级预警是一个影响非常深远的课题。在进行慢性肾病分级的过程中,肾小球滤过率对慢性肾病分级起着基础与指导的作用,因此我们必须着重解决一个重要的问题:肾小球滤过率的评估。

本文主要针对肾小球滤过率的预测进行设计。为了达到人工智能对慢性肾病进行分级的最终目的,本文将通过matLaB软件平台对肾小球滤过率的评估进行仿真。接着对于在医院收集好的数据进行筛选,最终选出一组具有较高参考意义的数据,对其使用适当的处理方法,并运用了Bp神经网络来构建合适的预测模型,对肾小球滤过率进行预测评估。在经过反复的网络学习,测试后,最终确定一个误差最少,精度最高,稳定性最好的Bp神经网络评估模型。最后,根据训练好的神经网络对数据进行分级,从而最终构建出一个实用性良好的慢性肾病分级预警模型。

关键词:慢性肾病;肾小球滤过率;Bp神经网络

一、前言

在众多的神经网络结构中,多层前馈神经网络是目前应用最广泛也是最成熟的一种网络结构。Rumelhart,mcClelland和他们的同事洞察到神经网络信息处理的重要性,于1982年成立了一个pDp小组,在研究并行分布信息处理方法,探索人类认知的微结构的过程中,于1986年提出了Bp网络(Back.propagationnetwork,简称Bp网络)模型,实现了minsky的多层网络设想[1]。在多层前馈神经网络mFnn中,网络权值的调整是通过著名的误差反向传播学习算法——Bp算法来进行的。Bp网络具有非线性映射能力、泛化能力和容错能力,同时Bp网络结构简单,是在自动控制中是最有用的学习算法之一,也是慢性疾病分析的首选神经网络[2-5]。因此,本文选取这种网络结构作为慢性肾病分级预测的基础,在后面将对它进行详细论述。

二、基于Bp神经网络的慢性肾病分级预警模型设计框架

要设计出慢性肾病的分级预警模型,关键在于如何把慢性肾病进行分级[6-9]。我所采用的设计框架是基于matLaB的Bp神经网络,把从医院获得的临床数据进行筛选,并对网络进行初始化设置,运用Bp神经网络对数据进行学习,根据不断的误差修正以及数据的测试,构建起肾小球滤过率的预测模型,根据肾小球滤过率的指标最终建立起符合实际的慢性肾病分级预警模型,如图1所示。

图1慢性肾病预警模型设计框架

因此,本文的整个设计重点分为两部分:第一部分为建立肾小球滤过率的预测模型,第二部分为建立基于人工智能的慢性肾病分级预警模型。

(一)Bp神经网络进行肾小球滤过率预测的原理

Bp神经网络是通过对以往历史数据的学习,找出不同测量指标对肾小球滤过率的相应的非线性的变化关系,并将具体的资料存储于相应的权值与阈值之中,从而对肾小球滤过率进行预测。

(二)基于Bp神经网络的肾小球滤过率预测模型

利用Bp神经网络对肾小球滤过率进行预测时,网络的拓扑结构的设计、隐层节点个数的确定、样本数据的选取以及对原始数据、输出数据的预处理的确定等问题,都直接影响着我们所建立的肾小球滤过率预测模型的各项性能[10-12]。

1.网络拓扑结构的设计。

由于网络训练样本是有限的,因此把推广能力作为主要的要求来操作的话,则强调选择能达到要求的最小网络[13]。许多理论都表明,一个三层网络可以任意逼近一个非线性连续函数。由于这种三层网络简单、易于实现、计算量小、并行性强得众多特点,目前仍然是多层式网络训练的首选网络结构之一,并且已经被人们广泛应用于解决实际的问题。因此,鉴于上述提及的论点,本文采取三层网络建模进行对肾小球滤过率的预测。

相比起输入输出层节点的选择,隐层节点数目的选择可谓是一个较为复杂的问题,因为没有很好的表达式来表示。隐层节点的数目与我所需要的输入、输出节点数目密切相关。隐层节点数目太小,则会导致学习过程不能收敛,或者导致网络实用性不强,不能识别以前所没有遇到过的样本;但是如果隐层节点数目过多,虽然网络映射能力会增强,局部极小点会越少,且越容易收敛到全局最小点,但会使学习时间加长,同时使得网络训练过度,这时网络不但记住了训练样本的一般特征,而且记住了训练样本中的一些个别特征,包括随机噪声,这样将会导致网络的容错性降低[14]。

确定一个最佳的隐层节点数的一个常用方法称为试凑法,可先设置较少的隐层节点用以训练网络,随后逐渐增加隐层节点数,用同一样本进行训练,从中确定出网络误差最少的时候对应的隐层节点数[15]。在使用试凑法的时候,可以用一些确定隐层节点数的经验公式。这些公式计算出来的隐层节点数虽然只是一些粗略的估计值,但是可作为大致隐层节点数目的参考:

(3-1)

(3-2)

(3-3)

以上各式中m为隐层节点数,n为输入层节点数,l为输出层节点数,a为1-10之间的常数[16]。在本文中采取了式(3-1)来确定隐层节点数的大概范围,然后将根据实验结果反复修正具体的隐层结点个数。

对于Bp网络来说,为了节约训练网络的时间,可以采用部分连接的方式,使得在合理的时间内获得比较好的精度。而本文将采用相邻两层节点全连接,而同一层的节点互不相连的连接方式构造Bp神经网络。

(三)肾小球滤过率预测模型的matLaB实现。

在建立了肾小球滤过率的预测模型之后,就要开始使用matLaB仿真软件构件Bp神经网络,同时通过对网络的不断训练,以求达到最好的肾小球滤过率的预测效果。

1.Bp网络的matLaB实现。

matLaB是一套功能强大的工程计算及数学分析的可视化软件。1984年,mathwork公司将matLaB推向市场。90年代又逐步拓展起数值计算、符号解析运算、文字处理、图形显示等功能,至今,matLaB已经成为线性代数、自动控制理论、概率论及数理统计、数字信号处理、时间序列分析、动态系统仿真等方面重要的数学计算工具[19]。它具有程序可读性强、程序简单等优点,尤其是在编写含矩阵运算的复杂程序时,能给用户提供极大方便。

现在,神经网络已经成为了解决一些问题的手段以及方法,但利用神经网络来解决问题的时候,必定会设计到大规模的运算量,其中包括了矩阵计算的问题等,考虑到matLaB的神经网络工具箱的特殊功能,以及效率与准确性的问题,本文选择了专门用于了matLaB软件进行仿真模拟。

(1)Bp神经网络的生成及初始化。

在matLaB软件中,我们采用newff函数来生成Bp网络,而newff函数的调用格式为:

(3-4)

其中pR为维的矩阵,表示R维输入矢量中每维输入的最小值和最大值之间的范围;因此,通常我们会设定,即设定pR为p的最小值和最大值之间的范围;中n表示Bp神经网络所具有的层数,而Sn则表示具体第几层具有多少个神经元;中各元素表示各层神经元采用的传递函数;BtF则表示神经网络训练时所用的训练函数;net为生成的Bp网络对象。对于newff生成的Bp神经网络,网络本身对各层的权值和阈值会自动进行初始化,如果用户需要,则可以对各层网络的权值和阈值的初始化函数重新定义。

(2)Bp神经网络的训练。

在Bp神经网络生成及初始化后,就可以开始对网络进行训练了。Bp神经网络的训练通常采用train函数来完成,在训练之前需要对网络的训练参数net.trainparam进行适当的设置。当设置完训练参数之后,就可以开始调用train函数对Bp神经网络进行训练了。该函数采用自适应学习速率法,返回误差参数。其调用格式如下:

(3-5)

其中p是输入样本;t是对应的输出样本;等号的左右两侧的net分别用于表示训练得到的和训练之前的神经网络对象;tr存储了训练过程中的步数信息以及误差信息,并给出了网络误差的实时变化曲线。

(3)Bp神经网络的仿真。

在matLaB的应用中,我们选用sim函数对训练之后所得到的网络进行仿真,sim函数的调用格式如下:

(3-6)

其中,net为神经网络对象,p为输入样本,pi为输入延迟的初始状态,ai为层延迟的初始状态,t为输出样本,Y为网络的实际输出,pf为训练终止时的输入延迟状态,af为训练终止时的层延迟状态,e为输出样本和实际输出之间的误差,pref为网络性能值。

对于本文的sim函数调用,采取了如下调用格式进行简化:

(3-7)

(4)Bp神经网络的保存。

在完成网络的训练后,必须要对训练后的网络进行保存,这样才能在下次进行预测的时候沿用训练过的网络,在matLaB中,保存网络的调用格式如下:

(3-8)

以上即为肾小球滤过率预测模型的设计流程。

2.Bp神经网络进行肾小球滤过率预测的实现。

(1)数据样本的选取。

为实现肾小球滤过率的预测模型,本文选取了广州珠江医院的327例慢性肾病病历作为研究对象。

初始权值采取的是随机数,输入层到单隐层采用的传递函数为tansig函数,单隐层到输出层采用的传递函数为logsig函数,训练函数采用trainlm函数。同时,设置300个训练网络的样本数据,误差精度设置为e

Bp神经网络的训练是网络是否成功的一个非常重要的环节,网络训练的好坏直接影响到预测的准确性与稳定性。因此,对网络进行训练和测试的时候,必须要反复修改设置参数,方能达到最佳效果。

在神经网络训练完成之后,需要用另外的测试数据来对网络进行检验,而这些测试的数据应该要是独立的数据。因此,学习与测试过程需要独立开来,一旦Bp网络学习完成了,就必须要将权值保存下来,以供下次预测使用。

(四)仿真实验及结果分析。

1.应用肾小球滤过率预测模型建立慢性肾病分级预警模型。

上述建立肾小球滤过率预测模型的目的,正是为了建立起慢性肾病的分级预警模型。在预测到肾小球滤过率的基础上,运用数据,建立起对应的慢性肾病的分级模型。在表1中,根据归纳方法,列出了以上20组预测数据的预测分级情况与这20组数据实际的分级情况的对比。

表120组数据的预测分级与实际分级情况对比

序号123456

预测分级532451

实际分级541551

序号789101112

预测分级413553

实际分级313543

序号131415161718

预测分级133243

实际分级134152

序号1920

预测分级42

实际分级52

从上表1可以看出,基于matLaB的神经网络对慢性肾病的分级有较好的准确性,能较好地对慢性肾病进行分级预警,因此,具有良好的推广性以及实用性。

三、结论

本文的工作只是一种基础性的、初步的工作,涉及到Bp神经网络的一些重要应用显得还比较浅,因此,在今后的研究里面,还需要对其中的许多性能参数进行有效的修改,方能得到理想的结果。

在今后的研究中,对Bp网络的算法修改是一个非常大的课题,为了能使网络的预测能力最大限度地根据实际情况达到目的,必须针对现有的数据资料,对使用的算法进行改良。同时,为了更有效,更准确地得到预测结果,需要对样本的数量继续加以增加,方能达到理想的目标。

因此,以Bp神经网络对医学各个方向的预测是今后研究许多医学问题的主要趋势,是一个值得深入探讨的重要课题。

参考文献:

[1]程晓霞.慢性肾病的幕后推手.疾病与营养。

[2]张春,邓安国.慢性肾脏病心血管并发症的危险因素与防治.临床内科杂志,200825(7)。

[3]陆汉魁.中华检验医学杂志.20073(11)p.1211-1212。

[4]叶解明.简化估算肾小球滤过率模型算法的参考限及临床特性.2010,25(4)。

[5]m.Kastra.ForecastingCombiningwithneuralnetworks.Forecast,1996,15(1):49—61。

[6]韩力群.人工神经网络教程.北京:北京邮电大学出版社,2006。

[7]王万森.人工智能原理及其应用.北京:电子工业出版社,2006.27-51。

[8]t.Kohonen.theselforganizingmap.procieee,1990,(78):1464~1480。

[9]D.e.Rumelhart,Ge.Hinton,R.J.williams.LearningRepresentationsbyBack.propagatingerrors.nature,1986,323(9):533-536。

[10]钟义信.智能理论与技术——人工智能与神经网络.北京:人民邮电出版社.1992:45--46。

[11]吴凌云.Bp神经网络学习算法的改进及其应用.信息技术,2003,27(7):42—44。

[12]吴耿锋等.股票短期预测的一种非线性方法.上海投资,1999:35、37。

[13]徐丽娜.神经网络控制.哈尔滨:哈尔滨哈尔滨工业大学出版社,2006:241~256。

[14]师智斌,陈立潮,靳雁霞.基于神经网络的股票交易数据的预测研究.华北工学院学报,2003,34(6):12~16。

[15]尹念东.Bp神经网络的应用设计.信息技术,2003,27(6):18~20。

[16]韩力群.人工神经网络教程.北京:北京邮电大学出版社,2006:74~75。

[17]吴佑寿,赵明生.激活函数可调的神经元模型及其监督学习与应用.中国科学e辑,2001,3l(3):263。

神经网络的实现过程篇9

关键词:神经网络;Bp网络;优缺点;改进算法

【中图分类号】tp183【文献标识码】B【文章编号】1671-1297(2012)09-0196-02

思维学普遍认为,人类大脑的思维分为抽象(逻辑)思维、形象(直观)思维和灵感(顿悟)思维三种基本方式。

人工神经网络(artificialneuralnetworks,nn)就是模拟人思维的第二种方式。这是一个非线性动力学系统,其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单,功能有限,但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。人工神经网络系统从20世纪40年代末诞生至今仅短短半个多世纪,但由于它具有信息的分布存储、并行处理以及自学习能力等优点,已经在信息处理、模式识别、智能控制及系统建模等领域得到越来越广泛的应用。

神经网络拓扑结构的单隐层前馈网络,一般称为三层前馈网或三层感知器,即:输入层、中间层(也称隐层)和输出层。它的特点是:各层神经元仅与相邻层神经元之间相互全连接,同层内神经元之间无连接,各层神经元之间无反馈连接,够成具有层次结构的前馈型神经网络系统。单计算层前馈神经网络只能求解线性可分问题,能够求解非线性问题的网络必须是具有隐层的多层神经网络。

一Bp网络

1986年,Rumelhart和Hinton提出了误差反向传播神经网络(errorBackpropagationneuralnetwork),简称Bp网络。它是一种能向着满足给定的输入输出关心方向进行自组织的神经网络。

1.Bp网络的原理

输入层各神经元负责接收来自外界的输入信息,并传递给中间层各神经元;中间层是内部信息处理层,负责信息变换,根据信息变化能力的需求,中间层可以设计为单隐层或者多隐层结构;最后一个隐层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程,由输出层向外界输出信息处理结果。当实际输出与期望输出不符时,进入误差的反向传播阶段。误差通过输出层,按误差梯度下降的方式修正各层权值,向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程,是各层权值不断调整的过程,也是神经网络学习训练的过程,此过程一直进行到网络输出的误差减少到可以接受的程度,或者预先设定的学习次数为止。

2.Bp网络的特点

(1)输入和输出是并行的模拟量。

(2)网络的输入输出关系是各层连接的权因子决定,没有固定的算法。

(3)权因子是通过学习信号调节的,这样学习越多,网络越聪明。

(4)隐含层越多,网络输出精度越高,且个别权因子的损坏不会对网络输出产生大的影响。

3.Bp网络的优点

(1)网络实质上实现了一个从输入到输出的映射功能,而数学理论已证明它具有实现任何复杂非线性映射的功能。这使得它特别适合于求解内部机制复杂的问题。

(2)网络能通过学习带正确答案的实例集自动提取"合理的"求解规则,即具有自学习能力。

(3)网络具有一定的推广、概括能力。

4.Bp网络的缺点

Bp算法的学习速度很慢,其原因主要有:

(1)由于Bp算法本质上为梯度下降法,而它所要优化的目标函数又非常复杂,因此,必然会出现"锯齿形现象",这使得Bp算法低效;

(2)存在麻痹现象,由于优化的目标函数很复杂,它必然会在神经元输出接近0或1的情况下,出现一些平坦区,在这些区域内,权值误差改变很小,使训练过程几乎停顿;

(3)为了使网络执行Bp算法,不能用传统的一维搜索法求每次迭代的步长,而必须把步长的更新规则预先赋予网络,这种方法将引起算法低效。

网络训练失败的可能性较大,其原因有:

(1)从数学角度看,Bp算法为一种局部搜索的优化方法,但它要解决的问题为求解复杂非线性函数的全局极值,因此,算法很有可能陷入局部极值,使训练失败;

(2)网络的逼近、推广能力同学习样本的典型性密切相关,而从问题中选取典型样本实例组成训练集是一个很困难的问题。

难以解决应用问题的实例规模和网络规模间的矛盾。这涉及到网络容量的可能性与可行性的关系问题,即学习复杂性问题。

网络结构的选择尚无一种统一而完整的理论指导,一般只能由经验选定。为此,有人称神经网络的结构选择为一种艺术。而网络的结构直接影响网络的逼近能力及推广性质。因此,应用中如何选择合适的网络结构是一个重要的问题。

新加入的样本要影响已学习成功的网络,而且刻画每个输入样本的特征的数目也必须相同。

二Bp网络的改进算法

Bp算法最优化的方向主要有权值调整、自适应学习速率调整、网络结构调整等。常用的改进方法有以下几种:

1.加入动量项

利用附加动量的作用则有可能滑过局部极小值。该方法所加入的动量实质上相当于阻尼项,它减小了学习过程的振荡趋势,改善了收敛性,这是目前应用比较广泛的一种改进算法。

2.自适应学习速率调整

对于一个特定的问题,要选择适当的学习速率并不是一件容易的事情。对训练开始初期功效很好的学习速率,不一定对后来的训练合适。为了解决这一问题,人们自然会想到在训练过程中自动调整学习速率。

3.共轭梯度算法

在各种改进算法中,共轭梯度法(ConjugateGradient)是非常重要的一种。其优点是所需存储量小,具有n步收敛性,稳定性高,而且不需要任何外来参数。

4.Levenberg-marquart算法(最小二乘拟合算法)

除了改进算法以外,通过改变神经网络结构(隐层结点数和网络层数)、调整误差等方法,也能加快Bp算法的收敛速度。

参考文献

神经网络的实现过程篇10

关键词:计算机网络模型;神经网络算法;分析

中图分类号:tp393文献标识码:a文章编号:1009-3044(2016)35-0212-02

计算机网络是人们多年研究科技进步最重要的成果,其被广泛运用到教育、工作、科学等方面,也具有良好的成就。目前,基于服务器的集线式网络具有实现网络互连的功能,但也成为了网络进一步发展的阻碍。虽然大量的信息能够丰富网络中的内容,但是其中的多媒体技术发展却使网络运行力不从心,比如图像、声音等,全面优化计算机网络整体性能是其发展的必要途径。将神经网络算法与计算机网络相结合,能够有效解决大规模复杂性的问题。

1浅析神经网络算法

1.1神经网络算法内涵

思维界认为,人类大脑思维包括灵感思维、逻辑思维、形象思维三种方式,神经网络模拟的就是人类思维的形象思维,是一种非线性动力学系统。神经网络算法指的是逻辑性思维根据逻辑规则推理的过程。神经网络的内容目前被广泛研究,包括建立理论模型、生物原型研究、建立网络模型与算法研究、人工神经网络应用系统等。

优化网络的神经网络主要是Hopfield神经网络,是1982年由美国物理学家提出的,它能够模拟神经网络的记忆机理,是全连接的神经网络。Hopfield神经网络中的每个神经元都能够信号输出,还能够将信号通过其他神经元为自己反馈,那么其也称之为反馈性神经网络。

1.2神经网络优化的基础

Hopfield神经网络其实是一个分线性动力系统演变的过程,通过能量函数分析系统的稳定性,将能量函数看做需要优化的问题目标函数。将能量函数的初始状态转变为稳定点这一过程,就成为求解优化问题过程,这个过程也可以称为在计算机联想记忆基础上解决优化问题的过程。

1.3神经网络优化模型的算法

反馈网络的联想记忆和优化是相对的,通过优化计算得知w,其目的就是为了找出e的最小稳定状态;联想记忆的稳定状态是特定的,要通过一些过程才能够找到适合的w。这个过程中的关键就是将问题的目标函数通过二次型能量函数进行表达。如下式所述:

Hopfield神经网络比较常见的类型有DHnn(离散型)和CHnn(连续性)两种,他们的动态方程分e为:

DHnn(离散型)动态方程:ui=fi(v1,v2,...,vn)

Vi=g(ui),vi∈{0,1},i=1,2,...,n

式子中的gi表示为阶跃函数,vi=g(ui)[(1,ui>0)(0,ui

CHnn(连续性)动态方程:dui/dt=fi(v1,v2,...,vn)

Vi=gi(ui),i=1,2,...,n

式子中的gi表示为常用函数sigmoid,vi=gi(ui)=1/2[1+tanh(ui/u0)],u0表示的为可控函数的斜率,当u0=0的时候,gi就为阶跃函数。【1】

1.4神经网络算法的优化步骤

其一,通过合适的问题将方法表述出来,使神经网络的输出和这一问题的解相互对应;

其二,创建有效的能量函数,要求问题的最优解能够对应最小值;

其三,使用有利条件和能量函数创建网络参数;

其四,创建对应的动态方程和神经网络;

其五,使用有效的初值,要求网络根据动态方程进行验算,直到收敛。

2基于神经网络算法的网络流优化模型

网络流优化模型的关键就是最小切割、图的划分和最大流问题,下面一一描述:

最小切割:最小切割是指寻找使隔集容量达到最小的切割。图的切割是指划分一个n―n1Un2,一个隔集为一组弧(i,j),i∈n1,j∈n2,隔集弧的权值总和为它的容量。使n=(w,t)是t=0的网络,要求能量最小为n图的最小切割。

图的划分:图的划分指的是将图划分为K个部分,要求每个部分中的节点数都相等。

最大流问题。要求有向图G(v,e)中的开始点为S,结束点为Z,边容量为Cij。如果每条边都有非负数fij,并且每条边为fij≤Cij且除了S和Z之外具有∑fij=∑fki。当S和Z有∑fsi=∑fiz=w的时候,w的最大值≤任何切割的容量。【2】

3基于神经网络算法的动态路由选择模型

通信网中的物理网络的连接一般是点到点,其可以用无向图G=(v,e)来表示,将交换节点表示为顶点,通路表示为边,每一边都有最大容量,为了能够满足网络中点和点能够相互通信,还e能够根据网络业务的量和用户呼叫为基础进行路由安排。现在一般使用的都是静态方式,能够提供给动态路由一些可能性,其的优化模型是:

如果网络图是G=(v,e),而且对网络中的边进行编号,路径经过的边表示为1,路径不经过的边表示为0,L*m神经元表示为L需要这多个路由,将备选的路由数量表示为m,如果通信网中具有n个节点,那么目标函数就是e=e1+e2+e3。【3】

4结束语

基于神经网络算法的优化网络模型有着简单、稳定、快速、规范的优势,其与其他算法相结合,能够较大程度的提高计算机网络模型的整体性能。但是Hopfield神经网络算法中的优化网络模型并不严格,它有着核心策略下降的缺点,那么在使用过程中会出现网络收敛的最优解呈局面状态、网络收敛解不可行、网络参数的不正当选择会导致偏差等,所以在今后就要深入研究计算机网络模型中的神经网络算法,使其更加完善。

参考文献:

[1]丁建立.基于神经网络算法的计算机网络优化模型研究[J].洛阳师范学院学报,2003,22(2):59-62.