人工神经网络基本功能篇1
【关键词】计算机神经网络matlab应用
近年来，大多控制系统的高品质控制都少不了对系统的仿真进行研究。根据仿真研究可以优化设定的控制参量，因此，控制系统的模拟与仿真一直是研究的重点。通常来说，控制系统进行计算机仿真必须首先创建系统模型，之后根据模型设定仿真城西，充分运用计算机对其进行动态模拟并展示结果。本文以计算机神经网络为研究视角，介绍了人工神经网络及Bp网络模型，提出设计基于Simulink控制系统及动态仿真。
一、简述人工神经网络
人工神经网络又被称为神经网络，是由人脑结构的启发之下创建的计算模型，人工神经网络不单单是高度非线性动力学系统，也是自适应组织系统。神经网络的主要特征表现在他的学习、组织及容错能力方面。神经网络可以采用被训练的状态实现特定任务，从而为系统提供独具代表性的描述问题样本，就是其可以成组的输入、输出样本，神经网络可以推测出输入与输出数据之间的关系。等到训练完成之后，神经网络又能永凯训练和识别任意样本之间相似的新数据。同时，神经网络也能对不完整或存在噪音的数据进行识别，这一特征被广泛使用到预测、诊断、控制方面。在最抽象的层次上，神经网络可以看做一个黑箱，数据由一边输入，通过神经网络处理之后给予相应的输出。对比输出及目标数值，采用产生的误差调整网络内部之间的链接权重。人工神经网络功能如图1所示。
二、创建Bp网络模型
Bp网络是现今使用最广泛的神经网络模型。该模型的学习规则是采用反向传播（Bp）对网络的权值和阀值进行调整，却阿伯网络误差的平方和达到最小状态。这是根据最下速下降方向上进行调整网络权值和阀值完成的。Bp网络拥有超强的非线性映射和泛化性能，任何一连续函数或映射都可以使用三层网络来实现。如此一来，把其看做控制器就可以找到最佳的答案。使用控制器之前馈网络通常采用m-n-1结构，这一网络输入层具有m个神经元，隐层存在n个神经元，输出层则只有单一的神经元。本网络隐层转换为函数取tansig函数，可以把该神经元取值范围设定为（）映射到（-1，+1），这个是可微函数，比较适合采用Bp训练神经元。若Bp网络的最后层是sigmoid型神经元，此时整个网络的输出就限定在比较小的范围之内。若purelin型线性神经元，那么整个网络的输出可以采用任意值，选取purelin型函数当做输出层的变换函数。
三、设计基于Simulink控制系统及动态仿真
创建Simulink动态仿真时在matlab环境下完成的动态系统建模、仿真的环境，可以采用功能模块建立控制系统展开仿真。这种方框图示的建模办法比较容易把复杂的数学模型输入至计算机内，从而简化编程过程。
（一）设置网络控制器
本文建立的控制系统其核心为网络控制器，基于matlab5.2应用环境基础上，采用两种方法构建网络控制器：①进入Simulink环境之后，采用Block&toolboxes模块库，随之选取neuralnetwork子库的transferFunction、netinputFunc―tion、weightFunction三个功能模块来建立网络。简言之就是先创建单个神经元模型，随之根据阀值、权值、转移函数一次创建输出层、隐层，最后进行打包、封装就形成所需的网络，整个工作流程借助鼠标完成，便于操作。②基于m文件编辑器创建网络控制器的S-函数，随之调用nonlinear模块库中的S―Function功能模块，如此一来可以获取新的功能模块，这种办法适合建立Simulink中不存在现成的模块。S-函数比较简单，容易编辑。
（二）构造控制系统
控制器构造和封装完工之后，从Simulink的Source、Sinks、Linear模块库中调用所需的功能模块，该控制系统采用示波器可以清楚观察其输出曲线，也能把数据存储至matLaB工作空间内，使用绘制命令plot把控制系统与原系统的响应曲线画出来。由仿真结果可知，Bp网络控制系统的性能远比原系统要好。
四、结束语
本文从人工神经网络和Bp网络模型进行分析，采用matlab构造与仿真控制系统，达到优化控制系统仿真的效果的目的，仿真结果表示该办法正确、有效。因此，大范围推广使用这一软件，可以有效利用matlab各种资源，进一步提升工程实践水平。
参考文献：
[1]卓先德.网络安全评估的仿真与应用研究[J].计算机仿真，2011，28（6）：177-180.
人工神经网络基本功能篇2
引言
当前对人工神经网络ann（artificialneutronnetwork）的研究热潮源自HopfieldJ.[1]和mcclellandJ.等人于20世纪80年表的论文[2],[3]。Hopfield提出了激活函数为非线性的反馈网络，并将其成功地运用于组合优化问题；mcclelland和Rumelhart用多层前馈网的反向传播学习算法（Backpropagation）成功地解决了感知器不能解决的"异或"问题及其它的识别问题。他们的突破打消了此前人们由于简单线性神经网络感知功能的有限而产生的，使ann成为了新的研究热点。之后，新的网络结构和新的学习算法层出不穷，目前常见的都已达到几十种。在这些神经网络中，径向基函数RBF（RadialBasicFuction）网络由于具有强大的矢量分类功能和快速的计算能力，在非线性函数逼近等方面，特别是模式识别领域，获得了广泛的应用，从而成为当前神经网络研究中的一个热点[4]。
模式识别是人工智能经常遇到的问题之一。其主要的应用领域包括手写字符识别、自然语言理解、语音信号识别、生物测量以及图像识别等领域。这些领域的共同特点都是通过对对象进行特征矢量抽取，再按事先由学习样本建立的有代表性的识别字典，把特征矢量分别与字典中的标准矢量匹配，根据不同的距离来完成对象的分类。以识别手写数字为例，字典中有由学习样本建立的10个标准矢量（代表0～0），把从识别对象中抽取的特征矢量分别与这10个标准矢量匹配，矢量间距离最短的就说明别对象与这个标准矢量的分类最接近，进而识别出其表示的数字。
模式识别过程中，产生一个具有代表性的、稳定且有效的特征矢量分类匹配策略，是补偿变形、提高识别率的有效途径，如何确定分类器是识别系统成功的关键。可以说，模式识别的本质就是分类，就是把特片空间中一个特定的点（特征矢量）映射到一个适当的模式类别中。传统的模式识别分类都是基于串行处理的匹配策略：首先由学习样本建立识别基元（字、词、音、像素）的标准矢量识别字典，取取的特征矢量顺序与字典中的标准矢量计算区别得分；最后根据概率做出决策，输出识别结果。当模式类别很大时，识别速度会下降得很快，而近年来，用RBF网络解决这方面的问题得到了很好的效果。
理论模型要求发展神经网络型计算机来实现，但迄今为止，这方面的工作限于条件还主要集中在传统计算机的软件模拟实现上。大多数学者认为，要使人工神经网络更快、更有效地解决更大规模的总是，关键在于其超大规模集成电路（VLSi）硬件的实现，即把神经元和连接制作在一块芯片上（多为CmoS）构成ann。正是因为上述的原因，其中神经网络的VLSi设计方法近年来发展很快，硬件实现已成为ann的一个重要分支[5],[6]。
以下介绍iBm的专利硬件RBF神经网络芯片技术ZiSC(ZeroinstructionSetComputer），并给出用ZiSC设计和实现的一种模式识别系统。
1用VLSi设计硬件神经网络的方法
神经网络的iC实现是比较困难的，设计者必须把神经系统模型的特性反映到受半导体工艺和iC设计规则制约的电路中去。用VLSi设计硬件神经网络的方法主要分为数字技术、模拟技术和数模混合技术等，下面分别作简要介绍。
（1）用模拟技术实现硬件神经网络
模拟神经芯片通过单元器件的物理性质来进行计算，因而可以获得很高的速度。神经元的核函数计算功能一般由乘法器或运算放大器来完成，而连接权值大多以电压形式存储在电容上或是以电荷形式存储在浮点门上。利用模拟神经芯片不仅可以制造多层前向感知器那样的传统结构，还能从形态上进行如硅视网膜这样的生物仿真设计，从而更有效地模拟生物学功能。
在解决实时感知类的问题中，模拟神经芯片扮演着主要的角色。因为这些问题不要求精确的数学计算，而主要是对大量的信息流进行集合和并行处理，这方面低精度的模拟技术从硅片面积、速度和功耗来看具有相当大的优势。但是模拟芯片的抗干扰性差，设计中需要考虑对环境因素变化引起的误差进行补偿，非常麻烦；它的另一个缺点是，制造一个突触必须考虑权值存储的复杂性，同时要求放大器在很宽的范围内呈现线性[5],[6]。
（2）用数字技术实现硬件神经网络
用高低电平来表示不同状态的数字电路是信息工业中最常用的技术。数字神经芯片有非常成熟的生产工艺，它的权值一般存储在Ram或epRom等数字存储器中，由乘法器和加法器实现神经元并行计算。对设计者来说，数字神经芯片可以以很高的计算精度（达到32位或者更高）实现神经元核函数。另外，用数字技术实现神经网络时，通常可以采用标准单元库或可编程门阵列直接进行电路设计，这样可以大大减少设计时间[5],[6]。
数字神经芯片不仅具有容错性好、易于硬件实现及高精度、高速度的优点。更重要的是有很多数字电路CaD的软件可以作为设计工具使用。但要实现乘/加运算，需要大量的运算单元和存储单元。因而对芯睡面积和功耗要求很高。为了适应大面积的数字电路的要求，现在很多数字神经芯片都采用了硅片集成技术(wafer-Scaleintegration)。
（3）用数模混合技术实现硬件神经网络
出于上述种种考虑，许多研究人员提出并采用了各种数模混合神经芯片，具有数字及模拟工艺各息的优点而避免各自的缺点，运算速率高，芯片面积小，抗噪声能力强且易于设计。典型的数模混合信号处理部分则全是模拟的。这种结构很容易与其它的数字系统接口以完成模块化设计。近年来在各种数模混合神经芯片设计中，利用脉冲技术的数模混合神经芯片和利用光互连技术的光电混合神经网络芯片得到了广泛的关系，它们代表神经网络未来发展的方向。
尽管数模混合神经芯片有种种优点，但它也存在着一些不足。比如，对于大多数数模混合神经芯片来说，训练学习算法的实现往往需要一个附加的协处理器，这无疑会增加整个神经网络系统的成本和复杂性[5],[6]。
2RBF网络原理和它的硬件实现
RBF网络是一种有导师的三层前馈网络。它最重要的特点是中间隐层神经元的基函数只对输入剩激起局部反应，即只有当输入落在输入空间的一个局部区域时，基函数才产生一个重要的非零响应；而在其它情况下基函数输出很小（可近似为零）。网络结构如图1所示。
图1(a)描述了隐层神经元的作用，其中X=(x1,x2,…，Xn)是输入层的输入矢量；C=(w1,w2,…，wn)是该隐层神经元的中心矢量（每个隐层神经元的中心徉量存储在其与输入各种神经元之间的连接权中），σ代表宽度（半径）；而||||表示n维空间中矢量之间的距离（这里的距离不一定是数学意义上的欧几里得距离，在不同的情况下可以有种种含义）；f是隐层神经元的基函数，目前用得比较多的是高斯分布函数。
RBF网络每个输出层结点的输出为其与各隐层神经元输出y的加权求和。按高斯分布函数的定义，隐层神经元的输出y与输入矢量x的函数关系应服从正态分布，即当X与中心矢量C的距离很矢时，y接近最大值；反之y值减小。如X与C的距离超过宽度σ(即远离中心）时，输出y可近似为零，相当于对输出层没有贡献。这就实现了局部感知。
不难看出，RBF网络用作矢量分类器时，输入层神经元个数由矢量空间的维数决定，隐层神经元个数由模拟类别数决定，每个隐层神经元的中心矢量（与输入层各神经元之间的连接权）都代表一种模式类别。输入矢量与哪个隐层神经元的中心矢量距离近，哪个隐层神经元的基函数输出就大，相应的模式类别对输出层的贡献就大；与哪个隐层神经元的中心矢量距离远，哪个隐层神经元的基函数输出就小，甚至不激活，输出0，相应的模式类别当然就不会影响RBF网络的输出，矢量和模式类别的分类由此完成。
相对于网络结构的简单，RBF网络权值的训练方法要复杂一些。通常分为下面的两个步骤。
①隐层和输入层之间的权值采用无教师聚类方法训练，最常用的是Knn法（K-nearest-neighbor）。它的基本思想是先设定训练样本的一个子集；再用模式分类算法LBG由这个子集形成n种类的模式，即把子集中的样本归类；然后，按顺序处理子集外的训练样本：对任一样本X，找出K个与X距离最近的矢量（随便找，只要近就行），计算这K个矢量分别属于n个模式种类的数目，哪个模式种类包含的最近矢量最多，X就属于哪个模式种类。
将输入的训练样本聚类后，每个模式种类中所有样本矢量的平均值就代表该隐层神经元和输入层之间的权值（中心矢量）；而所有样本矢量与中心矢量的平方差的平均值就代表宽度σ。这样就做出了各个隐层神经元的全部参数。因为这种方法只要求输入训练样本就可以进行分类，无须知道训练样本的理想输出，因此被称为无教师方法。
②输出层和隐层之间的权值采用有教师聚类方法训练。简便实用的一种办法是：在确定隐层和输入层之间的权值之后，把训练样本矢量和其理想输出代入RBF网络，从而推出各个输出层神经元和隐层之间的权值。
可以看出，需要分类的模式类别数的增加总可以通过不断增加三层RBF网络隐层神经元数来实现，含义十分直观。由于其学习过程为两步，且每一步的学习算法都十分有效，所以它的学习速度很快。RBF网络主要适用于解决已知的大规模分类问题，比如图像目标跟踪、面部和双眼的生物图像识别等。
对RBF网络的硬件实现技术，目前存在着不同的观点。但就有大规模分类和实时要求的模式识别问题而言，数字电路技术是最合适的选择，原因有以下几点：
①RBF网络用于手写字符识别、生物图像识别、自然语言理解这样的领域时，需要分类的模式类别数往往成千上万，所以要求隐层神经元数极大，单片神经芯片很难完成。使用数字神经芯片，网络的扩展十分容易，一般不需要逻辑器件而只要电阻就可以完成；而用数字神经芯片由于精度高，理论上可以无限并行扩展，且性能不下降。
②一个实用的模式识别系统，分类的模式往往会随着样本与环境的变化而变化，这就需要不断调整权值。数字神经芯片的权值存在数字存储器中，存储和恢复都很方便。这样用于模式识别系统的RBF网络的权值易变性得到了保证。
③模式识别系统对特征矢量提取对象的预处理是比较困难的工作。预处理效果不好时，RBF网络的输入往往含有噪声。数字神经芯片在抗干扰性方面与其它VLSi技术相比，显然具有无可比拟的优势。
④模式识别的要求包括模糊匹配和精确匹配两种。当用RBF网络实现精确匹配时，模拟技术完成不了这个要求，此时，数字神经芯片是避免错误输出的唯一选择。
3ZiSC技术及其在模式识别中的应用
虽然人们已经在神经网络的硬件实现上做了大量的工作，并实现了许多不同的网络结构和算法；但是RBF网络的硬件实现工作却了了无几。这说明幅度当前的iC技术实现RBF网络的功能对设计水平的要求是比较高的，因此，本文介绍的这种商业芯片ZiSC就成为了模式识别系统的一种有价值的神经网络硬件平台。
无指令计算机ZiSC是世界著名的iBm实验室的一项创新性科研成果[7]，它采用数字电路技术实现了RBF神经网络及Knn学习算法的集成电路芯片。作为ZiSC芯片的合作发明人与授权生产商，美国SiliconRcognition公司专业从事ZiSC技术推广，其生产的ZiSC036是一颗含有36个隐层神经元，专门用于各种模式识别矢量分类的集成电路。以下列出了它的一些主要特点与功能：
*使用RBF网络模型，无须编程而只须给它训练样本，即能实现学习和自适应识别；
*全并行运算，模式分类速度与隐层神经元存储的矢量数量完全无关；
*无须逻辑电路即可实现多片ZiSC036级连，模式分类数量及神经网络规模没有限制；
*输入和存储的矢量分量数目从1～64个可调（每个分量8位）；
*超快速度，64个分量的特征矢量的识别在4.8ms内完成（主频时钟20mHz）；
*用寄存器存储神经网络全局信息与神经元信息和权值；
*CmoS和ttL兼容的i/o，tQFp144封装，5V标准电源供电。
不难看出，应用这种神经网络芯片不需要操作系统和编程语言，主要的工作就是训练它和让它学习。因此，用它开发面向消费类的模式识别产品是一种简单且实用可行的方法，可以大大地缩短研发周期。
本文给出了用六片ZiSC036级连，通过印制电路板实现的通用模式识别系统。图2为这个系统的总体框图。
系统通过pCi总线接受待识别的模式原始数据。数字存储在2个8mB高速DRam区中。神经网络控制器选用XilinxVirtexFpGa，它的主要功能是完成对原始数据的特征矢量提取并输入到ZiSC036芯片阵列中。可以使用标准的FpGa开发工具生成不同的RBF文件，从而实现不同的特征矢量提取电路。ZiSC036芯片阵列按照三描述的方法一个个顺序接受矢理输入，然后进行并行的学习和分类，识别结果作为输出返回。只要修改FpGa中的特征矢量提取电路和界面程序，就可以实现图像、话音等各种不同的模式识别程序，只要修改FpGa中的特征矢量提取电路和界面程序，就可以实现图像、话音等各种不同的模式识别功能。这个通用模式识别系统的性能以传统CpU或DSp的指标来衡量，相当于13.2GpS（每秒执行132亿条指令）。
用上述系统可以完成如图像目标跟踪、图像识别、数据挖掘等许多实时性要求很高的模式识别和分类功能。以下用一个自适应图像目标跟踪的实验作为例子，视频图片演示结果如图3所示。
图3的视频图片从一段aVi文件中捕获。首先从初始的视频帧中选定汽车的图像，提取其纹理特征作为训练样本输入到ZiSC神经网络。然后，ZiSC神经网络在后面接下来的视频帧中搜索类似的图像纹理模式并圈定跟踪目标的坐标。如果发现所跟踪目标的模式发生变化，ZiSC神约网络能够自动学习新的特征并建立一个新的模式存入神经网络。通过不断地比较已存入神经网络的模式和所跟踪目标之间的区别，系统就能够识别目标，从而在拥挤的背景和变化的环境下始终锁定目标。实验用视频图片为320×240像素，跟踪目标扫描范围为20×20像素。
人工神经网络基本功能篇3
80年代初，在美国、日本、接着在我国国内都掀起了一股研究神经网络理论和神经计算机的热潮，并将神经网络原理应用于图象处理、模式识别、语音综合及机器人控制等领域。近年来，美国等先进国家又相继投入巨额资金，制定出强化研究计划，开展对脑功能和新型智能计算机的研究。
人脑是自生命诞生以来，生物经过数十亿年漫长岁月进化的结果，是具有高度智能的复杂系统，它不必采用繁复的数字计算和逻辑运算，却能灵活处理各种复杂的，不精确的和模糊的信息，善于理解语言、图象并具有直觉感知等功能。
人脑的信息处理机制极其复杂，从结构上看它是包含有140亿神经细胞的大规模网络。单个神经细胞的工作速度并不高（毫秒级），但它通过超并行处理使得整个系统实现处理的高速性和信息表现的多样性。
因此，从信息处理的角度对人脑进行研究，并由此研制出一种象人脑一样能够“思维”的智能计算机和智能信息处理方法，一直是人工智能追求的目标。
神经网络就是通过对人脑的基本单元---神经元的建模和联结，来探索模拟人脑神经系统功能的模型，并研制一种具有学习、联想、记忆和模式识别等智能信息处理功能的人工系统。本文介绍神经网络的特点以及近年来有关神经网络与混沌理论、模糊计算和遗传算法等相结合的混合神经网络研究的动态。
一．神经网络和联结主义
回顾认知科学的发展，有所谓符号主义和联结主义两大流派。符号主义从宏观层次上，撇开人脑的内部结构和机制，仅从人脑外在表现出来的智能现象出发进行研究。例如，将记忆、判断、推理、学习等心理活动总结成规律、甚至编制成规则，然后用计算机进行模拟，使计算机表现出各种智能。
符号主义认为，认识的基本元素是符号，认知过程是对符号表示的运算。人类的语言，文字的思维均可用符号来描述，而且思维过程只不过是这些符号的存储、变换和输入、输出而已。以这种方法实现的系统具有串行、线性、准确、简洁、易于表达的特点，体现了逻辑思维的基本特性。七十年代的专家系统和八十年代日本的第五代计算机研究计划就是其主要代表。
联接主义则与其不同，其特点是从微观出发。联接主义认为符号是不存在的，认知的基本元素就是神经细胞（神经元），认知过程是大量神经元的联接，以及这种联接所引起的神经元的不同兴奋状态和系统所表现出的总体行为。八十年代再度兴起的神经网络和神经计算机就是这种联接主义的代表。
神经网络的主要特征是：大规模的并行处理和分布式的信息存储，良好的自适应、自组织性，以及很强的学习功能、联想功能和容错功能。与当今的冯．诺依曼式计算机相比，更加接近人脑的信息处理模式。主要表现如下：
神经网络能够处理连续的模拟信号。例如连续灰度变化的图象信号。
能够处理混沌的、不完全的、模糊的信息。
传统的计算机能给出精确的解答，神经网络给出的是次最优的逼近解答。
神经网络并行分布工作，各组成部分同时参与运算，单个神经元的动作速度不高，但总体的处理速度极快。
神经网络信息存储分布于全网络各个权重变换之中，某些单元障碍并不影响信息的完整，具有鲁棒性。
传统计算机要求有准确的输入条件，才能给出精确解。神经网络只要求部分条件，甚至对于包含有部分错误的输入，也能得出较好的解答，具有容错性。
神经网络在处理自然语言理解、图象模式识别、景物理解、不完整信息的处理、智能机器人控制等方面有优势。
符号主义和联接主义两者各有特色，学术界目前有一种看法：认为基于符号主义得传统人工智能和基于联接主义得神经网络是分别描述人脑左、右半脑的功能，反映了人类智能的两重性：精确处理和非精确处理，分别面向认识的理性和感性两个方面，两者的关系应该是互补而非互相代替。理想的智能系统及其表现的智能行为应是两者相互结合的结果。
接下去的问题是，符号ai和联接ai具体如何结合，两者在智能系统中相互关系如何？分别扮演什么角色？目前这方面发表的文献很多，大致有如下几种类型：
1．松耦合模型：符号机制的专家系统与联接机制的神经网络通过一个中间媒介（例如数据文件）进行通讯。
2．紧耦合模型：与松耦合模型相比较，其通讯不是通过外部数据进行，而是直接通过内部数据完成，具有较高的效率。其主要类型有嵌入式系统和黑板结构等。
3．转换模型：将专家系统的知识转换成神经网络，或把神经网络转换成专家系统的知识，转换前的系统称为源系统，转换后的系统称为目标系统，由一种机制转成另一种机制。如果源系统是专家系统，目标系统是神经网络，则可获得学习能力及自适应性；反之，可获得单步推理能力、解释能力及知识的显式表示。当然，转换需要在两种的机制之间，确定结构上的一致性，目前主要问题是还没有一种完备而精确的转换方法实现两者的转换。有待进一步研究。
4．综合模型：综合模型共享数据结构和知识表示，这时联接机制和符号机制不再分开，两者相互结合成为一个整体，既具有符号机制的逻辑功能，又有联接机制的自适应和容错性的优点和特点。例如联接主义的专家系统等。
近年来神经网络研究的另一个趋势，是将它与模糊逻辑、混沌理论、遗传进化算法等相结合，即所谓“混合神经网络”方法。由于这些理论和算法都是属于仿效生物体信息处理的方法，人们希望通过她们之间的相互结合，能够获得具有有柔性信息处理功能的系统。下面分别介绍。
二．混沌理论与智能信息处理
混沌理论是对貌似无序而实际有序，表面上看来是杂乱无章的现象中，找出其规律，并予以处理的一门学科。早在七十年代，美国和欧洲的一些物理学家、生物学家、数学家就致力于寻求在许许多多不同种类的不规则性之间的联系。生物学家发现在人类的心脏中有混沌现象存在，血管在显微镜下交叉缠绕，其中也有惊人的有序性。在生物脑神经系统中从微观的神经膜电位到宏观的脑电波，都可以观察到混沌的性态，证明混沌也是神经系统的正常特性。
九十年代开始，则更进一步将混沌和神经网络结合起来，提出多种混沌神经网络模型，并探索应用混沌理论的各种信息处理方法。例如，在神经元模型中，引入神经膜的不应性，研究神经元模型的混沌响应，研究在神经网络的方程中，不应性项的定标参数，不定性时间衰减常数等参数的性质，以及这些参数于神经网络混沌响应的关系，并确定混沌---神经网络模型具有混沌解的参数空间。经过试验，由这种混沌神经网络模型所绘出的输出图形和脑电图极为相似。
现代脑科学把人脑的工作过程看成为复杂的多层次的混沌动力学系统。脑功能的物理基础是混沌性质的过程，脑的工作包含有混沌的性质。通过混沌动力学，研究、分析脑模型的信息处理能力，可进一步探索动态联想记忆、动态学习并应用到模式识别等工程领域。例如：
对混沌的随机不规则现象，可利用混沌理论进行非线性预测和决策。
对被噪声所掩盖的微弱信号，如果噪声是一种混沌现象，则可通过非线性辨识，有效进行滤波。
利用混沌现象对初始值的敏锐依赖性，构成模式识别系统。
研究基于混沌---神经网络自适应存储检索算法。该算法主要包括三个步骤，即：特征提取、自适应学习和检索。
模式特征提取采用从简单的吸引子到混沌的层次分支结构来描述，这种分支结构有可能通过少数几个系统参数的变化来加以控制，使复杂问题简单化。自适应学习采用神经网络的误差反传学习法。检索过程是通过一个具有稳定吸引子的动力学系统来完成，即利用输入的初始条件与某个吸引子（输出）之间的存在直接对应关系的方法进行检索。利用这种方法可应用于模式识别。例如黑白图象的人脸识别。
三．模糊集理论与模糊工程
八十年代以来在模糊集理论和应用方面，也有很大进展。1983年美国西海岸ai研究所发表了称为ReVeaL的模糊辅助决策系统并投入市场，1986年美国将模糊逻辑导入opS---5，并研究成功模糊专家系统外壳FLopS，1987年英国发表采用模糊pRoLoG的智能系统FRiL等。除此通用工具的研制以外，各国还开发一系列用于专用目的的智能信息处理系统并实际应用于智能控制、模式识别、医疗诊断、故障检测等方面。
模糊集理论和神经网络虽然都属于仿效生物体信息处理机制以获得柔性信息处理功能的理论，但两者所用的研究方法却大不相同，神经网络着眼于脑的微观网络结构，通过学习、自组织化和非线性动力学理论形成的并行分析方法，可处理无法语言化的模式信息。而模糊集理论则着眼于可用语言和概念作为代表的脑的宏观功能，按照人为引入的隶属度函数，逻辑的处理包含有模糊性的语言信息。
神经网络和模糊集理论目标相近而方法各异。因此如果两者相互结合，必能达到取长补短的作用。将模糊和神经网络相结合的研究，约在15年前便已在神经网络领域开始，为了描述神经细胞模型，开始采用模糊语言，把模糊集合及其运算用于神经元模型和描述神经网络系统。目前，有关模糊---神经网络模型的研究大体上可分为两类：一类是以神经网络为主，结合模糊集理论。例如，将神经网络参数模糊化，采用模糊集合进行模糊运算。另一类以模糊集、模糊逻辑为主，结合神经网络方法，利用神经网络的自组织特性，达到柔性信息处理的目的。
与神经网络相比，模糊集理论和模糊计算是更接近实用化的理论，特别近年来美国和日本的各大公司都纷纷推出各种模糊芯片，研制了型号繁多的模糊推理板，并实际应用于智能控制等各个应用领域，建立“模糊工程”这样一个新领域。日本更首先在模糊家电方面打开市场，带有模糊控制，甚至标以神经---模糊智能控制的洗衣机、电冰箱、空调器、摄象机等已成为新一代家电的时髦产品。我国目前市场上也有许多洗衣机，例如荣事达洗衣机就是采用模糊神经网络智能控制方式的洗衣机。
四．遗传算法
遗传算法（Geneticalgorithm：Ga）是模拟生物的进化现象（自然、淘汰、交叉、突然变异）的一种概率搜索和最优化方法。是模拟自然淘汰和遗传现象的工程模型。
Ga的历史可追溯到1960年，明确提出遗传算法的是1975年美国michigan大学的Holland博士，他根据生物进化过程的适应现象，提出如下的Ga模型方案：
1．将多个生物的染色体（Chromosmoe）组成的符号集合，按文字进行编码，称为个体。
2．定义评价函数，表示个体对外部环境的适应性。其数值大的个体表示对外部环境的适应性高，它的生存（子孙的延续）的概率也高。
3．每个个体由多个“部分”组合而成，每个部分随机进行交叉及突然变异等变化，并由此产生子孙（遗传现象）。
4．个体的集合通过遗传，由选择淘汰产生下一代。
遗传算法提出之后，很快得到人工智能、计算机、生物学等领域科学家的高度重视，并在各方面广泛应用。1989年美国Goldberg博士发表一本专著：“GeneticalgorithmsinSearch，optimizationandmachineLearning”。出版后产生较大影响，该书对Ga的数学基础理论，Ga的基本定理、数理分析以及在搜索法、最优化、机器学习等Ga应用方面进行了深入浅出的介绍，并附有pascal模拟程序。
1985年7月在美国召开第一届“遗传算法国际会议”（iCGa）。以后每隔两年召开一次。近年来，遗传算法发展很快，并广泛应用于信息技术的各个领域，例如：
智能控制：机器人控制。机器人路径规划。
工程设计：微电子芯片的布局、布线；通信网络设计、滤波器设计、喷气发动机设计。
图象处理：图象恢复、图象识别、特征抽取。
调度规划：生产规划、调度问题、并行机任务分配。
优化理论：tSp问题、背包问题、图划分问题。
人工生命：生命的遗传进化以及自增殖、自适应；免疫系统、生态系统等方面的研究。
神经网络、模糊集理论和以遗传算法为代表的进化算法都是仿效生物信息处理模式以获得智能信息处理功能的理论。三者目标相近而方法各异；将它们相互结合，必能达到取长补短、各显优势的效果。例如，遗传算法与神经网络和模糊计算相结合方面就有：
神经网络连续权的进化。
传统神经网络如Bp网络是通过学习，并按一定规则来改变数值分布。这种方法有训练时间过长和容易陷入局部优化的问题。采用遗传算法优化神经网络可以克服这个缺点。
神经网络结构的进化。
目前神经网络结构的设计全靠设计者的经验，由人事先确定，还没有一种系统的方法来确定网络结构，采用遗传算法可用来优化神经网络结构。
神经网络学习规则的进化。
人工神经网络基本功能篇4
【关键词】风功率预测；小波分析；神经网络；Lm算法
1.引言
全球性的化石能源危机以及严重的环境污染和温室效应等问题，驱动了新能源在世界范围内的迅速发展。风能以其可再生、清洁无污染、储量大等特性，已成为目前技术成熟，具有规模化开发条件和商业化化发展前景的新能源。风力发电是风能利用的主要形式。风电本身所特有的间歇性和波动性，使得大规模风电并网给电力系统运行调度带来了很大冲击，风功率预测对电力系统的功率平衡和经济调度具有重要意义。
持续预测法是比较简单的预测方法，即把最近一点的风速或功率观测值作为下一点的预测值，该方法的预测误差比较大，且预测结果不稳定，改进的方法有自回归滑动平均模型（aRma）、时间序列法、卡尔曼滤波算法等，另外还有一些智能方法，如人工神经网络、支持向量机等。
风速是连续变化的，主要受大气温度、湿度、气压等气象因素以及地貌、地表障碍物等地形因素的影响，因此其变化存在很大的波动性，呈现为非平稳的随机信号；另一方面，在一天中风的强弱在某种程度上又呈现周期性，如地面上，夜间风较弱，白天风较强；除此之外，风还表现出季节性地规律变化。本文结合风速的变化特性，提出了基于小波分析和神经网络的短期风电功率预测方法。将小波分析作为神经网络的前置手段，即原始功率信号经小波变换，各子序列单支重构后，输入Bp神经网络进行预测，最后将各子序列预测结果叠加得到完整的风电功率预测结果。由于Bp神经网络存在易陷入局部极小值、收敛速度慢等缺点，所以本文采用Lm（Levenberg-marquardt）算法提高神经网络的自学习能力[8]。
2.小波变换
小波分析主要用于分析非线性、非平稳信号的局部特性，将一个已知的基本函数经平移和缩放后与被分析的信号作比较(通过积分实现)，就可以分析信号在各个时刻、各种局部范围的局部特性。
设是平方可积信号，即，则的连续小波变换定义为：
式中称为基小波，，分别称为尺度参数和位移参数。将和同时离散化，即令，，得到的离散小波变换：
该变换既节省了计算量，又克服了连续小波变换产生的信息量冗余[5]。
mallat和meyer在信号的多分辨分析基础上，提出了计算离散正交小波变换的快速算法，即mallat算法。该算法将信号正交投影到空间和，对应得到分辨率j下的离散逼近信号和离散细节信号。令j由零逐级增大，便可实现对信号的逐级分解，最终得到
3.小波-神经网络
由于风功率信号具有很强的波动性，所以用于预测的小波函数应具有以下特征：
(1)良好的紧支撑性，即小波函数仅在有限时间间隔内不为零，能凸显出信号的时域特性；
(2)小波函数的消失矩m值越大越好(当满足条件时，称小波函数具有m阶消失矩)；
(3)良好的正则性，小波函数的正则性主要影响小波系数重构的稳定性。
结合以上特征要求，本文选择Daubechies4（db4）作为分析原始序列的小波函数。
本文将原始序列进行小波分解后，利用神经网络对各重构后的子序列进行预测，最后把各序列预测结果叠加得到功率的预测值。
本文选用单隐含层Bp神经网络对时间序列进行预测，隐含层传递函数选用正切函数tansig，输出层传递函数选用线性函数purelin。Bp网络采用的梯度下降法存在收敛速度慢，易陷入局部极小值等缺陷。本文采用Lm算法对Bp网络进行优化，提高算法的收敛速度和精度。
4.算例分析
本文以内蒙古东山风电场实测风功率为原始值进行算法验证。
首先对数据进行归一化处理，避免因不同数据基准导致学习过程不收敛现象，使模型失效。对数据进行最小-最大规范化计算：
对预测得到的数据进行标准化数据还原：
选用紧支集双正交小波db4作为母小波，对原始功率时间序列进行五层尺度分解。利用神经网络对这6个信号分量分别建模进行预测，然后叠加得到最终的预测结果。分别用小波-神经网络方法和单独的Bp神经网络方法对未来1h、3h、6h的风功率进行预测。取1月27日到2月9日的数据进行验证。
为了定量评价预测效果，以国际上普遍采用的归一化绝对平均误差和归一化均方根误差为依据，其定义如下：
式中：为实际值；为预测值；为预测样本个数。表1分别列出了上述两种预测方法的绝对平均误差和均方根误差。
由表1和表2可以看出，在不同的时间尺度下，采用小波-神经网络方法来预测风功率较传统的Bp神经网络方法更为准确。
5.结论
本文将小波分析与神经网络结合起来，对风功率进行预测。该方法将小波变换作为神经网络的前置手段，充分利用了小波对非平稳信号良好的时频分析能力和神经网络的非线性映射能力。带入实际数据后，得到较好地预测效果，证明了该方法的可行性。
参考文献
[1]范高锋,王伟胜,刘纯,戴慧珠.基于人工神经网络的风电功率预测[J].中国电机工程学报,2008.12.5.
[2]杨琦,张建华,王向峰,李卫国.基于小波–神经网络的风速及风力发电量预测[J].电网技术,2009.09.
[3]韩爽.风电场功率短期预测方法研究[D].华北电力大学工学博士学位论文,2008.6.
人工神经网络基本功能篇5
摘要:常规piD控制器以其算法简单、可靠性高等优点,在工业生产得到了广泛应用。但是,piD控制器存在控制参数不易在线实时整定、难于对复杂对象进行有效控制等不足。利用神经网络自学习、自适应和非线性映射等特点,将神经网络和piD控制相结合,形成一种piD神经网络控制系统,可对工业中使用的具有大时滞、慢时变、非线性特点的电炉系统进行有效辨识与控制。
关键词:piD神经网络;智能控制器;滞后系统;时变系统;电炉控制系统
中图分类号:tp18文献标识码:a文章编号:1009-3044(2009)28-8028-03
applicationofpiDneuralnetworkinelectricCookerControllingSystems
RenHui,wanGwei-zhi
(instituteofautomation,FuzhouUniversity,Fuzhou350002,China)
abstract:GeneralpiDcontroller,becauseitsalgorithmissimpleandhighreliability,sohasbeenwidelyusedinindustrialproduction.However,piDcontroller,thereisnoteasytolinereal-timecontrolparametertuning,isdifficultforcomplexobjectssuchaslackofeffectivecontrol.Usingneuralnetworkself-learning,adaptiveandnonlinearmappingcharacteristicsofneuralnetworkandpiDcontrolcombinedtoformapiDneuralnetworkcontrolsystemcanbeusedinindustrywithalargetimelag,slowtime-varying,nonlinearcharacteristicsofelectricsystemsforeffectiveidentificationandcontrol.
Keywords:piDneuralnetwork;intelligentcontroller;timelagsystem;time-varyingsystem;electriccookersystems
近年来,随着神经网络理论的发展,将控制中应用最广泛的piD的控制器与具有自学习功能的神经网络相结合,已成为智能控制研究的一个新方向。并且,在这个方向上已取得了一些研究成果。其主要的结合方式是在常规piD控制器的基础上增加一个神经网络模块,利用神经网络来在线调节piD参数,但缺点是结构较复杂。本文介绍的piD神经网络是将piD控制规律融进神经网络之中构成的,实现了神经网络和piD控制规律的本质结合。它属于多层前向网络,但是它与一般的多层前向网络又不完全相同,一般的多层前向网络中的全部神经元的输入输出特性都是相同的,而piD-nn的隐含层是由比例、积分、微分三个单元组成,是一种动态前向网络,更适合于控制系统。各层神经元个数、连接方式、连接权值是按控制规律的基本原则和已有的经验确定的,保证了系统稳定和快速收敛。由于piD神经网络控制器是将神经网络和piD控制规律融为一体,所以其既具有常规piD控制器结构简单、参数物理意义明确之优点,同时又具有神经网络自学习、自适应的功能,可将piD神经网络应用于对工业控制领域的复杂非线性对象的控制。
本文提出一种基于piD神经网络的控制方案,用来对大时滞、慢时变、非线性的电炉系统进行辨识与控制。
1piD神经网络控制系统
1.1piD神经网络的结构
piD神经网络是一个3层的前向网络,包括输入层、隐含层和输出层,其结构如图1所示。网络的输入层有2个神经元,分别对应系统的输人和输出;隐含层有3个神经元,各神经元的输出函数互不相同,分别对应比例(p)、积分(i)、微分(D)3个部分;网络的输出层完成piD-nn控制规律的综合。网络的前向计算实现piD神经网络的控制规律,网络的反向算法实现piD神经网络参数的自适应调整。
1.2控制系统结构及其工作原理
piD神经网络控制系统结构如图2所示。控制系统包含piD神经网络辨识器(piD-nni)和piD神经网络控制器((piD-nnC)。其中r(k)为系统的设定输入,y(k)为被控对象的实际输出,y~(k)为piD-nni的输出,u(k)为piD-nnC的输出。系统的工作原理是:利用神经网络的非线性函数逼近能力和学习记忆功能,由piD-nni在线对被控对象模型进行辨识。它利用输出偏差(e1(k)=y(k)-y~(k)),修正网络权值,使之逐步适应被辨识对象的特性。当它学习到与被控对象基本一致时,piD-nnC利用系统偏差(e2(k)=r(k)-y~(k)),通过反传算法实时调整自身权值,以跟上系统的变化,达到有效控制的目的。
2piD神经网络学习算法
人工神经网络基本功能篇6
1引言
很长时间以来,在我们生活中所接触到的大部分计算机,都是一种被称为“电脑”的冯诺依曼型计算机。这种计算机在运算等很多方面确实超越了人类大脑的水平,但是基于串行控制机构的冯诺依曼型计算机在图像处理、语音识别等方面远不如大脑的处理能力。于是,在人类对大脑的不断探索中,一种更接近人脑思维方式的神经网络计算机走进人们的视线。
2大脑的研究
大脑活动是由大脑皮质许许多多脑神经细胞的活动构成。
神经细胞由一个细胞体、一些树突、和轴突组成,如图1所示。神经细胞体是一颗星状球形物,里面有一个核。树突由细胞体向各个方向长出,本身可有分支,是用来接收信号的。轴突也有许多的分支。轴突通过分支的末梢和其他神经细胞的树突相接触,形成所谓的突触,一个神经细胞通过轴突和突触把产生的信号送到其他的神经细胞。每个神经细胞通过它的树突和大约10,000个其他的神经细胞相连。这就使得人脑中所有神经细胞之间连接总计可能有1,000,000,000,000,000个。
神经细胞利用电-化学过程交换信号。输入信号来自另一些神经细胞。这些神经细胞的轴突末梢(也就是终端)和本神经细胞的树突相遇形成突触,信号就从树突上的突触进入本细胞。信号在大脑中实际怎样传输是一个相当复杂的过程,但就我们而言,重要的是把它看成和现代的计算机一样,利用一系列的0和1来进行操作。就是说,大脑的神经细胞也只有两种状态:兴奋和不兴奋。发射信号的强度不变,变化的仅仅是频率。神经细胞利用一种我们还不知道的方法,把所有从树突上突触进来的信号进行相加,如果全部信号的总和超过某个阀值,就会激发神经细胞进入兴奋状态,这时就会有一个电信号通过轴突发送出去给其他神经细胞。如果信号总和没有达到阀值,神经细胞就不会兴奋起来。
尽管这是类似0和1的操作方式,由于数量巨大的连接,使得大脑具备难以置信的能力。尽管每一个神经细胞仅仅工作于大约100hz的频率,但因各个神经细胞都以独立处理单元的形式并行工作着,使人类的大脑具有非常明显的特点:
1)能实现无监督的学习。
2)对损伤有冗余性
3)善于归纳推广。
4)处理信息的效率极高:神经细胞之间电-化学信号的传递,与一台数字计算机中cpu的数据传输相比,速度是非常慢的,但因神经细胞采用了并行的工作方式,使得大脑能够同时处理大量的数据。这个特点也是神经网络计算机在处理方法上最应该体现的一点。
3人工神经网络基础
对于脑细胞的活动原理,用简单数学语言来说,一次乘法和累加就相当于一个神经突触接受一次信息的活动。许许多多简单的乘法和累加计算,就形成了脑细胞决定是激活状态还是抑制状态的简单数学模型。从这种模型出发,任何复杂的大量的脑神经细胞活动与只是大量乘法、累加和判别是否达到激活值的简单运算的并行与重复而已。因此用这种大量并行的简单运算就可以来模拟大脑的活动,这就是人工神经网络。
神经网络的基本单元是人工神经元,它是根据人脑的工作原理提出的。图2所示为一个人工神经元,可由以下方程描述
σi=wijxj+si2θi,ui=f(σi),yi=g(ui)
xi为输入信号;
yi为输出信号;
ui为神经元的内部状态;
θi为阈值;
si为外部控制信号输入(控制神经元的内部状态ui,使之保持一定的状态);
wij为神经元的连接权值。
其中,可通过学习改变连接权wij,使得神经元满足或接近一定的非线性输入输出关系。
4神经网络计算机的实现
对于神经网络计算机实现,目前主要有以下三种实现途径:
4.1用软件在通用计算机上模拟神经网络
在sisd(单指令流、单数据流,如经典个人计算机)、simd(单指令流、多数据流,如连接机制机器)或mimd(多指令流、多数据流,如在transputer网络上)结构的计算机上仿真。
这种用软件实现神经网络的方法,灵活而且不需要专用硬件,但是基于此方法实现的神经网络计算机速度较慢,一般仅适合人工神经网络的研究,另一方面,它在一定程度上使神经网络计算机失去了它的本质,体现不出并行处理信息的特征。
4.2对神经网络进行功能上的仿真
以多个运算单元节点进行运算,在不同时间模拟各异不同的神经元,串并行地模拟神经网格计算。换句话说,即用m个物理单位去模拟n个神经元,而m
虚拟实现的神经网络计算机主要可分为:协处理机,并行处理机阵列及现有的并行计算机等。目前已经有多种产品及系统问世,包括markv神经计算机、gapp系统、gf11、基于transputer的系统以及基于dsp的系统。它们各有特点,技术已日益成熟。
但是这种实现方式仍以神经网络仿真为主要目标,另外其速度,容量等性能的提高则以增加处理机等费用为代价,较难成为神经网络的最终应用产品。
4.3利用全硬件实现
4.3.1基于cmos,,ccd工艺和浮栅工艺的神经网络全硬件实现
在微电子芯片上作上许多具有模拟神经元功能的单元电路,按神经网络模型的拓扑结构在芯片上联成网络,这类神经网络芯片上的电路与所模拟神经网络种的各个神经元和神经突触等都有一一对应的关系,神经网络中的各个权值也都存贮在同一芯片上。
我国1995年开发的预言神一号就是一台实现了全硬件的通用神经网络处理机。它以pc机作为宿主机,通过编程实现前馈网络、反馈网络、som等人工神经网络的模型和算法,在网络运算过程中预言神一号神经计算机还具备随时修改网络参数及神经元非线性函数的功能。
但是这类芯片受硅片面积的限制,不可能制作规模庞大的神经网络硬件。如果一个数万个神经元的全联接网络,其互联线将达到10亿根;若以1微米三层金属布线工艺来计算,仅仅布线一项所占硅片面积将达到数十平方米。因此,在微电子技术基础上用这种一一对应的方式实现规模很大的神经网络显然不现实。
4.3.2用光学或光电混合器件实现神经网络硬件系统
光学技术在许多方面有着电子技术无法比拟的优点:光具有并行性,这点与神经计算机吻合;光波的传播交叉无失真,传播容量大;可实现超高速运算。现在的神经计算机充其量也只有数百个神经,因此用“电子式”还是可能的,但是若要把一万个神经结合在一起,那么就需要一亿条导线,恐怕除光之外,任何东西都不可能完成了。但是光束本身很难表示信号的正负,通常需要双层结构,加之光学相关器件体积略大,都会使系统变得庞大与复杂。
5小结
人工神经网络基本功能篇7
[摘要]该文介绍了神经网络的发展、优点及其应用和发展动向，着重论述了神经网络目前的几个研究热点，即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。
[关键词]遗传算法灰色系统专家系统模糊控制小波分析
一、前言
神经网络最早的研究20世纪40年代心理学家mcculloch和数学家pitts合作提出的，他们提出的mp模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则，如mp模型、HeBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称Bp网络。目前，Bp网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。神经网络具有以下优点：
(1)具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。
(2)并行处理方法，使得计算快速。
(3)自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。
(4)可以充分逼近任意复杂的非线性关系。
(5)具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。
二、神经网络应用现状
神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下：
(1)图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。
(2)信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类；可用于海底声纳信号的检测与分类，在反潜、扫雷等方面得到应用。
(3)模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别，还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。
(4)机器人控制。对机器人眼手系统位置进行协调控制，用于机械手的故障诊断及排除、智能自适应移动机器人的导航。
(5)卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳、基于Bp网络的波形分类和特征提取在计算机临床诊断中的应用。
(6)焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都有研究，部分成果已得到应用。
(7)经济。能对商品价格、股票价格和企业的可信度等进行短期预测。
(8)另外，在数据挖掘、电力系统、交通、军事、矿业、农业和气象等方面亦有应用。
三、神经网络发展趋势及研究热点
1.神经网络研究动向
神经网络虽已在许多领域应用中取得了广泛的成功，但其发展还不十分成熟，还有一些问题需进一步研究。
(1)神经计算的基础理论框架以及生理层面的研究仍需深入。这方面的工作虽然很困难，但为了神经计算的进一步发展却是非做不可的。
(2)除了传统的多层感知机、径向基函数网络、自组织特征映射网络、自适应谐振理论网络、模糊神经网络、循环神经网络之外，一些新的模型和结构很值得关注，例如最近兴起的脉冲神经网络(spikingneuralnetwork)和支持向量机(supportvectormachine)。
(3)神经计算技术与其他技术尤其是进化计算技术的结合以及由此而来的混合方法和混合系统，正成为一大研究热点。
(4)增强神经网络的可理解性是神经网络界需要解决的一个重要问题。这方面的工作在今后若干年中仍然会是神经计算和机器学习界的一个研究热点。
(5)神经网络的应用领域将不断扩大，在未来的几年中有望在一些领域取得更大的成功，特别是多媒体技术、医疗、金融、电力系统等领域。
2.研究热点
(1)神经网络与遗传算法的结合。遗传算法与神经网络的结合主要体现在以下几个方面：网络连接权重的进化训练；网络结构的进化计算；网络结构和连接权重的同时进化；训练算法的进化设计。基于进化计算的神经网络设计和实现已在众多领域得到应用，如模式识别、机器人控制、财政等，并取得了较传统神经网络更好的性能和结果。但从总体上看，这方面研究还处于初期阶段，理论方法有待于完善规范，应用研究有待于加强提高。神经网络与进化算法相结合的其他方式也有待于进一步研究和挖掘。
(2)神经网络与灰色系统的结合。灰色系统理论是一门极有生命力的系统科学理论，自1982年华中理工大学的邓聚龙教授提出灰色系统后迅速发展，以初步形成以灰色关联空间为基础的分析体系，以灰色模型为主体的模型体系，以灰色过程及其生存空间为基础与内的方法体系，以系统分析、建模、预测、决策、控制、评估为纲的技术体系。目前，国内外对灰色系统的理论和应用研究已经广泛开展，受到学者的普遍关注。灰色系统理论在在处理不确定性问题上有其独到之处，并能以系统的离散时序建立连续的时间模型，适合于解决无法用传统数字精确描述的复杂系统问题。
神经网络与灰色系统的结合方式有：(1)神经网络与灰色系统简单结合；(2)串联型结合；(3)用神经网络增强灰色系统；(4)用灰色网络辅助构造神经网络；(5)神经网络与灰色系统的完全融合。
(3)神经网络与专家系统的结合。基于神经网络与专家系统的混合系统的基本出发点立足于将复杂系统分解成各种功能子系统模块，各功能子系统模块分别由神经网络或专家系统实现。其研究的主要问题包括：混合专家系统的结构框架和选择实现功能子系统方式的准则两方面。由于该混合系统从根本上抛开了神经网络和专家系统的技术限制，是当前研究的热点。把粗集神经网络专家系统用于医学诊断，表明其相对于传统方法的优越性。
(4)神经网络与模糊逻辑的结合
模糊逻辑是一种处理不确定性、非线性问题的有力工具。它比较适合于表达那些模糊或定性的知识，其推理方式比较类似于人的思维方式，这都是模糊逻辑的优点。但它缺乏有效的自学习和自适应能力。
而将模糊逻辑与神经网络结合，则网络中的各个结点及所有参数均有明显的物理意义，因此这些参数的初值可以根据系统的模糊或定性的知识来加以确定，然后利用学习算法可以很快收敛到要求的输入输出关系，这是模糊神经网络比单纯的神经网络的优点所在。同时，由于它具有神经网络的结构，因而参数的学习和调整比较容易，这是它比单纯的模糊逻辑系统的优点所在。模糊神经网络控制已成为一种趋势，它能够提供更加有效的智能行为、学习能力、自适应特点、并行机制和高度灵活性，使其能够更成功地处理各种不确定的、复杂的、不精确的和近似的控制问题。
模糊神经控制的未来研究应集中于以下几个方面：
(1)研究模糊逻辑与神经网络的对应关系，将对模糊
控制器的调整转化为等价的神经网络的学习过程，用等价的模糊逻辑来初始化神经网络；
(2)完善模糊神经控制的学习算法，以提高控制算法的速度与性能，可引入遗传算法、BC算法中的模拟退火算法等，以提高控制性能；
(3)模糊控制规则的在线优化，可提高控制器的实时性与动态性能；(4)需深入研究系统的稳定性、能控性、能观性以及平衡吸引子、混沌现象等非线性动力学特性。
关于神经网络与模糊逻辑相结合的研究已有很多，比如，用于氩弧焊、机器人控制等。
(5)神经网络与小波分析的结合
小波变换是对Fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性质，而且对低频信号在频域和对高频信号在时域里都有很好的分辨率，从而可以聚集到对象的任意细节。
利用小波变换的思想初始化小波网络，并对学习参数加以有效约束，采用通常的随机梯度法分别对一维分段函数、二维分段函数和实际系统中汽轮机压缩机的数据做了仿真试验，并与神经网络、小波分解的建模做了比较，说明了小波网络在非线性系统黑箱建模中的优越性。小波神经网络用于机器人的控制，表明其具有更快的收敛速度和更好的非线性逼近能力。
四、结论
经过半个多世纪的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功，但其理论分析方法和设计方法还有待于进一步发展。相信随着神经网络的进一步发展，其将在工程应用中发挥越来越大的作用。
参考文献：
[1]张曾科.模糊数学在自动化技术中的应用[m].清华大学出版社，1997.
[2]李士勇.模糊控制·神经控制和智能控制论[m].哈尔滨工业大学出版，1996.250-387.
[3]谢联峻.模糊控制在列车自动驾驶中的应用[J].自动化与仪器仪表，1999，(4).
[4]CollierwC，weiland，RJSmartCarts，SmartHighways[J].ieeeSpec-trum，1994，31(4)：27-33.
[5]HatwalH，mikulcikeC.someinverseSolutionstoanautomobilepathtrackingproblemwithinputControlofSteeringandBreaks，Ve-hiclesystemDynamics，1986，(15)：61-71.
[6]KosugeK，Fukudat，asadaH.acquisitionifHumanSkillsforRoboticSystem[C].in：procieeeintSymponintelligenControl，1991.469-489.
[7]王小平，曹立明.遗传算法—理论、应用与软件实现.西安交通大学出版社，2002.
[8]maniezzoV.Geneticevolutionofthetopologhandweightdistribution
ofneuralnetwork[J].ieeetransonneuralnetwork，1994，5(1)35-67.
[9]HarraldpG，Kamstram.evolvingartificialneuralnetworkstocombinefinancialforecase[J].ieeetransonevolComputer，1997，1(1)：39-54.
[10]邓聚龙.灰色系统理论教程.华中理工大学出版社，1990.
[11]吕宏辉，钟珞，夏红霞.灰色系统与神经网络融合技术探索.微机发展，2000，23(4)：67-109.
人工神经网络基本功能篇8
关键词：智能小区入侵检测模糊神经网络人脸识别
前言
随着微电子技术和网络技术高速发展，人们对居住环境的安全性，便捷性和舒适度提出了越来越高的要求，从而智能小区应运而生。另一方面，由于这几年带流动人口的增加带来了来很多安全隐患，因此，智能小区入侵检测系统是智能小区不可缺少的系统设备。
基于传感器网络和模糊神经网络的智能小区无线入侵检测系统是一种重要的安全防御体系，可应用于各居民住宅，办公室等地。目前在小区监视范围内都把摄相机加入了传感器网络入侵检测系统。摄相机直接发送信息到中央控制器，在监控室工作的工作人员，通过接收到的录像信息就可以做出判断。因此，这种系统智能性不高。如果没有发现入侵行动，社区的安全将难以保证。此外，如果已经发生入侵行动，工作人员也很难从大量的存储图像中找到入侵者。
模糊神经网络结合了模糊理论和神经网络理论,同时具有模糊逻辑和神经网络的优势，集学习，联想，识别，自适应和模糊信息处理于一体。因此，整个系统学习能力和表达能力被加强了。模糊神经网络被广泛应用于模式识别领域。人脸辨识是一类模式识别的问题，考虑到模糊神经网络具有特殊的优势和传统小区入侵检测系统所具有缺陷，本文所研究的系统将解决这些问题。模糊神经网络是用来识别和分析传感器从系统中所收集的人脸图像信息，当有人入侵时，将分析结果发送给工作人员，同时将图像自动地存储在一个特殊的内存区域。通过此方法，该系统可以协助工作人员监控小区，并立即从特殊内存区域找出入侵的图像。总之，这种方法提高了系统安全防御能力。
1小区入侵检测系统：
小区入侵检测系统由数据采集节点，无线局域网和中央控制器组成的。系统节点采用由传感器扩大aRm平台。传感器单元包括摄像头，麦克风，人体红外线传感器，火焰传感器，烟雾传感器，光敏传感器，声光报警器等。无线局域网采用无线网状网络，控制中心采用计算机工作站，分散的节点收集信号，并建立了多点网络的。因此，整个系统具有低功耗优势，便捷的软件和硬件扩展功能，网络通信和方便安装的安全防御设施。
当入侵检测系统工作时，数据采集节点收集环境信息，红外传感器开始检测人是否已闯进来。系统可靠性将得到改善，当然，由动物引起的误报是可以避免的。当有异常现象，系统启动相机和模糊神经网络算法是用来识别人脸，而这些检测和识别结果发送到控制中心，然后在控制中心，面部识别结果和异常信息被保存在特殊记忆的。到了晚上，光敏传感器信号和红外传感器信号同时被接收，系统打开的摄像机相机被发光二极管围绕，既可以节省电能，并在同一时间确保相机仍在黑暗中有效捕捉图像。
当信息通过网络传输时，信号发送到无线网状网络传输与协议的网络控制中心。当信息获取，控制中心将采取不同的处理方式，根据不同报警信息报警。如果有入侵信号，入侵进程，迎接功能将被储存在一个特定的内存。没有入侵信号，然后显示图像，并储存在记忆体中的。即使没有及时指出入侵，工人也可以寻找特定存储区域，找出入侵者。
2应用
通过参数和面部特征，并结合专家经验相关分析，选择几种特征参数的模糊神经网络的输入神经元，这些参数是左眼宽度，右眼宽度，水平距离中心之间的口，左侧面，两者之间的嘴和鼻子，眼睛之间的距离和鼻子中间的垂直中心的垂直距离。
直到样品的正常化，可以选择不同的训练样本数和不同的测试样本数和每一次输入到模糊神经网络模型和Bp网络的学习训练样本，然后使用测试样本测试结果。人脸识别方法基于模糊神经网络具有较高的稳定性，并能获得更高的分类和识别准确性。
人工神经网络基本功能篇9
关键词：Bp神经网络；软件质量；质量属性；质量评价
DoiDoi：10.11907/rjdk.161521
中图分类号：tp301
文献标识码：a文章编号文章编号：16727800（2016）009000103
基金项目基金项目：国家自然科学基金项目（71471103）
作者简介作者简介：秦晋（1990-），男，安徽省阜阳人，山东工商学院管理科学与工程学院硕士研究生，研究方向为管理信息系统、可信软件；智荣腾（1991-），女，山东龙口人，山东工商学院管理科学与工程学院硕士研究生，研究方向为管理信息系统、软件成本管理。
0引言
当前，软件行业飞速发展，云计算、大数据、软件定义网络等新技术层出不穷，当这些新理念融合到软件产品开发中时，软件规模、复杂度和智能化水平将不断提高，应用环境日益复杂，对软件质量的要求也越来越高。建立一个具有较高准确度的软件综合质量评估方法很有必要＼[1，2＼]。软件综合质量评估是一个复杂的系统工程，由于软件综合质量评估中体系和方法不统一，如何准确地对软件综合质量进行评估尚未形成统一标准＼[3＼]。近年来，基于各种理论与方法的软件评估模型层出不穷，一些软件评估模型被广泛运用于软件产业，并取得了显著成效＼[4＼]，例如aHp评估模型、Dea数据包络分析、模糊综合评价模型等，但这些模型主要依赖于专家的经验判断，受主观性因素影响较大。本文通过研究软件质量体系的属性特征，参考软件质量属性相关定义，构建基于Bp神经网络的软件质量评估体系，根据软件质量属性样本，运用Bp人工神经网络对样本进行训练、学习，最后量化所选指标，得出预测结果。实验证明该方法能科学、准确地对软件质量进行评估与预测。
1Bp神经网络
人工神经网络（artificialnetworks，ann）是在现代神经科学研究成果的基础上提出的，是由大量处理单元互联组成的非线性、自适应信息处理系统，其基本处理单位称为神经元，目前比较成熟的ann模型及相应算法甚多，其中采用误差反向传递学习算法的多层神经网络（即Bp神经网络）运用最为广泛，其自学习功能与联想存储功能以及高速寻找优化解的能力被运用在诸多领域，解决某些传统方法无法解决的问题。Bp神经网络是一种具有很强非线性映射能力的多层前馈型神经网络，一般包含输入层、中间层（隐含层）、输出层3个层次，部分神经网络可根据实际情况设置3层以上的结构网络，相邻上、下层之间的神经元实现全连接，Bp神经网络的常见结构模型如图1所示。
Bp神经网络的学习过程由正向传播和反向传播组成，正向传播中，信息由输入层经隐含层处理后，传向输出层，并且上一层神经元的状态只影响下一层神经元状态，若输出层得不到期望的数值，则进入反向传播，将误差信号沿原有连接通道返回，通过修改各层神经元的权值，使误差变小，经过反复迭代计算，得出误差值范围内的结果。Bp神经网络的非线性处理能力可很好地处理信息含糊、不完整、存在矛盾等复杂情况的认知判断问题＼[5＼]，故使用Bp神经网络来解决软件质量评估的复杂性问题是可行的。
4结语
基于Bp神经网络的软件质量评估充分利用了以往评价结果，将量化过程集成于Bp神经网络的学习过程中，解决了人为主观随意性及思维不定性，评估准确、客观、科学、有价值，对特定问题有一定借鉴意义。同时，基于Bp神经网络的软件质量评估扩展性强，可针对不同类型指标，不同评估等级变换输入输出层进行调节，对软件质量综合评价具有重要意义。
参考文献：
[1]王峰.基于层次分析法的软件质量评估模型分析与研究[J].现代电子技术，2012（24）：2123.
[2]于本海.可信软件测度理论与方法[m].北京：科学出版社，2014.
[3]王李进，吴保国，郑德祥.基于人工神经网络的软件质量评价[J].计算机应用与软件，2008（12）：133134.
[4]杨爱民，张文祥.软件质量及其量化评价方法[J].计算机工程与设计，2006（21）：39873990.
[5]王伟.基于Bp神经网络的web软件质量分析[J].软件导刊，2012（2）：1618.
[6]熊鹏程，范玉顺.基于模糊层次分析法的集成软件质量评估模型[J].计算机应用，2006（7）：14971499.
[7]iSo.ieC25010：2011Systemsandsoftwareengineeringsystemsandsoftwarequalityrequirementsandevaluation（SQuaRe）Systemandsoftwarequalitymodels[J].internationalorganizationforStandardization，2011.
[8]tRUStieRG.trustieseriestechnologystandard（V2.0）[Z].2009.
人工神经网络基本功能篇10
关键词：智能决策支持系统；人工神经网络；模糊逻辑系统；模糊神经网络
中图分类号：tp183文献标识码：B
文章编号：1004-373X(2008)02-084-03
DesignandRealizationofintelligentpredictionmodelBasedonFuzzyneuralnetwork
YanHongrui,maLiju
(thepLamilitaryRepresentofficeinno.847Factory,Xi′an,710043,China)[HJ1*3][HJ]
abstract：Forthepredictingproblemsthattheintelligentdecisionsupportsystemoftenencounters,accordingtothecharactersofartificialneuralnetworkandfuzzylogicsystem,akindoffuzzyneuralnetworkmodelisdesigned.Firstly,thefuzzylogicsystemforrealizingfuzzypredictionisexpressedbytheconstructionofartificialneuralnetwork.thenthefuzzylogicsystemistrainedbyassociatestudyingalgorithms.atlast,themodeloffuzzyneuralnetworkhasbeenprovedbypracticeandrealizedinprogram.
Keywords：intelligentdecisionsupportsystem;artificialneuralnetwork;fuzzylogicsystem;fuzzyneuralnetwork
智能决策支持系统\[1\]（intelligentDecisionSupportSystem,iDSS）是以管理科学、运筹学、控制论和行为科学为基础，以计算机技术、仿真技术和信息技术为手段，面对半结构化的决策问题，辅助支持中、高层次策者决策活动的、具有智能作用的计算机网络系统。神经网络和模糊逻辑是智能决策支持技术应用于信息管理后迅速发展的智能技术，在决策预测领域颇有成效。本文根据人工神经网络和模糊逻辑的特点，设计一种模糊神经网络完成决策支持系统中的信息预测功能，较好地解决了决策支持系统的实用化问题。
1人工神经网络与模糊逻辑系统介绍
1.1人工神经网络
2模糊神经网络模型的设计与实现
2.1模糊神经网络模型的选定
由以上介绍可知，在预测领域中，模糊逻辑具有较强的结构性知识表达能力，能较好地表示用语言描述的经验知识、定性知识，但通常不具备学习能力，只能主观地选择隶属度函数和模糊规则。神经元网络具有强大的自学习能力和数据直接处理能力，但网络内部的知识表达方式不清楚，在学习时只能从任意初始条件开始，其学习的结果完全取决于训练样本。
本文将神经网络的学习算法与模糊逻辑理论结合起来，利用正规化模糊神经网络(nFnn)实现模糊逻辑系统；用模糊规则表示神经网络，用预先的专家知识以模糊规则的形式初始化，用神经网络的学习算法训练模糊系统，然后结合神经计算的特点实现推理过程。
2.2模糊神经网络模型的结构
本文采用一个3层的前向网络(如图3所示)来构造模糊系统（见图3）。这样模糊神经网可以用通用的三层模糊感知器来表示，该模糊感知器定义如下：
(1)U=∪i∈nUi是一个非零的神经元集合，n={1,2,3}是U的索引值集合，对所有的i,j∈n且满足为输入层，为规则（隐含）层，为输出层；И
2.4模糊神经网络的编程实现
系统主要通过4个类来描述神经网络模型。他们是神经元类、神经元权类、神经元层类、神经元网络类。神经元类的作用是模拟单个神经元的数据结构和计算过程。神经元权值类用于保存神经元之间连接的权值。神经元层类的作用是生成每一层的神经元，并进行每一层的计算，他接受神经元网络类的调用，并调用神经元类的函数实现每一层的计算。神经元网络类定义了整个神经网络结构和所有的网络操作，他提供公共函数给应用程序调用，他的计算函数调用神经元层类和神经元类的函数进行网络计算。
通过4个类的描述，将建立和运行神经网络所需的主要数据结构和计算过程做了定义。当程序运行时，首先由应用程序生成神经网络类实例，然后此网络类实例进行层类实例的建立，接下来层类实例建立每层的神经元实例。同时，神经网络类也从外部文件读取网络结构的连接和权值数据，供建立网络时使用。
3模糊神经网络的预测验证
模糊神经网络的预测验证如表1所示。
4结语
模糊神经网络模型把神经网络的学习算法与模糊逻辑理论相结合，将模糊系统用类似于神经网络的结果表示，再用相应的学习算法训练模糊系统，通过样本的学习算法提高网络性能。此模型曾经用于某军事模拟对抗系统中战场态势的预测，成功地实现了该模型的预测功能。但是模糊推理机是基于知识库中的知识和规则进行推理的，如何建立具有专家经验和知识的知识库，是模糊神经网络模型应用中的难点和重点。如何建立实用的知识库
以及决策过程中存在许多不确定性因素等问题还有待于进一步研究。
参考文献
［1］Georgemmarakas.21世纪的决策支持系统[m].朱岩,译.北京：清华大学出版社,2002.
［2］martintHagan,HowardBDemuth,markH.Beale.神经网络设计\[m\].戴葵,译.北京：机械工业出版社，2003.
［3］刘有才.模糊专家系统原理与设计[m].北京：北京航空航天大学出版社，2003.
［4］张乃尧,阎平凡.神经网络与模糊控制[m].北京：清华大学出版社，1998.