HI,欢迎来到好期刊网,发表咨询:400-888-9411 订阅咨询:400-888-1571证券代码(211862)

神经网络原理集锦9篇

时间:2022-04-11 05:13:59

神经网络原理

神经网络原理范文1

关键词:图像复原 BP神经网络 Hopfield神经网络 应用

中图分类号:TP391.41 文献标识码:A 文章编号:1007-9416(2013)11-0040-02

1 引言

图像复原是一项富有现实意义的工作,它涉及到广泛的技术领域,是图像处理领域研究的焦点之一。在得到图像的过程中,由于各种各样的原因,包括与观测对象的相对运动、介质散射、成像系统缺陷和环境噪声等原因,使得最终的图像都会有一定程度的退化。图像复原就是从退化的图像中恢复图像的本来面目。传统的图像复原处理问题的关键在于建立退化模型,估计退化过程中的参数,由此通过相应的逆过程得到原始图像。获得准确的图像退化模型是比较困难的事情。大多数图像复原的实际问题是点扩展函数以及原始图像均未知的盲复原问题,这类问题具有更严重的病态性因而进一步增加了解决的难度。人工神经网络(Artificial Neural Network,ANN)为图像复原问题的解决提供了另外一条路径,这是基于人工神经网络具有的模拟人类神经的非线性、自组织、自学习、自适应特性。一般而言,人工神经网络适合于解决无法或很难精确建立数学模型、不完全清楚内部机理的问题,人工神经网络的很多特性适合解决图像复原问题。近些年来,对人工神经网络应用于图像复原的研究越来越多,形成了很多丰富的神经网络模型和算法。BP(Back Propagation反向传播)和Hopfield(霍普菲尔德)是典型的人工神经网络类型,也是在图像复原领域应用较多的神经网络类型。

2 BP神经网络在图像复原中的应用

2.1 BP神经网络的特性

BP神经网络是上世纪80年代美国加州大学的Rumelhart、McClelland及其团队研究并行分布信息处理时提出的采用反向传播算法的多层前馈网络。BP神经网络具有良好的泛化能力,其隐层的非线性传递函数神经元可以学习输入输出之间的线性或非线性关系。在1989年,RobertHecht-Nielson证明了对于任何一个在闭区间内连续的函数都可以由具有一个隐含层的BP网络来逼近,这样,一个三层(输入层、隐层和输出层)的BP神经网络即能完成对多维度函数的逼近。这些特性,使得选用BP神经网络简单地实现在未知点扩展函数的情况下,拟合原始图像与退化图像之间的关系,从而得到满意的图像复原结果成为可能。

2.2 BP神经网络应用于图像复原

BP神经网络用退化图像与相对应的原始图像进行训练,退化图像为网络的输入,原始图像为网络的输出。训练完成的神经网络会在退化图像与原始图像之间建立非线性的映射关系,使得利用这种非线性关系即可实现在只有退化图像的情况下对齐进行复原。

利用BP神经网络进行图像复原,一般用输入图像的N×N邻域内的N2个像素点对应输出图像的一个像素点。这样的对应方法会使整个运算量增大,但正由于参与运算的像素点增加,使得网络具有更好的泛化和鲁棒能力。由于三层BP神经网络可以任意精度逼近某一多维度函数,因而其应用于图像复原时使用三层网络结构。输入层和输入层节点数分别由输入图像像素数量和输出图像像素数量决定,隐层节点数量和训练方法在很大程度上决定了网络性能。

为了便于网络计算,通过神经网络计算前通常将输入图像进行归一化。以灰度图像为例,将图像数据[0~255]转换到[-1~1]或[0~1]。图像经过神经网络复原后还需进行反归一化转换,将计算得到的数据转换为图像数据,即将[-1~1]或[0~1]转换到[0~255]。

通常,运用BP网络进行图像复原算法流程包括:(1)图像的预处理,得到归一化的便于神经网络计算的数据;(2)使用退化图像与对应的原始图像(训练BP神经网络;(3)将待复原图像输入训练好的BP神经网络进行图像复原;(4)数据的后处理,将网络输出数据进行反归一化,得到复原图像。

3 Hopfield神经网络在图像复原中的应用

3.1 Hopfield神经网络的特性

不同于BP神经网络,Hopfield神经网络是一种单层反馈网络,信号在网络中不仅向前传递,还在神经元之间传递。图1是有三个神经元的Hopfield神经网络结构图。Hopfield神经网络由美国加州理工学院物理学家J·J·Hopfield在上世纪80年代提出,并首次在神经网络研究中引入了计算能量函数的概念,通过研究网络的稳定性与计算能量函数的相关性给出了网络的稳定性判据。J·J·Hopfield运用Hopfield神经网络成功地探讨了旅行商问题(TSP)的求解方法。HNN神经网络采用灌输式学习方式,其网络权值是事先按一定规则计算出来的,确定之后不再改变,各神经元的状态在运行过程中不断更新,网络稳定时各神经元的状态便是问题的解。Hopfield神经网络的这些自身特征使其适于应用于联想记忆和求解最优化问题。

3.2 Hopfield神经网络应用于图像复原

利用神经网络进行图像复原的方法分为两类:一种是用原始图像和模糊图像构成的样本训练神经网络,在训练好的网络中建立起原始图像与模糊图像的非线性映射关系,然后以带复原的模糊图像作为网络的输入,经过网络输出的图像数据就是经过复原的图像,BP神经网络就是运用这种方法进行图像复原的典型神经网络。另一种是经过神经网络反复的数学迭代计算复原,运用Hopfield神经网络进行图像复原属于这类方法。

其中是神经网络的状态向量,为网络的权值矩阵,为由网络中各神经元阈值构成的向量。Hopfield神经网络的运行结果即网络达到稳定状态就是达到最小值时的状态。由式(4)和(5)可以看出图像复原的目标函数与Hopfield神经网络能量函数具有相似的表达形式,因而可以建立两者之间的联系,从而将图像复原问题转变为神经网络的运算问题,这也就是Hopfield神经网络应用于图像复原的基本原理。

运用Hopfield神经网络解决图像复原问题首先要确定网络的权值矩阵。可以按照Hebb学习规则得出[4]。完成网络初始化后,将退化图像输入网络,从网络中选取一个神经元按照Hopfield神经网络的运算规则得出神经元的输出,将所有神经元求出输出后判断该网络是否达到稳定状态,即计算前后的网络能量函数的误差是否小于要求的范围。如果网络不稳定,需要重复迭代计算;网络达到稳定状态时,神经网络的状态向量就是要求的原始图像。经过一定的后处理就能得到具有一定精度的原始图像。

4 结语

人工神经网络在图像复原问题中的应用已经扩展到了很多方面,包括三维显微图像、高能闪光照相等领域[5-6]。神经网络在图像复原中的应用机理也不断得到深入研究。这些得益于神经网络算法不依赖求解问题本身数学模型的特点,以及自身强大的泛化能力。BP和Hopfield神经网络都能成功地运用在图像复原问题中,在选用神经网络进行图像复原研究时要注意到BP神经网络强烈地依赖退化图像与原始图像构成的样本集合对网络进行训练,这就要求得到足够的先验知识或者通过某种算法得到退化图像与原始图像相对应的样本群。Hopfield神经网络不依赖于退化图像与原始图像的先验知识,可以直接针对退化图像进行复原。这就需要根据不同的实际情况选取合适的网络类型来解决问题。

参考文献

[1]尚钢,钟珞,陈立耀.神经网络结构与参数选取[J].武汉工业大学学报,1997,19(2).

[2]王晗.基于Hopfield神经网络的图像恢复[D].武汉:华中科技大学南京理工大学,2006年4月.

[3]席旭刚,罗志增.用Hopfield神经网络实现触觉图像恢复[J].仪器仪表学报,2008,30(10).

[4] Bianchini M,Frasconi P.Learning without local minima in radial basis function networks[J].IEEE Transaction on Neural Networks,1995,6(3):749~756.

神经网络原理范文2

关键词:神经网络;故障诊断;智能诊断

中图分类号:TP389文献标识码:A文章编号:1009-3044(2007)18-31690-02

The Application of Fault Diagnosis Based on Fuzzy Neural Networks

GAO Huan-zhi,LI Jun,LI Fang

(Institute of Disaster Prevention Science and Technology,Sanhe 065201,China)

Abstract:Faintness' reasonning logically system can handle with make use of not accurate knowledge, is a kind of valid intelligence to set up a mold method.But the faintness reason logically system to lack a valid design method. Thesis in general use nerve network of set up the mold method from the adaptability and the diagnosis, build up a kind of new breakdown to examine a patient model-the misty nerve network examine a patient model.

Key words:Nerve network;Break down diagnosis;The intelligence examine a patient

1 模糊推理神经网络诊断模型建立

1.1通用网络模型自适应动态特性

比较两类典型的神经网络―前向BP网络与反馈Hopfied网络,可以发现其核心是单层神经网络,则两类网络可以用一个通用神经网络模型来描述。根据点集拓扑理论和人工神经网络空间概念,对这个通用神经网络模型的特征进行分析得出以下两个结论,证明从略[3]。

定理1神经网络空间在紧集上的连续函数空间C上以及按L2范数在平方可积函数空间I上都是稠密的。

推论1由通用神经网络模型所生成的任何开集可以一致逼近紧集上的连续映射函数f∈C(Rn,Rm)。

由推论1表明,通用网络模型所概括的任何开集(如BP网络、Hopfield网络、BAM网络)通过自学习都能一致逼近紧集上的连续映射函数f∈C(Rn,Rm),因而具有良好的自学习、自适应动态特性。

1.2诊断建模方法

设xjn,(j=1,2,…,k)对应反映设备运行状态第n个观测样本的k个特征参数,yin,(i=1,2,…,l)对应第n个样本的l种故障模式,共有N个样本xjn∈RN,yin∈RN,(n=1,2,…,N),则故障模式向量Y={yin,i=1,2,…,l}与特征参数向量X={xjn,j=1,2,…,k}间的内在关系用函数P表示,有:X=P(Y)。当N∞时,函数P的逆函数存在,以函数S表示,有:Y=S(X)

诊断问题建模的实质就是根据有限的样本集,确定函数S(X)的一等价映射关系SS(X),使得对于任意的ε>0,满足:

S(X)-SS(X)=Y-YY<ε

式中:YY=SS(X)为模型输出,Y=S(X)为标准输出,.为定义在样本空间R上的范数,ε表达了函数SS(X)的映度。

参照数学基础中的有关连续的定义,针对诊断建模问题得出以下3个结论,证明从略[3]。

定理2对于机械诊断问题,通过一定的数学变换,可得到X∈[0,1]k,Y∈[0,1]l,若映射S为定义在[0,1]k到[0,1]l上的实连续函数,又[0,1]k为RN的紧密子集,则映射S就能表征机械诊断问题,即:Y=S(X)

定理3对于机械诊断问题Y=S(X),其中X∈[0,1]k,Y∈[0,1]l,若存在映射SS,使得对于有限样本集(X,Y)N中任意的X0∈[0,1]k有:

则映射SS建立了诊断问题的数学模型。

推论3若映射SS(X)一致逼近定义在紧集[0,1]k上的实连续函数,则映射SS建立了诊断问题的数学模型。

1.3模糊神经网络诊断模型

基于通用神经网络模型的自适应动态特性,根据推论3的结论,通用网络模型所概括的任何开集都能作为诊断问题的数学模型。即对某一具体诊断问题,配以相应的网络模型,通过网络自学习就能逼近诊断问题本身的映射关系。同时考虑诊断问题存在着不可逆性,须采用模糊方法予以处理, 本文建立了如图1所示的模糊神经网络诊断模型。

图1 模糊神经网络诊断模型

2 模糊推理神经网络诊断模型的基本属性

2.1智能诊断机理

模糊神经网络诊断模型是一种基于知识的诊断,它属于人工智能诊断的范畴。一般地,人工智能诊断系统应包含有以下几个方面的内容:(1)对诊断领域的现有知识进行学习、抽象、概括,以形成该领域的特有知识,并按一定存贮方式存入知识库;(2)在对具体对象进行诊断识别时,应对该对象进行了解以获得足够的关于该对象的故障征兆信息,并对这些信息进行分析,提出以形成有价值的特征;(3)将该诊断对象的特征模式与知识库中的模式相匹配,并进行推理分析,以得出是否存在故障,故障的性质、部位、严重程度怎样等。

从上所述的模糊神经网络诊断模型建立,足以表明它具有人工智能诊断的一般属性和基本内容,而且在知识产生、表达、获取及推理诸方面具有自己的独特之处。

在知识产生方面,它不仅含有对诊断领域现有知识的汇编,而且包括了计算机数字仿真生成知识的内容。可以用传递矩阵法建立机组振动响应力学模型,通过数值模拟得到常见故障的振动响应分布,再引入转子系统传递函数的概念,生成反映机组故障作用位置的传递函数矩阵,最后通过转置变换,即得到知识集。

在知识表达方面,它表现为浅层和深层两种形式,面向专家、知识工程师和用户的原始知识,经过LSFS模型的数学处理后得到一些学习范例,本文称之为浅知识。这种知识形式易于表达模糊性和不确定性;浅知识通过网络自学习转化为网络的内部编码,分布在网络结构上,最终是用大量神经元的互连方式及对各连接权重的分布来表达特定的概念或知识,这种形式是一种深层的隐含表达方式,本文称之为深知识或隐含知识。

在知识获取方面,针对知识表达的两种形式,它包括两个步骤。第一步是由原始知识转变为浅知识,通过LSFS模型来实现;第二步是将浅知识输入到ANN模型中,通过网络的自学习实现知识的隐式表达。为此,模糊神经网络诊断模型的知识获取应该包括知识的自身产生、网络结构(含网络模型、网络层数及其各层的单元数)选择、学习样本的组织、使用特定学习算法对网络训练以得到所需的权值分布4个基本内容。不难看出,这种知识获取方式存在:网络结构、权值与具体的某一案例联系不紧密,它们是一群样本或者说许多案例的综合作用的结果;网络的最后输出结果一般为[0,1]之间的值,具有一定的模糊诊断能力;当某种过程发生变化时,原始知识的产生、学习范例的组织都发生变化,通过修正网络和再学习,变化了过程就会很快地被学习和表达出来。

本文为全文原貌 未安装PDF浏览器用户请先下载安装 原版全文

在知识推理方面,它主要表现在ANN模型的信息分类处理过程。一般由以下三部分组成:(1)将逻辑概念引入到输入模式的变换中,并根据论域的特点,确定变换规则,再根据相应规则,将目前的状态变换成神经网络的输入模式;(2)网络通过前向计算或动态演化,即可产生神经网络的输出模式;(3)随着论域的不同,必须按照相应的规则对输出模式进行解释。解释的主要目的是将数值向量转换成高层逻辑概念。

不难看出,这种知识推理方式不使用清晰语言描述分类逻辑标准,而只是通过数值向量的相似性来确定分类标准,且这种相似性的程度隐含在网络的权值分布上。因此,它有利于表达不确定性推理机制和自适应推理机制。

2.2突出特点

(1)模糊神经网络诊断模型重视了原始知识的产生问题。从某种意义上看,它体现了“正问题”求解与“反问题”求解相结合的诊断策略;同时为丰富原始知识的内容、研究原始知识的产生方法铺平了道路。

(2)模糊神经网络诊断模型考虑了大机组故障诊断中的不可逆性问题。它采用模糊方法(诸如模糊贴近度法、改进模糊贴近度法、基于自组织映射神经网络的模糊聚类法和复合KAF法)组织学习样本,从而使诊断模型能以模糊估计的方式给出诊断结果,具有模糊诊断能力。

(3)模糊神经网络诊断模型采用通用神经网络模型,使得它所概括的常见网络模型(BP网络、Hopfield网络、BAM网络)都能充当诊断模型中的ANN模型。由于ANN模型承担了诊断知识的隐式存储和特征数据信息的分类识别的重要角色,它是整个诊断模型的核心。因而模糊神经网络诊断模型的形式多样,诊断能力强。

(4)模糊神经网络诊断模型重视了诊断征提取的重要作用。目前,特征提取方面的技术发展很活跃,它的每一进步,通过改善原始知识的产生内容和提高故障特征信息的准确度来影响诊断模型的诊断效果。

(5)模型神经网络诊断模型是一个基于知识的通用诊断模型,它适合大机组故障诊断中所包含的任何基本诊断问题。针对某一具体诊断问题,可以选择相应的FKP、LSFS、ANN、CE模型,即能组成一个智能型的诊断系统。

3 工程应用

基于上述,从中取出可能存在的7种故障标准信息。传统BP网络在进行诊断时,先人为组织网络训练样本,且训练样本的输出取为0,1值,即在表达自身频谱的故障位置赋1,否则赋0;而模糊神经网络诊断模型则通过LSFS模型(本文为了获得明显的诊断效果,其采用改进模糊贴近度法,且贴近度系数CONST=2[3])组织网络训练样本,其结果训练样本的输出取值于区间[0,1]。在初始条件完全相同的情况下,将各自的训练样本集分别输入同一结构的网络进行训练得出如图2所示的训练误差曲线比较图。

由图2可以发现,在一个误差精度要求不高的区域里,即系统误差error>0.002时,传统BP网络的收敛速度低于模糊神经网络诊断模型,由于此精度区域一般没有工程意义,故不做分析讨论;而在误差精度要求高的区域里,传统BP网络的收敛速度却高于模糊神经网络诊断模型。这是因为传统BP网络的训练样本输出仅简单取为0,1值,而模糊神经网络诊断模型训练样本的输出取值于区间[0,1],此相当于对输出进行了编码,从而增加了隐层节点的附加工作来完成这种编码功能,甚至需要增加隐层节点数或增加隐层才能满足要求。

图2 传统BP网络与模糊神经网络诊断模型训练误差曲线比较

4 结论

基于以上的分析、论述表明,本文所建立的模糊神经网络诊断模型理论,无论从建立的理论基础、方法体系,还是从建立的结果看,它都是正确的;且它在原始知识的产生方式、学习样本的合理组织以及在网络模型的自适应选取方面都具有突出特点。通过理论分析和工程实际应用表明,该模型理论的应用能提高诊断精度,具有诊断功能强、智能化程度高、便于实用推广的特点。

参考文献:

[1]吴维库,唐锡宽.转子故障的精确诊断[C].92全国转子动力学学术会议论文集,青岛:1992,pp:536-539.

[2]杨叔子,史铁林,丁洪.机械设备诊断的理论、技术与方法[J].振动工程学报,1992,5(3):193-201.

[3]张小栋.模糊神经网络诊断原理和方法以及应用研究[J].西安交通大学,1995.

神经网络原理范文3

关键词:模拟电路;故障诊断;模糊数学;bp网络;模糊bp网络

0引言

电路故障是指在规定的条件下,电路工作时它的一个或几个性能参数不能保持在要求的上、下限之间,其结构、组件、元器件等出现性能减退、老化、破损、断裂、击穿等现象,丧失了在规定条件和环境下完成所需功能的能力。

长期以来,学界对模拟电路工作特点的研究已相当深入,但对于故障诊断方法的研究却困难较大,这是由于模拟电路本身的特性决定的:1)输入激励和输出响应都是连续量,模拟电路中的故障模型复杂,量化难度大;2)模拟电路信号量程宽,不管电压、电流的量程还是频率都可达十几个数量级,测量难度大;3)模拟电路中的元器件参数具有容差,导致电路的故障状态的模糊性,而无法准确定位;4)模拟电路中存在广泛的反馈回路和非线性问题,使计算的难度更加复杂。因此,学界提出了许多模型和方法来完成对某些符合特定条件的模拟电路的故障诊断。其中神经网络法的使用就相当普遍,在硬和软故障诊断中都有应用,因为神经网络的技术优势针对模拟电路故障诊断有较好的适用性,这主要体现在:1)神经网络的大规模并行处理特点,大大提高了诊断效率;2)自适应与自组织能力使神经网络在学习和训练中改变权重值,发展出新的功能。同时,模糊数学也与神经网络相结合,这是利用了模糊数学对待诊断模拟元器件的故障不确定性进行量化处理,能够有效克服模拟电路元器件因为容差、非线性及噪声造成的电路参数模糊性。

本文的研究目的就是分别利用单纯bp神经网络和模糊bp神经网络的方法建立模拟电路故障诊断模型,利用电路仿真收集电路不同工作状态下的关键点电压,代入诊断模型并得到诊断结果。根据各网络的结果分析比较各诊断模型的优缺点,找出模糊数学对改进模拟电路故障诊断模型的具体表现。

1模糊神经网络的故障诊断模型

1.1典型模糊神经网络诊断模型介绍

图1显示的是一个典型的模糊神经网络模型,该模型由原始知识获取(fundamental knowledge acquire,fka)、特征参数处理(characteristic parameter produce,cdp)、知识提取(knowledge extracted,ke)、经验知识库(experience knowledge base,ekb)、学习样本集(learning sample set,lss)和模糊神经网络(fuzzy neural networks,fnn)共6个模块共同组成,其工作流程是:

图1 典型模糊神经网络诊断模型

1)原始知识获取模块通过对电路工作原理进行分析,模拟或仿真各类故障发生时输入和输出参数,从而获取原始知识(x,y),将其传入知识提取模块中供系统学习,所得经验集存入经验知识库中;

2)将原始知识和已经存放在经验知识库中的经验知识(初始库可为空)一起输入学习样本组织模块中,进行学习样本的构建,合成训练样本集为(x1,y1);

3)将(x1,y1)输入到模糊神经网络模块,学习训练,并在达到指定精度后停止;

4)将从模拟电路中获得的实测参数xc输入至特征参数提取模块中,完成数据分析和处理,输出特征参数数据xc';

5)将特征参数数据输入到学习收敛后的模糊神经网络中,进行诊断推理,得出诊断结果yc';

6)将得到的实测数据集(xc',yc')输入学习样本组织模块,动态增强模糊神经网络的自适应能力;

7)将得到的实测数据集(xc',yc')输入知识提取模块,进行分析和处理,如能提取出经验知识,则归入经验知识库中[1]。

1.2模糊神经网络结构

模糊神经网络的结构应该包括4层,如图2所示。

模糊层的作用是将输入量进行模糊化。每一个模糊层节点对应一个该论域中的模糊子集和隶属函数。该层接收精确数值输入,经过模糊化计算得出对应的隶属度并输出。

图2 模糊神经网络结构图

输入层、隐含层和输出层共同构成一个完整的神经网络。输入层不具有运算功能,它只是将所感知的输入值精确传递到神经网络中;隐含层的作用相当于特征检测器,提取输入模式中包含的有效特征信息,使输出层所处理的模式是线性可分的,该层节点是模糊神经元,与输入层间的连接权值是随机设定的固定值;输出层节点也是模糊神经元,与隐含层之间采用全连接方式,其连接权值是可调的,作用是输出用模糊量表示的结果[2]。

1.3输入层、输出层和隐含层节点数确定

输入层的个数代表了电路故障诊断的关键测试点的个数n1,输出点为电路所具有的潜在故障模式种类数n3。

根据输入层和输出层的个数,隐含层节点数n2的确定有以下4种经验公式[3]:

(1)

(为0~10之间的常数)(2)

(为0~10之间的常数)(3)

(4)

2模糊数学和神经网络的算法介绍

2.1模糊数学和隶属度函数

模糊数学的作用是对测试点测得的电压信号进行特征提取——模糊化处理。因为在模拟电路测试中,参数值会随着故障原因的不同和故障阶段不同而发生变化,所以在进行数据处理时常用方法是使用精确事实规则。即用正态分布函数作为隶属度函数表示“大约为a”的模糊概念,此外还有如三角分布和梯形分布等[4]。在使用中,正态分布使用较多,其中的a是该测试点的理想状态工作点,b为该测试点在各种可能状态下的工作电压均方差。

2.2bp神经网络与算法

图3bp神经网络模型结构图

反向传播网络(back-propagation network,简称bp网络),是一种有隐含层的多层前馈网络。每一层均有一个或多个神经元节点,信息从输入层依次经各隐含层向输出层传递,层间的连接关系强弱由连接权值w来表征。bp算法是一种监督的学习,基本原理是梯度最速下降法,中心思想是调整权值使网络总误差最小。通过连续不断地在相对于误差函数斜率下降的方向上计算网络权值和偏差值的变化而逐渐逼近目标的。每一次权值和偏差的变化都与网络的误差的影响成正比,并以反向传播的方式传递到每一层。bp网络模型结构如图3所示。

以bp神经网络模型结构图为例进行bp算法推导,其输入为p,输入神经元有r个,隐含层内有s1个神经元,激活函数为f1,输入层内有s2个神经元,对应的激活函数为f2,输出为a,目标矢量为t。

1)隐含层输出:(i=1,2,…,s1)(5)

2)输出层输出: (k=1,2,…,s2) (6)

3)定义误差函数:(7)

4)输入层的权值变化量:(8)

其中:

同理可得:(9)

5)隐含层权值变化有: (10)

其中:

同理: (11)

bp网络经常使用的是s型的对数、正切激活函数或线性函数[5]。

3电路故障诊断算法验证

图4 共集-共射电路的直流通路图

例:如图4所示的直流通路图,电阻的标称值如图中所注。利用multism软件在直流状态下进行多次monte carlo分析仿真该电路[6],并考虑电阻的容差影响,取40个样本作为模糊神经网络的训练样本,另取5个样本为测试样本。设电阻r1~r5的容差值为-5%~5%。测试点选为a、b、c、d和e五点,所测电压值为va、vb、vc、vd和ve。

表1 部分电路实验样本原始数据

表2 测试样本原始数据

表1列举了40组电路实验样本原始数据的11组,包含了该电路在11种工作状态下的五个关键点电压值,所以n1=5,n2=11,隐含层的节点数可以依据公式2.3确定为12个,其中a为5。

表2则列举了5组测试样本的原始数据。

步骤一:数据模糊化

根据用正态分布函数作为隶属度函数表示“大约为a”模糊概念的思路,可以分别得到各测试点上电压隶属度函数的参数值。

a1=5.57、a2=4.97、a3=4.9、a4=5.7和a5=5.69以及b1=4.3729、b2=4.4817、b3=3.9091、b4=4.2870和b5=3.7944。

由各测试点的隶属度函数可得到网络的训练样本见表3。

表3 神经网络部分输入、输出训练样本

步骤二:将训练样本输入神经网络进行训练

将全部40个原始值和模糊化值的输入样本和对应的输出样本分别输入bp神经网络中进行训练。

步骤三:将测试样本输入神经网络进行检测

将全部5个原始值和模糊化值的输入样本和对应的输出样本分别输入已经训练好的bp神经网络中,输出诊断结果见表4。

表4 输出诊断结果

表4中的数据是经过故障诊断后得到的结果,在此只是各随机选用了一组数据加以比较说明。通过对故障诊断的试验观察和结果的比较可以作出以下分析。

1)模糊化数据能够有效减少神经网络的收敛次数。如在bp网络诊断中,使用模糊化数据的迭代次数由886减少到263次,收敛速度明显加快;

2)模糊化数据能够有效提高神经网络训练的效果。通过表4中数据的对比可以发现对于相同的神经网络,经过模糊化数据的训练,其准确性更高。这主要表现在电路所对应的状态结果普遍高于未经模糊化数据训练的网络得出的结果;同时,其他状态对应的机率更低,皆低于0.1,且更多值为0,说明数据模糊化能使神经网络的诊断结果更集中,正确率更高,有效性更加明显。

4结论

通过分别采用bp网络和模糊bp网络建立了电路故障诊断模型,对电路相同工作状态参数的诊断结果进行比较,得出了模糊数学对提高电路故障诊断模型精度和有效性效果明显的结论。模糊数学和神经网路理论的组合有效地提高了模拟电路故障诊断模型的收敛速度,提高了故障诊断的工作效率,还提高了诊断的准确性,有效性得到了充分显示。

参考文献:

[1] 吕律,魏蛟龙.基于模糊神经网络的板级电路故障诊断研究[j].计算机与数字工程,2003(3):21-23.

[2] 李国勇.智能预测控制及其matlab实现[m].北京:电子工业出版社,2010.

[3] matlab中文论坛.matlab神经网络30个案例分析[m].北京:北京航空航天大学出版社,2010.

[4] 朱大奇.电子设备故障诊断原理与实践[m].北京:电子工业出版社,2004.

神经网络原理范文4

【关键词】故障诊断;基本原理;神经网络;实际应用

引言

电梯在实际生活中出现不正常运行、停运等故障是在所难免的,而作为高层建筑中主要的垂直交通工具如果不能及时准确的查明故障原因并维修往往会给乘客带来巨大的生命威胁。只有保证电梯的安全运行,及时的发现故障并解决故障,才能够为乘坐电梯的乘客提供合格的安全保证。目前,国内在用的电梯缺乏完善的故障诊断系统,仅仅依靠维修技术人员的经验以及简单的诊断仪器已经不能够及时的解决复杂的电梯故障问题。神经网络技术可以应用于复杂多模式的故障诊断并且既可以用于实时监测也可以进行离线诊断,在系统模式非常复杂或者根本不知道系统模式的情况都可以应用,这些特点恰恰解决了传统方法中最最难以解决的问题。因此必须加快神经网络技术应用于诊断电梯故障的步伐,形成完善的故障诊断系统,才能更及时准确的查明故障原因进一步及时的解决问题,保证乘客的人身安全。

一、电梯的运行原理和电梯故障的特点

只有清楚地了解电梯控制系统的运行原理才能够及时准确的诊断出电梯故障原因,因此清楚的了解电梯运行原理,每一个电梯维修人员必须要做到。电梯运行过程总体上可分为以下几个阶段:第一、登记层外召唤信号和登记内选指令阶段;第二、电梯门关闭或者电梯按照系统指令停运阶段;第三、启动阶段;第四、在到达信号记录的楼层前进行减速制动;第五、平层开门阶段。在整个过程中电梯需要从外界接收信号并处理,然后完成相应的指令或者输出信号,由此可以将电梯看作是一个完整的独立的系统,只需要外界给予相应的信号就可以自动的做出动作。电梯系统内部复杂的构件紧密的结合在一起,正是如此才使得电梯系统故障具有了复杂性、层次性、相关性以及不确定性的特点。

二、神经网络技术基本原理

生物学上的神经是由一个个简单的神经元相互连接进而形成了复杂的庞大的神经系统,同理,神经网络就是由大量简单的处理单元相互连接形成的复杂的智能系统。单独的处理单元类似于一个神经元,是一个可以接受不同信息但是只输出一种信息的结构单位。神经网络系统与生物学神经系统相似的是具有自我修改能力,它可以同时接收大量的数据并进行统一的分析处理,进而输出相应的处理结果。这就使得神经网络系统具有了高度容错性、高度并行性、自我修改性、学习性以及高度复杂性,也正是由于这些特性才使的利用神经网络技术能够及时准确的查明电梯故障原因并得出故障解决方案。电梯故障诊断中应用的神经网络模型分为三个层次:输入层、接收外部信号或者是电梯自我检测信息(如载重信息);隐含层、对接收到了大量数据进行相应的分析处理;输出层、将记录着动作命令的数据传送出来。在电梯出现故障时,首先可以通过神经网络模型快速确定故障发生在哪一层达到节约时间的目的。但是神经网络也会因为收敛速度过于慢、训练强度太大或者是选择的网络模型不好等问题导致诊断结果受到影响。

三、神经网络模型在电梯故障诊断中的应用分类

神经网络模型已经成为了如今电梯故障诊断中应用最广泛的技术模型,相比于传统方式它具有诊断速度快、故障原因命中率高的优点,因此引起了各方面专业人士的强烈关注,并在他们的不懈努力下得到了发展与创新。它跨越多个专业领域、通过对各种复杂的高难度工作的不断的发展与改进出现了越来越多的应用模型,下面主要介绍了当前应用最普遍的BP网络模型,并且简单的引入并介绍了近年来新兴的模糊神经网络模型和遗传小波神经网络模型。

(一)BP网络模型

BP神经网络作为神经网络应用最广泛的一种,它多应用的误差反向传播算法使其在模式识别、诊断故障、图像识别以及管理系统方面具有相对先进性。基于BP网络的电梯故障诊断技术就是通过学习故障信息、诊断经验并不断训练,并将所学到的知识利用各层次之间节点上的权值从而表达出来。BP网络系统的主要诊断步骤主要可以分为三步。第一步:对输入输出的数据进行归一化处理,将数据映射到特定的区间。第二步:建立BP网络模型,训练BP网络模型。第三:通过已经训练好的网络模型对原来的样本进行全面的检测。算法步骤:a、在一定的取值范围内对数据进行初始化;b、确定输入值数值大小,计算出预期输出量;c、用实际输出的值减去上一步得到的数值;d、将上一步得到的误差分配到隐含层,从而计算出隐含层的误差;e、修正输出层的权值和阈值,修正隐含层的权值;f、修正隐含层的阈值,修正隐含层和输入层的权值。

(二)遗传小波神经网络模型

遗传算法运用了生物界的优胜劣汰、适者生存的思想对复杂问题进行优化,适用于复杂的故障,起到了优化简化问题的作用。对局部数据进行详细的分析是小波法最大的特点,所以它被誉为“数字显微镜”。遗传算法小波神经网络就是运用小波进行分解的方法分解模拟故障信号,将得到的数据进行归一化,将归一化后的数值输入到神经网络模型中。它融合了神经网络、小波分析和遗传算法三者所有的优点。基于遗传小波神经网络的电梯故障诊断的一般步骤为:测试节点信号采样、小波分解、故障特征量提取、归一化得到训练样本集、遗传算法优化、得到故障类型。遗传小波神经网络模型在故障原因复杂、数据信息量巨大的电梯系统的应用中能够发挥更大的作用。

(三)模糊神经网络模型

模糊神经网络模型就是创新性的将神经网络与模糊理论结合到一起。它采用了广义的方向推理和广义的前向推理两种推理方式。与其它两种模型不同的是,它的语言逻辑、判断依据和结论都是模糊的。但是它的数据处理能力还有自我学习能力并没有因此而变差,反而更加丰富了它的定性知识的内容。在处理实际问题的过程中,首先要建立所有可能发生的故障的完整集合,其次将所有的故障发生原因归入到同一个集合中去,最后就是建立故障和原因的关系矩阵。分别叫做模糊故障集、模糊原因集、模糊关系矩阵。相较于BP网络模型,这种模型更加的简单易行,充分发挥了神经网络和模糊逻辑的优点,不会因为故障原因过于复杂而失去诊断的准确性,在原本丰富定性知识和强大数据处理能力的基础上具有了很大的自我训练能力。

结语

综上所述,神经网络技术可以应用于复杂多模式的故障诊断并且既可以用于实时监测也可以进行离线诊断,在系统模式非常复杂或者根本不知道系统模式的情况都可以应用,这些特点恰恰解决了传统方法中最最难以解决的问题,它的应用提高了电梯故障的诊断速度和准确度,保证了电梯运行的安全性。虽然神经网络技术的优点很多,但是在实际生活中的应用还很少,因此还需要不断的进行改进完善。同时还要注意将集中诊断方法融合到一起,例如稳重提到的模糊神经网络模型和遗传小波神经网络模型都是集成应用的典型代表。

神经网络原理范文5

关键词 自适应共振理论;智能变电站;非结构化数据分类;数据挖掘

中图分类号TM63 文献标识码 A 文章编号 1674-6708(2014)123-0165-02

0 引言

随着计算机技术的日益普及与应用,电力企业的信息数据量呈现出爆炸式增长的趋势。电力企业对智能变电站的日常管理,分析决策等方面都面临着大数据的考验,而且在数据结构上的多样化也使得数据管理,分析,处理等应用更加复杂。合理地利用智能变电站的全景数据,使其服务于电力企业管理、发展是解决此类问题的关键。

人工神经网络在数据挖掘技术的发展过程中扮演着重要的角色。本文提出的改进ART型网络相比于原型有以下几点优势:1)在分类结果差别细小的情况下,运行时间明显缩短;2)可以在一定程度上缓解ART型网络产生的模式漂移问题。

1 ART神经网络

美国波士顿大学的S. Grossberg在1976年提出了自适应共振理论(Adaptive Resonance Theory, ART)模型[2]。ART型神经网络由输入层和输出层两层神经元构成,也称为为比较层和识别层。ART型网络的学习可以分以下几个步骤:

1)初始化

设网络的输入层为个神经元,输出为个神经元,则前馈和反馈连接权值分别为:

(1)

(2)

2)比较阶段

设网络输入为, 识别层神经元的净输入为

(3)

比较,获胜的神经元设为1,其余置0。然后计算相似度

(4)

将与阈值比较,若则进入学习阶段,否则进入搜索阶段。

3)学习阶段

根据获胜神经元调整前馈和反馈连接权值

(5)

(6)

4)搜索阶段

前一次获胜的神经元受到抑制,选择排在第二位的神经元再一次进行比较,如果所有已存在的分类都不能与输入模式匹配,则新增一个神经元来表示该输入的分类。

2 多输出型ART神经网络(MOART)及应用

多神经元输出(Multi-Output)型ART型神经网络结构,在识别层可以使用2个或更多的神经元来表示某一个输入的分类结果,具体步骤如下:

1)设比较层神经元个数为,识别层神经元个数为,在分类数时,改进算法与原算法保持一致;

2)当时,选择2个获胜神经元来表示新的分类;

3)改进的算法将分类表达分成2个部分,① 由单个识别层神经元表示的分类;② 由2个识别层神经元共同表示的分类。在一个新的输入模式经过比较划分到第①种分类之后,可以在学习阶段对前馈和反馈连接权值进行学习,而分到第②种分类,则不改变前馈和反馈连接权值。

全景数据是反映变电站运行的稳态、暂态、动态数据、设备运行状态以及图像、模型等数据的集合,其中既包含了结构化数据,也包含了文档、图形、音视频信息等非结构化数据。

现阶段电力企业内部非结构化数据的主要形式有合同、案件、授权委托书、证照、法律法规等等。文档分类的主要判定是依据关键词来进行的,而文档中出现频率较低的关键词对最终结果几乎没有影响。ART型网络的输入神经元要求为二进制数据,所以需要对权值进一步处理,将次要关键词过滤:

(7)

(8)

然后将处理过的二进制权重向量输入到ART与MOART型网络。分类类别为:合同、案件、授权委托书、法律法规、公文、通知、公告、档案、知识、专题等10个类别,文档样本总数为1000,其准确率如下图所示:

由此可见,在准确率方面ART网络和MOART网络基本处于同一水平,时间效率方面MOART的优势明显。在智能变电站的全景数据平台中,对非结构化数据查询的响应时间上采用MOART网络较ART网络的提升效果明显。

图1 ART1和MOART1的分类准确率对比

3 结论

ART神经网络在数据挖掘的分类算法中应用广泛,但是其自身的特点也带来了很多不足之处。本文提出的改进型ART网络机制可以在时间效率上对原网络进行加强,并通过实验验证了分类准确率相差不大,而且对原算法容易产生模式漂移等问题也在一定程度上得到缓解。针对ART型神经网络的各种改进算法也可以应用在此多神经元输出模型上,另外,本改进算法的思路也可以应用于ART2型网络,提高系统的效率。

参考文献

[1]史忠植.神经网络[M].北京:高等教育出版社,2009.

[2]Grossberg S.Adaptive pattern classification and universal recording: 1. Parallel development and coding of neural detectors[J]. Biological Cybernetics,1976(23).

[3]施彦,韩力群,廉小亲. 神经网络设计方法与实例分析[M].北京:北京邮电大学出版社,2009.

[4]陈金水,王山金.非结构化数据存储管理的实用化方法[J].计算机与现代化,2006(8):25-31.

神经网络原理范文6

原理与方法

神经网络是一个具有高度非线性的超大规模连续时间动力系统。是由大量的处理单元(神经元)广泛互连而形成的网络。它是在现代神经科学研究成果的基础上提出的,反映了脑功能的基本特征。但它并不是人脑的真实描写,而只是它的某种抽象、简化与模拟。网络的信息处理由神经元之间的相互作用来实现;知识与信息的存储表现为网络元件互连间分布式的物理联系;网络的学习和计算决定于各神经元连接权系的动态演化过程。因此神经元构成了网络的基本运算单元。每个神经元具有自己的阈值。每个神经元的输入信号是所有与其相连的神经元的输出信号和加权后的和。而输出信号是其净输入信号的非线性函数。如果输入信号的加权集合高于其阈值,该神经元便被激活而输出相应的值。在人工神经网络中所存储的是单元之间连接的加权值阵列。

神经网络的工作过程主要由两个阶段组成,一个阶段是工作期,此时各连接权值固定,计算单元的状态变化,以求达到稳定状态。另一阶段是学习期(自适应期,或设计期),此时各计算单元状态不变,各连接权值可修改(通过学习样本或其他方法),前一阶段较快,各单元的状态亦称短期记忆(STM),后一阶段慢的多,权及连接方式亦称长期记忆(LTM)〔1〕。

根据网络的拓扑结构和学习规则可将人工神经网络分为多种类型,如不含反馈的前向神经网络、层内有相互结合的前向网络、反馈网络、相互结合型网络等〔2〕。本文的人工神经网络模型是采用BP算法的多层前馈网络。

该模型的特点是信号由输入层单向传递到输出层,同一层神经元之间互不传递信息,每个神经元与邻近层所有神经元相连,连接权用Wij表示。各神经元的作用函数为Sigmoid函数,设神经网络输入层的p个节点,输出层有q个节点,k-1层的任意节点用l表示,k层的任意节点用j表示,k+1层的任意节点用l表示。Wij为k-1层的第i个神经元与k层的第j个神经元相连接的权值。k-1层的节点i输出为O(k-1)i,k层节点j的输出为:

k层节点j的输出为:

Okj=f(netkj)

设训练样本为(X,Ye),X为p维向量,加到输入层;Ye为q维向量,对应于期望输出;网络的实际输出Y也是q维向量。网络在接受样本对的训练过程中,采用BP算法,其权值调整量为:

ΔWij=-ηδkjO(k-1)i

其中,对于输出层为:

δkj=yj(1-yj)(yej-yj)

对于非输出层为:

η为训练步长,取0<η<1。

用样本集合反复训练网络,并不断修改权值,直到使实际输出向量达到要求,训练过程结束〔3〕。

上述人工神经网络可以完成多种信息处理任务,如从二进制数据中提取相关知识,完成最近邻模式分类,实现数据聚集等。而本文要用的是其极强的数学逼近映射能力,即开发合适的函数f:ARnBRn,以自组织的方式响应以下的样本集合:(x1,y1),(x2,y2)…,(xm,ym),其中yi=f(xi)。这里描述的是一般的数学抽象,像识别与分类这些计算都可以抽象为这样的一种近似数学映射。

所谓诊断,实质上是一个分类问题。即根据候诊者的症状,医学检查结果(如体温、心跳等)等一些情况,它们可以用一向量(e1,e2,…,em)来表示,将其归类为病人或非病人。这也可以转化为寻找一差别函数f使得:

(1)f(e1,e2,…,em)>ε, (e1,e2,…,em)∈T

(2)f(e1,e2,…,em)>ε, (e1,e2,…,em)T

其中集合T表示患病。

因此,病情诊断最终也可作为一类函数的逼近问题。

而许多研究已表明,前向神经网络可作为非线性逼近的标准型。对于实数空间的任一函数,只要它满足一定的条件,一定存在唯一的具有单一隐层的前向网络作为它的最优最佳逼近。而含有两个隐含层的前向网络可在任意的平方误差内逼近某一实函数〔3〕。

诊断步骤

肺癌病例数据选自1981~1994年在某医院住院的病人,共计551例。其中486例(88%)经病理学、细胞学诊断证实为肺癌。每一病例都包括多项数据,其中用于诊断的数据项有:病人的一般情况(如年龄、性别等),家族史、既往史、吸烟史、术后病理、X射线检查、CT检查、纤维支气管镜检查、PAT痰检等多达58项。因此,原则上 58项数据应作为神经网络的输入项,而神经网络的输出值就是病人是否患肺癌的结果。

1.网络训练集的确定:在最原始的551例病人数据中存在着各种各样的差别,如性别差异(419例男性,132例女性),诊断结果的差异(486例经证实为肺癌),所患肺癌种类的差异(鳞癌、小细胞癌、大细胞癌等),患病程度上的差异(早、中晚期的不同)等等。显然,训练数据集应最大限度地保证兼顾各种病例情况。经过仔细筛选,选择了含有460个病例的集合作为肺癌诊断用的网络的训练集。

2.神经网络输入和输出数据的预处理

按照人工神经网络的理论,神经网络的输入输出数据都应该属于(0,1)区间的实数,为此我们需对原始数据进行如下的规一化处理:

其中xi为原始数据项,而Max=max{xi∶xi∈X},Min=min{xi∶xi∈X}。这里X为原始数据集。经过(7)式变换后,yi将在(0,1)区间。因此,可作为神经网络的输入输出。

3.应用神经网络进行肺癌诊断

将描述病人各种情况的数据作为前向网络的输入数据加到其输入端,并按(1)~(6)式计算各神经元的输入和输出,同时调整神经元之间的连接权值以使网络的输出和实际的病例情况相符。即当病人确实患肺癌时网络的输出结果也恰好指示为肺癌,反之亦然。如果对所有的训练样本集网络的输出基本上(95%或更高)能保证与实际结果一致,则训练过程结束。我们认为神经网络已建立起病人的各种因素与他是否是肺癌患者之间的函数映射关系。对于一个新的候诊病人来说,只要将他的情况输入到训练好的神经网络中去,根据网络的输出结果就可以知道他是否已患肺癌。

表1 基于不同发病因素的诊断网络模型

型 训练集精度 测试集精度

基于遗传因素的诊断网 53.8% 46.3%

基于个人生活习惯的诊断网 57.1% 44.9%

基于病症的诊断网 89.4% 83.3%

基于医学检查结果的诊断网 98.5% 92.6%

上述结果表明不同类型的因素应分开来考虑。于是我们将58项输入数据分成四类,这四类有各自的BP诊断网,依次称为诊断一、诊断二、诊断三、诊断四。它们先单独测定,然后再将它们各自的结果综合起来得出最后的判断。

上述四种诊断网络所得结果的可靠性各不相同。其中,根据医学检查结果所作的诊断准确性最高,因此在最后的综合分析中要重点考虑它的诊断结果,我们给它设一个相对最高的权值。其次,根据病人的症状所作的诊断往往也具有较高的准确性,因此给它的权值也较高,但比医学检查结果的稍低。其他两类因素在有关肺癌的诊断中仅具参考作用,因而所设的权值相对较小。

最后的结果O为:

O=a1.O1+a2.O2+a3.O3+a4.O4

a1+a2+a3+a4=1

其中Oi,ai,i=1,2,3,4分别为各诊断网的输出及其对应的权值。

当O>0.5时最后的诊断结果为患肺癌,反之则正常。对所有的病例数据经上述方法的诊断结果见表2。

表2 神经网络对肺癌诊断结果分析

神经网络

诊断结果 训练数据 测试数据

肺癌患者 非肺癌患者 肺癌患者 非肺癌患者

+ 460 2 25 3

- 0 38 1 22

其中对于训练集,肺癌病人的正确检出率为100%,非肺癌病人误诊率为5%。对于测试集,肺癌病人的正确检出率为96.2%;非肺癌患者正确检出率为88%,误诊率为12%。

讨 论

1.本研究所采用的人工神经网络的肺癌诊断方法的结果较好地符合了已知数据,具有较高的准确性,特别是对于肺癌患者一般都能准确地做出诊断,有利于肺癌的早期发现和治疗。

2.要想进一步提高该方法的准确性,应该注意收集更多更全面的病例数据。人工神经网络主要是利用它能自动从数据集中抽取函数的关系的功能。如果我们所使用的数据越多越全面,则其中所蕴含的事物本身的规律性就越强,利用人工神经网络从中所抽取的函数关系就越具有普遍性,因而就更准确。

3.实现对肺癌的诊断的关键在于准确找到罹患肺癌的判定函数,可利用前向网络的函数逼近功能来实现。但是这里涉及到两个问题。首先,由于差别函数和预测率函数都是利用人工神经网络从已知的病例数据集中抽取出来的,它实际反映的是这些数据集中输入输出对的映射关系。因此要想保证诊断具有较高的准确性,就应该使用来建立函数关系的这些数据集(称训练集)具有充分的代表性,即这些数据应基本蕴含肺癌诊断的医学原理。这就涉及到如何选择网络合理的训练集及关键的输入项。另一个问题涉及到神经网络本身的要求,即网络的输入输出数据值都应在区间(0,1)中。这可以通过数据的编码和归一化来实现。

4.由于某些原因有些病人的病例数据不完整,约占总病例数据的10%左右。显然,如果按照传统的方法来建立肺癌病人的诊断模型〔4〕,这些有缺项的数据是不太好处理的,但是由于人工神经网络有较强的容错性,输入数据在某些项上的错误对网络最终结果的正确性影响不大。

参考文献

1.焦李成.神经网络系统理论.第1版.西安:西安电子科技大学出版社,1995,3

2.Wang Zhenni,Tham Ming T,Morris A.Multilayer Feedforward Neural Networks:A Canonical form Approximation of Nonlinearity,Int J.Control,1992,56(3):655~672.

神经网络原理范文7

Abstract: In order to solve the uncertainty of the index information and relationship during the weapon system effectiveness evaluation, the rough set and the neural ensembles are employed. A new evaluating index deduction method based on rough set is provided, and a new evaluating model based on neural ensembles is built. The result shows that this new method based on rough set and neural ensembles is available and feasible for effectiveness evaluation, and would have a positive guidance for evaluating the weapon system effectiveness comprehensively and scientifically.

关键词: 组合神经网络;粗糙集;武器系统;效能评估

Key words: neural ensembles;rough set;weapon system;effectiveness evaluation

中图分类号:E92 文献标识码:A 文章编号:1006-4311(2013)35-0313-03

0 引言

武器系统的效能是武器系统在规定的条件下达到规定使用目标的能力,是衡量武器系统质量的重要指标体系,是预期一个系统能否满足一组特定任务要求的程度的度量[1]。武器系统的效能研究是一项复杂的系统工程,其效能的运用与发挥将直接影响到作战的成败,因此,在武器系统的设计、研制、试验、采购、使用及维护等各个阶段都离不开武器系统效能的评估。目前,国内专家学者采用的武器系统效能评估方法主要有:层次分析法(AHP)[2]、模糊综合评估法[3]、数据包络分析(DEA)[4]等。

随着现代科技的迅猛发展,武器装备越来越复杂,效能评估所要考虑的因素越来越多,只考虑系统效能评估指标间单纯的线性关系,是无法做出准确评估的;同时,单纯地采用主观评估方法使得评估者所掌握的经验对评估结果具有很大的影响,用传统的评估模型进行效能评估显得越来越困难。近年来随着人工神经网络和人工智能技术的发展,基于实例的效能评估方法也取得了极大的进展。在已有武器系统效能评估样本数据充足的情况下,专家学者利用人工神经网络在解决复杂相互关系方面的独特优势,开始将人工神经网络技术引入到效能评估领域[5],使得武器系统的效能评估更加方便。但是,随着武器系统变得越来越复杂,单纯地运用神经网络模型对其评估研究仍显不足,一是单一神经网络模型不具有很强的联想记忆功能,容易陷入局部极点,使得评估结果具有波动性,影响评估的精度;二是武器系统效能评估指标较多,需要根据具体对象,具体任务,确定出评估系统效能的主导因素,减少一些参数的不确定性,避免收集不相关数据带来的时间浪费。关于如何合理选择武器系统效能评估指标、有效区分评估指标重要度的研究尚不多见。

本文结合粗糙集在属性约简上的有效性以及组合神经网络在评估效果的精确性对武器系统效能评估进行了研究,提出了一种新的基于实例的效能评估方法,先采用粗糙集对效能评估指标集进行约简,除去冗余的评估指标;之后,再运用组合神经网络模型对武器系统进行效能评估,最后,通过飞机空对地作战效能评估进行实例应用研究,验证了该方法的可行性和有效性。

1 粗糙集—组合神经网络效能评估模型

武器系统效能评估的过程可以理解为对研究对象的效能评估等级进行分类和识别。具体来说,通过粗糙集,从反映武器系统效能的众多指标中提取出那些对评估等级分类识别最有效的特征,把它们作为效能评估模型的输入,减少神经网络的规模;对武器系统效能的评估等级进行预先分类,把这些不同的类作为效能评估模型的输出,那么对应于不同的特征输入,效能评估模型将有不同的分类输出。由于粗糙集有强大的数值分析能力,而神经网络具有准确的逼近收敛能力和较高的精度,所以通过两者的结合,能得到一种可理解性好、计算简单、收敛速度快的效能评估模型。

1.1 粗糙集属性约简[6] 粗糙集理论是一种解决不完

整性和不确定性问题的数学工具,它可以根据数据本身进行分类处理即可表征对象集,揭示数据内部潜在的规律;能发现数据间的依赖关系,从经验数据中生成分类规则;能在保留关键数据信息的前提下对冗余数据进行化简,发现知识的最小表达。

粗糙集理论利用信息表来描述论域中的对象,它是一个二维表,每一行表示一个对象,每一列表示对象的属性,简记为S=(U,A),其中U称为论域,A称为属性集。粗糙集认为,多数情况下,信息表中存在一些对某个给定的学习任务无关的、不重要的属性。如果去除这些冗余属性,并能找到最小的相关属性集,具有与全部属性相同的分类能力,就能简化信息表。粗糙集关于属性约简的定义如下:

设S=(U,A)为信息表,B?哿A且a∈B,

①如果IB=IB-{a},则称属性a在B中是冗余的,否则,a在B中是必要的;②如果B的所有属性是必要的,则集合B是独立的;③设B′?哿B,如果B′是独立的,且I′B=IB,则B′是B的一个约简。

约简是保留论域划分的最小属性集,约简与整个属性集的分类能力相同,即对于论域的分类能力来说,不属于约简的属性是多余的。

1.2 组合神经网络评估原理 BP神经网络理论上可以以任意精度逼近任何连续函数,但传统的BP神经网络在训练过程中容易陷入局部极小点,导致训练时间过长,因此,本文采用遗传算法(Genetic Algorithm,GA)对BP神经网络的权值进行优化,提高训练精度,缩短训练时间。然而,遗传算法优化后的BP神经网络预测出来的结果并没有很强的联想记忆功能,因此,再引入可以实现联想记忆功能的Hopfield网络,将武器系统效能评估等级看作是网络中稳定的平衡状态,这些平衡状态称之为吸引子,吸引子具有一定的吸引域。记忆过程就是将记忆和存储的模式映射为网络吸引子的过程;联想过程就是给定输入模式,网络按照动力学的演化规则运行到稳定状态,收敛到吸引子,从而回忆起存储模式的过程[7],其原理如图1所示。

根据GA-BP网络和Hopfield网络的训练原理,结合粗糙集的属性约简原理,建立了新的武器系统效能评估模型,如图2所示。

第一层是采用GA-BP神经网络,通过平时在武器系统效能评估工作中收集到的各种历史数据以及其对应的效能评估等级获得GA-BP网络的训练样本。训练后的GA-BP网络在新装备的效能评估中可以较高精度地体现专家经验知识。第二层采用Hopfield网络,通过原先的效能评估等级设计Hopfield网络,使得Hopfield网络对所有的评估等级具有联想记忆功能。新装备先通过GA-BP网络进行效能评估,再将GA-BP网络得到的效能评估结果用Hopfield网络进行联想,通过联想将新装备的效能评估等级与原有评估等级对应起来,便于进行武器系统的研制与选购决策。

1.3 评估程序 基于粗糙集与组合神经网络的武器系统效能评估的具体步骤主要由3个步骤组成:①根据具体问题,分析对象特点,构建评估指标体系,通过粗糙集选择出关键要素指标集,并确定武器系统效能评估等级分类。②根据选取出的评估指标集,通过平时工作收集相应指标值,获得对应武器系统效能评估等级的数据,建立组合神经网络模型,用已知样本集训练网络,使其达到预设的预测精度,构造专家系统的知识库。③用户根据新采集到的武器系统评估指标数据,经组合神经网络处理后,获得此时的效能评估等级,对评估结果进行分析。

2 实例分析

根据以上的对具体原理和步骤的分析,本文以作战飞机的空对地作战效能评估作为研究对象,并结合采集到的数据对该方法进行验证。通过实践调查,收集到28种作战飞机的历史数据以及与之对应的效能评估等级,取出25组数据作为训练样本,剩余3组作为学习样本用以检验模型的有效性[8]。训练样本的具体数据如表1所示。

①属性约简。本文利用粗糙集专业软件—ROSSETA数据分析软件对表1数据进行属性约简。由于表一数据充足,因此采用布尔推理算法对原始数据进行离散化处理,随后,采用动态约简对飞机指标进行约简,动态约简能够有效地增强约简的抗噪声能力。最终得出,约简{C,E}出现的频率最高,support=42,约简后的飞机空对地作战效能评估指标集由原来的7个指标变为5个指标,为{A,B,D,F,G},以此作为输入组合神经网络的变量,可以减少神经网络的规模,提高评估精度。

②神经网络学习。将25种机型的{A,B,D,F,G}指标数据作为神经网络的输入,将对应的效能评估等级编码作为神经网络的输出,对神经网络进行训练,利用训练好的神经网络作为系统的知识库。

本文基于MATLAB的神经网络工具箱进行编程,构建了图2中的组合神经网络模型。同时,对效能评估等级进行编码,如表2所示。

根据选取的训练样本数据,通过MATLAB BP工具箱构建BP网络,并采用遗传算法工具箱对其进行权值进行优化。遗传算法的进化代数设为15,种群规模设为25,交叉概率设为0.3,变异概率设为0.1,训练过程中,遗传算法的适应度曲线和神经网络的误差变化情形如图3所示。

从图3中下图可以得到,经过遗传算法优化,仅经过3次迭代,网络就达到了期望的误差目标。

同时,根据效能评估等级对应的编码,利用MATLAB Hopfield工具箱设计Hopfield网络,确定组合神经网络输出的评估等级。

③效能评估。本文选取文献[8]中三种机型(F-15E、F-5E、SU-25)的空对地作战效能评估数据作为验证样本,检验评估模型的有效性。根据约简后的指标集,在收集相关数据时只需统计三种机型的{A,B,D,F,G}指标数据,如表3所示。

将统计到的三种机型数据输入到评估模型中,经过GA-BP预测得到评估向量后,再由Hopfield网络联想,最后得到三种机型的评估向量分别为[1 1 1 1 1 1 1 1 1 ],[1 1 1 -1 -1 -1 -1 -1 -1 ],[1 1 1 1 1 1 -1 -1 -1 ],对应的评估等级分别为好、差和中。从评估结果来看,符合实际情况,说明模型是可行有效的。

3 结论

本文针对武器系统效能评估,提出基于粗糙集和组合神经网络的评估模型,该模型综合了粗糙集和组合神经网络各自的优点,根据历史数据,利用属性约简方法和组合神经网络构造专家效能评估的知识库,不仅避免了专家知识获取的瓶颈,而且缩小了网络的规模,提高了效能评估的精度,为解决武器系统的多指标综合评估和方案优化问题提供了一种可行的新方法;最后,通过对飞机进行空对地作战效能评估,验证了该模型的有效性。

参考文献:

[1]郭齐胜,杨瑞平等.装备效能评估概论[M].北京:国防工业出版社,2005.

[2]吴智辉,张多林.AHP法评估低空导弹武器系统效能[J].战术导弹技术,2003,26(4):8-12.

[3]苑立伟,阳家宏等.基于模糊理论的防空导弹武器系统综合评估模型[J].装甲兵工程学院学报,2005,15(6):24-29.

[4]鲍鸿飞,赵祚德等.DEA方法在水雷障碍效能评估中的应用[J].四川兵工学报,2009,30(1):66-68.

[5]刘帅,寇英信等.基于人工神经网络的空战效能评估[J].电光与控制,2010,17(4):26-29.

[6]安利平著.基于粗集理论的多属性决策分析[M].北京:科学出版社,2008.

神经网络原理范文8

【 关键词 】 神经网络;Matlab;图像压缩

1 引言

BP神经网络归类于前馈型神经网络,原始信息由输入单元输入,经输入单元分配到隐含层的各神经元,除输入层以外,每个神经元的信息是由上一层神经元状态与相对应的连接权值决定的,输出层可以认为是最后一层隐含层。除输出层外,每一个神经元都与下一层的各神经元相连,而同一层的神经元之间没有连接。

BP神经网络主要应用于非线性函数的逼近、数据压缩、模式识别、分类等领域。

在BP神经网络中选择合适的网络层数、各层神经元个数及训练函数就可以实现从输入到输出的非线性映射。其学习过程可分为工作信号的正向传播和误差的反向传播两个过程,传播过程如图1所示。

(1)工作信号的正向传播

信号由输入经过隐含层到输出层,在信号向前传播的过程中,网络的各层权值是固定不变的,每一层神经元的信息只影响下一层的神经元而不会影响同层或者上一层神经元。如果输出层的输出结果与期望值不同就转入误差的反向传播。

(2)误差的反向传播

网络的输出与期望值之间的差值就是误差信号。误差信号由输出层开始逐层向前传播,并且将误差分摊给各层的所有神经元,再由此获得各个层的误差信号,通过修正各神经元之间的连接权值,使误差减小。这个通过信号的正向传播和误差的反向传播来不断修正各神经元之间的连接权值的过程是不断进行的,一直运行到预先设定的训练步数或者达到设定的误差就停止。

2 BP神经网络的应用

2.1 基于BP神经网络函数逼近的实现

2.1.1 BP神经网络的函数逼近能力

BP神经网络是一个输入到输出的高度非线性映射,即F:RnRm,f(x)=Y。对于样本集合:输入xi和yi输出都可认为存在某一映射g使得g(xi)=yi(i=1,2,3...)成立。求出一个映射f,使得在某种意义下,f是g的最佳逼近。

2.1.2基于BP神经网络函数逼近的Matlab实现

设要逼近的非线性函数是:y=5+2e(1-x)cos(2πx),-0.4?x?3.6。建立一个三层网络,设置隐含层神经元个数为20,最小误差为0.01最大训练步数为50。编写Matlab程序,得到误差曲线如图2所示。

由仿真结果图可以得出,经过训练后的曲线和原函数曲线非常接近,由此说明,训练后的神经网络函数逼近效果很好。

2.2 BP神经网络在图像压缩中的应用

图像是最重要的一种信息传递方式,然而,图像数据量大给信息传递带来了困难,当前的硬件技术所能提供的存储资源和网络宽带远不能满足日益增长的图像传递要求。图像作为一种重要的资源,对它进行压缩处理在一定程度上能够减缓它对硬件的要求。

2.2.1 图像冗余

图像数据压缩的根本方法是减小图像冗余,数据图像的冗余主要表现在以下几种形式:空间冗余、时间冗余、结构冗余、视觉冗余、知识冗余等,有了图像的这些冗余信息,就找到了图像压缩的根据。此外,根据大面积着色原理,图像必须在一定面积内存在相同或相近的颜色,图像中相邻像素间存在的相似性产生了图像预测编码。

2.2.2 图像压缩的分类及图像性能指标

图像压缩的实质就是去除多余数据,依据在压缩过程中是否有信息损失,可以将图像压缩分为两种,有损压缩和无损压缩。无损压缩没有信息的损失,解压后可以完全恢复,例如一些文件的压缩都可以完全恢复。有损压缩则不能完全恢复,有一定的信息损失,但不会影响对信息的理解。

目前比较流行的压缩方式有JPEG压缩,基于小波变换的图像压缩算法,分型压缩,矢量量化压缩。依据BP神经网络对非线性能够无限逼近的能力,可以保证在比较高的图像质量下尽可能实现较高的压缩比。

图像性能指标有图像的信噪比及峰值信噪比。

(1)图像的信噪比(SNR)是衡量图像质量高低的重要指标,见公式(5),其中M和N是图像长和宽上的像素点数,f(i,j)和g(i,j)分别是原始图像和重构图像在点(i,j)处的灰度值,信噪比越高说明图像质量越高。

SNR=10log

(1)

(2)峰值信噪比经常用作图像压缩等领域中信号重建质量的测量方法,见公式(6),其中M和N是图像长和宽上的像素点数,f(i,j)和g(i,j)分别是原始图像和重构图像在点(i,j)处的灰度值,其值越大,表示图像失真越小。

PSNR=10log

(2)

2.3 BP神经网络实现图像压缩

由上述可知,BP神经网络可以逼近非线性函数,而图像的各像素点之间是非线性关系,故运用BP神经网络,通过选取合适的网络层数和训练函数就可以实现图像压缩。

2.3.1 网络层数的选择

神经网络设计中,隐含层层数的确定要根据实际应用的需要。虽然隐含层层数多可以降低误差,提高精确度,但是也增加了神经网络的训练时间,而误差完全可以通过改变隐含层神经元个数或者使用合适的训练函数来减小。本文选择三层神经网络,实践证明,三层神经网络可以达到很好的效果。

2.3.2训练函数的选取

针对不同的应用,BP神经网络提供了多种训练方法。不同的训练函数对应结果如表1。

由此可见,traincgp(Polak-Ribiere变换梯度法)有较快的收敛速度,本文选择此训练函数。

2.3.3 基于BP神经网络图像压缩原理及仿真结果

网络结构的确定包括输入层、隐含层和输出层,隐含层的节点数小于输入节点数,输入节点数和输出节点数相同[8]。网络在进行学习时,输入会将网络数据通过隐含层映射到输出作为导师信号,在这个学习的过程中,输入层到隐含层称为网络的编码过程,隐含层到输出层称之为网络的解码过程。

将训练用图像的所有像素点作为压缩网络的输入,为控制网络的规模,对图像进行划分。设训练用图像由N×N个像素点构成,将其划分为M个子图像块,每个子图像块分别由p×p的子像素块构成。为了加快收敛速度,保证性能的稳定性,对图像进行归一化处理。归一化可以使用mapminmax函数进行,但是考虑到图像数据的特殊性,像素点灰度值为整数,且处于0-255之间,因此归一化处理就可以统一将数据除以255。

用Matlab创建一个三层网络,函数如下:

net=newff(minmax(P),[32 ,64],{'tansig','logsig'},'traindx','learngd','mse')。

其中,应用的激活函数为tansig和logsig,采用trainoss训练函数网络初始权值和阈值均取随机数,然后开始训练网络,最小误差设置为0.001,最大训练步数设为10000。运行结果如下,Matlab程序流程图如图5所示,仿真结果如图7所示。

TRAINOSS-srchbac, Epoch 16997/20000, MSE 0.000998813/0.001, Gradient 0.00206669/1e-006

TRAINOSS, Performance goal met.

PSNR = 29.9979

SNR = 22.8039

由运行结果可得,图像压缩后峰值信噪比是29.997,信噪比是22.8039,误差已经达到要求。

训练网络误差曲线如图3所示。

由误差曲线可得,在训练步数达到1000左右的时候,误差下降趋势趋于平缓,因此选择训练步数为1000,然后改变隐含层神经元个数,比较不同的压缩比情况下的误差、信噪比及峰值信噪比,不同压缩比下的结果如表2。

由表可得,随着压缩比的增大,信噪比和峰值信噪比减小,误差增大。

2.4 BP网络的局限性

在实际应用中,BP神经网络存在的几个问题:(1)误差下降慢,训练次数多,影响收敛时间;(2)隐含层神经元个数是靠经验得来的,没有可靠的理论依据;(3)没有考虑到测试样本或者训练样本对算法的影响。

参考文献

[1] 钟珞,饶文碧,邹承明.人工神经网络及其融合应用技术[M].北京:科学出版社,2007: 23-27.

[2] 高隽.人工神经网络原理及仿真实例[M].北京:机械工业出版社,2007:2-78.

[3] 倪志伟,李锋刚,毛雪岷.智能管理技术与方法[M].北京:科学出版社,2007:12-33.

[4] Andrea Goldsmith. Wireless Communications[M]. Cambrigde University Press,2005:1-5.

[5] Martin T. Hagan,Howard B. Demuth,Mark H. Beale.神经网络设计[M].北京:机械工业出版社出版社,2002:3-17.

[6] 张立明.人工神经网络的模型及其应用[M].上海:复旦大学出版社,1993:7-99.

[7] 徐丽娜.神经网络控制[M].北京:电子工业出版社,2003:10-80.

[8] 钱海军.基于BP神经网络的图像压缩的Matlab实现[J].电脑开发与应用, 2011,24(12):77-79.

[9] 刘春艳.基于遗传算法―BP神经网络的主汽温控制系统的研究[D].太原:太原理工大学硕士研究生学位论文,2006.

基金项目:

山东省教育科学“十二五”规划课题,课题编号:2011GG256。

神经网络原理范文9

[关键词] 船舶供应商 评价体系 遗传算法 神经网络

选择合适的供应商直接关系到船舶企业降低成本、提高企业竞争力。现有的平价方法在确定指标权重时存在主观随意性,评价结果缺乏客观与公正。BP神经网络具有容错性、自适应性等特点,解决了评价过程中指标权重随意性和人为因素。本文构建了BP神经网络的船舶供应商评价模型,并针对BP神经网络收敛速度慢的缺点,采用遗传算法对构建的BP神经网络模型进行优化,从而构建评价船舶供应商遗传神经网络模型。

一、船舶供应商评价指标体系的构建

原材料供应商和船舶配套企业的产品质量性能以及管理水平等都会对船舶企业的正常运行带来重大影响,直接关系到企业的盈利能力。因此,构建科学的合理的供应商评价体系,是船舶制造企业综合评价供应商的依据。

周期长、成本高等特点决定了船舶是一种特殊的产品,需要结合船舶自身的特点来构建船舶供应商评价指标体系。综合学者的研究成果与船舶公司实际状况,本文认为应该从质量、成本、交货、柔性、财务与信誉状况以及服务与管理水平6个方面构建船舶供应商的评价指标体系。

二、基于遗传神经网络的船舶供应商评价模型

1.BP神经网络在船舶供应商评价中的应用

BP神经网络模型是一个分层型网络,具有输入层、中间层和输出层。供应商评价指标由输入层到输出层的传递是一个前向传播的过程,若输出结果与期望结果的误差超过允许范围,则误差反向传播,并根据各层误差的大小来调节权值,寻找最佳权集,实现正确输出。基于BP神经网络的船舶供应商评价模型结构及学习原理如图2所示。

2.基于遗传算法改进的BP神经网络模型

BP算法是沿梯度下降(平方误差函数)来指导搜索的,学习过程收敛速度慢,易陷入局部极小点。而遗传算法对于全局搜索具有较强的鲁棒性和较高的效率,克服了BP网络的局限性。将遗传算法与BP网络相结合,可以达到全局寻优和快速高效的目的。

遗传算法改进BP神经网络模型的步骤是:(1)确定网络参数;(2)设定的种群规模N,产生初始种群;(3)求N组网络权系数,得到具有相同结构的N个网络;(4)求N组网络权值对应的N个网络输出;(5)网络性能评价;(6)若不满足评价条件,由对染色体进行遗传选择、变异和交叉操作,产生新的染色体,直到满足评价函数;(7)选择一个最优染色体作为网络权重,进行网络的训练和评价。其工作流程如图3所示。

三、应用仿真算例

以中船公司的25家供应商数据为基础,采用matlab7.0编程,建立三层遗传神经网络模型。

将前15家供应商作为训练集,训练该网络;其余10家供应商作为测试集,模拟待评价的对象。设置误差精度为0.00001。首先用遗传算法,经过450次优化,得到全局最优的网络权值。然后以前15家供应商的二级评价指标为样本,经过BP神经网络4700次训练,得出对应的6个一级评价指标的训练样本;再以所得出的输出值为样本,经过BP神经网络4450次训练,训练出最终的遗传神经网络模型,并用于综合评价工作。输入后10家供应商二级评价指标值,得到其一级评价指标的输出值,以该输出值为输入,计算出10家供应商的综合评价结果。见表。

四、结束语

基于遗传神经网络的船舶供应商评价模型借助BP神经网络的容错性和自适应自学习能力克服了传统评价方法在指标权重赋值时存在的主观随意性问题,并用遗传算法的优化解决了BP存在的收敛速度慢的问题,为评价船舶供应商提供了一条新的途径。

参考文献:

[1]金朝光 纪卓尚 林 焰:船舶企业选择供应商的策略研究[J]. 计算机集成制造系统,2003,9(10):886~890

[2]马士华 林 勇 陈志祥:供应链管理[M].北京:机械工业出版,2004