美章网 资料文库 神经网络论文范文

神经网络论文范文

神经网络论文

神经网络论文范文第1篇

EL检测原理与检测系统在文献[1]中有详细的描述。本文采用该文献中的方法对太阳能电池片的EL图像进行采集。图1(a)、(b)、(c)分别表示由CCD采集的一块大小为125bits×125bits的虚焊缺陷图像、微裂缺陷图像和断指缺陷图像。图1(d)是无缺陷太阳能电池组图像,它包含36(6×6)块大小为125bits×125bits的太阳能电池片图像。本文提出融合主成分分析(PCA)改进反向传播神经网络(BPNN)方法和径向基神经网络(RBFNN)方法对太阳能电池缺陷电致发光图像进行处理,主要包括图像采集、PCA特征提取降维、神经网络分类训练、预测输出等部分,如图2所示。

1.1PCA处理输入数据当BPNN和RBFNN的输入是太阳能电池板缺陷图像集时,图像是以向量的形式表示。向量维数太大将不利于网络的计算。我们采用主成分分量分析(PCA)算法[15]来提取该向量的主要特征分量,既不损失重要信息又能减少网络的计算量。PCA是基于协方差矩阵将样本数据投影到一个新的空间中,那么表示该样本数据就只需要该样本数据最大的一个线性无关组的特征值对应的空间坐标即可。将特征值从大到小排列,取较大特征值对应的分量就称为主成分分量。通过这种由高维数据空间向低维数据空间投影的方法,可以将原始的高维数据压缩到低维。假设数据矩阵Xn×p由样本图像组成,n是样本数,p是样本图像的大小。若Xn×p的每一行代表一幅样本图像,则Xn×p的PCA降维矩阵求解步骤如下。

1.2创建BPNN模型和RBFNN模型太阳能电池缺陷种类很多,不同缺陷类型图像具有不同特征。对太阳能电池缺陷图像求其主成分分量作为BPNN的输入,缺陷的分类作为输出,输入层有k个神经元(降维后主成分分量个数),输出层有1个神经元(缺陷的分类向量)。隐层的节点数可以凭经验多次实验确定,也可以设计一个隐含层数目可变的BPNN。通过误差对比,选择在给定对比次数内误差最小所对应的隐含层神经元数目,从而确定BPNN的结构。一般来说,3层BPNN就能以任意的精度逼近任意的连续函数[16]。本论文选择3层BPNN,结构为k-m-1,m为隐含层节点数。为了使网络训练时不发生“过拟合”现象,设计合理BPNN模型的过程是一个不断调整参数对比结果的过程。确定BPNN结构后,就可以对该网络进行训练。训练函数采用Levenberg-Marquardt函数,隐含层神经元传递函数为S型正切函数tansig,输出层神经元函数为纯线性函数purelin。调用格式:net=newff(Y,T,[m,1],{‘tansig’,‘purelin’},‘train-lm’);Y为神经网络的输入矩阵向量(PCA降维后的矩阵向量),T为神经网络的输出矩阵向量。Matlab自带4种主要的函数来设计RBFNN:newrbe,newrb,newgrnn,newpnn。本文用相同的训练样本集和测试样本集创建和测试了这4种网络,其中,用newgrnn创建的网络识别率最高,因此选用广义回归神经网络newgrnn来创建RBFNN:(1)隐含层径向基神经元层数目等于输入样本数,其权值等于输入矩阵向量的转置。(2)输出层线性神经元层,以隐含层神经元的输出作为该层的输入,权值为输出矩阵向量T,无阈值向量。调用格式:net=newgrnn(Y,T,Spread);Y为神经网络的输入矩阵向量(PCA降维后的矩阵向量),T为神经网络的输出矩阵向量,Spread为径向基函数的扩展速度。

1.3太阳能电池缺陷的检测算法(1)数据映射。取每种类型缺陷图像的60%和40%分别作为BPNN和RBFNN的训练样本集和测试样本集。将样本集中每张图片变成矩阵中的一列,形成一个矩阵,采用2.1节中的方法对该矩阵进行PCA降维后的矩阵作为BPNN和RBFNN的输入。将虚焊、微裂、断指和无缺陷4种不同类型图像分别标记为1,2,3,4,作为网络期望输出T。(2)数据归一化。将输入输出矩阵向量归一化为[-1,1],利于神经网络的计算。(3)分别调用2.2节中创建的BPNN和RBFNN,设置网络参数,利用训练样本集先对网络训练,然后将训练好的网络对测试样本集进行仿真,并对仿真结果进行反归一化。(4)最后将仿真预测输出分别和图像1,2,3,4比较,差值的绝对值小于阈值0.5认为预测正确。阈值是根据网络的期望输出选择的,以能正确区分不同缺陷类型为宜。识别率定义为正确识别的数量和样本数的比值。

2实验内容与结果分析

为了验证本文方法的有效性,我们通过CCD图像采集系统采集了1000张太阳能电池板EL图片,包括250张虚焊样本、250张微裂样本、250张断指样本、250张无缺陷样本,大小为125bits×125bits。我们利用图片组成的样本数据集进行了大量的实验,将每种类型缺陷图像的60%和40%分别作为BPNN和RBFNN的训练样本集和测试样本集。算法测试硬件平台为Inteli5750、主频2.66GHz的CPU,4G内存的PC机,编译环境为Mat-labR2012b。由于样本图像数据较大,需采用2.1节中的PCA算法进行降维处理。对样本图像集降维后,得到神经网络的输入矩阵。但是,随着样本数的增加,占有主要信息的主成分维数也在增加。因此,分别采用占有主要信息60%~90%的图像作为BPNN的输入,对应的降维后的主成分维数k为BPNN输入层节点数。由于BPNN的结果每次都不同,所以运行50次,保存识别率最高的网络。图3是在不同样本集数下的PCA-BPNN的最高识别率。其中,样本数n=1000时的PCA-BPNN识别率如表1所示。同时网络参数设置也列在表1中。隐含层中的最佳节点数是采用经验公式所得[17]。从图3和表1中可以看出,当维数降至20维(占主要信息70%)、总样本数为1000(测试样本400)时,4种类型总的最高识别率为93.5%。在相同的训练样本集和测试样本集上,采用与BPNN同样的输入和输出,在不同样本集数下,PCA-RBFNN的最高识别率如图4所示。其中,样本数n=1000时的PCA-RBFNN识别率如表2所示。参数Spread的设置也列在表2中,首先设定Spread为1,然后以10倍的间隔速度递减。从图4和表2中可以看出,样本数为1000(测试样本400)时,PCA维数降到15(占主要信息65%),总的最高识别率为96.25%。两种网络的测试样本集最高识别率对比分别如图5和表3所示。图5(a)、(b)分别为采用PCA-BPNN与PCA-RBFNN方法时测试样本集中的4种缺陷样本图像的期望值与预测值。表3列出了两种方法的具体识别结果。从表3可以看出,两种方法对虚焊缺陷识别率均较高,分别为99%和100%;微裂缺陷识别率较低,分别为89%和92%。这是因为虚焊缺陷面积较大,颜色较深具有显著特点;而微裂缺陷面积较小,与背景对比不强烈,导致错误分类。采用本文提出的BPNN和RBFNN方法处理一幅750×750大小的图像大约分别需要1.8s和0.1s,PCA降维的时间大约为0.02s。将上述两种方法与FCM[18]及ICA[3]方法进行比较,结果如表4所示。可以看出,RBFNN方法具有较高的识别率和较短的计算时间,更适合于在线检测。

3结论

神经网络论文范文第2篇

1.1BP神经网络简介神经网络由大量简单的单元构成的非线性系统,具有非线性映射能力,不需要精确的数学模型,擅长从输入输出数据中学习有用知识[7]。神经元是神经网络基本单元。神经元模型如图1所示。由连接权、加法器和非线性激活函数这3种元素组成。1986年,Rumelhart及其研究小组在Nature杂志上发表误差反向传播(errorback-propagation)算法[8],并将该算法用于神经网络的研究,使之成为迄今为止最著名的多层神经网络学习算法———BP算法[9]。由该算法训练的网络,称为BP神经网络。BP神经网络是一种正向的、各层相互连接的网络。输入信号首先经过输入层传递给各隐含层节点,经过激发函数,将隐含层节点的输出传递到输出节点,最后经过再经过激发函数后才给出输出结果,若输出层的输出和期望输出之间的误差达不到要求,则转入反方向传播,将误差信号沿原来的连接通路返回,通过修个神经网络各层的权值,使过程的输出和神经网络的输出之间的误差信号达到期望值为止[10]。

1.2电池SOC的定义动力电池的剩余电量,是指电池在当前时刻,达到放电截止电压前可以使用的电量。目前,国内外普遍采用荷电状态来表征电池的剩余容量[11]。电池的荷电状态(SOC)是电池的剩余电量与电池的额定电量的比值。

1.3影响电池SOC的因素动力电池是一个非线性系统,其中电池的荷电状态受到很多种因素的影响,主要包括电池的充/放电倍率、自放电、环境温度以及电池的工作状态等因素。(1)电池的充/放电倍率电池的放电电流的大小,会影响电池的容量。在其他条件相同的情况下,电池的放电容量会随着放电倍率的增加而降低[12]。(2)自放电自放电又称荷电保持能力,指在一定的条件下,当电池处于开路状态时,电池对电量的储存能力。电池在自放电的作用下,SOC值会随着存储时间的增加而减小。(3)温度首先,锂离子电池正常工作的温度有一定的要求。动力电池的使用环境温度发生变化时,电池的可用容量也会随之发生变化。在温度较低时,电池活性较低,电池可用容量降低;当温度升高时,电池活性增强,可用容量也随之增多。因此,在预估电池的荷电状态时,需要考虑到电池的温度的影响。

2神经网络SOC估计器设计

2.1实验数据的获取本研究的实验数据是在ADVISOR2002汽车仿真软件上仿真得到的。ADVISOR(AdvancedVehicleSim-ulator,高级车辆仿真器)是由美国可再生能源实验室,在Matlab/Simulink软件环境下开发的高级车辆仿真软件[13]。该软件的界面友好、源代码完全开放,目前已经在世界范围内广泛使用。ADVISOR采用了前向、后向相结合的混合仿真方法。后向仿真方法是在假设车辆能满足道路循环的请求行驶轨迹(包括汽车行驶速度、道路坡度和汽车动态质量)的前提下,计算汽车中各个部件性能的仿真方法,前向仿真是根据驾驶员行为调节部件,使得车辆各部件跟随路面循环工况[14]。本研究在ADVISOR软件搭建了某国产电动汽车的仿真平台。整车的主要技术参数如表1所示[15-16]。模拟行驶程序使用的测试路程是ECE工况、UDDS工况和HWFET工况混合行驶工况,其速度与时间关系曲线如图2所示。ECE工况、UDDS工况和HWFET工况均被广泛应用于电动汽车性能测试。其中ECE工况为欧洲经济委员会汽车法规规定的汽车测试循环工况。ECE工况是用来测试车辆在城市低速道路下车辆的循环工况。其循环时间为195s,车辆行驶的路程为0.99km,最高车速为50km/h。UDDS工况是美国环境保护署制订的城市道路循环工况,用来测试车辆在城市道路下行驶的各种性能的循环工况。其循环时间为1367s,行驶路程为11.99km,最高车速为91.25km/h。HW-FET工况为美国环境保护署制订的汽车在高速公路上的循环工况,用来测试汽车在高速道路上车辆行驶的循环工况,其循环时间为767s,行驶路程为1.51km,最高车速为96.4km/h。在搭建的仿真平台上,本研究进行了仿真,其中电动汽车使用的电池为锂电池。虚拟电动汽车共行驶了2329s,行驶的距离为14.49km。对电动汽车的电池的充放电电流、电池温度和电池的SOC进行采集,得到结果如图3~5所示。

2.2数据预处理根据前文的分析,本研究的神经网络模型训练数据选择如下。本研究选择动力电池的充放电电流和电池的温度作为动力电池神经网络的输入,电池的SOC作为神经网络的输出。在对神经网络训练之前,对训练数据进行归一化操作。归一化操作可以避免各个因子之间的量级差异,加快BP神经网络训练的收敛,减少计算难度。对数据进行如下操作。

2.3动力电池SOC神经网络的训练SOC估计是根据动力电池的电流、温度的数值得到电池的SOC数值。使用神经网络设计估计器的目的是为了能够逼近函数。本研究使用了BP神经网络模型来逼近动力电池的电流、温度和SOC之间的关系,其中BP神经网络的隐含层选择tansig函数。学习算法使用基于数值最优化理论的Levenberg-Marquardt算法作为神经网络的学习算法。

3实验验证及结果分析

为了验证模型的有效性,本研究采用了另外3种工况混合的行驶工况的实验数据作为测试样本数据来验证本研究得到的神经网络模型。这3种工况分别是:普锐斯工况(Prius工况,该种工况用来测试丰田普锐斯混合动力汽车的行驶工况),CYC_Nuremberg_R36工况(该种工况用来测试德国纽伦堡市36路公共汽车线路工况)和CYC_US06工况(该种工况用来考察测试车辆在高速情况下的行驶状况)。以上3种工况基本上能够模拟出汽车在城市中行驶的加速、减速、低速和高速行驶的各种工况,测试混合工况如图6所示。本研究对得到的测试数据同样进行归一化处理。模型的输入为电池的电流和温度,模型的输出为SOC值。最后,得到的电池SOC的实际值和经过神经网络得到的SOC估计值如图7所示。通过求神经网络模型的输出值和真实值之间的误差值,来评价本研究的神经网络模型的精度。其计算公式如下式所示。得到的神经网模型的估计值与动力电池SOC的真实值之间的误差如图8所示。通过图8可以看出,神经网络估计器的估计值与电池SOC的真实值之间绝对误差的最大值为4%左右,符合动力电池对SOC预测的精度要求。

4结束语

神经网络论文范文第3篇

1.1概率性神经网络(PNN)

地震属性和测井数据的关系,并不一定是线性的,利用概率性神经网络的方法弥补井和地震间的非线性关系。概率性神经网络(PNN)类似于多维属性空间上的克里金,采用了局部化的作用函数,具有最佳逼近特性,且没有局部极小值。每个输出点把新点处的新属性组与已知的培训例子中的属性进行比较来确定的,得到的预测值是培训目标值的加权组合。概率神经网络方法具有高度的容错性,即使某个井旁道地震参数或某个网络连接有缺陷,也可以通过联想得到全部或大部分信息。因此,用概率神经网络建立地震属性和测井特征属性之间的映射关系可靠性高。概率神经网络方法还具有动态适应性,当地质岩性类别变化或地震参数修改时,网络可自动适应新的变量,调整权系数,直到收敛。对于受岩性控制的储层,概率神经网络是描述其地震属性参数与岩性参数关系的有效方法。概率神经网络是由多测井和多地震属性参数组成的网络。首先,将由测井曲线和井旁地震道提取的特征参数按照地质岩性参数分成若干类;然后,通过非线性数学模型的神经网络学习系统,由输入矢量产生输出矢量,并把这个输出矢量与目标矢量进行平方意义下的误差对比;再以共轭迭代梯度下降法作权的调整,以减少输出矢量与目标矢量的差异,直到两者没有差异训练才结束。对于给定的培训数据,PNN程序假设测井值和每一输出端的新测井值为线性组合,新数据样点值用属性值X表示可写。这里σ是PNN使用的高斯权重函数的关键参数,来控制高斯函数的宽度。式(2)和式(3)是概率神经网络预测的基本原理,训练神经网络的过程实际上就是求解最优平滑因子的过程。

1.2交互验证增加属性类似于多项式拟合增加高阶项,增加多项式高阶将会使预测误差总是变小,但属性的个数绝不是越多越好。随着属性个数的增多,对预测的结果的影响越来越小,会明显削弱未参与神经网络训练的那些点的预测能力,甚至造成预测误差反而增大,这种现象称为过度匹配。而且参与运算的属性过多,也会影响到运算速度,因此通过计算验证误差来确定最佳的属性个数,防止过度匹配,该过程就称为交叉验证。通过蕴藏井误差分析的方法,验证出现拟合过度的情况。求取递归系数时,选取一口井作为验证井,不参与运算。利用拟合出的关系,得到验证井的误差值。以此类推,得到每一口井的误差值,以参与运算井的平均误差作为参考标准,来检验属性组合个数是否出现拟合过度的情况。

2应用实例分析

研究区内油气富集区主要为岩性控制,目的层段厚度70m左右,地震剖面上大约50ms,含油砂体主要发育在wellA,wellC附近,向周围变化较快。针对目标层T41-T43之间进行井曲线交汇和岩性统计。wellA,wellC主要是含油砂岩,wellB、D、F主要是泥质砂岩、煤层,岩性差别很大。但从速度、密度曲线交汇图版(图1)来看,曲线交汇统计重叠较大,很难区分含油砂岩和泥质砂岩。wellA、wellB对应层位岩性明显不同,在地震剖面也体现同样的反射特征。因此基于测井和地震模型为基础的常规叠后波阻抗反演很难准确识别这套含油砂岩。而更能反映岩性特征的GR曲线,则对这套砂体较为敏感,明显地区分出了这套含油砂岩(如图3所示)。因此我们采用本文介绍的神经网络技术,在常规波阻抗反演的基础上,预测GR曲线特征体。经过分析,把GR值65~75区间岩性赋值为含油砂岩,从而把这套储层有效的区分出来,在此基础上进一步计算砂岩厚度(图4)。

3结论

神经网络论文范文第4篇

由于数据的获取难度较大,因此本文借用了相关文章的数据[4],选取了湖南省十一个省市的数据作为研究的样本,为了确保输入数据(包括训练以及将来要预测的数据)在比较接近的范围里,我们需要对数据进行归一化处理。本文的数据主要包括输入数据和期望输出数据,输入数据主要是湖南省十一个市的电子政务指标数据,包括16个输入维度,输出的是对电子政务系统的评价结果,主要包括:好、较好、一般、较差、差五个结果。利用下面的线性函数转换方法完成数据的归一化。公式中的P为归一化处理后的数据,P1为原始数据,P1min为原始数据中的最小值,P1max为原始数据中的最大值。通常情况下,用于测试的输入数据所对应的输出数据不是量化数据,比如本文中所提到的好、较好、一般、较差、差五个结果。因此本文的输出数据主要使用的是专家评价得出的分数,来对电子政务绩效做出评价,分数评价结果的对应关系为:1-3为差,3-5为较差,5-7为一般,7-9为较好,9以上为好。经过归一化处理过的指标数据和通过专家评价得出的评价结果如表2所示。

2输入层、输出层及隐层节点的设计

由于一个三层的前向网络具有以任意精度逼近任意一个非线性函数的能力,因此,只需构造一个输入层、一个隐层和一个输出层的3层神经网络。本文中的电子政务绩效评价指标体系共包括成本效益、服务对象、内部运营及学习与发展四个指标维度,然后又将其细分成16项三级指标,也就是说神经网络输入层的维度为16,即输入层神经元个数Pn=16。输出层输出的结果是我们对电子政务系统的评价,而我们把评价结果好、较好、一般、较差、差作为网络的唯一输出,因此,输出层神经元个数为r=1。1988年Cybenko[11]大量的研究表明在三层神经网络中一个隐藏层就可以实现任意分类的问题,以任何精度来实现任意非线性的输入和输出的映射。本文将隐藏层设置为一层。隐藏层节点的选择也是一个复杂的问题,如果隐层节点数比较少的话,则有可能导致网络训练者性能很差;如果选择较多的隐层节点数,虽然能够降低系统误差,但是会使网络训练的时间增加,而且也极易使训练陷入局部极小点而得不到最优点,最终会导致训练出现“过拟合”的现象。其中n为输入层节点数,m为输出层节点数,a为1~10之间的常数。

3基于BP神经网络的电子政务绩效评价模型的设计

利用BP神经网络对电子政务绩效进行评价的主要步骤有:第一步:根据电子政务发展过程中的相关影响因素,选取合适的电子政务绩效评价的指标数据,利用相关的算法对指标数据进行标准化处理[5],将处理后的指标数据x1,x2,x3,⋯,xn作为输入BP神经网络的输入值。第二步:在输入层输入数据以后,数据会在神经网络中正向传播,数据在隐藏层进行一层一层的处理,然后会把处理后的数据传向输出层,输出层得到的数据就是实际的输出值Y。第三步:当输出层得到实际的输出值以后,会和期望值进行比较,如果输出值和期望值不相等,那么会根据相关的公式计算出误差,然后把误差信号按照原来的路径进行反向的传播,通过不断的循环的传播来调整隐藏层神经元的权重,从而使误差越来越小。第四步:不断的重复前面的第二步和第三步,一直到误差可以小到某个阈值,然后停止训练和学习,只有选择的样本足够多时,神经网络的训练才更精确,输入的样本数据不同,得到的输出向量也会不同,当所有的数据样本的数据值和期望值误差最小的时候,综合评价结果更为接近,神经网络的权重值Wij就是BP神经网络通过训练和自适应的学习得到的一个内部的表示。对选取的样本进行训练以后,我们就可以利用BP神经网络的训练模型对电子政务绩效进行评价,而且可以对大规模的电子政务进行绩效评价,因为神经网络具有一定鲁棒性[6],那么会导致出现主观综合评价值在一定的程度会与实际值存在少量偏差,但是这个偏差不会影响评价结果。

4应用粒子群算法优化BP神经网络模型

1995年两位美国学者对鸟群的群体迁徙和觅食的过程进行了模拟,从而提出了一种智能的优化算法-粒子群优化算法[7](ParticleSwarmOptimization,PSO),随着近年来粒子群算法的不断应用,已经逐渐成为一种新的优化算法。粒子相继两次位置的改变取决于粒子当前位置相对于其历史最佳位置和群体历史最佳位置的变化。因此,若把网络的权值看作是PSO算法中粒子的位置,则在网络训练过程中,相继两次权值的改变可视作粒子的位置的改变。因而类比公式3,网络的权值改变量计算公式。

5实例分析

神经网络论文范文第5篇

1.1GPS台站数据GPS时间序列由中国地壳运动观测网络提供[10],这些GPS站在解算过程中扣除了固体潮、海潮、极潮的影响.本文选取的是华北平原区域内BJFS、BJSH、JIXN、TAIN、ZHNZ台站的数据,为了得到更理想的GPS时间序列数据,本文对这72个月的GPS数据进行预处理工作,包括:线性拟合去除趋势项、剔除噪声数据以及小波分解保留长周期信号[11].

1.2GRACE数据本文采用的GRACE重力卫星数据是由美国德克萨斯大学空间研究中心提供的高精度Level-2RL05版本的GRACE重力场前60阶球谐系数(2005年1月~2010年12月)[12].在此基础上,根据Blewitt[13,14]、Wahr[15]的结果推导由GRACE时变重力资料解算的陆地水储量,如公式(1)所示。

1.3CPC水文模型数据研究表明,地表水储量可以忽略[7],所以研究区陆地水储量变化可以用式(2)表示。示土壤水分引起的陆地水储量变化,来自CPC水文模型.通过式(2)可获得地下水储量的变化值.以BJFS台站为例,如图1所示,绿色线表示GRACE解算的陆地水储量,红色线表示CPC水文模型解算的土壤水储量,蓝色线为地下水储量.由于GRACE解算的陆地水储量在解算过程中扣除了背景场的影响,因此本文对72个月的降水量、地下水埋深以及GPS测站的地表形变数据做同样的处理.

2研究方法

2.1人工神经网络算法原理BP神经网络是一种多层前馈神经网络,该网络的主要特点是信号前向传递,误差反向传递.在前向传递过程中,输入信号从输入层经隐含层逐层处理,直至输出层.每一层的神经元状态只影响到下一层神经元状态.若输出层不能满足期望的输出要求,则转入反向传播,根据预测误差调整网络权值和阈值,从而使得BP神经网络预测输出不断逼近期望输出[16].其拓扑结构如图2所示.X1,X2,…,Xn是BP神经网络的输入值,Y1,Y2,…,Ym是BP神经网络的预测值,ωij和ωjk为BP神经网络权值.

2.2基于BP神经网络的地表垂直负荷形变量模拟

2.2.1指标选取地表负荷形变是由地表流体质量(包括大气、陆地水等)重新分布引起的不同尺度变化.因此将GRACE解算的水储量作为一个输入因子.此外,分析华北平原地表负荷形变的成因,认为地下水超采对该区的地表负荷形变有一定影响.为此将地下水埋深作为BP神经网络模型的一个输入因子.降水量与地表负荷形变量间存在一定关系,一方面降水的增多会相对减少对地下水的开采,另一方面在降水过程中浅层黏性土吸水后表现出一定的膨胀性,因此将历年的降水量也作为一个输入因素[17].为了探求不同水储量作为输入因子时模型的模拟精度,本文结合来自CPC水文模型的土壤水储量,将解算出的地下水储量作为另一个输入因子.

2.2.2样本训练与网络设置为消除网络输入、输出变量的量级、量纲不同对网络识别精度的影响,对各个变量进行归一化处理。上式中:P为原始输入数据,Pmin,Pmax分别为原始数据的最小值和最大值,Pn为归一化后的数据.隐含层采用正切Sigmoid函数,输出层采用Purelin函数,训练函数采用贝叶斯正则化算法.网络的主要参数训练目标goal=0.001,学习率为0.05,性能函数采用msg均方误差函数.

3结果与讨论

3.1模型精度验证

3.1.1样本训练精度运行建立的人工神经网络模型,训练21次达到训练目标.R2平均值为0.892,说明模型训练精度较高.如图3所示为将陆地水储量作为输入因子训练网络后的5个台站模拟结果.图中蓝色线为GPS台站的实际观测形变量,红色虚线为用人工神经网络模拟出来的型变量.

3.1.2模型模拟精度由于地表垂直负荷形变实际观测结果与拟合结果均为等间隔的月尺度数据且没有明显规律,因此采取后验差检验法对模型进行精度分析。采用后验差检验法对结果进行精度分析,检验结果如表2所示,5个台站后验差比值C<0.5,小误差概率P>0.80,R2平均值为0.806,依据预测等级表,网络模型精度较高.

3.2不同水储量输入对精度的影响将不同水储量输出的15组模拟结果进行后验差检验,结果如表3、图4(以BJSH为例)所示,当以陆地水储量(TWS)作为输入时,5个台站的后验差比值C<0.5,小误差概率P>0.80,R2为0.901,相关性较好,模型模拟精度较高.当以地下水储量(GWS)和土壤水储量(SWS)作为输入时,均方差C>0.65,小误差概率减小,R2为0.555和0.290,模拟精度属于勉强.说明在利用人工神经网络模拟地表负荷形变量时,陆地水储量作为模型输入因子时模型模拟效果最好,地下水储量对地表负荷形变的影响比土壤水储量大.

4结论

神经网络论文范文第6篇

1.1混合神经网络的结构本文提出的混合神经网络是在CC神经网络的基础上,在隐含层的生成中增加了乘算子的部分以提高神经网络非线性辨识能力。乘算子和加算子结构上的自增长基本相互独立,既保留了原CC神经网络的优点,同时也使得乘算子的特点得到发挥。混合神经网络的结构如图3所示,网络的隐含层由两种不同类型的算子(乘算子和加算子)共同构成。这种混合隐含层根据构成的算子类型分为加法部分和乘法部分。通过相关性s来确定其中一个隐含层部分增加节点,加法部分采用级联结构与原CC神经网络相同,乘法部分采用单层结构避免其阶数过高,最后两个隐含层的输出同时作为输出节点的输入进行输出。

1.2引导型粒子群算法针对混合隐含层的结构、权值和阈值的求取,本文提出了一种新的引导型粒子群算法(GQPSOI)。GQPSOI通过控制粒子i和j之间的距离来保证粒子不会收敛得太快从而陷入局部极小值,同时根据各粒子p(i,:)和p(j,:)之间的距离D(i,j)以及粒子间平均距离D来计算淘汰度Ew决定淘汰粒子并对其进行量子化更新。

1.3混合神经网络算法流程混合神经网络的自增长过程如图4所示。网络增长的具体步骤如下。(1)网络结构初始化。网络中只有输入层和输出层,无隐含层,如图4(a)所示。(2)使用GQPSOI算法训练输出权值。(3)对网络性能进行判断,如满足要求,则算法结束,网络停止增长,如图4(d)所示,否则转到下一步。(4)建立隐含层节点候选池(内含一个乘算子和一个加算子),分别将候选隐含层节点代入网络结构并使用GQPSOI算法以最大相关性原理训练两个候选节点,分别计算两个候选节点与现有残差Ep,o的相关性s。(5)选择相关性s最大的候选节点,作为新的隐节点加入网络结构,如图4(b)、(c)所示,并固定新隐节点的输入权值。转移到步骤(2),对整个网络的输出权值进行调整。

2混合神经网络网络性能测试

2.1GQPSOI算法性能测试首先应用几个经典函数[9]对GQPSOI算法的性能进行了评价,并将实验结果与几种常见的算法进行了对比。这些函数包括:F1(Sphere函数)、F2(Rosenbrock函数)、F3(Rastrigin函数)、F4(Griewank函数)、F5(Ackley函数),评价函数的维数为10。经过30次独立运行实验,每次的函数评价次数(FEs)[12]为100000。表1给出了GQPSOI算法与离子群算法(PSO),遗传算法(GA)以及差分进化法(DE)在30次独立运行评价试验中得到最优值的平均值和标准差。从表1中可以看出,在F2的实验中GQPSOI算法在30次独立运行中的平均值为7.746×10−12,这一结果明显优于PSO算法的29.55和GA算法的97.19,略优于DE的2.541×10−11。从F1、F3、F4、F5的实验结果也都可以看出GQPSOI算法明显优于其他算法。实验证明了GQPSOI算法的有效性和适用性,能够应用于神经网络的参数和结构调整。

2.2燃料电池的建模实验

2.2.1基于燃料电池输出电压的模型质子交换膜燃料电池[13-15]作为一种高效的清洁能源,在过去的几十年里取得了巨大的进展。在正常操作条件下,一片单电池可以输出大约0.5~0.9V电压。为了应用于实际能源供应,有可能需要将多片单电池串联在一起。具有级联结构的质子交换膜燃料电池实验装置如图5所示。从图5可以看出,电池引出电流I,电池温度T,H2和O2压力PH2和PO2会影响电池电压。将混合神经网络用于质子交换膜燃料电池的软测量建模,选用电池引出电流I,电池温度T,H2和O2压力PH2和PO2会影响电池电压的变量作为输入变量。将56片单电池的串联输出电压作为其输出,模型的目标函数取实际输出值与模型输出值得均方根误差(使其最小)。混合神经网络中加法部分以及输出层的神经元传递函数采用S型函数,GQPSOI算法中设置种群数30,最大迭代步长为1000,引导粒子起作用的概率设置为2%。图6为5kW质子交换膜燃料电池堆的实验装置。该实验系统采用增湿器与电池堆分体设置,参数检测采用传感器-直读式仪表方式,气体和水的流量测量采用转子流量计,电堆采用电阻负载,可直接测量电堆的输出电流、电压或功率。电池堆参数见表2。

2.2.2结果与分析实验条件如表3所示。取燃料电池装置输出的前100个值作为训练样本,后100个值作为测试样本。分别用CC神经网络,CC-GQPSOI和混合神经网络进行训练,当训练目标函数小于0.1或最大隐含层节点数达到30时网络停止增长,训练结束。表4给出了其最大相对误差和均方根误差的对比。图7显示了最终训练预测数据与输出数据之间的对比。从表4可以看出CC-GQPSOI和混合神经网络分别在隐含层节点数为4和6时达到训练要求,相较于CC神经网络的30个隐含层节点具有较小的网络结构。同时CC-GQPSOI和混合神经网络的均方根误差(3.0723×10−2和3.8606×10−2)也相较于CC神经网络的均方根误差(1.0354)具有更高的精度。从图8和图9的泛化结果来看,混合神经网络的预测误差保持在0.7以内,相对误差(绝对误差与被测量真值之比)保持在1.25%以内。CC-GQPSOI的误差在1以内。相对误差保持在3%以内。从实验结果可以看出,混合神经网络可以精确地预测出燃料电池装置的输出,反映了实际工况,具有良好的应用前景。

3结论

神经网络论文范文第7篇

房地产价格是一个复杂的经济范畴,房地产价格与其影响因素之间存在高度的复杂性和非线性。房地产价格一般是指市场价格,房地产市场价格是在其交易时间内由众多因素综合作用的结果。其主要分为3大因素:一般因素、区域因素和个别因素。其中,一般因素在总体上影响某地区、某类房地产的价格水平,而个别因素和区域因素仅直接影响到某一具体房地产的价格。区域因素是指房地产所在地区的自然条件与社会、经济、行政等因素相结合所形成的地区特性对该区房地产价格水平的影响作用。个别因素是指构成房地产本身使用功能、质量优劣的因素。房地产评估中常用的方法有市场比较法、收益法、成本法,本文采用最常用的市场比较法。市场比较法是根据经济学中的替换原理,选择近期发生交易的实例,经过差别修正后,测算被评估房屋价格的方法。评估人员通过市场调查,选择几个同一供需圈、房屋用途一致、类型相似的交易案例作为参照物,然后经过评估人员实地查勘,对交易情况、交易日期、区域因素和个别因素等4项因素分别进行比较和修正,得出被评估对象最可能实现的合理价格[3]。

2遗传算法优化神经网络的理论基础

2.1BP神经网络原理

BP神经网络是一种按误差逆传播算法训练的多层前馈网络,网络可分为输入层、隐含层和输出层,其中输入和输出都只有一层,隐藏层可有一层或多层,各层次之间结点全部互相连接,同层的网络结点之间没有连接。BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。每个结点表示一个神经元,传递函数通常采用Sigmoid函数,BP网络的训练其实是对网络输出结果与期望结果之间差值求最小值,BP网络的训练过程是采用梯度下降法来调整各个神经元之间的权值和阈值,直到误差函数值E达到最小。

2.2遗传算法优化原理

传统的BP网络训练需较长时间,学习性能不佳,采用遗传算法优化BP网络可改进神经网络的性能。遗传算法是借鉴生物界的适者生存,优胜劣汰遗传机制进化规律演化的随机化搜索方法。其主要特点是直接对结构对象进行操作,不需求导和限定函数的连续性;具有内在的隐并行性和出色的全局寻优能力。将遗传算法应用于神经网络可以指导权重优化和拓扑选择[5]。遗传算法优化BP神经网络初始权值步骤如下:①初始化种群,一个染色体对应一组网络权值,设定染色体种群数量为N,遗传代数为gen,交叉概率为Pc,突变概率为Pm。②如果达到最大遗传代数gen,转至步骤⑧.③计算每个染色体的适应性,染色体i的适应值fi等于对应的网络误差Ei的倒数。④采用赌方法选择群体中的一对染色体,以交叉概率Pc进行交叉操作,以Pm的概率对交叉后的染色体进行突变操作。⑤将后代染色体放入新种群中。⑥重复步骤④和⑤,直到新染色体种群的大小为N为止。⑦用新染色体种群取代双亲染色体种群,转至步骤②。⑧将适应性最高的染色体解码得到相应的网络初始权值。在遗传算法全局寻优的基础上运用BP算法进行局部细致搜索,当达到要求的收敛精度时结束网络训练。

2.3遗传神经网络在房地产评估中应用的可行性分析

各种影响因素对房地产价格的影响方向、影响程度各有不同,它们之间是一种无法用具体的数学模型来表达的十分复杂的非线性关系。因此如何确定主要影响因素以及因素评估权重就成为房地产评估的一个难题。神经网络具有极强的大规模并行处理能力和自组织、自适应、自学习的能力,这些特点使神经网络特别适用于处理需要同时考虑多个因素且条件模糊的信息处理问题。神经网络以影响房地产价格的多种因素量化值作为网络的输入数据x=(x1,x2,…,xn),对应的房地产价格作为输出数据y,利用足够的交易案例即训练样本对神经网络模型进行训练[6]。一旦网络训练成功,通过将所获取的数据输入到已经训练完成的网络,就可得到相应的房地产评估价格,其可以作为实际的房地产交易价格的参考。因此神经网络有能力发现房地产价格与其影响因素之间的客观规律,并且能够构建一个数学模型来表示这种映射关系。而遗传算法优化神经网络是一种有效的神经网络优化方法,能够提高神经网络的收敛速度和预测精度。

3实证研究

3.1样本数据的选择

根据笔者在房地产估价工作中搜集的南昌市2013年度各类型房地产交易的详细资料(见表2),选取其中90组完整样本数据作为遗传神经网络训练样本,10组完整数据作为测试检验样本。房地产价格影响因素的评估指标体系应具有概括性和动态性,能够全面、客观地反映影响房地产价格的主要因素以及导致个体房地产价格差异的主要因素。由于100组住宅交易数据出自同一城市和同一年度,表1所述的房地产评估指标体系中的一般因素对100套住宅交易的价格影响大体相当,因此其无需列入评估指标。本文在全面参考房地产评估研究成果和神经网络模型的实际性能的基础之上,选定了一种房地产价格影响因素的评估指标体系,在区域因素和个别因素中选取14个指标体系成员:地段、交通条件、配套设施、区域环境、建筑结构、工程质量、户型、楼层、朝向、装修情况、新旧程度、房产产权、建筑面积、租金水平。

3.2样本数据的量化处理

在上述房地产价格影响因素评估指标体系中,部分指标是定性指标(如地段、环境、楼层),部分指标是定量指标(如租金水平)。为使系统中各指标具有可比性,应将定性指标进行量化处理,如果定性指标在一些通用的建筑物评分规则或国家标准中已有可行的量化方法,则采用已有的量化方法。如果定性指标还没有可行的量化方法,则采用五级打分制来区分其优劣。由于各影响因素指标的表现形式不同,原始数据之间存在级差问题,个别输入分量差距悬殊,不能体现各分量的同等地位。且输入过大时,网络容易进入S型函数的包河区,导致网络无法收敛。因此在网络计算之前需要对样本数据进行标准化处理,以有利于提高网络训练效率。结合样本数据的特点及量化标准与房地产价格成正比的特性,本文采用了归一化的标准化方法。

3.3BP神经网络模型构建

1)确定BP网络的层数根据通用逼近定理等神经网络理论可知,具有偏差和至少一个S型隐含层加上一个线性输出层的网络能够逼近任何有理函数。增加隐含层层数在降低误差、提高精度的同时会使网络更加复杂,从而增加网络的训练时间。因此,本文中的BP神经网3络确定选取3层网络模型,即输入层———隐含层———输出层结构,各层结点采用全相连方式。确定隐含层神经元的数目是网络构建过程中非常关键但又很难解决的问题,目前精确预测隐含层神经元的数目仍没有广泛使用的明确理论。通过一些学者对此给出的经验性的公式,进行误差实验,本文确定隐含层节点数为8个。

3.4遗传算法优化

BP网络BP神经网络隐含层的传递函数采用正切Sigmoid函数tansig(),输出层的传递函数采用线性函数purelin(),而网络训练函数采用traingdm()。设定遗传算法优化神经网络初始权值的种群数量N为40,遗传代数gen为900,交叉概率Pc的值取0.9,突变概率Pm的值取0.1。利用MATLABR2011b对样本数据进行仿真,在GA进行了600代搜索后染色体的平均适应度趋于稳定。

3.5模型训练与结果分析

将遗传算法的优化结果设置成BP网络的初始权值和阈值,训练BP网络,设定训练的误差精度为0.001,学习率为0.05。在100组样本中选取90组作为训练样本,选取10组作为预测样本。同时,为了比较遗传算法优化前后的区别,本文采用了相同参数对标准BP神经网络进行训练和预测。训练结束后,利用训练好的3层网络,分别输入测试的10组样本数据。为了进一步说明GA-BP模型在房地产估价中的有效性,本文采用BP神经网络模型、市场比较法和GA-BP模型对房地产的估价进行了比较分析。与BP神经网络和市场比较法相比,GA-BP网络的预测平均相对误差是0.66%,标准BP网络的预测平均相对误差是2.85%,而传统市场比较法的平均相对误差是3.44%。这说明运用GA-BP模型进行房地产价格的估价具有更好的预测精度。

4结束语

神经网络论文范文第8篇

小波神经网络的网络结构和基本的BP神经网络类似,一般采用输入层、隐含层和输出层三部分。小波神经网络隐含层的转移函数采用小波函数,但小波函数的选取目前还未有统一的理论。Szu构造的Morlet小波函数。

2工程应用

2.1工程概况北京地铁6号线东延部分东部新城站至东小营站区间工程位于北京市通州区,起点为东部新城站,终点为东小营站。该区间由东部新城站向东,沿运河东大街北侧设置,沿线穿越绿地、宋郎路路口,到达东小营站,其中在宋郎路路口和运河东大街东南有多处雨水、电力和电信管线。区间穿越的地层主要有粉细砂层、局部夹粉质粘土层、中粗砂层。工程采用直径为6m的土压平衡盾构机进行施工。

2.2网络设计和数据采集小波神经网络的结构设计对预测结果影响较大,应充分考虑与施工相关的各种因素,如地表沉降的成因、工程地质条件和施工工艺参数等。盾构施工引起的地表沉降易受到以下因素影响:盾构施工区间的水文地质条件对沉降量的影响较大;当盾构机由于某种原因停止推进时,千斤顶会漏油回缩导致盾构机后退,引起盾前土体压力减小;盾尾脱空后,管片和土体之间存在空隙,由于注浆不及时,土体填充盾尾空隙引起土体局部塌落;盾壳移动引起土体的摩擦和剪切作用,在该作用力下土体产生变形;盾构改变开挖方向,往往会引起超挖现象,土体受到的扰动随之加大,引起土体局部变形破坏;开挖面的土体靠土仓压力来维持,但是在施工过程中,土仓压力和开挖面压力并不是出于完全平衡状态,这种不平衡状态容易引起土体的坍塌变形。综合考虑各相关因素,确定在对于地表沉降较为敏感的土体参数和施工参数中选取覆土厚度(H)、压缩模量(Es)、粘聚力(c)、天然密度(ρ)、内摩擦角(Ф)、千斤顶推力(F)和注浆压力(P)共7个参数作为神经网络的输入参数。小波神经网络的隐层节点数选择目前还没有成熟的理论依据,可参考BP神经网络的隐层节点选取,通过经验和实验分析以输入节点的2~4倍综合确定,最终选择为13。小波神经网络预测模型的网络结构为7-13-1。盾构施工引起的短期地表沉降对地表建筑和地下管线影响最大,且该施工区段地层变化较小,掘进速度基本不变,故可以选取盾构机通过该点50m后的稳定沉降数据。在施工单位提供的相关测量数据和地质资料中选取了51组数据,将其中36组作为训练数据,如表1所示。选择15组作为测试数据,如表2所示。

2.3地表沉降预测与分析根据选取的36组数据和已经确定的7-13-1的网络结构,分别建立小波神经网络和BP神经网络的预测模型。设定训练目标为0.001,BP神经网络的初始权值、阈值和小波神经网络的伸缩参数、平移参数分别在[-1,1]之间随机赋值。得到训练结果如图1所示。结果显示,经过1050次训练后小波神经网络的训练误差可以达到训练目标,而BP神经网络需要8500次训练才能达到训练目标。小波神经网络的训练速度相比于BP神经网络有较大优势。对于已经训练好的两种模型,使用相同的测试样本进行预测分析,得到的预测结果如图2所示,预测结果和实际测量值的误差如表3所示。可以看出,BP神经网络和小波神经网络的最小、最大误差分别为3.1%、27.3%,2.8%、14.5%,故小波神经网络的预测精度要好于BP神经网络,且预测结果均在工程允许范围内,可以依据此预测结果对现场施工控制参数的制定提供科学的指导。

3结论