BP神经网络改进算法在空分制氧质量预测中的应用

第31卷第2期通化师范学院学报Vol 31 No22010年2月JOURNAL OF TONGHUA TEACHERS COLLEGEFeb.2010BP神经网络改进算法在空分制氧质量预测中的应用魏爱民,徐铭政(通化师范学院计算机科学系,吉林通化134002)摘要:文中对传统BP神经网络的基本原理和学习过程进行分析,发现其存在收敛速度慢、容易陷入局部极小值等问题采用增加动量项和自适应学习速率两种方法对传统BP算法进行改进,并将改进的BP算渎运用于空分制氧质量预测网络檨型中,结果表明改进的BP神经网络能够改善传统模型的缺点,而且预测质量效果校好关键词:人工神经网络;BP算法;空分制氧中图分类号:TP02,1文献标志码:A文章编号:1008-794(2010)02-0045-02收稿日期:2009-04-20作者简介;魏爱民(1977-),男,吉林通化人,硕士,迺化师范学院计算机科学系实验师随着工业技术和信息技术的迅猛发展,工业领域出现多的权值不断调整的过程,也就是网络的学习训练过程,此过种制取氧气的方法,主要有水电解法、化学法及空气分离法程一直进行到网络输出的误差减少到预先设定的某一范围,等但从经济利益、生产规模和安全角度考虑,空气分离法是或进行到预先设定的学习次数为止首选的制氧方法1.2BP算法的局限性21人工神经网络是近年来在经济景气分析、经济时间序列BP算法虽然简单,对各个方面都有重要意义,但是它存预测、组合证券优化股票预测等领域得到广泛应用的一种在以下问题:①从数学上看,它是一个非线性优化的问题这人工智能技术在空分制氧工业流程中,采用改进的BP神经就不可避免地存在局部极小的问题②学习算法的收敛速度网络模型,能够更好地预测制氧结果较慢,通常需要几千步选代或更多;若加快收敛速度易产生振1传统的BP神经网络荡③网络的运行还是单向传播没有反馈,目前这种模型并1.1BP原理及学习过程山不是一个非线性动力学系统,只是一个非线性映射④网络的BP神经网络是一种无反馈前向网络它由一组相互连隐节点数目选取尚无理论上的指导而是根据经验或实验选接的运算单元组成其中每一个连接都有相对应的权值网取⑤对于新加入的样本要影响已经学完的样本不能在线学络结构如图1(以三层网络为例)所示,它包括输入层节点、习同时描述每一个样本的特征数目也要求必须相同输出层节点,一层或多层隐含层节点在BP网络中层与层2BP算法的改进之间采用全互连方式同一层的节点之间不存在相互连接针对于传统的BP神经网络存在的缺陷,尤其是收敛速0".度过慢,易陷人局部最小点,通过结合增加动量项和自适应调节学习率两种方法对BP算法进行改进,可以加速收敛过程,提高学习速度2.1增加动量项BP网络训练过程实质上就是网络层之间的权值反复修输人层隐含层正,直至网络能够有效地描述学习样本中所蕴含的非线性映输出层图1三屡BP网络结构图射关系增加动量项方法能使网络在修正其权值时,不仅考BP网络学习过程由信号的正向传播与误差的反向传播虑t时刻的梯度下降方向调整同时还考虑t时刻以前的梯两个过程组成,又称为误差逆传播算法正向传播时输入样度方向调整,从而可以减少振荡趋势提高训练速度本从输人层传入,经隐层逐层处理后,传向输出层若输出层因此在网络每次的权值和阈值改变量是加人前一次的的实际输出与期望输出不符,则转向误差的反向传播阶段改变量,a为动量项系数a∈(0,1),通常取09若用W为误差的反向传播是将输出误差以某种形式通过隐层向输入某层权矩阵X为某层输入向量,则含有动量项的权值调整层反向传播,并将误差分摊给各层的所有单元,从而获得各量为:△W()=n5X+a△W(t-1),η为学习率引人动量层单元的误差信号此误差信号即作为修正各单元权值的依项后权重的调整向着底部的平均方向变化,有利于改善网据这种信号正向传播和误差的反向传播是周而复始进行络收敛过程中的振荡从而改善收敛性22自适应学习率往的参数数值作为基础数据进行训练同时对传统的BP算学习率η是BP算法的一个重要参数对于一个特定的法和改进的BP算法的预测结果进行比较分析问题,通常是凭经验或进行多次实验来选择适当的学习率.3.1BP神经网络架构学习率控制着权值空间中权值对应每步沿梯度方向变化的以影响制取氧气的2个主要因素即压力和温度作为输大小,学习率较大权值修改量就较大学习速度较快,有时节点通过反复训练确定最终网络包括6个隐节点液氮可能发生振荡,而当学习率较小,学习速度较慢但一般比较和液氧的纯度为输出节点,这样就设计出一个BP网络模型平稳,因此在训练过程中学习率应自适应调整检查权值修3.2传统的BP算法测试正值,若其真正降低了误差函数,则说明所选的学习率小了取学习参数为学习率n=0.15,动量系数a=0.6,隐可对其再增大一个址;反之,应减小学习率层和输出层均采用 Sigmoid转换函数,结束学习的条件是训自适应学习率调整公式:练样本的误差小于15%或趋于稳定.经测试,当达到满足结如果E<0,则η(k+1)=B×η(k)(1)束学习条件时,迭代次数达到2278次否则η(k+1)=y×7(2)3.3改进的BP算法测试其中E=E(k)-E(k-1),B、y分别为大于1和小于1采用上述改进的BP算法取学习参数为学习率n的常数通常为12~1.3和0.7-0.8;n(k)为第k次学习0.1,动量系数a=0.9B=1.2,y为0.75,隐层和输出层均率,E(k)为第k次网络误差平方和由于学习率在迭代中自采用 Sigmoid转换函数结束学习的条件是训练样本的误差适应进行调整,在不同的连接权系数中采用了不同的学习小于15%或趋于稳定经测试,当达到满足结東学习条件时率,误差代价函数在不同的方向上以各自比较合理的速率向选代次数达到1154次极小点逼近34传统和改进的BP算法比较表1获取的实验数据及网络训练结果在对BP神经网络训练过程中,列举采用了35组数据作传统BP算法改进BP算法压力晶度液纸浓度(%·10)液氧浓度(%·10)为此次实验的样本数据实例,其中30组作为网络的训练样次数(Ma)(-10本,5组作为网络测试样本,训练结果仅考虑氧气纯度对传03℃)实验值计算值说差实验值计算值误差统BP算法训练结果和改进BP算法训练结果进行比较,如表0.42.008.728.868.98.728.767.21所示20.12.108.498.533.18.498.553.230.22.038.628.501.78.628.541.5对传统BP算法迭代次数和改进BP算法迭代次数进行40.32.188.598.746.68.598.715比较,如图2所示50.22.178.518.9710.28.518.878,960.52.158.588.725.98.588.705.870.62.178.618.694.78.618.725.281.02.068.778.865.48.778.814,81090.92.088.678,736.28.678.796.5100.52.178.598.63l11.62.II8.618.794.58.6l8.804.90010001500200021.82.08.598.816.98.598.613.9收敛选代次数收致迭代次数131.42.158.638.846.58.638.805.3(a)传统的BP算法(b)改进的BP算法141.52.178.798.937.58.798.885.7150.72.048.538.594.88.538.615.2160.82.208.518.628.28.518,607.2通过对两种算法测试结果的对比,证明改进后的BP172.12.148.698.87算法可以很好地加快BP神经网络收敛过程,克服了传统的182.32.108.708.856.28.708.844.9BP神经网络容易陷入局部极小值的问题191.82.138.698.845.38.698.854.8202.42.068.718.764.98.718.732.94结束语211.52.048.698.823.78.698.753.5本文针对传统BP算法收敛速度慢、容易陷人局部极小221.12.178.578.676.48.578.6858值等缺点提出了一种算法的改进,通过实践证明,改进后的231.62,208.518.BP神经网络算法具有较强的学习能力,提高了学习速度缩240.92.098.498.609.88.498.501.8251.72.198.568.673.78.568.613短了学习时间,有效地抑制了网络陷于局部极小值的发生262.02.138.628.631.68.628.651.9271.22.168.518.648.48.518.543.4281.62.128.598.717.08.598.777.2參考文献:291.22.208,498.679.18.498.577.91]王爽,张鹰,吕瑞霞,BP神经网絡的算法改及应用[刀电脑302.12.208.728.6711.38.728.731.3知识与技术,2009,(4)312.12.088.618.797.28.618.787.0[2]王静伟BP神经网络改进算法的研究[J].中国水逯,2008320.92.068.428.517.18.428.526.8(1)331.32.048.608.729.88.608.665.8341.22.088.518.628.18.518.607.7[3]张铁夫,严骏张兴,基于改进BP算法的电子设备块化故35:82.08568.727.685686567陳论断研究口,计机应用与件.209(2)3改进BP算法在空分制氧质量预测中应用[4]李全亮,基于改进的BP人工神经网络在我国税收预测中的应用[].企业经济,2008(7)采用改进的BP神经网络算法对空分制氧工业流程中氧(责任编辑:王前)气质量的制取进行预测,建立单隐层的BP网络模型使用以