訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文
時(shí)間:2024-03-29 15:53:34
導(dǎo)語:如何才能寫好一篇訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
關(guān)鍵詞:帶有局部搜索的量子粒子群算法;RBF神經(jīng)網(wǎng)絡(luò);結(jié)構(gòu)優(yōu)化;參數(shù)優(yōu)化
中圖分類號(hào):TP181文獻(xiàn)標(biāo)識(shí)碼:A
文章編號(hào):1004-373X(2010)04-157-03
RBF Neural Network Training Based on MQPSO-LQPSO
CAI Jiliang,YE Wei
(College of Science,Air Force Engineering University,Xi′ an,710051,China)
Abstract:Quantum-Behaved Particle Swarm Optimization with Generalized Local Search Operator(MQPSO -LQPSO) is a very successful algorithm of modified QPSO.This algorithm is used to find the best structure and parameters of RBF neural network.They are both determined when finishing training.Experiments on functional approach show this method is effective.
Keywords:MQPSO-LQPSO;RBF neural network;structure optimization;parameter optimization
0 引 言
徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(Radial Basis Function Neural Network,RBFNN)是一種生物背景很強(qiáng)的前向神經(jīng)網(wǎng)絡(luò),具有逼近能力強(qiáng)、學(xué)習(xí)速度快、魯棒性強(qiáng)、泛化能力高等優(yōu)點(diǎn),在圖像處理、自動(dòng)控制、預(yù)測、信號(hào)處理、模式識(shí)別等多個(gè)領(lǐng)得到了廣泛應(yīng)用。
然而RBF神經(jīng)網(wǎng)絡(luò)存在著結(jié)構(gòu)難以選取、參數(shù)的問題,許多學(xué)者對其訓(xùn)練方式進(jìn)行了改進(jìn)。與進(jìn)化算法如遺傳算法GA[1]、蟻群算法ACO[2]、粒子群算法PSO[3]、量子粒子群算法QPSO[4]等相結(jié)合是一個(gè)重要的改進(jìn)方向。然而GA、ACO算法較為復(fù)雜,PSO算法簡單但不能以概率1收斂到全局極小點(diǎn),QPSO算能以概率1收斂到全局極小點(diǎn),但搜索能力不夠好,這些使得網(wǎng)絡(luò)或陷入局部極小,或運(yùn)算時(shí)間長,一定程度上影響了網(wǎng)絡(luò)的性能。本文用簡單且收斂性更好的QPSO改進(jìn)型算法MQPSO-LQPSO來訓(xùn)練網(wǎng)絡(luò),將網(wǎng)絡(luò)的結(jié)構(gòu)也作為編碼對象,在確定網(wǎng)絡(luò)參數(shù)的同時(shí)也確定了網(wǎng)絡(luò)的結(jié)構(gòu),提高了精度。
徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是J.Moody 和C.Darken于20世紀(jì)80年代受人腦感受野的局部調(diào)節(jié)及重疊性啟發(fā)而提出的,已經(jīng)證明它能以任意精度逼近任意連續(xù)函數(shù)。徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)由輸入層、隱層和輸出層組成,其結(jié)構(gòu)如圖1 所示。輸入層只傳遞輸入信號(hào)到隱層;隱層傳遞函數(shù)由輻射狀作用的非線性基函數(shù)組成,一般用Gauss徑向基函數(shù);輸出為為線性傳遞函數(shù)。具有n個(gè)輸入,h個(gè)隱節(jié)點(diǎn),m個(gè)輸出的徑向基函數(shù)網(wǎng)絡(luò)第i個(gè)模型輸出為:
yi=ti+∑hj=1wijexp(-x-Cj2/2σ2j)(1)
圖1 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2 QPSO算法[5,6]
在量子空間中,粒子的速度和位置不能同時(shí)確定,因此Sun等人用粒子運(yùn)動(dòng)的波函數(shù)來描述粒子的狀態(tài),并求解薛定諤方程,得到粒子在空間某一位置的概率密度函數(shù),進(jìn)而得到位置的分布函數(shù),應(yīng)用Monte Carlo方法(詳見文獻(xiàn)[5,6],最后得到算法的進(jìn)化方程:
Pij(t)=φij(t)Pbestij(t)+[1-φij(t)]Gbestij(t),
φij(t)~U(0,1)(2)
Mbestij(t)=1N∑nj=1pi(t)=[1N∑nj=1pi1(t),
1N∑nj=1pi2(t),…,1N∑nj=1piD(t)](3)
xij(t+1)=Pij(t)+αMbestij(t)-xij(t)ln1uij,
if rand()>0.5
Pij(t)-αMbestij(t)-xij(t)ln1uij,
otherwise uij(t)~U(0,1)(4)
式中:N為群體的規(guī)模;D為粒子的維數(shù);P為局部吸引子;Pbest是第i個(gè)粒子的自身最優(yōu)位置參數(shù);Gbest是粒子群中所有粒子到目前為止最優(yōu)位置參數(shù);Mbest為平均最優(yōu)位置,它是所有粒子自身最優(yōu)位置的中心點(diǎn);α為控制因子,用來控制粒子的收斂速度,是算法中惟一的控制參數(shù)。一般取1~0.5隨迭代次數(shù)線性遞減時(shí),收斂效果最佳。
3 MQPSO-LQPSO的基本原理[7]
一個(gè)好的啟發(fā)式搜索算法不僅要具有在未知區(qū)間上良好的全局搜索能力和在已搜區(qū)間上精細(xì)的局部勘探能力,而且還要使二者達(dá)恰當(dāng)?shù)钠胶?。QPSO具有良好的全局收斂性,但同時(shí)還需要一種有效的局部搜索機(jī)制,以便更好地搜索全局最優(yōu)解??梢岳肣PSO具的全局收斂性,將其在一個(gè)較小的局部范圍內(nèi)全局搜索,以達(dá)到增強(qiáng)局部搜索能力?;谶@一思想,作者將較大規(guī)模的QPSO稱為MQPSO,做全局勘探,將較小規(guī)模的QPSO稱為LQPSO,做局部開發(fā),繼續(xù)搜索當(dāng)前MQPSO搜索到的以Gbest為中心的某一鄰域。LQPSO仍是一個(gè)完整的QPSO,只是其規(guī)模比MQPSO小,表現(xiàn)在搜索的范圍和粒子的個(gè)數(shù)和迭代次數(shù)上。MQPSO搜索的范圍是整個(gè)可行解的空間,而LQPSO的搜索范圍是當(dāng)前最優(yōu)解的鄰域,其鄰域表達(dá)式為:
N(Gbest,radius)=Gbest•rand(1-radius,
1+radius)(5)
式中:radius
這種改進(jìn)的算法在不增加計(jì)算次數(shù)的條件下,具有更好的搜索能力。
4 基于MQPSO-LQPSO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法
建立RBF網(wǎng)絡(luò)的關(guān)鍵在于確定RBF網(wǎng)絡(luò)隱層數(shù)據(jù)中心的個(gè)數(shù)h、數(shù)據(jù)中心的位置Cj、擴(kuò)展常數(shù)σj,以及輸出權(quán)值wij。設(shè)網(wǎng)絡(luò)訓(xùn)練集X={(Pk,yk)|k=1,2,…,N},其中,Pk為輸入,yk為目標(biāo)輸出,則神經(jīng)網(wǎng)絡(luò)的輸出均方誤差為:
mse=1m×n∑nk=1(yk^-yk)2(6)
式中:m為輸入樣本的維數(shù);yk^為Pk對應(yīng)的網(wǎng)絡(luò)輸出。由式(1)可知,它是關(guān)于h,Cj,σj和wij的函數(shù),基于MQPSO-LQPSO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練就是讓其達(dá)到最小,因此可將它作為MQPSO-LQPSO的適應(yīng)度函數(shù),而將h,Cj,σj和wij作為參數(shù)。粒子采用實(shí)數(shù)編碼,由于h表示隱層神經(jīng)元的個(gè)數(shù),是正整數(shù),可假設(shè)hmax為事先設(shè)定好的最大隱節(jié)點(diǎn)數(shù)。若hi>0(i
基于MQPSO-LQPSO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法具體描述為:
(1) 歸一化處理樣本;
(2) 隨機(jī)生成初始種群,采用上述編碼方式對各粒子的位置進(jìn)行編碼,并確定Pbest和Gbest;
(3) 重復(fù)下列步驟,直到滿足MQPSO最大迭代次數(shù)或達(dá)到函數(shù)全局極小值的終止條件:
① 把每一向量映射為網(wǎng)絡(luò)的一組神經(jīng)網(wǎng)絡(luò)參數(shù)值,并組成網(wǎng)絡(luò);
② 按照式(2)~(4)更新MQPSO中所有的粒子;
③ 輸入訓(xùn)練樣本進(jìn)行訓(xùn)練,對每一個(gè)體進(jìn)行評(píng)價(jià),計(jì)算其適應(yīng)值,并確定Pbest和Gbest;
④更新MQPSO粒子的Pbest和Gbest;
⑤按式(5)計(jì)算MQPSO的Gbest鄰域,并在Gbest的鄰域?qū)嵭蠰QPSO操作;
⑥將LQPSO搜索到的Gbest賦給MQPSO的Gbest。
(4) 輸出最佳參數(shù)值作為優(yōu)化結(jié)果,算法結(jié)束。
5 仿真實(shí)驗(yàn)
Hermit多項(xiàng)式是一種常用的神經(jīng)網(wǎng)絡(luò)逼近測試函數(shù),為:
f(x)=1.1(1-x+2x2)exp(-x2/2)
下面用MQPSO-LQPSO-RBF實(shí)現(xiàn)Hermit多項(xiàng)式逼近,并與文獻(xiàn)[4]相比較,以0.08為步長同樣在[-4,4]之間均勻采樣101個(gè)實(shí)數(shù)值作為網(wǎng)絡(luò)的訓(xùn)練輸入樣本,其相對應(yīng)的函數(shù)值作為訓(xùn)練輸出樣本以此構(gòu)成網(wǎng)絡(luò)的訓(xùn)練樣本集。同時(shí)在[-4,4]之間隨機(jī)采樣100個(gè)實(shí)數(shù)值作為網(wǎng)絡(luò)的測試輸入樣本,其相對應(yīng)的函數(shù)值作為測試輸出樣本,以此構(gòu)成網(wǎng)絡(luò)的測試樣本集。實(shí)驗(yàn)中RBF神經(jīng)網(wǎng)絡(luò)隱含層預(yù)設(shè)為8,輸入和輸出層各取一個(gè)神經(jīng)元,徑向基函數(shù)采用高斯函數(shù)。因此網(wǎng)絡(luò)中需要優(yōu)化的參數(shù)為8個(gè)高斯函數(shù)的中心,8個(gè)高斯函數(shù)的擴(kuò)展常數(shù)以及8個(gè)輸出層的連接權(quán)值和1個(gè)輸出偏移,共33個(gè)參數(shù),即QPSO算法和IMQPSO-LQPSO算法中的粒子將在33維的空間中搜索,尋求滿足最小均方誤差要求的參數(shù)向量。
采用MQPSO-LQPSO算法中MQPSO的學(xué)習(xí)算法參數(shù)α作為迭代次數(shù)的函數(shù)從數(shù)從1~0.5線性減小,粒子數(shù)均為30。MQPSO-LQPSO中LQPSO的規(guī)模為5×6,參數(shù)α保持0.5 不變??偟淖畲笥?jì)算適應(yīng)度函數(shù)次數(shù)為12 000次,收斂最小誤差為1×10-6。經(jīng)仿真知最佳隱層個(gè)數(shù)為6。仿真結(jié)果如圖2所示。比較結(jié)果如表1所示。
圖2 迭代次數(shù)為200時(shí)的仿真結(jié)果
表1 MQPSO-LQPSO-RBF和QPSO-RBF的逼近效果比較
MQPSO-LQPSO-RBFQPSO-RBF[4]
訓(xùn)練集上的均方誤差8.2×10-55.17×10-4
測試集上的均方誤差9.7×10-55.10×10-4
從圖2中仿真結(jié)果可以看出,逼近圖形和原圖形幾乎重合;從表1中比較結(jié)果可以看出,改進(jìn)算法有更小的均方誤差,可見改進(jìn)算法能很精確地實(shí)現(xiàn)函數(shù)逼近。
6 結(jié) 語
本文用性能比QPSO算法強(qiáng)的MQPSO-LQPSO算法來訓(xùn)練RBF網(wǎng)絡(luò),用這種方法改進(jìn)的RBF網(wǎng)絡(luò)不僅可以在確定網(wǎng)絡(luò)的結(jié)構(gòu)的同時(shí)確定網(wǎng)絡(luò)的參數(shù),還可以獲得更好的逼近效果,因而是有效的。但注意到若預(yù)設(shè)的隱層節(jié)點(diǎn)較多,會(huì)導(dǎo)致搜索維數(shù)增加,從而降低搜索效率,因此下一步的工作是改進(jìn)網(wǎng)絡(luò)編碼方式,用較小的維數(shù)來表示較大規(guī)模的網(wǎng)絡(luò),以增強(qiáng)算法的魯棒性。
參考文獻(xiàn)
[1]趙志剛,單曉紅.一種基于遺傳算法的RBF神經(jīng)網(wǎng)絡(luò)優(yōu)化方法[J].計(jì)算機(jī)工程,2007,33(6):221-222.
[2]滿春濤,李曉霞,張禮勇.一種基于ACO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法[J].哈爾濱理工大學(xué)學(xué)報(bào),2007,13(1):56-58.
[3]梁桂蘭,徐衛(wèi)亞,何育智,等.PSO-RBFNN模型及其在巖土工程非線性時(shí)間序列預(yù)測中的應(yīng)用[J].巖土力學(xué),2008,29(2):995-1 000.
[4]陳偉,馮斌,孫俊.基于QPSO算法的RBF神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化仿真研究[J].計(jì)算機(jī)應(yīng)用,2006,26(8):1 928-1 931.
[5]Sun J,Feng B,Xu W B.Particle Swarm Optimization with Particles Having Quantum Behavior[A].Proceedings of 2004 Congress on Evolutionary Computation[C].2004:325-331.
[6]Sun J.A Global Search Strategy of Quantum-behaved Particle Swarm Optimization[A].Proc.2004 Congress on Cybernetics and Intelligent Systems[C].2004.
[7]Wang Jiahai,Zhou Yalan.Quantum-Behaved Particle Swarm Optimization with Generalized Local Search Operator for Global Optimization[A].ICIC 2007[C].Berlin Springer-Verlag,2007:851-860.
[8]劉興華,劉憲英,胡澤.基于RBF神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識(shí)研究[J].現(xiàn)代電子技術(shù),2004,27(24):57-59.
篇2
摘要:
高軌衛(wèi)星是我國衛(wèi)星導(dǎo)航系統(tǒng)的重要組成部分。提升該類衛(wèi)星的軌道預(yù)報(bào)精度有利于用戶定位精度的提高。提出了一種改進(jìn)高軌衛(wèi)星軌道預(yù)報(bào)精度的新方法。該方法避開了精化動(dòng)力學(xué)模型的困難,嘗試從軌道預(yù)報(bào)誤差的規(guī)律中尋找突破。利用神經(jīng)網(wǎng)絡(luò)作為建立預(yù)報(bào)模型的工具,將某歷史時(shí)刻的軌道預(yù)報(bào)誤差作為訓(xùn)練樣本,利用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型補(bǔ)償當(dāng)前時(shí)刻的預(yù)報(bào)軌道以提高軌道預(yù)報(bào)精度。對影響神經(jīng)網(wǎng)絡(luò)模型補(bǔ)償效果的各因素進(jìn)行了詳細(xì)分析,制定了適應(yīng)于高軌衛(wèi)星短期、中期和長期預(yù)報(bào)的神經(jīng)網(wǎng)絡(luò)最優(yōu)模型。利用實(shí)測數(shù)據(jù)進(jìn)行了試驗(yàn)分析,結(jié)果表明:預(yù)報(bào)8,15及30d應(yīng)選擇的訓(xùn)練步長分別為10,20及25min;軌道預(yù)報(bào)8~30d時(shí),訓(xùn)練噪聲均選取0.01。神經(jīng)網(wǎng)絡(luò)模型有效地改進(jìn)了高軌衛(wèi)星的軌道預(yù)報(bào)精度,預(yù)報(bào)4~30d,軌道精度提高幅度為34.67%~82.37%不等。
關(guān)鍵詞:
神經(jīng)網(wǎng)絡(luò);軌道預(yù)報(bào);訓(xùn)練噪聲;訓(xùn)練步長;地球靜止軌道衛(wèi)星;傾斜地球同步軌道衛(wèi)星
高軌衛(wèi)星在我國的航天系統(tǒng)中應(yīng)用十分廣泛。特別是我國的衛(wèi)星導(dǎo)航系統(tǒng)BDS(Beidousystem),其主要包括GEO衛(wèi)星和IGSO衛(wèi)星。導(dǎo)航衛(wèi)星星歷的精度是定位精度的基礎(chǔ),而廣播星歷本身便是軌道預(yù)報(bào)的結(jié)果。預(yù)報(bào)精度問題是制約BDS衛(wèi)星導(dǎo)航系統(tǒng)服務(wù)性能的關(guān)鍵因素,因此有必要對導(dǎo)航系統(tǒng)中的高軌衛(wèi)星軌道預(yù)報(bào)精度展開研究[1]。改進(jìn)軌道預(yù)報(bào)精度的一種方法是建立更加精準(zhǔn)的動(dòng)力學(xué)模型[2 ̄3]。然而由于該方法需要長期精密軌道數(shù)據(jù)的支撐,周期長、難度大。改進(jìn)軌道預(yù)報(bào)精度的另一種方法可以從軌道預(yù)報(bào)誤差的規(guī)律中尋找突破[4]。神經(jīng)網(wǎng)絡(luò)作為一種新興的建模工具,特點(diǎn)在于處理高維性、非線性的問題時(shí)不需要準(zhǔn)確知道輸出輸入函數(shù)的結(jié)構(gòu)參數(shù)。只要通過訓(xùn)練來掌握它們之間的內(nèi)在關(guān)系,在輸入訓(xùn)練集以外的數(shù)據(jù)時(shí),神經(jīng)網(wǎng)絡(luò)可以獲得它們之間正確的映射關(guān)系。該方法的優(yōu)勢在于不確定性系統(tǒng)的控制和預(yù)測。目前在軌道預(yù)報(bào)中使用神經(jīng)網(wǎng)絡(luò)工具的相關(guān)研究較少,文獻(xiàn)[5]根據(jù)GPS衛(wèi)星星歷的相關(guān)周期特性,以時(shí)間系列預(yù)報(bào)作為基礎(chǔ),利用神經(jīng)網(wǎng)絡(luò)建立預(yù)報(bào)模型。在沒有任何動(dòng)力學(xué)模型的情況下得到了精度為數(shù)百米(1周)的預(yù)報(bào)結(jié)果。但是由于將衛(wèi)星位置量直接作為神經(jīng)網(wǎng)絡(luò)的輸出,神經(jīng)網(wǎng)絡(luò)算法的狀態(tài)量動(dòng)態(tài)范圍大,限制了預(yù)報(bào)精度的提高。文獻(xiàn)[6]利用GPS衛(wèi)星精密星歷已知的優(yōu)勢,將神經(jīng)網(wǎng)絡(luò)與動(dòng)力學(xué)模型相結(jié)合組成混合預(yù)報(bào)模型,改進(jìn)GPS導(dǎo)航衛(wèi)星的中長期預(yù)報(bào)。該方法可以在一定程度上改進(jìn)軌道預(yù)報(bào)精度,但不是每次改進(jìn)均能成功,存在改進(jìn)失效的情況。針對高軌衛(wèi)星的高精度軌道預(yù)報(bào)這一難題展開研究。以神經(jīng)網(wǎng)絡(luò)作為建立預(yù)報(bào)模型的工具,在動(dòng)力學(xué)模型基礎(chǔ)上建立神經(jīng)網(wǎng)絡(luò)模型,通過對歷史時(shí)刻預(yù)報(bào)誤差的學(xué)習(xí)及訓(xùn)練,掌握其變化規(guī)律,再用于補(bǔ)償和改進(jìn)當(dāng)前時(shí)刻的預(yù)報(bào)軌道,以達(dá)到提高預(yù)報(bào)精度的目的。針對神經(jīng)網(wǎng)絡(luò)訓(xùn)練及補(bǔ)償特性,分析了不同因素對神經(jīng)網(wǎng)絡(luò)模型性能的影響?;诖酥贫硕獭⒅?、長期軌道預(yù)報(bào)的最優(yōu)模型,最后利用不同類型衛(wèi)星進(jìn)行了試驗(yàn)分析。
1基于BP神經(jīng)網(wǎng)絡(luò)的軌道預(yù)報(bào)算法
BP神經(jīng)網(wǎng)絡(luò)是一種多層網(wǎng)絡(luò)的“逆推”學(xué)習(xí)算法[7 ̄9]。利用神經(jīng)網(wǎng)絡(luò)進(jìn)行軌道預(yù)報(bào)分為訓(xùn)練和補(bǔ)償兩個(gè)階段。在訓(xùn)練階段,采用拼接方法得到一條長時(shí)間的精密軌道,用于衡量動(dòng)力學(xué)模型預(yù)報(bào)誤差及神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練誤差。針對拼接處小量級(jí)的跳躍現(xiàn)象,采用Robust ̄loess數(shù)值濾波方法進(jìn)行軌道預(yù)報(bào)誤差平滑[10]。由于預(yù)報(bào)軌道和預(yù)報(bào)誤差為訓(xùn)練樣本,故需要對兩者的特性進(jìn)行分析。同時(shí)神經(jīng)網(wǎng)絡(luò)模型參數(shù)在一定程度上影響神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效果,因此有必要對影響神經(jīng)網(wǎng)絡(luò)模型的一些關(guān)鍵因素進(jìn)行分析,以確定最優(yōu)的神經(jīng)網(wǎng)絡(luò)模型。在補(bǔ)償階段,將當(dāng)前時(shí)刻的預(yù)報(bào)軌道X(T)和V(T)作為神經(jīng)網(wǎng)絡(luò)模型的輸入;將利用函數(shù)f(X,V)計(jì)算得到神經(jīng)網(wǎng)絡(luò)模型的輸出作為當(dāng)前時(shí)刻預(yù)報(bào)軌道的補(bǔ)償值ΔXNN(T),將改進(jìn)后的預(yù)報(bào)軌道X(T)和V(T)作為最終軌道輸出。在神經(jīng)網(wǎng)絡(luò)具體應(yīng)用中,為了提高網(wǎng)絡(luò)性能以完成預(yù)定任務(wù),需要認(rèn)真考慮訓(xùn)練集預(yù)處理、網(wǎng)絡(luò)結(jié)構(gòu)設(shè)定以及訓(xùn)練算法等內(nèi)容。網(wǎng)絡(luò)的性能主要表現(xiàn)在訓(xùn)練效率及泛化能力。泛化能力是指辨識(shí)訓(xùn)練樣本中所隱藏的規(guī)律并且當(dāng)被輸入樣本以外數(shù)據(jù)時(shí),網(wǎng)絡(luò)能正確地反應(yīng)這種規(guī)律的能力。關(guān)于網(wǎng)絡(luò)泛化能力的相關(guān)討論及改進(jìn)措施,已有文獻(xiàn)進(jìn)行了比較詳實(shí)的總結(jié)。這里涉及到的方法主要包括下列3個(gè)方面:一是處理訓(xùn)練樣本的方法[11],將神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本進(jìn)行歸一化處理,使其在[-1,1]變化,以提高神經(jīng)網(wǎng)絡(luò)的性能;二是訓(xùn)練步長的選?。蝗窃黾与S機(jī)噪聲[12 ̄13]。
2不同因素對神經(jīng)網(wǎng)絡(luò)模型性能的影響
分別針對預(yù)報(bào)軌道和預(yù)報(bào)誤差特征、訓(xùn)練步長的選擇、訓(xùn)練噪聲的大小對神經(jīng)網(wǎng)絡(luò)模型性能的影響進(jìn)行討論。
2.1預(yù)報(bào)軌道和預(yù)報(bào)誤差的特征分析
2.1.1中長期預(yù)報(bào)軌道和預(yù)報(bào)誤差特征將短期軌道預(yù)報(bào)弧長定位為1~13d,中期軌道預(yù)報(bào)弧長為14~27d,長期軌道預(yù)報(bào)弧長大于27d。以某初始時(shí)刻的預(yù)報(bào)誤差作為訓(xùn)練樣本訓(xùn)練得到的神經(jīng)網(wǎng)絡(luò)可以對其他初始時(shí)刻的預(yù)報(bào)軌道提供補(bǔ)償,但前提是兩個(gè)初始時(shí)刻的預(yù)報(bào)誤差數(shù)值大小及波形圖要相近。對GEO衛(wèi)星的預(yù)報(bào)誤差進(jìn)行時(shí)間序列分析,結(jié)果可以看出,預(yù)報(bào)誤差最大值呈現(xiàn)以14d為周期的變化規(guī)律;IGSO衛(wèi)星具有相同的特征。文中選取的訓(xùn)練弧長與當(dāng)前時(shí)刻的軌道預(yù)報(bào)弧長相等。對于中長期軌道預(yù)報(bào)可以采用以下方案:假設(shè)預(yù)報(bào)弧長為md(14n≤m≤14(n+1),n≥1),用當(dāng)前時(shí)刻起14(n+1)d之前那天的預(yù)報(bào)誤差和預(yù)報(bào)軌道作為訓(xùn)練樣本,訓(xùn)練弧長為md,訓(xùn)練得到神經(jīng)網(wǎng)絡(luò)模型。采用神經(jīng)網(wǎng)絡(luò)模型計(jì)算得到的補(bǔ)償誤差波形對當(dāng)前的預(yù)報(bào)誤差進(jìn)行補(bǔ)償。對于短期預(yù)報(bào),由于預(yù)報(bào)弧長小于14d,其軌道預(yù)報(bào)方案中還考慮了預(yù)報(bào)誤差波形的最佳匹配。即充分結(jié)合預(yù)報(bào)誤差和預(yù)報(bào)軌道的動(dòng)力學(xué)特性,建立了一個(gè)訓(xùn)練樣本集。根據(jù)當(dāng)前時(shí)刻的預(yù)報(bào)誤差波形變化特征在樣本集中搜索最佳訓(xùn)練樣本,實(shí)現(xiàn)兩者波形變化的最優(yōu)匹配,從而實(shí)現(xiàn)最優(yōu)的補(bǔ)償效果。在中長期預(yù)報(bào)中未采用波形匹配算法的主要原因是,需要兼顧工程應(yīng)用中的實(shí)時(shí)性,波形匹配耗時(shí)較長。
2.1.2短期預(yù)報(bào)中的波形匹配算法航天器是一個(gè)受攝動(dòng)力系統(tǒng),其初值不穩(wěn)定性使得利用不同初始軌道得到的預(yù)報(bào)軌道和預(yù)報(bào)誤差的特性均不同。這就導(dǎo)致不同初始時(shí)刻的預(yù)報(bào)誤差并無規(guī)律。為了實(shí)現(xiàn)最佳的神經(jīng)網(wǎng)絡(luò)模型補(bǔ)償效果,必須找到與當(dāng)前時(shí)刻預(yù)報(bào)誤差變化波形最為相近的歷史時(shí)刻中的一條預(yù)報(bào)軌道。采用歷史時(shí)刻的預(yù)報(bào)軌道和預(yù)報(bào)誤差作為訓(xùn)練樣本,訓(xùn)練得到神經(jīng)網(wǎng)絡(luò)模型。在實(shí)際工程應(yīng)用中,因?yàn)楫?dāng)前時(shí)刻之后的預(yù)報(bào)弧段中的精密軌道無法獲取,故不能獲得當(dāng)前時(shí)刻的預(yù)報(bào)誤差波形變化規(guī)律,所以并不能直接通過預(yù)報(bào)誤差波形比對來尋找補(bǔ)償當(dāng)前時(shí)刻預(yù)報(bào)軌道的訓(xùn)練樣本。但是基于動(dòng)力學(xué)模型外推可以得到當(dāng)前時(shí)刻的預(yù)報(bào)軌道,如果能找到預(yù)報(bào)軌道與預(yù)報(bào)誤差之間的波形變化對應(yīng)關(guān)系,就可得到當(dāng)前時(shí)刻的預(yù)報(bào)誤差波形變化規(guī)律。由于預(yù)報(bào)誤差的變化周期與軌道周期相同,對于GEO/IGSO衛(wèi)星均為1d,通過對比預(yù)報(bào)誤差波形變化最大值和最小值出現(xiàn)的時(shí)刻,搜尋得到用于補(bǔ)償當(dāng)前時(shí)刻預(yù)報(bào)誤差的訓(xùn)練樣本。由于預(yù)報(bào)軌道在數(shù)值上遠(yuǎn)遠(yuǎn)大于預(yù)報(bào)誤差,為了便于分析問題,將兩者進(jìn)行歸一化處理,即分別將兩者除以各自的最大值,這樣它們就在±1之間變化。圖2和圖3分別給出了某GEO衛(wèi)星和某IGSO衛(wèi)星在2013年第23天預(yù)報(bào)8d的軌道與相應(yīng)的預(yù)報(bào)誤差之間的對應(yīng)關(guān)系。其中,橫坐標(biāo)表示預(yù)報(bào)時(shí)間,單位為d;縱坐標(biāo)表示歸一化后的數(shù)值,無量綱。1)對于兩種類型的衛(wèi)星,在J2000坐標(biāo)系中X和Y軸方向,當(dāng)預(yù)報(bào)軌道X/Y=0時(shí),對應(yīng)時(shí)刻的預(yù)報(bào)誤差為最大值(峰值)或最小值(谷值)。預(yù)報(bào)軌道從正值變化為負(fù)值經(jīng)過零值的時(shí)刻對應(yīng)著預(yù)報(bào)誤差的峰值,從負(fù)值變化為正值經(jīng)過零值的時(shí)刻則對應(yīng)著預(yù)報(bào)誤差的谷值。2)在Z軸方向,GEO衛(wèi)星的預(yù)報(bào)軌道和預(yù)報(bào)誤差之間并無明顯的對應(yīng)關(guān)系;IGSO衛(wèi)星存在與X/Y軸相同的對應(yīng)關(guān)系。將作為訓(xùn)練樣本的預(yù)報(bào)誤差選擇定義在J2000坐標(biāo)系中,主要是因?yàn)樵谠撟鴺?biāo)系中預(yù)報(bào)誤差的規(guī)律性強(qiáng),并且與預(yù)報(bào)軌道之間存在一定的對應(yīng)關(guān)系。
2.2訓(xùn)練步長對預(yù)報(bào)精度的影響預(yù)報(bào)誤差改進(jìn)率的計(jì)算公式如下。以某GEO衛(wèi)星為例,表1給出了不同預(yù)報(bào)弧長、不同訓(xùn)練步長下利用神經(jīng)網(wǎng)絡(luò)模型得到的預(yù)報(bào)誤差改進(jìn)率。分析表1中的數(shù)據(jù)可以看出下列3點(diǎn)。1)訓(xùn)練步長越小,神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)率就越高。2)預(yù)報(bào)弧長的長度與對訓(xùn)練步長的敏感度成反比,即弧長越長,訓(xùn)練步長的延長對改進(jìn)率的影響就越小。訓(xùn)練步長從5min延長至40min,預(yù)報(bào)8,15和30d的改進(jìn)率分別降低5.68%,3.9%和1.36%。3)由于訓(xùn)練步長越小,訓(xùn)練時(shí)間越長,因此改進(jìn)率與訓(xùn)練時(shí)間是一對矛盾體。從綜合改進(jìn)率和訓(xùn)練時(shí)間的要求考慮,即改進(jìn)率應(yīng)盡可能高,而訓(xùn)練時(shí)間應(yīng)盡可能短。故預(yù)報(bào)8,15和30d應(yīng)選擇的訓(xùn)練步長分別為10,20和25min。
2.3訓(xùn)練噪聲對預(yù)報(bào)精度的影響以某初始時(shí)刻的軌道預(yù)報(bào)誤差(稱為訓(xùn)練值)作為訓(xùn)練樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型,用其補(bǔ)償另一個(gè)初始時(shí)刻利用動(dòng)力學(xué)模型外推得到的預(yù)報(bào)誤差(稱為期望值)。如果訓(xùn)練值和期望值在同一時(shí)刻吻合的很好,那么利用神經(jīng)網(wǎng)絡(luò)模型一定能很好地修正動(dòng)力學(xué)模型的預(yù)報(bào)誤差。以某GEO衛(wèi)星軌道預(yù)報(bào)8d為例,圖4給出了采用不同噪聲值時(shí)訓(xùn)練值和期望值之間的吻合關(guān)系。分為無噪聲、噪聲為0.01、噪聲為0.05和噪聲為0.10共4種情況。從圖4中可以看到,不加噪聲時(shí)訓(xùn)練值與其期望值的差別較大,因此應(yīng)加入訓(xùn)練噪聲以提高神經(jīng)網(wǎng)絡(luò)的泛化能力;加入噪聲后訓(xùn)練值與期望值吻合的較好,但無法區(qū)分噪聲值為多大時(shí)預(yù)報(bào)精度最高。表2給出了采用不同訓(xùn)練噪聲時(shí),經(jīng)神經(jīng)網(wǎng)絡(luò)模型補(bǔ)償后的軌道預(yù)報(bào)誤差最大值的統(tǒng)計(jì)結(jié)果。其中原始預(yù)報(bào)誤差為未進(jìn)行補(bǔ)償時(shí)的采用動(dòng)力學(xué)模型外推得到的預(yù)報(bào)誤差。表2不同訓(xùn)練噪聲下的預(yù)報(bào)分析表2中數(shù)據(jù)可以看出下列兩點(diǎn)。1)無噪聲時(shí),前4d無改善,精度反而降低;預(yù)報(bào)8d及更長弧段時(shí)預(yù)報(bào)誤差略有改善,故應(yīng)加入訓(xùn)練噪聲。2)增加噪聲后,噪聲從0.001~0.100的變化對預(yù)報(bào)精度的改進(jìn)幅度相當(dāng)。但從總體來看,噪聲越小,前6d的預(yù)報(bào)精度越高;但預(yù)報(bào)8d以及更長弧段時(shí)噪聲為0.010的預(yù)報(bào)誤差最小,故應(yīng)選擇訓(xùn)練噪聲為0.010。
3試驗(yàn)結(jié)果及分析
根據(jù)上述短、中、長期軌道預(yù)報(bào)方案,并結(jié)合不同神經(jīng)網(wǎng)絡(luò)模型參數(shù)的優(yōu)化設(shè)計(jì)分析,給出了利用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行軌道預(yù)報(bào)的試驗(yàn)結(jié)果。通過與精密星歷比對可以分別得到動(dòng)力學(xué)模型和神經(jīng)網(wǎng)絡(luò)模型的預(yù)報(bào)精度。表3列出了BDS系統(tǒng)中兩顆GEO、三顆IGSO共5顆衛(wèi)星在2013年第23天利用神經(jīng)網(wǎng)絡(luò)模型和動(dòng)力學(xué)模型外推得到的預(yù)報(bào)誤差(其中NN代表神經(jīng)網(wǎng)絡(luò)模型;Dyn代表動(dòng)力學(xué)模型)。Sat02衛(wèi)星由于軌道機(jī)動(dòng)未能統(tǒng)計(jì)其中長期預(yù)報(bào)結(jié)果。表3中誤差是在一定弧段內(nèi)預(yù)報(bào)誤差的最大值。從表3可得,神經(jīng)網(wǎng)絡(luò)模型1d預(yù)報(bào)誤差有時(shí)會(huì)大于動(dòng)力學(xué)模型的預(yù)報(bào)誤差;但預(yù)報(bào)4,8,15及30d各衛(wèi)星采用神經(jīng)網(wǎng)絡(luò)模型補(bǔ)償后的預(yù)報(bào)精度均有所提高。這主要因?yàn)?d的預(yù)報(bào)弧段規(guī)律性不強(qiáng),不利于神經(jīng)網(wǎng)絡(luò)模型的學(xué)習(xí)及訓(xùn)練。隨著弧段的增長,訓(xùn)練樣本的規(guī)律性增強(qiáng),神經(jīng)網(wǎng)絡(luò)模型的補(bǔ)償效果有所提高。為了更好地衡量神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)效果,給出各衛(wèi)星的預(yù)報(bào)精度提高幅度,其與預(yù)報(bào)誤差改進(jìn)率的計(jì)算公式相同。表4給出了各衛(wèi)星經(jīng)神經(jīng)網(wǎng)絡(luò)模型補(bǔ)償后的預(yù)報(bào)精度提高幅度。從表4中可以看出,預(yù)報(bào)4d各衛(wèi)星的軌道精度改進(jìn)幅度為40.25%~60.31%;預(yù)報(bào)8d各衛(wèi)星的軌道精度改進(jìn)幅度為63.28%~72.59%;預(yù)報(bào)15d改進(jìn)幅度為47.01%~82.37%;預(yù)報(bào)30d改進(jìn)幅度為34.67%~82.35%。可見神經(jīng)網(wǎng)絡(luò)模型在改進(jìn)軌道預(yù)報(bào)誤差中的作用顯著。
4結(jié)論
篇3
關(guān)鍵詞: 諧波; 間諧波; 全相位快速傅里葉變換; 人工神經(jīng)網(wǎng)絡(luò); 虛擬儀器
中圖分類號(hào): TN711?34; TM417 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2017)01?0125?04
Abstract: On the basis of analyzing the available harmonic detection methods, the harmonic and interharmonic detection method based on all?phase fast Fourier transform and artificial neural network is studied. A new harmonic detection method based on all?phase fast Fourier transform and BP neural network is proposed to solve the problem of low harmonic detection precision. And a harmonic detection method based on all?phase fast Fourier transform and adaptive neural network is used to further improve the accuracy of harmonic detection. A harmonic detection software based on all?phase fast Fourier transform and adaptive neural network was designed on virtual instrument software development platform LabWindows/CVI. The software can realize the detection of harmonic amplitude and phase and calculation of total harmonic distortion, and give an alarm when the total harmonic distortion is out of limit.
Keywords: harmonic; interharmonic; all?phase fast Fourier transform; artificial neural network; virtual instrument
在理想情況下,電力系統(tǒng)的電能應(yīng)該是具有單一頻率、單一波形和若干電壓等級(jí)的正弦電壓信號(hào)。但是實(shí)際生產(chǎn)生活中由于一些原因,電網(wǎng)中的電能很難保持理想的波形,實(shí)際的波形總是存在偏差和形變,這種波形畸變稱為諧波畸變[1]。造成諧波畸變的原因是電網(wǎng)中存在大量的電力系統(tǒng)諧波。隨著諧波污染問題愈加嚴(yán)重,其產(chǎn)生的危害也越來越廣泛。因此,諧波檢測問題具有十分重要的研究價(jià)值和意義[2]。
1 基于全相位快速傅里葉變換和BP神經(jīng)網(wǎng)絡(luò)
的諧波檢測
1.1 諧波相角檢測
全相位快速傅里葉變換具有相位不變性。利用該性質(zhì)對電網(wǎng)電壓信號(hào)的采樣值進(jìn)行全相位快速傅里葉變換譜分析,獲得高精度的諧波相位值[3]。其步驟如下:
(1) 采集電網(wǎng)信號(hào),獲取個(gè)采樣值。
(2) 對采樣數(shù)據(jù)進(jìn)行全相位快速傅里葉變換譜分析,獲得幅值譜和相位譜。
(3) 全相位快速傅里葉變換所得的幅值譜受到柵欄效應(yīng)的影響無法獲得準(zhǔn)確的諧波信號(hào)幅值,但是幅值譜在諧波相應(yīng)的頻率附近會(huì)出現(xiàn)峰值譜線,通過讀取該峰值譜線對應(yīng)的相位值即可得到精確的諧波相位[4]。
1.2 基于BP神經(jīng)網(wǎng)絡(luò)的諧波幅值檢測
選擇BP神經(jīng)網(wǎng)絡(luò)作為諧波幅值的檢測方法?;贐P神經(jīng)網(wǎng)絡(luò)的諧波幅值檢測分為以下步驟:
(1) 構(gòu)建諧波檢測BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)諧波檢測網(wǎng)絡(luò)由輸入層、隱含層、輸出層構(gòu)成[5]。本文構(gòu)建的網(wǎng)絡(luò)僅含有一個(gè)隱含層。由于傳統(tǒng)結(jié)構(gòu)的BP神經(jīng)網(wǎng)絡(luò)輸出層各神經(jīng)元共用同一個(gè)隱含層,相互之間影響比較嚴(yán)重,存在諧波幅值檢測精度不高的問題。因此本文采用改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),輸入層、輸出層設(shè)置不變,僅使輸出層的每一個(gè)神經(jīng)元分別都對應(yīng)一個(gè)隱含層,解決了各待測諧波相互影響的問題,提高了諧波檢測的精度。
(2) 確定諧波檢測BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法
設(shè)電網(wǎng)中電壓信號(hào)為一周期性非正弦信,對做一個(gè)周期內(nèi)的等時(shí)間間隔采樣。采樣數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入。隱含層的輸出為。輸出層為分別對應(yīng)三次諧波和五次諧波幅值[6]。由于各次諧波具有相同的學(xué)習(xí)算法,在此僅以三次諧波為例,介紹其學(xué)習(xí)算法。三次諧波的隱含層和輸出層的輸出為:
(3) 選取諧波檢測神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本
在實(shí)際檢測時(shí)以檢測奇次諧波中次數(shù)較低的諧波為主。本文諧波檢測前通過濾除基波和更高次的諧波,選取由三次諧波和五次諧波組成的諧波電流為例說明訓(xùn)練樣本的選取過程[7]。諧波電壓可以表示為:
(4) 學(xué)習(xí)樣本選取完成后,按照BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程訓(xùn)練神經(jīng)網(wǎng)絡(luò)。待訓(xùn)練結(jié)束,獲取神經(jīng)網(wǎng)絡(luò)各個(gè)連接權(quán)值,從而固定BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和連接權(quán)值,完成對諧波幅值的記憶。其后只需要采集電網(wǎng)信號(hào)作為同相位條件下的BP神經(jīng)網(wǎng)絡(luò)的輸入,即可從網(wǎng)絡(luò)輸出獲取信號(hào)中所含的各次諧波幅值。
1.3 諧波檢測仿真實(shí)驗(yàn)
本仿真只對某個(gè)相位條件下的BP神經(jīng)網(wǎng)絡(luò)對三次和五次諧波的幅值進(jìn)行仿真驗(yàn)證。在三次諧波的相位為30°,五次諧波的相位為60°的條件下采用訓(xùn)練樣本選取方法,獲取676組訓(xùn)練樣本,離線訓(xùn)練諧波檢測BP神經(jīng)網(wǎng)絡(luò)。仿真程序流程如圖1所示。
訓(xùn)練完成后,選擇多組相位同為30°和60°未訓(xùn)練的樣本仿真驗(yàn)證諧波幅值檢測的精度。通過實(shí)驗(yàn)可以看出,BP神經(jīng)網(wǎng)絡(luò)諧波幅值檢測方法結(jié)果比插值FFT具有更高的精度。通過增加訓(xùn)練樣本個(gè)數(shù)可進(jìn)一步提高神經(jīng)網(wǎng)絡(luò)諧波幅值檢測的精度。
2 基于全相位快速傅里葉變換和自適應(yīng)神經(jīng)網(wǎng)
絡(luò)諧波檢測
2.1 檢測步驟
基于全相位快速傅里葉變換和自適應(yīng)神經(jīng)網(wǎng)絡(luò)的諧波檢測方法的具體步驟如下:
(1) 采集訓(xùn)練樣本。設(shè)定采樣頻率和采樣時(shí)間,采集電網(wǎng)電壓信號(hào),為全相位快速傅里葉變換提供分析數(shù)據(jù),為自適應(yīng)人工神經(jīng)網(wǎng)絡(luò)提供訓(xùn)練樣本。
(2) 確定諧波初相位。將電網(wǎng)信號(hào)采樣數(shù)據(jù)經(jīng)過全相位快速傅里葉變換分析,在分析結(jié)果的幅值譜中找出峰值譜線,并由峰值譜線對應(yīng)的相位值獲取各諧波的高精度相位。
(3) 初始化諧波幅值檢測神經(jīng)網(wǎng)絡(luò)。利用諧波相位檢測結(jié)果設(shè)置神經(jīng)網(wǎng)絡(luò)參考輸入向量中的各次諧波相位值。
(4) 計(jì)算誤差讀取一次訓(xùn)練樣本,根據(jù)采樣時(shí)間計(jì)算神經(jīng)元輸出與此刻的電網(wǎng)信號(hào)采樣值做差,進(jìn)而計(jì)算誤差函數(shù)和性能指標(biāo)。
(5) 根據(jù)誤差調(diào)整神經(jīng)網(wǎng)絡(luò)權(quán)值。
以最小均方差法(LMS)作為諧波幅值檢測自適應(yīng)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法,則權(quán)值調(diào)整公式,即諧波幅值調(diào)整公式為:
(6) 判斷是否等于訓(xùn)練樣本總數(shù)如果是,再判斷是否達(dá)到最大訓(xùn)練次數(shù)。若達(dá)到最大訓(xùn)練次數(shù)則結(jié)束訓(xùn)練轉(zhuǎn)至下一步。若未達(dá)到,則需計(jì)算并判斷是否達(dá)到性能指標(biāo)要求,達(dá)標(biāo)則轉(zhuǎn)至下一步,不達(dá)標(biāo)則返回步驟(4)再次執(zhí)行。如果否,返回步驟(4)繼續(xù)執(zhí)行。
(7) 訓(xùn)練結(jié)束。根據(jù)所得神經(jīng)網(wǎng)絡(luò)權(quán)值獲得各次諧波幅值。
2.2 諧波檢測仿真
取511個(gè)電網(wǎng)信號(hào)采樣點(diǎn)經(jīng)過apFFT分析后,可以看出該諧波相位檢測具有很高的精度。利用apFFT分析結(jié)果初始化神經(jīng)網(wǎng)絡(luò),并取50組訓(xùn)練樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò),可以看出性能指標(biāo)函數(shù)的值在訓(xùn)練次數(shù)足夠大的情況下可以達(dá)到,在經(jīng)過10次以內(nèi)的訓(xùn)練后基波和諧波檢測值趨于穩(wěn)定。由實(shí)驗(yàn)數(shù)據(jù)可以看出本文采用的方法極大地提高了諧波幅值的檢測精度。
3 基于全相位快速傅里葉變換和增強(qiáng)型自適應(yīng)
神經(jīng)網(wǎng)絡(luò)的間諧波檢測
3.1 增強(qiáng)型自適應(yīng)神經(jīng)網(wǎng)絡(luò)間諧波檢測模型
諧波檢測中在基波頻率已知的情況下,由于諧波頻率為基波頻率的整數(shù)倍,因而諧波頻率無需檢測。但是對于間諧波檢測,由于間諧波頻率為基波頻率的非整數(shù)倍,無法通過基波頻率獲知間諧波頻率,因此在間諧波檢測時(shí),需要將間諧波的頻率也作為檢測項(xiàng)[8]。為此,將應(yīng)用于間諧波檢測的自適應(yīng)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)成如圖3所示的形式。
3.2 諧波檢測步驟
基于全相位快速傅里葉變換和增強(qiáng)型自適應(yīng)神經(jīng)網(wǎng)絡(luò)的間諧波檢測步驟如下:
(1) 信號(hào)采集和apFFT分析。將電網(wǎng)信號(hào)濾除已測量的基波、諧波信號(hào)后得到由間諧波構(gòu)成的信號(hào),采樣并經(jīng)apFFT算法分析后,得到幅值譜和相位譜。
(2) 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定和初始化。由于神經(jīng)網(wǎng)絡(luò)中間層神經(jīng)元的個(gè)數(shù)等于間諧波個(gè)數(shù),因此通過apFFT幅值譜峰值譜線的個(gè)數(shù)確定神經(jīng)元個(gè)數(shù)。分別確定間諧波頻率和幅值的學(xué)習(xí)率和動(dòng)量因子。設(shè)定神經(jīng)網(wǎng)絡(luò)的最大訓(xùn)練次數(shù),開始人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。
(3) 計(jì)算誤差。讀取一次訓(xùn)練樣本,根據(jù)式(11)計(jì)算神經(jīng)網(wǎng)絡(luò)實(shí)際輸出,并與此刻的采樣值做差,進(jìn)而計(jì)算誤差函數(shù)和性能指標(biāo)。
(5) 判斷是否等于訓(xùn)練樣本總數(shù)如果是,再判斷是否達(dá)到最大訓(xùn)練次數(shù)。若達(dá)到最大訓(xùn)練次數(shù)則結(jié)束訓(xùn)練轉(zhuǎn)至下一步。若未達(dá)到,則需計(jì)算并判斷是否達(dá)到性能指標(biāo)要求,達(dá)標(biāo)則轉(zhuǎn)至下一步,不達(dá)標(biāo)則返回步驟(3)再次執(zhí)行。如果否,返回步驟(3)繼續(xù)執(zhí)行。
(6) 學(xué)習(xí)結(jié)束。學(xué)習(xí)結(jié)束后,通過激勵(lì)函數(shù)的角頻率獲取間諧波頻率,通過神經(jīng)網(wǎng)絡(luò)權(quán)值得到間諧波幅值。
3.3 間諧波檢測仿真
設(shè)基波頻率為50 Hz,采樣頻率為2 560 Hz,采集511個(gè)點(diǎn)。利用apFFT的分析結(jié)果初始化神經(jīng)網(wǎng)絡(luò)。設(shè)置間諧波幅值調(diào)整的學(xué)習(xí)因子=0.01,設(shè)置動(dòng)量因子=0.3,隨后開始訓(xùn)練神經(jīng)網(wǎng)絡(luò)。從實(shí)驗(yàn)數(shù)據(jù)可得,網(wǎng)絡(luò)經(jīng)過70次左右的在線訓(xùn)練后基本收斂。經(jīng)過70次訓(xùn)練后幅值誤差都達(dá)到了以下,頻率誤差達(dá)到了以下。通過對原始間諧波疊加信號(hào)波形和檢測得到的間諧波組合信號(hào)波形進(jìn)行對比可知,基于全相位快速傅里葉變換和增強(qiáng)型自適應(yīng)神經(jīng)網(wǎng)絡(luò)的間諧波檢測方法具有更高的檢測精度。
4 LabWindows/CVI諧波檢測軟件實(shí)現(xiàn)
4.1 諧波檢測系統(tǒng)設(shè)計(jì)方案
針對電力系統(tǒng)中存在C波問題,利用LabWindows/CVI和計(jì)算機(jī)設(shè)計(jì)虛擬諧波檢測儀器。主要實(shí)現(xiàn)的功能是分析數(shù)據(jù)采集卡采集的電網(wǎng)電壓數(shù)據(jù),利用apFFT和自適應(yīng)線性神經(jīng)網(wǎng)絡(luò)算法獲取高精度的諧波電壓幅值和諧波初相位,并通過計(jì)算機(jī)顯示出檢測結(jié)果。利用檢測結(jié)果計(jì)算總諧波畸變率,當(dāng)畸變率超過標(biāo)準(zhǔn)值時(shí)給出警報(bào)。首先獲取電網(wǎng)電壓采樣信號(hào),進(jìn)而將采樣信號(hào)經(jīng)過全相位快速傅里葉變換分析得到基波和各次諧波信號(hào)的高精度相位值,通過獲得的相位值設(shè)置自適應(yīng)神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)中的諧波相位值,隨后利用采樣數(shù)據(jù)在線訓(xùn)練神經(jīng)網(wǎng)絡(luò)獲得基波和各次諧波的幅值。
4.2 諧波檢測系統(tǒng)軟件設(shè)計(jì)過程
基于LabWindows/CVI的諧波檢測軟件設(shè)計(jì)過程可分為以下步驟:
(1) 啟動(dòng)LabWindows/CVI編程環(huán)境,創(chuàng)建諧波檢測軟件工程。
(2) 在用戶界面編程窗口,根據(jù)諧波檢測的功能要求設(shè)計(jì)虛擬儀器用戶面板。在面板上添加相應(yīng)控件,控件分布設(shè)計(jì)完成后,需要對控件屬性及其對應(yīng)的回調(diào)函數(shù)進(jìn)行設(shè)置,使得點(diǎn)擊或使用這些控件時(shí)能夠得到有效的響應(yīng)。
(3) 用戶界面設(shè)計(jì)并保存完成后,LabWindows/CVI自動(dòng)生成程序代碼的主體框架,并通過菜單欄CodeGenerateMain Function生成main函數(shù)和各個(gè)控件對應(yīng)的回調(diào)函數(shù)框架程序。
(4) 在各個(gè)控件對應(yīng)的回調(diào)函數(shù)內(nèi)編寫實(shí)現(xiàn)其功能的程序代碼,例如本文在主面板開始檢測按鈕對應(yīng)的回調(diào)函數(shù)內(nèi)部編寫apFFT和神經(jīng)網(wǎng)絡(luò)諧波檢測算法的代碼,以實(shí)現(xiàn)諧波檢測功能。
(5) 完成代碼編寫、調(diào)試和運(yùn)行程序。
4.3 檢測軟件實(shí)驗(yàn)測試
本文通過讀取兩組離線測量數(shù)據(jù)對諧波檢測功能進(jìn)行實(shí)驗(yàn)檢測。通過第一組數(shù)據(jù)的檢測結(jié)果可以看出諧波幅值較基波幅值低很多,且奇次諧波的幅值較偶次諧波幅值高。通過apFFT采樣數(shù)據(jù)分析的結(jié)果中,測量信號(hào)波形和基波波形的對比可以看出諧波對基波波形的影響較小。實(shí)驗(yàn)結(jié)果表明該軟件具有很好的諧波檢測精度。
通過第二組數(shù)據(jù)的檢測結(jié)果看出諧波總畸變率超出設(shè)定值(4%),諧波畸變率告警燈變?yōu)榧t色,同時(shí)告警對話框彈出。諧波檢測的結(jié)果同時(shí)在表格和柱形圖中顯示。將測量信號(hào)、諧波疊加信號(hào)和基波信號(hào)的波形進(jìn)行對比,諧波對電網(wǎng)電壓的波形影響仍然很有限,保證了電網(wǎng)中負(fù)載的用電安全。此次諧波檢測的檢測結(jié)果,檢測精度仍然較高。
5 結(jié) 論
本文主要對基于全相位快速傅里葉變換和神經(jīng)網(wǎng)絡(luò)的諧波、間諧波檢測方法進(jìn)行了研究。針對現(xiàn)有成熟的諧波檢測算法檢測精度不高的問題,提出了基于全相位快速傅里葉變換和BP神經(jīng)網(wǎng)絡(luò)的諧波檢測算法;為了進(jìn)一步提高諧波檢測精度,減小對訓(xùn)練樣本的依賴,擴(kuò)大諧波檢測算法的適用范圍,提出了基于全相位快速傅里葉變換和自適應(yīng)神經(jīng)網(wǎng)絡(luò)的諧波檢測算法;針對電力系統(tǒng)間諧波檢測問題,通過調(diào)整自適應(yīng)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),提出了基于全相位快速傅里葉變換和增強(qiáng)型自適應(yīng)神經(jīng)網(wǎng)絡(luò)的諧波檢測算法;利用虛擬儀器開發(fā)平臺(tái)LabWindows/CVI設(shè)計(jì)了基于全相位快速傅里葉變換和自適應(yīng)神經(jīng)網(wǎng)絡(luò)的諧波檢測軟件,最后利用兩組數(shù)據(jù)驗(yàn)證了軟件功能。
參考文獻(xiàn)
[1] 肖雁鴻,毛筱.電力系統(tǒng)諧波測量方法綜述[J].電網(wǎng)技術(shù),2002,26(6):61?64.
[2] 聶晶晶,許曉芳,夏安邦,等.電能質(zhì)量監(jiān)測及管理系統(tǒng)[J].電力系統(tǒng)自動(dòng)化設(shè)備,2005,25(10):75?77.
[3] 王子績,孟鑫,張彥兵,等.基于瞬時(shí)無功功率理論的新型諧波檢測算法[J].電測與儀表,2012,49(4):9?13.
[4] 劉桂英,粟時(shí)平.利用小波傅里葉變換的諧波與間諧波檢測[J].高電壓技術(shù),2007,33(6):184?188.
[5] 危韌勇,李志勇.基于人工神經(jīng)元網(wǎng)絡(luò)的電力系統(tǒng)諧波測量方法[J].電網(wǎng)技術(shù),1999,23(12):20?23.
[6] 王凱亮,曾江,王克英.一種基于BP神經(jīng)網(wǎng)絡(luò)的諧波檢測方案[J].電力系統(tǒng)保護(hù)與控制,2013(17):44?48.
[7] 付光杰,曲玉辰,郭靜.RBF神經(jīng)網(wǎng)j在諧波檢測中的應(yīng)用[J].大慶石油學(xué)院學(xué)報(bào),2005,29(6):76?79.
篇4
關(guān)鍵詞:電阻點(diǎn)焊;神經(jīng)網(wǎng)絡(luò);消音鋸片
0序言
電阻點(diǎn)焊過程是一個(gè)高度非線性,既有多變量靜態(tài)疊加又有動(dòng)態(tài)耦合,同時(shí)又具有大量隨機(jī)不確定因素的復(fù)雜過程。這種復(fù)雜性使得傳統(tǒng)方法確定最佳工藝參數(shù)存在操作復(fù)雜、精度低等缺陷。
本文通過深入研究提出了一種神經(jīng)網(wǎng)絡(luò)優(yōu)化消音鋸片電阻點(diǎn)焊工藝參數(shù)方法。以試驗(yàn)數(shù)據(jù)為樣本,通過神經(jīng)網(wǎng)絡(luò),建立焊接工藝參數(shù)與焊接性能之間的復(fù)雜模型,充分發(fā)揮神經(jīng)網(wǎng)絡(luò)的非線性映射能力。為準(zhǔn)確預(yù)測點(diǎn)焊質(zhì)量提高依據(jù)。在運(yùn)用試驗(yàn)手段、神經(jīng)網(wǎng)絡(luò)高度非線性擬合能力結(jié)合的方式,能在很大程度上克服傳統(tǒng)方法的缺陷,完成網(wǎng)絡(luò)的訓(xùn)練、檢驗(yàn)和最優(yōu)評(píng)價(jià),為電阻點(diǎn)焊過程的決策和控制提供可靠依據(jù)。
1原理
人工神經(jīng)網(wǎng)絡(luò)是用物理模型模擬生物神經(jīng)網(wǎng)絡(luò)的基本功能和結(jié)構(gòu),可以在未知被控對象和業(yè)務(wù)模型情況下達(dá)到學(xué)習(xí)的目的。建立神經(jīng)網(wǎng)絡(luò)是利用神經(jīng)網(wǎng)絡(luò)高度并行的信息處理能力,較強(qiáng)的非線性映射能力及自適應(yīng)學(xué)習(xí)能力,同時(shí)為消除復(fù)雜系統(tǒng)的制約因素提供了手段。人工神經(jīng)網(wǎng)絡(luò)在足夠多的樣本數(shù)據(jù)的基礎(chǔ)上,可以很好地比較任意復(fù)雜的非線性函數(shù)。另外,神經(jīng)網(wǎng)絡(luò)的并行結(jié)構(gòu)可用硬件實(shí)現(xiàn)的方法進(jìn)行開發(fā)。目前應(yīng)用最成熟最廣泛的一種神經(jīng)網(wǎng)絡(luò)是前饋多層神經(jīng)網(wǎng)絡(luò)(BP),通常稱為BP神經(jīng)網(wǎng)絡(luò)。
神經(jīng)網(wǎng)絡(luò)方法的基本思想是:神經(jīng)網(wǎng)絡(luò)模型的網(wǎng)絡(luò)輸入與神經(jīng)網(wǎng)絡(luò)輸出的數(shù)學(xué)關(guān)系用以表示系統(tǒng)的結(jié)構(gòu)參數(shù)與系統(tǒng)動(dòng)態(tài)參數(shù)之間的復(fù)雜的物理關(guān)系,即訓(xùn)練。我們發(fā)現(xiàn)利用經(jīng)過訓(xùn)練的模型進(jìn)行權(quán)值和閾值的再修改和優(yōu)化(稱之為學(xué)習(xí))時(shí),其計(jì)算速度要大大快于基于其他優(yōu)化計(jì)算的速度。
BP神經(jīng)網(wǎng)絡(luò)一般由大量的非線性處理單元——神經(jīng)元連接組成的。具有大規(guī)模并行處理信息能力和極強(qiáng)的的容錯(cuò)性。每個(gè)神經(jīng)元有一個(gè)單一的輸出,但可以把這個(gè)輸出量與下一層的多個(gè)神經(jīng)元相連,每個(gè)連接通路對應(yīng)一個(gè)連接權(quán)系數(shù)。根據(jù)功能可以把神經(jīng)網(wǎng)絡(luò)分為輸入層,隱含層(一或多層),輸出層三個(gè)部分。設(shè)每層輸入為ui(q)輸出為vi(q)。同時(shí),給定了P組輸入和輸出樣本 ,dp(p=200)。
(6)
該網(wǎng)絡(luò)實(shí)質(zhì)上是對任意非線性映射關(guān)系的一種逼近,由于采用的是全局逼近的方法,因而BP網(wǎng)絡(luò)具有較好的泛化的能力。
我們主要是利用神經(jīng)網(wǎng)絡(luò)的非線性自適應(yīng)能力,將它用于消音鋸片的電阻點(diǎn)焊過程。訓(xùn)練過程是:通過點(diǎn)焊實(shí)驗(yàn)獲得目標(biāo)函數(shù)與各影響因素間的離散關(guān)系,用神經(jīng)網(wǎng)絡(luò)的隱式來表達(dá)輸入輸出的函數(shù)關(guān)系,即將實(shí)驗(yàn)數(shù)據(jù)作為樣本輸入網(wǎng)絡(luò)進(jìn)行訓(xùn)練,建立輸入輸出之間的非線性映射關(guān)系,并將知識(shí)信息儲(chǔ)存在連接權(quán)上,從而利用網(wǎng)絡(luò)的記憶功能形成一個(gè)函數(shù)。不斷地迭代可以達(dá)到sse(誤差平方和)最小。
我們這次做的消音金剛石鋸片電焊機(jī),通過實(shí)驗(yàn)發(fā)現(xiàn)可以通過采用雙隱層BP神經(jīng)網(wǎng)絡(luò)就可以很好的反應(yīng)輸入輸出參數(shù)的非線性關(guān)系。輸入神經(jīng)元為3,分別對應(yīng)3個(gè)電阻點(diǎn)焊工藝參數(shù)。輸出神經(jīng)元為1,對應(yīng)焊接質(zhì)量指標(biāo)參數(shù)。設(shè)第1隱含層神經(jīng)元取為s1,第2隱含層神經(jīng)元取為s2。輸入層和隱含層以及隱層之間的激活函數(shù)都選取Log-Sigmoid型函數(shù),輸出層的激活函數(shù)選取Pureline型函數(shù)。
2點(diǎn)焊樣本的選取
影響點(diǎn)焊質(zhì)量的參數(shù)有很多,我們選取點(diǎn)焊時(shí)的控制參數(shù),即點(diǎn)焊時(shí)間,電極力和焊接電流,在固定式點(diǎn)焊機(jī)上進(jìn)行實(shí)驗(yàn)。選用鋼種為50Mn2V,Φ600m的消音型薄型圓鋸片基體為進(jìn)行實(shí)驗(yàn)。對需要優(yōu)化的參數(shù)為點(diǎn)焊時(shí)間,電極力和焊接電流3個(gè)參數(shù)進(jìn)行的訓(xùn)練。最后的結(jié)果為焊接質(zhì)量,通常以鋸片的抗拉剪載荷為指標(biāo)。
建立BP神經(jīng)網(wǎng)絡(luò)時(shí),選擇樣本非常重要。樣本的選取關(guān)系到所建立的網(wǎng)絡(luò)模型能否正確反映所選點(diǎn)焊參數(shù)和輸出之間的關(guān)系。利用插值法,將輸入變量在較理想的區(qū)間均勻分布取值,如果有m個(gè)輸入量,每個(gè)輸入量均勻取n個(gè)值(即每個(gè)輸入量有m個(gè)水平數(shù)), 則根據(jù)排列組合有nm個(gè)樣本。對應(yīng)于本例,有3個(gè)輸入量,每個(gè)變量有5個(gè)水平數(shù),這樣訓(xùn)練樣本的數(shù)目就為53=125個(gè)。
我們的實(shí)驗(yàn),是以工人的經(jīng)驗(yàn)為參考依據(jù),發(fā)現(xiàn)點(diǎn)焊時(shí)間范圍為2~8s,電極力范圍為500~3000N,點(diǎn)焊電流范圍為5~20kA時(shí),焊接質(zhì)量比較好。我們先取點(diǎn)焊電流,電極力為定量,在合理的范圍內(nèi)不斷改變點(diǎn)焊時(shí)間,得到抗拉剪載荷。如此,可以得到不同點(diǎn)焊電流和電極力的抗拉剪載荷。根據(jù)點(diǎn)焊數(shù)據(jù)的情況,我們共選用200組數(shù)據(jù)。部分測試數(shù)據(jù)如表1:
神經(jīng)網(wǎng)絡(luò)建模的關(guān)鍵是訓(xùn)練,而訓(xùn)練時(shí)隨著輸入?yún)?shù)個(gè)數(shù)的增加樣本的排列組合數(shù)也急劇增加,這就給神經(jīng)網(wǎng)絡(luò)建模帶來了很大的工作量,甚至于無法達(dá)到訓(xùn)練目的。
3神經(jīng)網(wǎng)絡(luò)
我們用200組訓(xùn)練樣本對進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練,以err_goal=0.01為目標(biāo)。調(diào)用Matlab神經(jīng)網(wǎng)絡(luò)工具箱中的函數(shù)編程計(jì)算,實(shí)現(xiàn)對網(wǎng)絡(luò)的訓(xùn)練,訓(xùn)練完成后便得到一個(gè)網(wǎng)絡(luò)模型。
程序
x1=[2.1 2.5 3 3.5 4……]; %點(diǎn)焊時(shí)間輸入,取200組
x2=[1.3 1.5 1.9 2.1 2.3……];%電極力輸入,取200組
x3=[9 10 11 12 13……];%點(diǎn)焊電流輸入,取200組
y=[2756 3167 3895 3264 2877……]; %輸出量,取200組
net=newff([1 10;0.5 3;5 20],[10 10 1],{‘tansig‘‘tansig‘‘purelin‘});
%初始化網(wǎng)絡(luò) 轉(zhuǎn)貼于
net.trainParam.goal = 0.01;%設(shè)定目標(biāo)值
net=train(net,[x1;x2;x3],y);%訓(xùn)練網(wǎng)絡(luò)
figure; %畫出圖像
選取不同的s1,s2,經(jīng)過不斷的神經(jīng)網(wǎng)絡(luò)訓(xùn)練,發(fā)現(xiàn)當(dāng)s1=8,s2=6時(shí),神經(jīng)網(wǎng)絡(luò)可以達(dá)到要求。工具箱示意圖如下圖1。
圖 1工具箱示意圖
工具箱示意圖非常清晰地表示了本實(shí)驗(yàn)的神經(jīng)網(wǎng)絡(luò)的輸入,輸出以及訓(xùn)練的過程。
神經(jīng)網(wǎng)絡(luò)的訓(xùn)練結(jié)果,如圖2所示:
圖2神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程
圖中可以看出雙層網(wǎng)絡(luò)訓(xùn)練的sse在訓(xùn)練100次時(shí),已經(jīng)接近0.0001,效果較理想。
為了驗(yàn)證經(jīng)過訓(xùn)練的網(wǎng)絡(luò)模型的泛化能力,在輸入變量所允許的區(qū)域內(nèi)又另選多個(gè)樣本進(jìn)行了計(jì)算。發(fā)現(xiàn):利用BP神經(jīng)網(wǎng)絡(luò)模型計(jì)算的測試輸出與期望輸出值相符,誤差小于2%。
在已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)中找出最大值:
for i=2:10 %點(diǎn)焊時(shí)間選擇
for j=0.5:0.1:3%電極力選擇
fork=5:0.1:20%點(diǎn)焊電流選擇
a=sim(net,[i,j,k]);%仿真
ifan %比較仿真結(jié)果與最大值,取最大值n=a;
i(1)=i;%最大值的時(shí)間
j(1)=j;%最大值的電極力
k(1)=k; %最大值的電流
end
end
end
end
將i(1),j(1),k(1)以及n輸出,n為最大值。得到點(diǎn)焊時(shí)間為3.4s,電極力為12.7kN,點(diǎn)焊電流為11.8kA,此時(shí)的抗剪拉剪載荷為4381N,為訓(xùn)練結(jié)果的最大值。將點(diǎn)焊時(shí)間為3.4s,電極力為12.7kN,點(diǎn)焊電流為11.8kA在點(diǎn)焊機(jī)上進(jìn)行實(shí)驗(yàn),得到結(jié)果為4297N。并且通過與實(shí)際的結(jié)果相比較,發(fā)現(xiàn)誤差也在2%以內(nèi)。
4結(jié)論
1)本文采用了插值法作為選取BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本的方法。并且在數(shù)據(jù)變化劇烈的地方多選取了75組數(shù)據(jù),這樣可以得到較高精度的網(wǎng)絡(luò)模型,使點(diǎn)焊模型的可行性。
2)基于此方法建立了三個(gè)點(diǎn)焊參數(shù)的BP神經(jīng)網(wǎng)絡(luò)模型,而且所建的BP模型具有較高的精度,可以很好的描述了這三個(gè)點(diǎn)焊參數(shù)與點(diǎn)焊質(zhì)量的映射關(guān)系。
3)由于神經(jīng)網(wǎng)絡(luò)模型將系統(tǒng)結(jié)構(gòu)參數(shù)與傳統(tǒng)動(dòng)態(tài)特性參數(shù)之間的物理關(guān)系,反映為神經(jīng)網(wǎng)絡(luò)模型的網(wǎng)絡(luò)輸入與網(wǎng)絡(luò)輸出的數(shù)學(xué)關(guān)系,因此,在神經(jīng)網(wǎng)絡(luò)模型上進(jìn)行結(jié)構(gòu)修正與優(yōu)化比在其他模型上更直接,簡單與高效。
本文采用神經(jīng)網(wǎng)絡(luò)的方法優(yōu)化復(fù)合消音鋸片的點(diǎn)焊工藝參數(shù),為分析點(diǎn)焊質(zhì)量提供了很好的輔助手段。通過與以前工藝相比較,提高了點(diǎn)焊質(zhì)量。
參考文獻(xiàn)
[1] 方平,熊麗云.點(diǎn)焊電流有效值神經(jīng)網(wǎng)絡(luò)實(shí)時(shí)計(jì)算方法研究.[J].機(jī)械工程學(xué)報(bào),2004(11).148-152.
篇5
關(guān)鍵詞 壓力傳感器;溫度漂移;溫度補(bǔ)償
中圖分類號(hào):TP212 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1671-7597(2014)10-0038-02
壓力傳感器的輸出結(jié)果精度容易受到多種因素的影響,其中,唯獨(dú)是影響傳感器輸出精度的最主要因素。目前,國內(nèi)經(jīng)常使用硬件補(bǔ)償和軟件補(bǔ)償兩類方法對壓力傳感器進(jìn)行溫度補(bǔ)償。硬件補(bǔ)償方法調(diào)試難度較高、精度低、通用性也較差,在實(shí)際工程中應(yīng)用時(shí),難以去得較好的效果;而軟件補(bǔ)償方法有效彌補(bǔ)了硬件補(bǔ)償?shù)娜秉c(diǎn),其中BP神經(jīng)網(wǎng)絡(luò)補(bǔ)償在實(shí)際工程中運(yùn)用十分廣泛,但是典型BP神經(jīng)網(wǎng)絡(luò)補(bǔ)償法雖然精確度高,但是整個(gè)流程過于復(fù)雜、整個(gè)過程耗時(shí)較長,因此,本文提出了一種基于主成分分析的BP神經(jīng)網(wǎng)絡(luò)補(bǔ)償方法,希望對提高補(bǔ)償效率和準(zhǔn)確性起到一定的作用。
1 典型BP神經(jīng)網(wǎng)絡(luò)補(bǔ)償原理分析
BP神經(jīng)網(wǎng)絡(luò)是目前研究中應(yīng)用范圍最廣的神經(jīng)網(wǎng)絡(luò)模型之一,BP神經(jīng)網(wǎng)絡(luò)術(shù)語單向傳輸網(wǎng)絡(luò)結(jié)構(gòu),整個(gè)信息傳輸?shù)倪^程呈現(xiàn)出高度的非線性特點(diǎn)。典型的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)包括輸入層、隱含層和輸出層3層結(jié)構(gòu)。通常情況下BP神經(jīng)網(wǎng)絡(luò)只有這3層結(jié)構(gòu),這主要是由于單隱層的BP神經(jīng)網(wǎng)絡(luò)既可以完成從任意n維到m維的映射。其典型結(jié)構(gòu)如下圖所示。
BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型
BP算法設(shè)計(jì)到了信息的正向傳播以及誤差的反向傳播,信息首先從輸入層傳入,然后經(jīng)過隱含層的處理傳入輸出層,最終輸出的信息可以用下面的形式進(jìn)行表示:
其中:、分別代表了隱含層及輸出層的權(quán)值;
n0、n1分別對應(yīng)了輸入節(jié)點(diǎn)數(shù)及隱含層節(jié)點(diǎn)數(shù)。
輸出層神經(jīng)元的激勵(lì)函數(shù)f1通常呈現(xiàn)出線性特點(diǎn);而隱含層神經(jīng)元的激勵(lì)函數(shù)f2通常采用如下所示的形式在(0,1)的S型函數(shù)中進(jìn)行輸出:
由于BP神經(jīng)網(wǎng)絡(luò)隱含層采用的傳遞函數(shù)為對數(shù)S型曲線,其輸出范圍在(0,1)之間。為了避免節(jié)點(diǎn)在短時(shí)間之內(nèi)飽和而無法繼續(xù)進(jìn)行訓(xùn)練,需要在訓(xùn)練開始之前利用下面公式對樣本數(shù)據(jù)進(jìn)行預(yù)處理:
,
其中:Ui、Pi均為訓(xùn)練數(shù)據(jù)的標(biāo)定值;Uimin、Uimax分別表示輸出電壓的標(biāo)定極值(最小和最大);Pimin、Pimax分別表示壓力的標(biāo)定極值(最小和最大)。
當(dāng)目標(biāo)矢量為T,信息通過正向傳遞,可以得到誤差函數(shù),具體如下所示:
如果輸出結(jié)果無法達(dá)到要求的誤差范圍,則返回誤差信號(hào)并按照一定的權(quán)值對公式中的各層權(quán)值進(jìn)行修正,直到輸出結(jié)果達(dá)到期望值。
在利用典型BP神經(jīng)網(wǎng)絡(luò)進(jìn)行壓力傳感器溫度補(bǔ)償?shù)倪^程中,算法過于復(fù)雜,而且非常耗時(shí),因此,需要對其進(jìn)行改進(jìn),以提高補(bǔ)償效率。
2 BP神經(jīng)網(wǎng)絡(luò)法的改進(jìn)
2.1 改進(jìn)原理
基于典型的BP神經(jīng)網(wǎng)絡(luò),利用以下方法進(jìn)行改進(jìn)。
1)利用小波神經(jīng)網(wǎng)絡(luò)的思想對神經(jīng)元的激勵(lì)函數(shù)進(jìn)行改進(jìn),從而實(shí)現(xiàn)小波特性與BP神經(jīng)網(wǎng)絡(luò)自學(xué)功能的充分結(jié)合,提高激勵(lì)函數(shù)的逼近能力。以Morlet函數(shù)作為小波函數(shù)的母函數(shù),可以降低不同層面神經(jīng)元之間的影響,提高網(wǎng)絡(luò)的收斂速度。以Morlet函數(shù)作母函數(shù)的小波函數(shù)屬于幅值小波,其信號(hào)中包含了復(fù)值和相關(guān)信息,改進(jìn)后的函數(shù)具體如下所示:
在本次研究中,我們選取了R個(gè)輸入樣本和N個(gè)輸出節(jié)點(diǎn),則可以利用下面的公式對第l個(gè)樣本的第n個(gè)節(jié)點(diǎn)的輸入進(jìn)行表示:
其中:K表示神經(jīng)網(wǎng)絡(luò)隱含層的單元數(shù)量;M表示神經(jīng)網(wǎng)絡(luò)輸入層的單元數(shù)量;ωn,k表示神經(jīng)網(wǎng)絡(luò)隱含層第k單元與輸出層第n單元的連接權(quán)值;ak-小波伸縮因子;bk-平移因子;Sl(xm)―輸入信號(hào)。
2)在計(jì)算過程中通過,附加動(dòng)量法的應(yīng)用可以有效改實(shí)現(xiàn)梯度方向的平滑過渡,使得計(jì)算結(jié)果更具穩(wěn)定性。該方法以BP法為基礎(chǔ)對權(quán)值進(jìn)行調(diào)節(jié),具體公式如下:
其中:t表示樣本的訓(xùn)練次數(shù);η表示學(xué)習(xí)速率;σ表示動(dòng)量因子;σΔωki(t)表示附加動(dòng)量項(xiàng),它能夠有效降低不同神經(jīng)元之間的影響,提高網(wǎng)絡(luò)的收斂速度。
2.2 主成分BP神經(jīng)網(wǎng)絡(luò)算法的實(shí)現(xiàn)
步驟1:按照典型BP神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)預(yù)處理方法對樣本數(shù)據(jù)進(jìn)行預(yù)處理。
步驟2:利用主成分分析法對預(yù)處理后的樣本數(shù)據(jù)進(jìn)行分析,降低輸入向量之間的影響,使各個(gè)輸入變量的協(xié)同方差趨于統(tǒng)一,從而使各權(quán)值具有相同的收斂速度,并以此確定神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)。
步驟3:對神經(jīng)網(wǎng)絡(luò)進(jìn)行初始化,并對其中的部分關(guān)鍵變量進(jìn)行設(shè)置。
步驟4:為神經(jīng)網(wǎng)絡(luò)選取一組學(xué)習(xí)樣本,以輸入節(jié)點(diǎn)作為網(wǎng)絡(luò)的輸入向量,并輸入期望fn,l,n=1,2,…,N;l=1,2,…,R。
步驟5:利用輸入的網(wǎng)絡(luò)參數(shù)計(jì)算網(wǎng)絡(luò)的實(shí)時(shí)輸出能力,當(dāng)輸出誤差在允許范圍之內(nèi)時(shí),停止訓(xùn)練;而當(dāng)輸出誤差超過允許范圍 ,則將誤差信息進(jìn)行反向傳播,使權(quán)值沿誤差函數(shù)的負(fù)梯度方向發(fā)生變化,然后利用梯度下降法計(jì)算出變化后的網(wǎng)絡(luò)參數(shù),然后再重復(fù)進(jìn)行第4步的操作。
步驟6:BP神經(jīng)網(wǎng)絡(luò)在訓(xùn)練合格之后,對其進(jìn)行樣本補(bǔ)償。
步驟7:對補(bǔ)償后的樣本進(jìn)行反標(biāo)準(zhǔn)化處理,然后與實(shí)測數(shù)據(jù)進(jìn)行誤差比較,判斷出網(wǎng)絡(luò)改進(jìn)之后的變化。
2.3 壓力傳感器溫度補(bǔ)償
根據(jù)前文提供的BP神經(jīng)網(wǎng)絡(luò)算法實(shí)現(xiàn)步驟,可以利用Matlab編程語言來實(shí)現(xiàn)。在實(shí)現(xiàn)該算法之后,我們通過在壓力傳感器量程范圍內(nèi)確定n個(gè)壓力標(biāo)定點(diǎn),同時(shí)確定m個(gè)溫度標(biāo)定點(diǎn)。標(biāo)準(zhǔn)值發(fā)生器會(huì)根據(jù)每個(gè)標(biāo)定點(diǎn)的信息產(chǎn)生對應(yīng)的標(biāo)定輸入值。然后輸入樣本數(shù)據(jù),樣本數(shù)據(jù)按照目標(biāo)值要求的±20%范圍進(jìn)行選擇,然后以誤差目標(biāo)小于10-3進(jìn)行訓(xùn)練,當(dāng)達(dá)到誤差目標(biāo)之后,網(wǎng)絡(luò)的收斂速度得到有效的提升。
3 結(jié)論
通過研究結(jié)果發(fā)現(xiàn),利用主成分分析法對信息進(jìn)行補(bǔ)償之后,再利用BP神經(jīng)網(wǎng)絡(luò)對這些信息進(jìn)行訓(xùn)練,其學(xué)習(xí)速度相對直接利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練更高。同時(shí),通過改進(jìn)典型的BP神經(jīng)網(wǎng)絡(luò),利用小波函數(shù)作為激勵(lì)函數(shù),并應(yīng)用動(dòng)量附加發(fā)對網(wǎng)絡(luò)敏感性進(jìn)行控制,可以有效避免網(wǎng)絡(luò)發(fā)生局部極小問題。通過基于主成分的BP神經(jīng)網(wǎng)絡(luò)溫度補(bǔ)償方法可以使壓力傳感器受環(huán)境溫度變化而發(fā)生的誤差問題得到高效、精確的解決。
參考文獻(xiàn)
篇6
關(guān)鍵詞:專家系統(tǒng) 神經(jīng)網(wǎng)絡(luò) 故障診斷 旋轉(zhuǎn)機(jī)械
引 言
針對旋轉(zhuǎn)機(jī)械故障的復(fù)雜性、多樣性和診斷時(shí)對領(lǐng)域?qū)<抑R(shí)的依賴性,對旋轉(zhuǎn)機(jī)械的故障診斷提出了采用人工神經(jīng)網(wǎng)絡(luò)(ANN)和傳統(tǒng)專家系統(tǒng)(ES)融合的新途徑,充分利用人工神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)各自特點(diǎn),使其功能互為補(bǔ)充。解決了傳統(tǒng)的專家系統(tǒng)在旋轉(zhuǎn)機(jī)械故障診斷中遇到的知識(shí)獲取的“瓶頸”等問題。同時(shí)也解決了單一神經(jīng)網(wǎng)絡(luò)系統(tǒng)在旋轉(zhuǎn)機(jī)械故障診斷中遇到的不足。這種人工神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)集成的故障診斷方法,能提高旋轉(zhuǎn)機(jī)械故障診斷的能力,更大限度地發(fā)揮人工智能技術(shù)在診斷領(lǐng)域的威力。
1、基于神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)集成的旋轉(zhuǎn)機(jī)械故障診斷模型
基于神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)集成的旋轉(zhuǎn)機(jī)械故障診斷模型如圖1所示。
圖1 神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)集成的診斷系統(tǒng)模型
各部分的主要功能是:
1)編譯器。主要是將符號(hào)知識(shí)轉(zhuǎn)換成神經(jīng)網(wǎng)絡(luò)所必須的數(shù)據(jù)知識(shí)。
2)神經(jīng)網(wǎng)絡(luò)。主要完成專家系統(tǒng)的推理工作。其實(shí)質(zhì)是神經(jīng)網(wǎng)絡(luò)的計(jì)算,即由已知的征兆向量經(jīng)過神經(jīng)網(wǎng)絡(luò)計(jì)算獲得故障向量。
3)行為解釋。利用網(wǎng)絡(luò)中的各項(xiàng)數(shù)據(jù)(包括征兆輸入數(shù)據(jù)、故障輸出數(shù)據(jù)和隱含神經(jīng)元輸出數(shù)據(jù))及輸入神經(jīng)元,輸出神經(jīng)元的物理含義并結(jié)合知識(shí)庫中的連接權(quán)值來形成規(guī)則,其過程相當(dāng)于神經(jīng)網(wǎng)絡(luò)訓(xùn)練的一個(gè)逆過程。
4)知識(shí)庫管理。存儲(chǔ)和管理知識(shí)庫的知識(shí),豐富知識(shí)庫,以便系統(tǒng)不斷完善。
5)人機(jī)接口。以友好的人機(jī)界面同用戶交互。
6) 數(shù)據(jù)庫。用于存儲(chǔ)在線監(jiān)測和診斷時(shí)所需的實(shí)時(shí)檢測到的工作數(shù)據(jù)、推理過程中所需要和產(chǎn)生的各種診斷信息;靜態(tài)數(shù)據(jù)庫用于存儲(chǔ)故障時(shí)檢測到的數(shù)據(jù)或人為檢測到的一些特征數(shù)據(jù)。
7) 知識(shí)獲取。知識(shí)獲取過程就是網(wǎng)絡(luò)的學(xué)習(xí)過程,主要有兩種途徑實(shí)現(xiàn),一是直接從數(shù)據(jù)化的實(shí)例中學(xué)習(xí),二是從傳統(tǒng)的專家系統(tǒng)已獲取的知識(shí)中學(xué)習(xí)。
2基于神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)的旋轉(zhuǎn)機(jī)械故障診斷方法
1) 診斷參數(shù)的選取
根據(jù)故障機(jī)理,若某一故障發(fā)生,則其特征參數(shù)將發(fā)生較大變化。因受各種因索影響,盡量不以絕對值作為異常診斷的依據(jù),而要與初始值或正常值進(jìn)行比較,用其比值作為檢測參數(shù)來進(jìn)行診斷。為此,診斷的監(jiān)測參數(shù)定義為:
(1)
式中: ——相對于 的待檢狀態(tài)參數(shù)值;
——相對于 的正常狀態(tài)參數(shù)值。
兩者的比值與—門限值進(jìn)行比較若大于門限值.故障征兆輸入取為“1”即故障征兆存在,否則取為“0”,即故障征兆不存在。
2)知識(shí)庫的建立
它包括知識(shí)獲取和知識(shí)存儲(chǔ)兩個(gè)過程。知識(shí)獲取表現(xiàn)為訓(xùn)練樣本的獲得與選擇,訓(xùn)練樣本來源于同類型診斷對象在正常運(yùn)轉(zhuǎn)時(shí)和帶故障運(yùn)行時(shí)的各種特征參數(shù)。知識(shí)存儲(chǔ)是將由訓(xùn)練樣本對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練獲得的連續(xù)權(quán)值和閾值進(jìn)行存儲(chǔ),從而形成知識(shí)庫。
3)神經(jīng)網(wǎng)絡(luò)模塊結(jié)構(gòu)圖
為了進(jìn)一步提高系統(tǒng)的推理和學(xué)習(xí)能力,建立了故障診斷神經(jīng)網(wǎng)絡(luò)模型,其結(jié)構(gòu)如圖2所示。神經(jīng)網(wǎng)絡(luò)采用N層結(jié)構(gòu)的BP網(wǎng)絡(luò)。抽取出故障若干信息作為網(wǎng)絡(luò)的輸入;并從工程實(shí)例中選取有代表性的樣本對網(wǎng)絡(luò)進(jìn)行訓(xùn)練;訓(xùn)練完畢后即可利用神經(jīng)網(wǎng)絡(luò)進(jìn)行推理。當(dāng)出現(xiàn)網(wǎng)絡(luò)拒識(shí)樣本時(shí),通過專家進(jìn)行判斷推理,然后將此樣本輸入到訓(xùn)練樣本集中,使網(wǎng)絡(luò)繼續(xù)學(xué)習(xí),對權(quán)值進(jìn)行調(diào)整,直至做出正確推理為止。
圖2故障診斷神經(jīng)網(wǎng)絡(luò)模型
4)知識(shí)處理
在旋轉(zhuǎn)機(jī)械故障診斷神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)中,只需將觀測到的故障現(xiàn)象通過編譯器轉(zhuǎn)化為數(shù)值知識(shí),送入神經(jīng)網(wǎng)絡(luò),然后計(jì)算網(wǎng)絡(luò)輸出,最后將網(wǎng)絡(luò)的數(shù)值輸出經(jīng)反編譯器轉(zhuǎn)化為符號(hào)知識(shí),即得到了故障原因,這種專家系統(tǒng)的知識(shí)處理是與神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)緊密相關(guān)的統(tǒng)一體,不需增加相應(yīng)的推理機(jī)構(gòu),將數(shù)值知識(shí)轉(zhuǎn)換為符號(hào)知識(shí)的反編譯器是編譯的逆過程,有與編譯器類似的結(jié)構(gòu)。
4、算例
以某一旋轉(zhuǎn)機(jī)械為例,用MATLAB工具,通過神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)集成的方法實(shí)現(xiàn)故障診斷。
選用旋轉(zhuǎn)機(jī)械常見的不平衡、不對中、油膜渦動(dòng)等常見的10種故障作為網(wǎng)絡(luò)的輸出。取9個(gè)頻段的譜峰能量歸一化值,作為輸入[6]。因此,該網(wǎng)絡(luò)的輸入神經(jīng)元應(yīng)為9個(gè),輸出神經(jīng)元為10個(gè)。
訓(xùn)練BP網(wǎng)絡(luò)。將上述數(shù)據(jù)作為樣本訓(xùn)練BP網(wǎng)絡(luò)。首先確定BP網(wǎng)絡(luò)的結(jié)構(gòu),BP網(wǎng)絡(luò)輸入神經(jīng)元數(shù)為9,輸出神經(jīng)元數(shù)為10,而隱含層數(shù)及每層的神經(jīng)元數(shù)目經(jīng)過MATLAB程序多次仿真實(shí)驗(yàn),結(jié)果表明當(dāng)采用雙隱含層網(wǎng)絡(luò)時(shí),第一隱含層的神經(jīng)元數(shù)為9,第二隱含層神經(jīng)元數(shù)為11,網(wǎng)絡(luò)訓(xùn)練10步時(shí)誤差就可下降到0。故選擇的雙隱含層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為9-9-11-10為最佳網(wǎng)絡(luò)結(jié)構(gòu)。
測試BP網(wǎng)絡(luò)。利用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行故障診斷,故障診斷運(yùn)行的部分結(jié)果見表2。診斷結(jié)果表明,對于已經(jīng)學(xué)習(xí)過的樣本知識(shí),網(wǎng)絡(luò)輸出與期望結(jié)果充分相符,表明該網(wǎng)絡(luò)能夠正確地實(shí)現(xiàn)故障診斷;當(dāng)輸入數(shù)據(jù)在一定范圍內(nèi)偏離樣本知識(shí)時(shí),網(wǎng)絡(luò)的輸出具有接近樣本的傾向,因而表明了該網(wǎng)絡(luò)在故障診斷方面的使用可靠性。
表2故障測試結(jié)果
續(xù)表2
5、結(jié)論
在旋轉(zhuǎn)機(jī)械故障診斷中,將神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)結(jié)合,彌補(bǔ)了旋轉(zhuǎn)機(jī)械故障診斷專家系統(tǒng)存在的不足。實(shí)例證明,該方法診斷效率和精度較高,是一種有效的故障診斷途徑。
參考文獻(xiàn)
[1]徐敏.基于神經(jīng)網(wǎng)絡(luò)集成的專家系統(tǒng)模型[J].計(jì)算機(jī)工程與設(shè)計(jì),2006,(4).
篇7
(黑龍江民族職業(yè)學(xué)院,黑龍江 哈爾濱 150066)
摘 要:盈余預(yù)測具有引導(dǎo)投資者投資行為的作用,因此受到投資者的廣泛重視。然而,國內(nèi)對公司未來盈利進(jìn)行預(yù)測的研究還相當(dāng)少。提出了以決策樹作為基分類器,采用集成學(xué)習(xí)方法,利用上市某公司2001至2005年的財(cái)務(wù)數(shù)據(jù)對該上市公司在2006年的盈利狀況進(jìn)行預(yù)測研究。首先,采用有放回的隨機(jī)抽樣技術(shù)分別從訓(xùn)練樣本和測試樣本中產(chǎn)生50個(gè)訓(xùn)練子集和1個(gè)測試集;然后利用決策樹,采用CHAID算法對50個(gè)訓(xùn)練子集分別進(jìn)行訓(xùn)練,得到50個(gè)基決策樹分類器;通過采用Bagging方法,構(gòu)建決策樹集成模型。所得到的集成模型在測試集上的分類準(zhǔn)確率達(dá)到96%以上,通過比較由不同數(shù)目的基分類器構(gòu)成的集成模 型和單個(gè)分類器的預(yù)測準(zhǔn)確率,證明了該集成模型的預(yù)測準(zhǔn)確率高且穩(wěn)定。
關(guān)鍵詞 :神經(jīng)網(wǎng)絡(luò);集成學(xué)習(xí);盈利預(yù)測
中圖分類號(hào):F275文獻(xiàn)標(biāo)志碼:A文章編號(hào):1000-8772(2014)31-0253-02
收稿日期:2014-10-28
作者簡介:潘道華(1981-),女,漢族,黑龍江哈爾濱人,研究生,主要研究方向:人工智能、數(shù)據(jù)挖掘與決策支持。
1 引言
公司的財(cái)務(wù)狀況及其未來盈利情況不但對公司的管理層十分重要,而且對其他投資者也非常重要。如果能夠利用公司以往的財(cái)務(wù)報(bào)表數(shù)據(jù)和其它一些宏觀經(jīng)濟(jì)數(shù)據(jù)(如GDP、CPI、利率等)及早準(zhǔn)確預(yù)測公司未來的盈利狀況的話,那么就可以更有效地對公司進(jìn)行管理和指導(dǎo)投資者的投資行為。但是,一個(gè)公司的財(cái)務(wù)報(bào)表往往只反映了公司在過去的財(cái)政年度內(nèi)的經(jīng)營狀況,并不反映出公司在下一年中的管理情況。因而,一個(gè)公司的財(cái)務(wù)狀況與其未來盈利之間的關(guān)系并沒有那么明顯,它受到很多因素的影響,要構(gòu)建一個(gè)精確的模型反映它們之間的關(guān)系是很困難的。針對此情況,本文提出采用決策樹集成方法,構(gòu)建模型來刻畫公司財(cái)務(wù)狀況與其未來盈利之間的關(guān)系,利用上市公司已有的財(cái)務(wù)數(shù)據(jù),并結(jié)合主要的宏觀經(jīng)濟(jì)變量來預(yù)測公司未來的盈利狀況,這必將是公司財(cái)務(wù)處理的一個(gè)新發(fā)展。
數(shù)據(jù)挖掘技術(shù)越來越多地被用于預(yù)測研究。集成學(xué)習(xí)方法作為數(shù)據(jù)挖掘技術(shù)中一種較新的方法,由于其在提高預(yù)測的準(zhǔn)確性上的優(yōu)點(diǎn),正被越來越多的研究者使用。
盡管許多領(lǐng)域都應(yīng)用集成學(xué)習(xí)方法來進(jìn)行研究,但在對公司未來盈利的預(yù)測研究上還很少,在國內(nèi)尚未見到任何報(bào)導(dǎo)。雖然Takashi Washio等人對日本上市公司的未來盈利狀況進(jìn)行了研究,但是他們只是將盈利狀況分為兩種情況來進(jìn)行研究。本文通過利用集成學(xué)習(xí)方法,考慮宏觀經(jīng)濟(jì)對公司盈利可能造成的影響,提出將宏觀經(jīng)濟(jì)變量納入變量體系,同時(shí),為了使結(jié)果更有指導(dǎo)意義,將上市公司的每股收益(EPS)指標(biāo)將公司盈利的情況劃分為三類,即EPS為負(fù),EPS大于均值及EPS介于二者之間,對其進(jìn)行預(yù)測研究。
2 研究方法
2.1神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)是由大量并行分布式處理單元組成的簡單處理單元[1]。由于神經(jīng)網(wǎng)絡(luò)具有非線性,自學(xué)習(xí)能力、自適應(yīng)性強(qiáng)和容錯(cuò)性高等優(yōu)點(diǎn),因而被廣泛用于各種非線性預(yù)測問題。
所有神經(jīng)網(wǎng)絡(luò)都有一個(gè)輸入層和輸出層,一個(gè)網(wǎng)絡(luò)結(jié)構(gòu)可以包含一個(gè)或多個(gè)隱含層。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)是通過調(diào)整連接權(quán)重和偏差實(shí)現(xiàn)的。Cybenko等人證明了如果神經(jīng)網(wǎng)絡(luò)利用一個(gè)有界的,連續(xù)的,非遞減的激活函數(shù)時(shí),只要不對隱含層的神經(jīng)元數(shù)進(jìn)行限制,一個(gè)三層網(wǎng)絡(luò)(包含一個(gè)隱含層)就能夠?qū)W習(xí)任意一個(gè)在輸入和輸出空間的連續(xù)映射[2]。在實(shí)際應(yīng)用中用的最多的是BP神經(jīng)網(wǎng)絡(luò)。
BP神經(jīng)網(wǎng)絡(luò)是一種基于誤差后向傳播算法(BP算法)的多層感知器網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)的激活函數(shù)一般采用Log-Sigmoid或Tangent Sigmoid等可微函數(shù)。BP算法分為兩個(gè)階段。第一階段是前向過程,逐層計(jì)算各神經(jīng)元的輸出值,第二階段是誤差后向傳播過程,從后向前逐層傳播輸出層的誤差并據(jù)此修正各層權(quán)重,直到輸出結(jié)果滿足預(yù)先設(shè)定的精度要求或達(dá)到算法設(shè)定的最大循環(huán)次數(shù)。
2.2神經(jīng)網(wǎng)絡(luò)集成
如何根據(jù)觀測數(shù)據(jù)學(xué)習(xí)得到精確估計(jì)是機(jī)器學(xué)習(xí)領(lǐng)域中人們非常關(guān)注的一個(gè)問題,機(jī)器學(xué)習(xí)的一個(gè)重要目標(biāo)就是對新的測試樣本盡可能給出最精確的估計(jì)。構(gòu)造一個(gè)高精度估計(jì)是一件相當(dāng)困難的事情,然而產(chǎn)生多個(gè)只比隨機(jī)猜測好的粗糙估計(jì)卻很容易。傳統(tǒng)的機(jī)器學(xué)習(xí)方法是在一個(gè)由各種可能的函數(shù)構(gòu)成的空間中尋找最接近實(shí)際分類函數(shù)的分類器。常用的單個(gè)分類器模型主要有決策樹、人工神經(jīng)網(wǎng)絡(luò)等。
集成學(xué)習(xí)(ensemble learning)的基本思想是在對新的實(shí)例進(jìn)行分類的時(shí)候,把若干個(gè)單個(gè)分類器集成起來,通過對多個(gè)分類器的分類結(jié)果按某種方式來進(jìn)行組合,決定最終的分類,以取得比單個(gè)分類器更好的結(jié)果。如果把單個(gè)分類器比作一個(gè)決策者的話,集成學(xué)習(xí)方法就相當(dāng)于多個(gè)決策者共同進(jìn)行一項(xiàng)決策。
盡管單個(gè)神經(jīng)網(wǎng)絡(luò)在處理非線性問題上表現(xiàn)良好,但是用單個(gè)神經(jīng)網(wǎng)絡(luò)來進(jìn)行預(yù)測,一個(gè)不足的地方就是結(jié)果的穩(wěn)定性差。因?yàn)樯窠?jīng)網(wǎng)絡(luò)的預(yù)測結(jié)果受網(wǎng)絡(luò)各層之間的初始權(quán)重影響很大。為了克服這一不足,本文利用集成學(xué)習(xí)的思想,采用以BP神經(jīng)網(wǎng)絡(luò)作為基分類器的神經(jīng)網(wǎng)絡(luò)集成方法來對公司未來盈利狀況進(jìn)行預(yù)測。
以神經(jīng)網(wǎng)絡(luò)作為基分類器構(gòu)建集成模型的方法主要有Bagging和Boosting。本文選擇采用Bagging方法,因?yàn)锽agging方法較易于實(shí)現(xiàn),而且不容易產(chǎn)生過擬合現(xiàn)象。對一個(gè)已知的有n個(gè)數(shù)據(jù)元素的數(shù)據(jù)集,Bagging法的原理是[1]:對每次循環(huán)(=1,2,…,),采用有放回的隨機(jī)抽樣方法從數(shù)據(jù)集中抽取m個(gè)數(shù)據(jù)形成訓(xùn)練集(mn),分類器模型從中學(xué)習(xí)。為了對一個(gè)未知的元素X分類,每個(gè)都返回一個(gè)分類值,將該分類值看成是一票,而最后的集成分類器,通過統(tǒng)計(jì)這些投票,將X歸為得票最多的那一類。
3 研究步驟與具體實(shí)例分析
3.1樣本選取
本文采用的上市公司數(shù)據(jù)樣本來自天軟數(shù)據(jù)庫。在剔除了財(cái)務(wù)變量有大量缺失值后,樣本共包含從2001年至2006年的深市和滬市A股的1174家上市公司。其中,滬市上市公司734家,深市440家。本文選取了反映上市公司償債能力,成長能力,經(jīng)營能力,資本結(jié)構(gòu),盈利能力,現(xiàn)金流,每股指標(biāo)等方面的29個(gè)財(cái)務(wù)變量作為初始變量。此外,為了研究宏觀經(jīng)濟(jì)環(huán)境對公司未來盈利的影響,相應(yīng)的選擇了2001年至2006年的三個(gè)宏觀經(jīng)濟(jì)變量:國內(nèi)生產(chǎn)總值增長率(GDP),居民消費(fèi)價(jià)格指數(shù)增長率(CPI)及一年期金融機(jī)構(gòu)貸款基準(zhǔn)利率。這幾個(gè)變量都與公司的盈利狀況有著密切的關(guān)系。國內(nèi)生產(chǎn)總值反映了整個(gè)國家的經(jīng)濟(jì)狀況,而居民消費(fèi)價(jià)格指數(shù)是反映居民購買并用于消費(fèi)的商品和服務(wù)項(xiàng)目價(jià)格水平的變動(dòng)趨勢和變動(dòng)幅度的相對數(shù),它可以全面反映多種市場價(jià)格變動(dòng)因素及其對居民實(shí)際生活的影響程度。一年期金融機(jī)構(gòu)貸款基準(zhǔn)利率會(huì)影響公司的營運(yùn)成本,會(huì)對公司的利潤產(chǎn)生直接的影響。所有變量見附表。
為了預(yù)測未來公司的盈利狀況,本文將數(shù)據(jù)樣本分為訓(xùn)練樣本和測試樣本。其中,訓(xùn)練樣本由2001年至2005年的公司樣本數(shù)據(jù)用有放回的隨機(jī)抽樣方法得到,每個(gè)訓(xùn)練樣本包含1000個(gè)觀測,測試樣本是用相同方法得到的上市公司在2006年的數(shù)據(jù)樣本,包含400個(gè)觀測。
3.2指標(biāo)選擇
對于初始變量表,變量之間存在著相關(guān)性。雖然神經(jīng)網(wǎng)絡(luò)對變量間的相關(guān)性具有較強(qiáng)的容忍度,但是,變量太多會(huì)增加網(wǎng)絡(luò)的復(fù)雜度,還有可能使網(wǎng)絡(luò)過適應(yīng),從而使得網(wǎng)絡(luò)在測試樣本上的表現(xiàn)很差,而且并不是變量越多,神經(jīng)網(wǎng)絡(luò)的預(yù)測精度就越大,所以適當(dāng)選擇具有代表性的指標(biāo)變量既可以達(dá)到與用所有變量相同的預(yù)測精度,又能降低網(wǎng)絡(luò)的復(fù)雜度,避免使網(wǎng)絡(luò)陷入過適應(yīng),提高網(wǎng)絡(luò)的訓(xùn)練速度。
然而,運(yùn)用神經(jīng)網(wǎng)絡(luò)方法,對輸入變量的選取目前并沒有一個(gè)公認(rèn)的方法。為了從眾多的初始變量中選擇具有代表性的變量,本文利用spss Clementine11.1數(shù)據(jù)挖掘軟件包選項(xiàng)面板中的建模欄中的特征選擇節(jié)點(diǎn)來對變量進(jìn)行篩選。通過構(gòu)建一個(gè)帶有特征選擇節(jié)點(diǎn)的流,可以為每一訓(xùn)練集篩選出重要的變量。利用篩選出來的變量和全部變量分別對訓(xùn)練樣本進(jìn)行訓(xùn)練,得到兩種神經(jīng)網(wǎng)絡(luò)模型,分別對測試樣本進(jìn)行分類,并分別構(gòu)建集成模型。
3.3 建立模型
本文是對2001年至2005年上市公司的數(shù)據(jù)樣本進(jìn)行訓(xùn)練得到單個(gè)神經(jīng)網(wǎng)絡(luò)模型,用該模型對測試樣本進(jìn)行預(yù)測。如何產(chǎn)生不同的分類模型是影響集成模型準(zhǔn)確性的一個(gè)重要因素[4]。以下四種方法——不同的初始條件,不同的網(wǎng)絡(luò)結(jié)構(gòu),不同的訓(xùn)練數(shù)據(jù),不同的訓(xùn)練算法常用來產(chǎn)生分類模型。本文采用不同的訓(xùn)練數(shù)據(jù)和不同的網(wǎng)絡(luò)結(jié)構(gòu)這兩種方式結(jié)合得到基神經(jīng)網(wǎng)絡(luò)。
按照Bagging方法的要求,本文采用有放回隨機(jī)抽樣方法,從訓(xùn)練樣本中隨機(jī)抽取了15個(gè)子訓(xùn)練集,并用相同的方法從測試集中抽取了400個(gè)樣本數(shù)據(jù)組成測試集。每個(gè)子訓(xùn)練集含有1000個(gè)樣本,它們均由2001至2005年的200個(gè)公司樣本組成。利用特征選擇節(jié)點(diǎn)在每個(gè)訓(xùn)練集上選出的變量分別在這15個(gè)子樣本上進(jìn)行訓(xùn)練得到子分類器,然后用這些子分類器對測試樣本進(jìn)行分類。采用多數(shù)投票法對子分類器進(jìn)行集成,得到集成方法在測試集上的預(yù)測結(jié)果。
3.4 結(jié)果分析
為了比較集成模型與單個(gè)神經(jīng)網(wǎng)絡(luò)預(yù)測準(zhǔn)確率的差異,按照單個(gè)神經(jīng)網(wǎng)絡(luò)模型預(yù)測準(zhǔn)確率按升序進(jìn)行排序,分別計(jì)算了由7個(gè)、9個(gè)、11個(gè)、13個(gè)、15個(gè)基神經(jīng)網(wǎng)絡(luò)模型構(gòu)成的集成模型的預(yù)測準(zhǔn)確率,集成模型,不論是由用全部變量進(jìn)行訓(xùn)練得到的基神經(jīng)網(wǎng)絡(luò)構(gòu)建還是由用篩選出的變量進(jìn)行訓(xùn)練得到的構(gòu)建,都顯示出了很高的準(zhǔn)確率,而且得到的預(yù)測準(zhǔn)確率相當(dāng)穩(wěn)定。
4 結(jié)論
本文利用神經(jīng)網(wǎng)絡(luò)集成的方法,以上市公司過去的財(cái)務(wù)數(shù)據(jù)和宏觀經(jīng)濟(jì)數(shù)據(jù)為樣本,對上市公司的未來盈利狀況進(jìn)行預(yù)測。研究結(jié)果表明,相比于單個(gè)神經(jīng)網(wǎng)絡(luò)模型,盡管選用7個(gè)預(yù)測精度最差的單個(gè)神經(jīng)網(wǎng)絡(luò)作為基神經(jīng)網(wǎng)絡(luò),其集成網(wǎng)絡(luò)的預(yù)測準(zhǔn)確率仍然很高,因而集成方法得到的結(jié)果更穩(wěn)定,更具有說服力。
由于上市公司管理水平的差異,影響公司盈利狀況的因素又多,所以要想較好的刻畫它們對盈利狀況的影響,是一個(gè)很有挑戰(zhàn)性的問題。本文的研究結(jié)果還表明,采用神經(jīng)網(wǎng)絡(luò)集成方法來研究未來盈利狀況是可行的。進(jìn)一步的研究可以從以下幾個(gè)方面考慮:
(1)變量的選取。為了使預(yù)測更為準(zhǔn)確,在建模時(shí),需要考慮更多的影響因素。由于公司盈利狀況跟公司的管理水平直接相關(guān),因此,如何合理選取量化一些有關(guān)公司治理的指標(biāo)變量,將它們加入到模型中去,是一個(gè)值得深入研究的問題。
(2)產(chǎn)生集成神經(jīng)網(wǎng)絡(luò)的方法。除了Bagging方法,還有其他產(chǎn)生集成神經(jīng)網(wǎng)絡(luò)的方法,比如Boosting方法。不同的方法會(huì)得到不同的結(jié)果,從而通過比較不同的結(jié)果,可以得到一個(gè)用來研究此類問題的最好的方法。
參考文獻(xiàn):
[1] Lars Kar Hansen, Peter Salamon. Neural network ensembles,IEEE transactions on pattern analysis and machine intelligence,vol.12, pp993-1001, 1990.
[2] Li-Chiu Chia,Tseng-Chung Tang. Artificial neural networks in reorganization outcome and investment of distressed firms: The Taiwanese case, Expert Systems with Applications, vol.29,pp641-652, 2005.
[3] Jiawei Han Micheline Kamber, data mining; concepts and tech-niques(second edition)[M].北京:機(jī)械工業(yè)出版社,2006.
篇8
【關(guān)鍵詞】介損值;BP算法;人工神經(jīng)網(wǎng)絡(luò)
1.引言
當(dāng)前的電容型電氣設(shè)備絕緣在線監(jiān)測與診斷還停留在一個(gè)簡單處理數(shù)據(jù)的層次上,如果能夠結(jié)合先進(jìn)的數(shù)學(xué)工具進(jìn)行分析,將有助于提高監(jiān)測與診斷的應(yīng)用水平。模糊數(shù)學(xué)、專家系統(tǒng)、神經(jīng)網(wǎng)絡(luò)、灰關(guān)聯(lián)分析等理論在電氣設(shè)備的絕緣監(jiān)測與診斷方面已經(jīng)有了廣泛的應(yīng)用,并提供較完備的知識(shí)與信息,提高了絕緣監(jiān)測與診斷的準(zhǔn)確性。
大量停電試驗(yàn)和專門試驗(yàn)的介損值結(jié)果統(tǒng)計(jì)分析表明,介損值會(huì)對溫度的變化較為敏感,環(huán)境的濕度對介損值也會(huì)有影響。在分析了各種因素影響介損值的基礎(chǔ)上,文獻(xiàn)[6]提出了基于人工神經(jīng)網(wǎng)絡(luò)的電容型電氣設(shè)備的絕緣狀況的預(yù)測方法。人工神經(jīng)網(wǎng)絡(luò)方法能夠根據(jù)大量的故障機(jī)理研究以及經(jīng)驗(yàn)性的直覺知識(shí)歸納出典型樣本,通過對神經(jīng)網(wǎng)絡(luò)內(nèi)部的競爭達(dá)到問題的求解,從本質(zhì)上模擬專家的直覺。在此基礎(chǔ)上本文提出了基于人工神經(jīng)網(wǎng)絡(luò)的電容型電氣設(shè)備的介損值的預(yù)測方法,以BP神經(jīng)網(wǎng)絡(luò)作為主要的研究方法。BP網(wǎng)絡(luò)的預(yù)測結(jié)果的準(zhǔn)確與否取決于學(xué)習(xí)樣本的優(yōu)劣,本文根據(jù)實(shí)際情況選取了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本并進(jìn)行了仿真,結(jié)果表明該預(yù)測方法的誤差滿足工程誤差的要求,基于人工神經(jīng)網(wǎng)絡(luò)的介質(zhì)損耗值的預(yù)測方法是可行的、正確的和有效的。
2.基于BP神經(jīng)網(wǎng)絡(luò)預(yù)測方法的確定
人工神經(jīng)網(wǎng)絡(luò)的模型有數(shù)十種,可分為三大類:前向網(wǎng)絡(luò)、反饋網(wǎng)絡(luò)和自適應(yīng)網(wǎng)絡(luò)。但在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中,絕大部分的神經(jīng)網(wǎng)絡(luò)模型都采用BP網(wǎng)絡(luò)及其變化形式。BP(Back Propagation)網(wǎng)絡(luò)是一種多層前饋型神經(jīng)網(wǎng)絡(luò),其神經(jīng)元的傳遞函數(shù)是S型函數(shù),輸出量為0到1之間的連續(xù)量,它可以實(shí)現(xiàn)從輸入到輸出的任意非線性映射。BP神經(jīng)網(wǎng)絡(luò)的主要優(yōu)點(diǎn):
(1)BP神經(jīng)網(wǎng)絡(luò)具有分布式信息存儲(chǔ)能力;
(2)BP神經(jīng)網(wǎng)絡(luò)的容錯(cuò)性和大規(guī)模并行處理能力;
(3)BP神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織和自適應(yīng)能力;
(4)BP神經(jīng)網(wǎng)絡(luò)是大量神經(jīng)元的集體行為,表現(xiàn)出一般復(fù)雜非線性系統(tǒng)的特性;
(5)BP神經(jīng)網(wǎng)絡(luò)可以處理一些環(huán)境信息十分復(fù)雜、知識(shí)背景不清楚和推理規(guī)則不明確的問題。
基于以上優(yōu)點(diǎn),本文選用BP神經(jīng)網(wǎng)絡(luò)作為主要研究方法。
3.BP算法基本思想和網(wǎng)絡(luò)的基本結(jié)構(gòu)
BP神經(jīng)網(wǎng)絡(luò)是一個(gè)多層前饋神經(jīng)網(wǎng)絡(luò),包括了輸入層、隱層和輸出層。這種網(wǎng)絡(luò)在輸入層和輸出層之間至少有一個(gè)隱含層,每一個(gè)神經(jīng)元結(jié)點(diǎn)都與其后一層的結(jié)點(diǎn)相連接,但是沒有后層結(jié)點(diǎn)向前層結(jié)點(diǎn)的反饋連接。BP網(wǎng)絡(luò)具有結(jié)構(gòu)簡單、可靠性強(qiáng)的優(yōu)點(diǎn),能夠滿足工業(yè)應(yīng)用的需要,而且有關(guān)網(wǎng)絡(luò)的機(jī)理和算法的研究都很豐富,是眾多網(wǎng)絡(luò)中最為成熟,應(yīng)用最為廣泛的一種,是復(fù)雜系統(tǒng)建模的優(yōu)秀工具。
BP算法的基本思想:當(dāng)一對學(xué)習(xí)樣本提供給網(wǎng)絡(luò)后,神經(jīng)元的激活值從輸入層經(jīng)隱層向輸出層傳播,在輸出層的各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來,按照減少目標(biāo)輸出與實(shí)際誤差的方向,從輸出層經(jīng)過各隱層逐層修正各連接權(quán)值,最后回到輸出層,這種算法為“誤差逆?zhèn)鞑ニ惴ā薄kS著這種誤差逆的傳播修正不斷進(jìn)行,網(wǎng)絡(luò)對輸入模式響應(yīng)的正確率也不斷升高。
三層前饋網(wǎng)絡(luò)中,輸入向量為X=(x1,x2, ……,xi,……,xn)T;隱層輸出向量為Y=(y1,y2,……,yj,……,ym);輸出層輸出向量為O=(o1,o2,……,ok,……,ol)T;期望輸出向量為d=(d1,d2,……,dk,……,dl)T。輸入層到隱層之間的權(quán)值矩陣用V表示,V=(v1,v2,……,vj,vm),其中列向量Vj為隱層第j個(gè)神經(jīng)元對應(yīng)的權(quán)向量;隱層到輸出層之間的權(quán)值矩陣用W表示,W=(W1,W2,……,Wk,……,Wl),其中列向量Wk為輸出層第k個(gè)神經(jīng)元對應(yīng)的權(quán)向量。如圖3-1所示。
對輸出層,有
Ok=f(netk) k=1,2,…,l (1)
netk= k=1,2,…,l (2)
對于隱層,有
yj=f(netj) j=1,2,…,m (3)
netj= j=1,2,…,m (4)
以上兩式中,轉(zhuǎn)移函數(shù)f(x)均為單極性(或雙極性)sigmoid函數(shù),f(x)具有連續(xù)、可導(dǎo)的特點(diǎn)。式(3.1)到式(3.4)共同構(gòu)成了三層前饋網(wǎng)的數(shù)學(xué)模型。
圖1 三層BP網(wǎng)絡(luò)
三層前饋網(wǎng)絡(luò)的BP學(xué)習(xí)算法權(quán)值調(diào)整計(jì)算公式為:
(5)
(6)
其中:
(7)
對于一般多層前饋網(wǎng),設(shè)共有h個(gè)隱層,按前向順序各隱層節(jié)點(diǎn)數(shù)分別記為m1,m2,…,mh,各隱層輸出分別記為y1,y2,…,yh,各層權(quán)值矩陣分別記為W1,W2,…,Wh,Wh+1,則各層權(quán)值調(diào)整計(jì)算公式為:
輸出層:
j=0,1,…,mh;k=1,2,… (8)
第h隱層:
i=0,1,…,mh-1;j=1,2,…,mh (9)
按以上規(guī)律逐層類推.則第一隱層權(quán)值調(diào)整計(jì)算公式:
p=0,1,…,n;j=1,2,…,m1 (10)
容易看出,BP學(xué)習(xí)算法中,各層權(quán)值調(diào)整公式形式上都是一樣的,均由3個(gè)因素決定,即:學(xué)習(xí)率η、本層輸出的誤差信號(hào)δ以及本層輸入信號(hào)Y(或X)。
4.基于MATLAB的BP神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)
4.1 網(wǎng)絡(luò)的輸入層和輸出層設(shè)計(jì)
大量停電試驗(yàn)和專門試驗(yàn)的介損結(jié)果統(tǒng)計(jì)分析表明,電容型設(shè)備的介質(zhì)損耗值的大小與環(huán)境等外界因素之間有著密切的關(guān)系?;诖耍疚奶岢隽嘶诃h(huán)境等外界因素影響分析電容型設(shè)備絕緣狀況的BP神經(jīng)網(wǎng)絡(luò)模型,其示意圖如圖2所示。
圖2 神經(jīng)網(wǎng)絡(luò)模型示意圖
為了更好的體現(xiàn)輸入和輸出變量的相應(yīng)關(guān)系,輸入層神經(jīng)元應(yīng)盡可能多采集與輸出量相關(guān)性大的信息。本文以某一時(shí)刻設(shè)備的電壓、電流、電容、環(huán)境溫度、濕度和介質(zhì)損耗值所為網(wǎng)絡(luò)的輸入?yún)?shù),所以網(wǎng)絡(luò)輸入層的神經(jīng)元有6個(gè)。輸出層只有一個(gè)即預(yù)測時(shí)刻的介質(zhì)損耗值,則輸出層只有一個(gè)神經(jīng)元。
為了統(tǒng)一量綱和防止因凈輸入的絕對值過大而使神經(jīng)元輸出飽和,繼而使權(quán)值調(diào)整進(jìn)入誤差曲面的平坦區(qū)。BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本在輸入網(wǎng)絡(luò)之前要進(jìn)行必要的歸一化,也就是通過變換處理將網(wǎng)絡(luò)的輸入、輸出數(shù)據(jù)限制在[0,1]或[-l,1]區(qū)間內(nèi)。歸一化方法有很多種形式,本文采用如下公式來進(jìn)行樣本數(shù)據(jù)的歸一化:
令P為網(wǎng)絡(luò)的輸入向量,t為網(wǎng)絡(luò)的目標(biāo)向量,p_test、t_test為網(wǎng)絡(luò)的測試樣本向量,利用MATLAB歸一化的代碼為:
歸一化后的輸入向量P
for i=1:6
P(i,:)=(p(i,:)-min(p(i,:)))/(max (p(i,:))-min(p(i,:)));
end
歸一化后的輸入向量A
for i=1
T(i,:)=(t(i,:)-min(t(i,:)))/(max(t(i,:))-min(t(i,:)));
end
測試樣本向量p_test和t-test的歸一化同輸入向量p和目標(biāo)向量t的歸一化,歸一化后的向量為P_test和T_test。
4.2 隱層神經(jīng)元數(shù)的選擇
在設(shè)計(jì)多層前饋網(wǎng)時(shí),一般先考慮設(shè)一個(gè)隱層.當(dāng)一個(gè)隱層的隱節(jié)點(diǎn)數(shù)很多仍不能改善網(wǎng)絡(luò)性能時(shí),才考慮再增加一個(gè)隱層。由于本系統(tǒng)是一個(gè)比較小型的網(wǎng)絡(luò),且各結(jié)點(diǎn)采用S型函數(shù)進(jìn)行處理,故采用單隱層。
隱層的神經(jīng)元數(shù)目選擇是一個(gè)非常復(fù)雜的問題,往往需要根據(jù)設(shè)計(jì)者的經(jīng)驗(yàn)和多次試驗(yàn)來確定。隱單元的數(shù)目與問題的要求、輸入/輸出單元的數(shù)目都有直接的聯(lián)系。隱單元數(shù)目太多和會(huì)導(dǎo)致學(xué)習(xí)的時(shí)間過長、誤差不一定最佳,也會(huì)導(dǎo)致容錯(cuò)性差、不能識(shí)別以前沒有看到的樣本。選擇最佳隱單元數(shù)的參考公式:
(1)
其中,k為樣本數(shù),n1為隱單元數(shù),n為輸入單元數(shù)。
(2)
其中,m為輸出神經(jīng)元數(shù),n為輸入神經(jīng)元數(shù),a為[1,10]之間的常數(shù)。
(3)
其中,n為輸入單元數(shù)。
由于單隱層BP網(wǎng)絡(luò)的非線性映射能力比較強(qiáng),本文采用了單隱層的神經(jīng)網(wǎng)絡(luò),而中間層神經(jīng)元個(gè)數(shù)需通過實(shí)驗(yàn)來確定,輸入層神經(jīng)元個(gè)數(shù)有6個(gè),中間層神經(jīng)元的個(gè)數(shù)選擇3個(gè)值,分別為13、15和20,并分別檢查網(wǎng)絡(luò)性能。通過實(shí)際的迭代訓(xùn)練,設(shè)置多種不同的隱節(jié)點(diǎn)情況,用同一樣本集進(jìn)行訓(xùn)練,比較迭代訓(xùn)練實(shí)驗(yàn)的結(jié)果,從中確定網(wǎng)絡(luò)誤差最小時(shí)對應(yīng)的神經(jīng)元個(gè)數(shù)。
MATLAB代碼為:
隱層單元個(gè)數(shù)向量
a=[13 15 20];
for i=1:3
net=newff(threshold,[a(i),1],{‘tansig’, ‘logsig’},‘traindx’);
net.trainparam.epochs=1000;
net.trainparam.goal=0.01;
init函數(shù)用于將網(wǎng)絡(luò)初始化
net=init(net);
net=train(net,P,T);
Y(i,:)=sim(net,P_test);
end
figure;
繪制誤差曲線
中間神經(jīng)元個(gè)數(shù)為13
polt(1:6,Y(1,:)-T_test);
hold on;
中間神經(jīng)元個(gè)數(shù)為15
polt(1:6,Y(2,:)-T_test);
hold on;
中間神經(jīng)元個(gè)數(shù)為20
polt(1:6,Y(3,:)-T_test);
hold off;
通過3種情況下的誤差比較發(fā)現(xiàn),中間層神經(jīng)元個(gè)數(shù)為13、20時(shí)網(wǎng)絡(luò)的誤差比較大,當(dāng)隱層節(jié)點(diǎn)數(shù)為15時(shí),網(wǎng)絡(luò)誤差較小,收斂速度較快能得到最理想的輸出,網(wǎng)絡(luò)的預(yù)測性能最好。
通過上述分析,可以確定本文設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為6-15-1,網(wǎng)絡(luò)中間層的神經(jīng)元傳遞函數(shù),采用S型正切函數(shù)tansig,輸出層神經(jīng)元傳遞函數(shù)采用S型對數(shù)函數(shù)logsig。這是因?yàn)楹瘮?shù)的輸出位于區(qū)間[0,1]中,正好滿足網(wǎng)絡(luò)輸出的要求。
圖3 預(yù)測誤差對比曲線
本文所要解決的問題是根據(jù)環(huán)境等外界因素對設(shè)備的絕緣狀況進(jìn)行預(yù)測,對網(wǎng)絡(luò)的訓(xùn)練速度和穩(wěn)定性有較高的要求,因此選擇traingdx函數(shù)作為訓(xùn)練函數(shù),該函數(shù)結(jié)合了動(dòng)量梯度下降算法和自適應(yīng)學(xué)習(xí)速率梯度下降算法。
該算法的基本過程為:首先計(jì)算出網(wǎng)絡(luò)的輸出誤差,然后在每次訓(xùn)練結(jié)束之后,利用此時(shí)的學(xué)習(xí)率計(jì)算出網(wǎng)絡(luò)的權(quán)值和閾值,并且計(jì)算出網(wǎng)絡(luò)此時(shí)的輸出誤差。如果此時(shí)的輸出誤差與前一時(shí)刻的輸出誤差的比值大于預(yù)先定義的參數(shù)max_perf_inc,那么就減小學(xué)習(xí)率(通過乘以系數(shù)lr_dec來實(shí)現(xiàn)),反之,就增加學(xué)習(xí)率(通過乘以系數(shù)lr_inc來實(shí)現(xiàn))。再重新計(jì)算網(wǎng)絡(luò)的權(quán)值和閾值以及輸出誤差,直到前后輸出誤差的比值小于參數(shù)max_perf_inc為止。
4.3 網(wǎng)絡(luò)學(xué)習(xí)速率和動(dòng)量系數(shù)的選擇
學(xué)習(xí)速率大小的選擇,直接影響訓(xùn)練時(shí)間,當(dāng)學(xué)習(xí)速率的選擇不當(dāng),特別在嚴(yán)重時(shí),將導(dǎo)致網(wǎng)絡(luò)完全不能訓(xùn)練,這是因?yàn)?986年Rumelhart等人在證明BP訓(xùn)練算法收斂中,假設(shè)了無限小的權(quán)重調(diào)節(jié)速率。實(shí)際上這是不可能的,因?yàn)檫@表示需要無限的訓(xùn)練時(shí)間,所以,實(shí)際上必須選一個(gè)有限的學(xué)習(xí)速率大小,即η的值取0.01到1。一般來說要根據(jù)實(shí)驗(yàn)或經(jīng)驗(yàn)來確定,還沒有一個(gè)理論指導(dǎo)。若η選得太小,收斂可能很慢:若η選得太大,可能出現(xiàn)麻痹現(xiàn)象。為了避免這種現(xiàn)象,通常會(huì)選擇減少η,但又會(huì)增加網(wǎng)絡(luò)的訓(xùn)練時(shí)間。動(dòng)量項(xiàng)可以加快BP算法的學(xué)習(xí)速度,但選項(xiàng)的時(shí)候應(yīng)當(dāng)注意避免學(xué)習(xí)時(shí)產(chǎn)生振蕩。
因此,本文在確定網(wǎng)絡(luò)的學(xué)習(xí)速率和動(dòng)量系數(shù)的時(shí)候,采用不同的值的組合,利用55組訓(xùn)練數(shù)據(jù)進(jìn)行了若干次網(wǎng)絡(luò)的迭代訓(xùn)練。本文根據(jù)比較結(jié)果確定學(xué)習(xí)速率為0.1,動(dòng)量系數(shù)為0.7作為網(wǎng)絡(luò)訓(xùn)練時(shí)的參數(shù)。
5.基于BP神經(jīng)網(wǎng)絡(luò)介損值的預(yù)測應(yīng)用
本文所建立的BP網(wǎng)絡(luò)是基于MATLAB中的GUI建立。圖形用戶界面GUI (Graphical User Interfaces)是神經(jīng)網(wǎng)絡(luò)的工具箱提供的人機(jī)交互界面,它引導(dǎo)工程人員一步步的建立和訓(xùn)練網(wǎng)絡(luò),避免了代碼的編寫過程。借助圖形用戶界面GUI,可比直接利用工具箱函數(shù)更快捷和方便的完成神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)與分析。
利用BP神經(jīng)網(wǎng)絡(luò)理論和經(jīng)過以上訓(xùn)練得到的網(wǎng)絡(luò)參數(shù),利用Matlab軟件提供的GUI構(gòu)造出了基于環(huán)境等外界因素影響分析設(shè)備絕緣狀況的BP神經(jīng)網(wǎng)絡(luò)模型。表1列出了本文研究中建立的BP網(wǎng)絡(luò)的各個(gè)參數(shù)和函數(shù)。
網(wǎng)絡(luò)所用的訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)均出自于某110KV變電站主變套管的在線監(jiān)測的數(shù)據(jù)],本文采用其中的55組典型數(shù)據(jù),其中50組數(shù)據(jù)用于網(wǎng)絡(luò)訓(xùn)練(訓(xùn)練次數(shù)為1000次,訓(xùn)練目標(biāo)為0.01),5組數(shù)據(jù)用于仿真預(yù)測,利用仿真函數(shù)獲得網(wǎng)絡(luò)的輸出,網(wǎng)絡(luò)的預(yù)測結(jié)果及誤差見表2,可見預(yù)測值與實(shí)際監(jiān)測值之間的誤差非常小,能滿足實(shí)際要求。
表1 基于BP神經(jīng)網(wǎng)絡(luò)的電容型設(shè)備絕緣診斷模型參數(shù)
名稱 參數(shù)
輸入層節(jié)點(diǎn)數(shù) 6
隱含層節(jié)點(diǎn)數(shù) 15
輸出層節(jié)點(diǎn)數(shù) 1
訓(xùn)練函數(shù) traingdx
學(xué)習(xí)函數(shù) learngdm
學(xué)習(xí)速率 0.1
動(dòng)量系數(shù) 0.7
表2 外界環(huán)境相同時(shí)介損值的實(shí)際值與預(yù)測值的對比
序號(hào) 電壓 電流 電容 溫度 濕度 實(shí) 際
介損值 預(yù) 測
介損值 誤差
1 119 7.047 326.479 18 50 0.003906 0.004025 0.000119
2 119 7.057 327.545 17 52 0.000440 0.004386 0.000014
3 118 7.022 328.078 17 55 0.003946 0.004108 0.000162
4 119 7.059 327.035 16 55 0.004471 0.004512 0.000041
5 119 7.069 327.406 17 59 0.003249 0.003178 0.000071
6.結(jié)束語
本章通過對BP網(wǎng)絡(luò)模型和學(xué)習(xí)算法的研究,深入分析了BP網(wǎng)絡(luò)在函數(shù)預(yù)測方面的優(yōu)點(diǎn),確定了用BP網(wǎng)絡(luò)來實(shí)現(xiàn)對容性設(shè)備介質(zhì)損耗值的預(yù)測,得到的結(jié)論如下:
(1)通過對BP網(wǎng)絡(luò)結(jié)構(gòu)的研究,將三層前向神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行了改進(jìn),適應(yīng)了本文對介質(zhì)損耗值的預(yù)測要求。
(2)BP網(wǎng)絡(luò)的預(yù)測結(jié)果的準(zhǔn)確與否取決于學(xué)習(xí)樣本的優(yōu)劣,本文根據(jù)實(shí)際情況選取了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本并進(jìn)行了仿真,結(jié)果表明該預(yù)測方法的誤差滿足工程誤差的要求,及基于人工神經(jīng)網(wǎng)絡(luò)的介質(zhì)損耗值的預(yù)測方法是可行的、正確的和有效的。
(3)數(shù)據(jù)預(yù)測具有一定的精度,但是還存在誤差,需選擇相關(guān)大的、較合理的輸入向量,還可以對網(wǎng)絡(luò)的結(jié)構(gòu)和算法選擇方面進(jìn)行改進(jìn),選擇更合適的訓(xùn)練函數(shù)使其收斂速度更快,誤差更小。
參考文獻(xiàn)
[1]張寒,文習(xí)山,丁輝.用人工神經(jīng)網(wǎng)絡(luò)預(yù)測基于泄漏電流、氣象因素的絕緣子等值附鹽密度預(yù)測[J].高壓電器,2003,39(6):31-35.
[2]韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計(jì)及應(yīng)用[M].北京:化學(xué)工業(yè)出版社,2002.
[3]閆志忠.BP神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)及其應(yīng)用研究[D].長春:吉林大學(xué),2003.
[4]聞新.MATLAB神經(jīng)網(wǎng)絡(luò)仿真與應(yīng)用[M].北京:科學(xué)出版社,2000.
[5]許東,吳崢.基于MATLAB6.X的系統(tǒng)分析與設(shè)計(jì)-神經(jīng)網(wǎng)絡(luò)(第二版)[M].西安:西安電子科技大學(xué)出版社,2002.
[6]叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用[M].合肥:中國科技大學(xué)出版社,1998
篇9
【關(guān)鍵詞】雙目視覺;神經(jīng)網(wǎng)絡(luò);攝像機(jī)標(biāo)定
1.引言
雙目測距技術(shù)在非接觸式測量,機(jī)器人視覺等領(lǐng)域都有廣泛引用。本文研究的是被動(dòng)式遠(yuǎn)距離目標(biāo)的距離測量系統(tǒng)中系統(tǒng)的標(biāo)定技術(shù)研究,雙目測距系統(tǒng)標(biāo)定方法研究對計(jì)算機(jī)視覺技術(shù)發(fā)展有重要意義。攝像機(jī)標(biāo)定的目的在于確定攝像機(jī)的位置,以確定物體在空間坐標(biāo)系與成像平面之間相應(yīng)的位置關(guān)系。
這些位置關(guān)系以及攝像機(jī)光學(xué)和幾何參數(shù)在一些場所并不需要一一解出,而只需要構(gòu)建二維成像平面上像點(diǎn)坐標(biāo)與三維空間坐標(biāo)投影點(diǎn)之間的一種映射關(guān)系。而神經(jīng)網(wǎng)絡(luò)有非常強(qiáng)的非線性映射能功能,因此我們可以通過采用神經(jīng)網(wǎng)絡(luò)對攝像機(jī)進(jìn)行標(biāo)定。
2.基于神經(jīng)網(wǎng)絡(luò)的攝像機(jī)的標(biāo)定方法
2.1 神經(jīng)網(wǎng)絡(luò)、雙目視覺神經(jīng)網(wǎng)絡(luò)攝像機(jī)標(biāo)定
人工神經(jīng)網(wǎng)絡(luò)也稱神經(jīng)網(wǎng)絡(luò),是一門新興技術(shù),用以處理一些難以用標(biāo)準(zhǔn)數(shù)學(xué)模型描述的系統(tǒng),模擬人類大腦的一些機(jī)理,實(shí)現(xiàn)某些特定功能。它具有很強(qiáng)的自學(xué)習(xí)及自適應(yīng)能力,而其中可自由設(shè)定隱層節(jié)點(diǎn)的多層前饋神經(jīng)網(wǎng)絡(luò),可以完成任意精度近似任意連續(xù)函數(shù)[1,2]。
由于網(wǎng)絡(luò)由相連的非線性單元組成,因此就具有了學(xué)習(xí)非線性過程的能力。與攝像機(jī)標(biāo)定工作機(jī)制相似,神經(jīng)網(wǎng)絡(luò)可以從一些已知數(shù)據(jù)通過計(jì)算得到未知參數(shù)。而神經(jīng)網(wǎng)絡(luò)標(biāo)定的畸變模型有任意性,可以避免傳統(tǒng)標(biāo)定方法非線性標(biāo)定可能無解、標(biāo)定精度低等多種問題。本文通過運(yùn)用神經(jīng)網(wǎng)絡(luò)學(xué)維平面圖像像點(diǎn)與三維空間物點(diǎn)坐標(biāo)之間的關(guān)系,提出了改進(jìn)神經(jīng)網(wǎng)絡(luò)雙目攝像機(jī)的標(biāo)定方法。
本文雙目視覺神經(jīng)網(wǎng)絡(luò)攝像機(jī)標(biāo)定具有的優(yōu)點(diǎn)是不用假設(shè)初始值,也不用建立精確的標(biāo)定模型,只要輸入三維空間中物體在兩個(gè)圖像上的像點(diǎn)坐標(biāo),神經(jīng)網(wǎng)絡(luò)便可輸出物體在的三維空間的世界坐標(biāo)。進(jìn)行多次的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)、訓(xùn)練,最后可得到相對理想的輸入、輸出非線性映射關(guān)系。
2.2 改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)
徑向基函數(shù)(Radial Basis Function, RBF)神經(jīng)網(wǎng)絡(luò)是一種三層前向神經(jīng)網(wǎng)絡(luò),它結(jié)構(gòu)簡單,訓(xùn)練簡潔,學(xué)習(xí)收斂速度快,能夠以任意精度逼近任意連續(xù)函數(shù),廣泛應(yīng)用于眾多領(lǐng)域[3,4]。RBF網(wǎng)絡(luò)模擬了人腦中局部調(diào)整、相互覆蓋接收域的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),是一種局部逼近網(wǎng)絡(luò)。并且RBF神經(jīng)網(wǎng)絡(luò)在逼近能力、分類能力及學(xué)習(xí)速度等多方面都優(yōu)于BP神經(jīng)網(wǎng)絡(luò),
遺傳算法是模擬生物進(jìn)化論的自然選擇和遺傳學(xué)機(jī)理的生物進(jìn)化過程的計(jì)算模型,是一種通過模擬生物在自然進(jìn)化過程中形成的一種自適應(yīng)全局優(yōu)化搜索最優(yōu)解的方法[5]。
本文提出了一種基于改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)的攝像機(jī)標(biāo)定方法,引入了遺傳算法,優(yōu)化了徑向基函數(shù)網(wǎng)絡(luò)的學(xué)習(xí)算法。
2.2.1 RBF網(wǎng)絡(luò)的結(jié)構(gòu)
RBF網(wǎng)絡(luò)是一種三層前向網(wǎng)絡(luò),三層分別是輸入層,隱藏層和輸出層。輸入層由信號(hào)源節(jié)點(diǎn)組成;輸出層是對輸入作出響應(yīng);隱藏層中節(jié)點(diǎn)數(shù)由需要而定,其中的徑向基函數(shù)是局部響應(yīng)函數(shù)。
從輸入空間到隱含層空間的變換是非線性的,而從隱含層空間到輸出層空間是線性的。RBF網(wǎng)絡(luò)是局部逼近網(wǎng)絡(luò),三層組成(m個(gè)輸入、h個(gè)隱節(jié)點(diǎn)、n個(gè)輸出),常用的徑向基函數(shù)是高斯函數(shù),因此徑向基神經(jīng)網(wǎng)絡(luò)的激活函數(shù)可表示為:
(1)
式中:是歐式范數(shù);X是輸入樣本,;是高斯函數(shù)的中心,也是網(wǎng)絡(luò)隱含層節(jié)點(diǎn)的中心;為高斯函數(shù)的方差;i是隱含層節(jié)點(diǎn)數(shù)。
RBF網(wǎng)絡(luò)的結(jié)構(gòu)輸出為:
(2)
式中:wij是隱含層到輸出層的連接權(quán)值;yj是第j個(gè)輸出節(jié)點(diǎn)的實(shí)際輸出。
假設(shè)d是樣本的期望輸出值,則基函數(shù)的方差為:
(3)
式中:P是樣本總數(shù)。
RBF網(wǎng)絡(luò)學(xué)習(xí)方法求解需要的參數(shù):基函數(shù)的中心、方差以及隱含層到輸出層的權(quán)值。RBF網(wǎng)絡(luò)的輸出是隱單元輸出的線性加權(quán)和。本文采用的是自組織選取中心法。
2.2.2 優(yōu)化的RBF神經(jīng)網(wǎng)絡(luò)
本文加入遺傳算法用以優(yōu)化已有的神經(jīng)網(wǎng)絡(luò),用全局搜索找到最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu),確定較理想非線性映射關(guān)系,進(jìn)而達(dá)到雙目視覺的標(biāo)定。采用實(shí)數(shù)編碼、最佳保留(elitist model)選擇機(jī)制,交叉概率采用自適應(yīng)方式,再對數(shù)據(jù)做歸一化處理。
2.3 整體算法步驟
用遺傳算法對神經(jīng)網(wǎng)路的參數(shù)進(jìn)行優(yōu)化,得到權(quán)值與偏差值范圍。再用RBF網(wǎng)絡(luò)在局部搜索得出最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)標(biāo)定系統(tǒng)。
1)將多組對應(yīng)的雙目視覺系統(tǒng)圖像像點(diǎn)坐標(biāo)作為輸入的訓(xùn)練樣本,組成群體;
2)采用梯度下降法學(xué)習(xí)樣本網(wǎng)絡(luò)個(gè)體基函數(shù)的中心、方差;
3)采用最小二乘法學(xué)習(xí)隱含層到輸出層的線性權(quán)值;
4)采用遺傳算法優(yōu)化隱含層中節(jié)點(diǎn)數(shù);
5)通過循環(huán)交替學(xué)習(xí)、訓(xùn)練,得到相對理想的RBF網(wǎng)絡(luò)標(biāo)定系統(tǒng)。
3.實(shí)驗(yàn)說明
分別采用線性標(biāo)定、標(biāo)準(zhǔn)BP網(wǎng)絡(luò)、和改進(jìn)的RBF網(wǎng)絡(luò)做雙目視覺標(biāo)定,后兩種做非線性函數(shù)逼近,對測試結(jié)果進(jìn)行比較。得出結(jié)果:較其他兩種,改進(jìn)的RBF網(wǎng)絡(luò)測試誤差最小。
表1 測試結(jié)果比較
隱節(jié)點(diǎn)數(shù) 訓(xùn)練誤差 測試誤差
線性標(biāo)定 * * 0.2945
標(biāo)準(zhǔn)BP 26 0.0935 0.0356
改進(jìn)RBF 13 0.0576 0.0123
4.結(jié)論
在不考慮鏡像畸變及環(huán)境等因素的形象下,將基于改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)應(yīng)用于雙目視覺攝像機(jī)標(biāo)定方法中,提高了測量精度,減少了因傳統(tǒng)標(biāo)定方法建立的模型不完善而帶來的誤差,為雙目視覺測量應(yīng)用于精密測量提供了一種新的有效方法。標(biāo)定后的測量系統(tǒng)在雙目視覺空間具有很高的測量精度。
參考文獻(xiàn)
[1]閻平凡,張長水.人工神經(jīng)網(wǎng)絡(luò)與模擬進(jìn)化計(jì)算[M].清華大學(xué)出版社,2000:410-420.
[2]錢光耀,楊入超,趙光興.基于人工神經(jīng)網(wǎng)絡(luò)的壓力傳感器三維數(shù)據(jù)融合[J].傳感器與微系統(tǒng),2007,26(2):79-81.
[3]Liu Hongmei,Ouyang Pingechao,Wang Shaoping.Fault detection based on RBF neural network in a hydraulic position servo system[A].The 6th World Congress on Control and Automation[C].Dalian, China,2006:5708-5712.
[4]楊耀華,李昕,江芳澤.基于OLS算法的RBF神經(jīng)網(wǎng)絡(luò)高速公路事件探測[J].系統(tǒng)仿真學(xué)報(bào),2003,15(5):709-712.
篇10
關(guān)鍵詞:灰色神經(jīng)網(wǎng)絡(luò);商品銷售;算法;銷售預(yù)測
中圖分類號(hào):F71文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-3044(2009)27-7743-02
市場銷售是根據(jù)根據(jù)市場過去和現(xiàn)在的信息,運(yùn)用一定的數(shù)學(xué)方法,對產(chǎn)品的需求進(jìn)行評(píng)估推測,市場預(yù)測可以減少企業(yè)風(fēng)險(xiǎn),為企業(yè)決策提供依據(jù)。做為市場預(yù)測組成部分的需求預(yù)測,是直接影響企業(yè)生產(chǎn)企業(yè),投資取向,庫存保有量的重要依據(jù),精確的需求預(yù)測可以減少庫存,降低訂單流失率,更有效的配置資源。對于商品銷售預(yù)測來說,有很多種方法,本文采用灰色神經(jīng)網(wǎng)絡(luò)來預(yù)測商品銷量。
1 灰色系統(tǒng)和神經(jīng)網(wǎng)絡(luò)概述
1.1 灰色系統(tǒng)
灰色系統(tǒng)理論是一種研究少數(shù)據(jù)、貧信息、不確定性問題的新方法,它以“部分信息已知,部分信息未知”的“小樣本”,“貧信息”不確定系統(tǒng)為研究對象,通過對“部分”已知信息的生成、開發(fā)、提取有價(jià)值的信息,實(shí)現(xiàn)對系統(tǒng)運(yùn)行行為、演化規(guī)律的正確描述和有效監(jiān)控。它是我國學(xué)者鄧聚龍教授在1982年首先提出的,經(jīng)過20年的發(fā)展,灰色系統(tǒng)已基本建立起一門新興學(xué)科的結(jié)構(gòu)體系,其主要內(nèi)容包括以灰色朦朧集為基礎(chǔ)的理論體系,以灰色關(guān)聯(lián)空間為依托的分析體系,以灰色序列生成為基礎(chǔ)的方法體系,以灰色模型為核心的模型體系和以系統(tǒng)分析、評(píng)估、建模、預(yù)測、決策、控制、優(yōu)化為主體的技術(shù)體系。
灰色系統(tǒng)中建立的模型稱為灰色模型(GreyModel)簡稱GM模型,是以原始數(shù)據(jù)序列為基礎(chǔ)做某種生成后建立的微分方程。建模中最有代表性的是針對時(shí)間序列的GM建模,它直接將時(shí)間序列數(shù)據(jù)轉(zhuǎn)化為微分方程,利用系統(tǒng)信息,使抽象的模型量化,量化的概念模型化,最后進(jìn)行模型優(yōu)化,從而使所建的GM模型在尋求不到系統(tǒng)的概率特性或隸屬特性的情況下顯示其優(yōu)越性。
1.2 神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)理論(ArtificialNeuralNetworks)是智能算法理論的一種,由于其具有大規(guī)模并行處理、分布式信息存儲(chǔ),容錯(cuò)性,自組織性和自適應(yīng)性等特點(diǎn),目前已經(jīng)得到了國內(nèi)外學(xué)者的廣泛關(guān)注。目前,人工神經(jīng)網(wǎng)絡(luò)已成功應(yīng)用在函數(shù)擬合、數(shù)據(jù)預(yù)測、模式識(shí)別、優(yōu)化控制等很多工程領(lǐng)域,并在一些傳統(tǒng)方法難以解決的問題上取得了滿意的結(jié)果。
人工神經(jīng)是由一些稱為神經(jīng)元的基本部件按一定規(guī)則組合形成的,它由神經(jīng)元,神經(jīng)元間連接方式和訓(xùn)練規(guī)則三個(gè)因素組成。其中最主要的部分是神經(jīng)元,它由由輸入,非線性變換和輸出三部分構(gòu)成,是一個(gè)基本計(jì)算單元,計(jì)算過程為,輸入經(jīng)過權(quán)值連接到內(nèi)部后求和,和值首先與一個(gè)閥值做比較,然后經(jīng)過非線性變化,得到輸出。神經(jīng)元的非線性變換有多種形式,比較常用的有Sigmoid函數(shù),限幅函數(shù)等。神經(jīng)元間不同的連接方式構(gòu)成了不同類型的神經(jīng)網(wǎng)絡(luò),比如信號(hào)由一層單向傳播到另一層的前饋型神經(jīng)網(wǎng)絡(luò),信號(hào)在層與層之間傳播的反饋型神經(jīng)網(wǎng)絡(luò)等。目前,比較典型的神經(jīng)網(wǎng)絡(luò)包括BP網(wǎng)絡(luò),RBF網(wǎng)絡(luò)、小波網(wǎng)絡(luò)等。
2 基于灰色神經(jīng)網(wǎng)絡(luò)的銷量建模
2.1 網(wǎng)絡(luò)建模
對于銷量預(yù)測的問題來說,灰色模型GNNM(1,N)的微分表達(dá)式為:
其中, y1是商品的銷售量,y2-yn是影響銷售量的因子。
求解微分方程(1)可得如下的離散響應(yīng)方程:
令 ,則式2變?yōu)?
y1的閥值設(shè)為: 。
BP網(wǎng)絡(luò)LB層神經(jīng)元的激活函數(shù)取為Sigmoid函數(shù):
將式(3)變型后映射到BP網(wǎng)絡(luò)中,得到如下的映射銷量問題的灰色神經(jīng)網(wǎng)絡(luò)模型,如圖1所示。
2.2 學(xué)習(xí)算法
該模型中各個(gè)參數(shù)根據(jù)網(wǎng)絡(luò)輸出和實(shí)際輸出的誤差進(jìn)行調(diào)整,從而是網(wǎng)絡(luò)輸出不斷逼近實(shí)際輸出,學(xué)習(xí)算法如下:
Step 1.根據(jù)系統(tǒng)數(shù)據(jù)列特征,選取兩個(gè)較小的值做為 a,b1,b2,…,bn-1
Step 2.根據(jù)網(wǎng)絡(luò)權(quán)值定義計(jì)算ω11,ω21,ω22, …,ω2n,ω31,ω32,…,ω3n
Step 3.對每一個(gè)輸入序列(t,y(t)),(t=1,2,3,…,N)進(jìn)行如下操作:
t輸入LA層節(jié)點(diǎn),對LB、LC、LD層的節(jié)點(diǎn)進(jìn)行如下計(jì)算:
計(jì)算每層輸出
計(jì)算網(wǎng)絡(luò)輸出與期望輸出的誤差
調(diào)整隔層權(quán)值:
調(diào)整LB到LC的連接權(quán)值:
調(diào)整LA到LB的連接權(quán)值:
調(diào)整閥值:
Step 4重復(fù)步驟3,直至滿足結(jié)束條件為止。
2.3 總體設(shè)計(jì)
采用灰色神經(jīng)網(wǎng)絡(luò)進(jìn)行銷量預(yù)測,總的步驟分為灰色神經(jīng)網(wǎng)絡(luò)構(gòu)建,灰色神經(jīng)網(wǎng)絡(luò)訓(xùn)練和灰色神經(jīng)網(wǎng)絡(luò)預(yù)測三步,其中灰色神經(jīng)網(wǎng)絡(luò)構(gòu)建是根據(jù)輸入輸出變量構(gòu)建灰色神經(jīng)網(wǎng)絡(luò),灰色神經(jīng)網(wǎng)絡(luò)訓(xùn)練是對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,灰色神經(jīng)網(wǎng)絡(luò)預(yù)測是對訓(xùn)練好的網(wǎng)絡(luò)對數(shù)據(jù)進(jìn)行預(yù)測,其灰色神經(jīng)網(wǎng)絡(luò)預(yù)測系統(tǒng)總體框圖如圖2所示。
3 基于灰色神經(jīng)網(wǎng)絡(luò)的銷量預(yù)測
采用灰色神經(jīng)來對某型冰箱的銷售的做預(yù)測,分析得出影響該型冰箱的市場需求的因素為以下幾個(gè)指標(biāo),1)競爭對手;2)市場特征;3)成本;4)廣告力度;5)品牌認(rèn)可;6)售后服務(wù);7)價(jià)格性價(jià)比。輸出數(shù)據(jù)為銷售量,用模糊神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練預(yù)測,設(shè)置輸入節(jié)點(diǎn)數(shù)為8,輸出節(jié)點(diǎn)數(shù)為1,即為預(yù)測銷售量,網(wǎng)絡(luò)共迭代100次,得到的預(yù)測值和實(shí)際值的結(jié)果如圖3所示。
從圖3中可以看到,灰色神經(jīng)網(wǎng)絡(luò)預(yù)測的銷量值和實(shí)際值非常接近,說明了灰色神經(jīng)網(wǎng)絡(luò)預(yù)測的有效性。
熱門標(biāo)簽
訓(xùn)練方法 訓(xùn)練 訓(xùn)練教學(xué) 訓(xùn)練法 訓(xùn)練教學(xué)論文 訓(xùn)練組 訓(xùn)練班 心理培訓(xùn) 人文科學(xué)概論
相關(guān)文章
1費(fèi)縣國有塔山林場邀請武警中隊(duì)官兵 開展“兩員”隊(duì)伍隊(duì)列訓(xùn)練
2武術(shù)套路運(yùn)動(dòng)員體能訓(xùn)練探究
3互聯(lián)網(wǎng)+混線工程訓(xùn)練實(shí)習(xí)教育模式