梯度下降法的基本原理范文
時(shí)間:2023-11-14 17:40:51
導(dǎo)語(yǔ):如何才能寫好一篇梯度下降法的基本原理,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò) 反向傳播算法 故障診斷
1 引言
隨著經(jīng)濟(jì)的發(fā)展,空調(diào)系統(tǒng)得到了越來(lái)越廣泛的應(yīng)用,空調(diào)設(shè)備已成為重要的生活必備品之一。這就要求空調(diào)系統(tǒng)可靠性高且功能齊全,而且在故障診斷維修服務(wù)方面達(dá)到一定的水平。國(guó)內(nèi)目前的大部分空調(diào)系統(tǒng)中無(wú)故障診斷系統(tǒng),當(dāng)空調(diào)系統(tǒng)出現(xiàn)故障后,維保人員往往不能及時(shí)、準(zhǔn)確地了解系統(tǒng)出現(xiàn)故障的原因及相關(guān)信息,空調(diào)系統(tǒng)無(wú)法得到及時(shí)修復(fù),這種情況急需得到改善。
2 關(guān)于故障診斷技術(shù)
故障診斷FD(fault diagnosis)是一種了解和掌握設(shè)備在使用過程中的技術(shù),確定其整體或局部是否正常,早期發(fā)現(xiàn)故障及其原因并能預(yù)報(bào)故障發(fā)展趨勢(shì)的技術(shù)。在診斷過程中,必須利用被診斷對(duì)象表現(xiàn)出來(lái)的各種有用信息,經(jīng)過適當(dāng)?shù)靥幚砗头治觯龀稣_的診斷結(jié)論。在制冷暖通空調(diào)領(lǐng)域,1987年在彥啟森教授的建議下,才開始了故障診斷專家系統(tǒng)在制冷暖通空調(diào)領(lǐng)域的研究應(yīng)用[1]。
3 人工神經(jīng)網(wǎng)絡(luò)用于空調(diào)系統(tǒng)故障診斷的基本原理
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network.簡(jiǎn)稱ANN)正是在人類對(duì)其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。它實(shí)際上是由大量簡(jiǎn)單元件相互連接而成的復(fù)雜網(wǎng)絡(luò),具有高度的非線性,能夠進(jìn)行復(fù)雜的邏輯操作和非線性關(guān)系實(shí)現(xiàn)的系統(tǒng)。
典型的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。
在眾多的人工神經(jīng)網(wǎng)絡(luò)模型中,最常用的是BP(Back Propagation)模型,即利用誤差反向傳播算法求解的多層前向神經(jīng)網(wǎng)絡(luò)模型[2]。BP網(wǎng)絡(luò)在故障診斷、模式識(shí)別、圖像識(shí)別、管理系統(tǒng)等方面都得到了廣泛的應(yīng)用。本文討論利用神經(jīng)網(wǎng)絡(luò)中的BP模型進(jìn)行空調(diào)系統(tǒng)的故障診斷。
首先需要進(jìn)行知識(shí)的獲取。由專家提供關(guān)于各種空調(diào)系統(tǒng)故障現(xiàn)象(征兆集)及相應(yīng)的故障原因(故障集)實(shí)例作為學(xué)習(xí)樣本。將數(shù)據(jù)分為兩部分,一部分用于訓(xùn)練網(wǎng)絡(luò),另一部分用于測(cè)試。將訓(xùn)練網(wǎng)絡(luò)的數(shù)據(jù)按一定順序編碼,分別賦給網(wǎng)絡(luò)輸入、輸出節(jié)點(diǎn),通過神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法對(duì)樣本進(jìn)行學(xué)習(xí),經(jīng)過網(wǎng)絡(luò)內(nèi)部自適應(yīng)算法不斷修正權(quán)值,直到達(dá)到所要求的學(xué)習(xí)精度為止。此時(shí)在大量神經(jīng)元之間聯(lián)結(jié)權(quán)值上就分布著專家知識(shí)和經(jīng)驗(yàn)。訓(xùn)練完畢后,再將測(cè)試網(wǎng)絡(luò)的數(shù)據(jù)從初始狀態(tài)出發(fā),向前推理,將顯示出的故障結(jié)果與實(shí)際的測(cè)試數(shù)據(jù)結(jié)果相比較,如果誤差很小,說(shuō)明網(wǎng)絡(luò)的權(quán)值建立正確;如果誤差較大,說(shuō)明網(wǎng)絡(luò)的權(quán)值建立有誤,需要重新進(jìn)行網(wǎng)絡(luò)的訓(xùn)練。
將訓(xùn)練樣本訓(xùn)練完畢后,即可進(jìn)行空調(diào)系統(tǒng)的故障診斷。只要實(shí)際輸入模式接近于某一個(gè)訓(xùn)練時(shí)的學(xué)習(xí)樣本的輸入模式,則可產(chǎn)生出接近學(xué)習(xí)樣本的輸出結(jié)果,也就是所謂的自聯(lián)想功能。同時(shí),由于網(wǎng)絡(luò)計(jì)算上的大量并行性,當(dāng)機(jī)器運(yùn)行狀況改變,出現(xiàn)網(wǎng)絡(luò)學(xué)習(xí)未考慮的情況時(shí),系統(tǒng)亦能給出正確分類結(jié)果。同時(shí)將新數(shù)據(jù)并入網(wǎng)絡(luò),實(shí)現(xiàn)系統(tǒng)的自適應(yīng)。一般來(lái)說(shuō),學(xué)習(xí)的故障實(shí)例樣本越多,診斷結(jié)果的準(zhǔn)確率越高。
4 BP學(xué)習(xí)算法
BP算法因其簡(jiǎn)單、易行、計(jì)算量小、并行性強(qiáng)等優(yōu)點(diǎn),是目前神經(jīng)網(wǎng)絡(luò)訓(xùn)練采用最多也是最成熟的訓(xùn)練算法之一。BP算法的實(shí)質(zhì)是求解誤差函數(shù)的最小值問題,由于它采用非線性規(guī)劃中的梯度下降法(Gradient Descent),按誤差函數(shù)的負(fù)梯度方向修正權(quán)值 [3]。其主要思路是如果求出訓(xùn)練網(wǎng)絡(luò)的指標(biāo)函數(shù)誤差:
一般的BP算法稱為標(biāo)準(zhǔn)誤差逆?zhèn)鞑ニ惴ǎ簿褪菍?duì)應(yīng)每一次輸入都校正一次權(quán)值。這種算法不是全局誤差意義上的梯度下降計(jì)算。對(duì)各個(gè)神經(jīng)元的輸出求偏導(dǎo)數(shù),那么就可以算出誤差對(duì)所有連接權(quán)值的偏導(dǎo)數(shù),從而可以利用梯度下降法來(lái)修改各個(gè)連接權(quán)值。真正的全局誤差意義上的梯度下降算法是在全部訓(xùn)練模式都學(xué)習(xí)完后才校正連接權(quán)和閾值。其計(jì)算流程如圖2所示:
5 故障診斷實(shí)例 5.1 空調(diào)系統(tǒng)故障診斷的BP網(wǎng)絡(luò)建立
空調(diào)系統(tǒng)故障模式及故障機(jī)制分析[4]如表1所示
表1 空調(diào)系統(tǒng)故障模式及故障機(jī)制分析 表示
符號(hào)
表示
符號(hào)
房間溫度均偏高
1.冷凍機(jī)產(chǎn)冷量不足
2.噴水堵塞
3.通過空氣處理設(shè)備的風(fēng)量過大,熱交換不良
4.回風(fēng)量大于送風(fēng)量
5.送風(fēng)量不足(可能空氣過濾氣堵塞)
6.表冷器結(jié)霜,造成堵塞
相對(duì)濕度均偏低
7.室外空氣未經(jīng)加濕處理
系統(tǒng)實(shí)測(cè)風(fēng)量大于設(shè)計(jì)風(fēng)量
8.系統(tǒng)的實(shí)際阻力小于設(shè)計(jì)阻力
9.設(shè)計(jì)時(shí)選用風(fēng)機(jī)容量偏大
房間氣流速度超過允許流速
10.送風(fēng)口速度過大
篇2
關(guān)鍵詞:人臉檢測(cè);BP網(wǎng)絡(luò);遺傳算法;GABP網(wǎng)絡(luò)
中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:B 文章編號(hào):1004373X(2008)1615403
Face Detection Based on GABP Neural Network
JIAO Libao,PENG Yan,CHEN Chunlan
(Sichuan University of Science &Engineering,Zigong,643000,China)
Abstract:The constringency of the conventional BP neural network algorithm is too slow and local constringency is not ideal,which effect working performance.The lack above and face image data too big,a new method that the face detection method based on GABP neural network is introduced in this paper.Making the Genetic Algorithm (GA) search algorithm is used to train the network with updating the weights to minimize the error between the network output and the desired output.Then the BackPropagation (BP) algorithm is used to further train the artificial neural network used for face detection.The experiment indicate This network convergence rate is not only quick,moreover easy to achieve the optimal solution.This network has the high detection precision to the face image detection.
Keywords:face detection;BP neural network;genetic algorithm;GABP neural network
1 引 言
人臉檢測(cè)是圖像處理和識(shí)別領(lǐng)域的一個(gè)重要研究的課題,具有廣泛的應(yīng)用價(jià)值,例如檔案管理系統(tǒng)、人機(jī)交互、駕駛執(zhí)照、身份證的識(shí)別檢測(cè),刑偵破案中犯罪嫌疑人照片的識(shí)別等,可以說(shuō)人臉檢測(cè)是一種重要的個(gè)人身份鑒別的方法。本文將神經(jīng)網(wǎng)絡(luò)和遺傳算法有機(jī)的結(jié)合起來(lái),建立了一種遺傳神經(jīng)網(wǎng)絡(luò),然后利用優(yōu)化后的神經(jīng)網(wǎng)絡(luò)較好地解決人臉檢測(cè)中往往存在的噪聲、殘缺和戴眼睛的人臉圖像等。GABP網(wǎng)絡(luò)的應(yīng)用于人臉檢測(cè)具有檢測(cè)速度快、檢測(cè)精度高等特點(diǎn)。
2 遺傳算法對(duì)BP網(wǎng)絡(luò)的優(yōu)化
2.1 BP神經(jīng)網(wǎng)絡(luò)的基本原理
BP(Back Propagation,反向傳播)網(wǎng)絡(luò)是神經(jīng)網(wǎng)絡(luò)的一個(gè)分支,又稱誤差信號(hào)反饋網(wǎng)絡(luò)[1]。誤差反向傳播的BP算法簡(jiǎn)稱BP算法,其基本思想是有導(dǎo)師學(xué)習(xí),可按梯度下降法實(shí)現(xiàn)快速收斂。典型的BP網(wǎng)絡(luò)是3層前饋階層網(wǎng)絡(luò)(如圖1所示),即輸入層、隱含層(中間層)和輸入層。一個(gè)3層的BP網(wǎng)絡(luò)可以完成任意的n維到m維的非線性映射。
圖1 BP網(wǎng)絡(luò)結(jié)構(gòu)BP算法的學(xué)習(xí)過程由正向傳播和方向傳播組成。在正向傳播過程中,輸入信息從輸入層經(jīng)隱含層逐層處理,并傳向輸出層,每層神經(jīng)元(節(jié)點(diǎn))的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層不能得到期望的輸出,則轉(zhuǎn)至方向傳播,將誤差信號(hào)(理想與實(shí)際輸出之差)按連接通路反向計(jì)算,由梯度下降法調(diào)整各層神經(jīng)元的權(quán)值,使誤差信號(hào)減小。神經(jīng)網(wǎng)絡(luò)理論已經(jīng)證明BP網(wǎng)絡(luò)具有強(qiáng)大的非線性映射的能力,一連續(xù)函數(shù)或映射均可采用3層網(wǎng)絡(luò)加以實(shí)現(xiàn)。
假設(shè)訓(xùn)練集包含M個(gè)樣本,中間層的單元數(shù)是L,對(duì)第P個(gè)訓(xùn)練樣本(p=1,2,…,M),單元j的實(shí)際輸出為opj,它的第i個(gè)輸入為opi,則:Upj=∑Ni=0WjiOpj。
其中Wji為神經(jīng)元i與神經(jīng)元j之間的連接權(quán)值。隱層神經(jīng)元的輸出采用S 函數(shù)激發(fā):Opj=f(upj)=11+exp(-upj);
誤差性能指標(biāo)函數(shù)為:E=∑PEp;其中EP=12∑jdpj-Opj.2;式中,dpj表示對(duì)P個(gè)訓(xùn)練樣本,單元j的期望輸出。訓(xùn)練網(wǎng)絡(luò)的目的是找到一組權(quán)重,使誤差函數(shù)極小化。根據(jù)梯度下降法,輸出層及隱含層連接權(quán)值學(xué)習(xí)算法為:
若權(quán)值的變化量記為ΔWij,取ΔWij正比于-EPWji,即ΔWij=ηδpjOpj;其中η為學(xué)習(xí)因子(可調(diào)整權(quán)值),令-EPuji=δpj,則EPWji=EPupiupjWji=EPujiOpj=-δpjOpj。用θi和φj分別表示輸出單元和隱含層的閾值。其閾值變化分別記為Δθi和Δφj,г蜚兄滴:ИЕ泉i(n+1)=θi(n)+Δθi(n);
φj(n+1)=φj(n)+Δφj(n)И2.2 GABP網(wǎng)絡(luò)
遺傳算法GA (Genetic Algorithm)是基于生物進(jìn)化原理的一種具有魯棒性的自適應(yīng)優(yōu)化方法[2]。遺傳算法遵循通過基于問題樣本適應(yīng)度函數(shù)對(duì)初始群體選擇、交叉和變異操作,來(lái)指導(dǎo)學(xué)習(xí)和確定搜索的方向。由于采用種群的方式組織搜索,所以它可以在全局解空間內(nèi)的多個(gè)區(qū)域內(nèi)尋求最優(yōu)解[3],而且特別適合大規(guī)模并行處理。對(duì)于BP網(wǎng)絡(luò)來(lái)說(shuō),也存在著不足,BP算法從本質(zhì)上講屬于梯度下降算法,因而不可避免的具有一些缺陷,如:易陷入局部極小點(diǎn)[4] 、訓(xùn)練速度慢[5]等。還有初始隨機(jī)加權(quán)的大小,會(huì)對(duì)局部最小部分產(chǎn)生很大的影響[6]。在優(yōu)化問題中,如果目標(biāo)函數(shù)是多峰的,或者搜索空間不規(guī)則,就要求所使用的算法必須具有高度的魯棒性,以避免在局部最優(yōu)解附近徘徊[7]。所以遺傳算法和BP網(wǎng)絡(luò)的結(jié)合正好優(yōu)劣互補(bǔ)。遺傳算法和神經(jīng)網(wǎng)絡(luò)的結(jié)合對(duì)于尋求全局最優(yōu)解其效果要優(yōu)于單個(gè)的使用遺傳算法或神經(jīng)網(wǎng)絡(luò),為充分結(jié)合遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的長(zhǎng)處提出了GA對(duì)BP的優(yōu)化,從而獲得網(wǎng)絡(luò)的最優(yōu)設(shè)計(jì)的新方法。
由于遺傳算法的搜索不依賴梯度信息,也不需要求解函數(shù)可微,只需要求解適應(yīng)度函數(shù)在約束條件下可解。 并且遺傳算法具有全局搜索的特性,用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的連接權(quán)和網(wǎng)絡(luò)結(jié)構(gòu),可以較好地克服BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定過程中所帶來(lái)的網(wǎng)絡(luò)振蕩,以及網(wǎng)絡(luò)極易陷入局部解問題,并且有效提高神經(jīng)網(wǎng)絡(luò)的泛化能力。因此,利用遺傳算法全局性搜索的特點(diǎn),尋找最為合適的網(wǎng)絡(luò)連接權(quán)和網(wǎng)絡(luò)結(jié)構(gòu)的方法來(lái)改變BP算法依賴梯度信息的指導(dǎo),從而達(dá)到對(duì)網(wǎng)絡(luò)結(jié)構(gòu)和網(wǎng)絡(luò)連接權(quán)值、閥值的最優(yōu)配置。
通過使用GA在由BP網(wǎng)絡(luò)初步確定的基本解空間上(網(wǎng)絡(luò)連接權(quán)和神經(jīng)元閥值的取值范圍) ,通過對(duì)基因的選擇,交叉變異操作。對(duì)樣本個(gè)體不斷擇優(yōu)進(jìn)化,直至進(jìn)化K(總的進(jìn)化代數(shù)由初始時(shí)給定)代后,選取個(gè)體中適應(yīng)度最大的個(gè)體來(lái)確定網(wǎng)絡(luò)的結(jié)構(gòu)和網(wǎng)絡(luò)的權(quán)值和閥值。
GABP優(yōu)化算法步驟描述如下:
(1) 確定網(wǎng)絡(luò)結(jié)構(gòu);
(2) 產(chǎn)生初始種群;
(3) 輸入訓(xùn)練樣本;
(4) 得到個(gè)體誤差,計(jì)算適應(yīng)度值;
(5) 判斷是否滿足要求?是,則停止轉(zhuǎn)入(6);否,則繼續(xù)訓(xùn)練,對(duì)網(wǎng)絡(luò)進(jìn)行優(yōu)化,產(chǎn)生新的閾值和權(quán)值;
(6) 得到GA優(yōu)化的網(wǎng)絡(luò)。
從算法過程可以看出,GA優(yōu)化BP網(wǎng)絡(luò)目的是確定網(wǎng)絡(luò)最優(yōu)的權(quán)值和閾值,而在訓(xùn)練過程中就是要不斷調(diào)整權(quán)值和閾值,直到總誤差函數(shù)是滿足條件,訓(xùn)練結(jié)束,其GABP網(wǎng)絡(luò)訓(xùn)練的流程圖(如圖2所示)。
圖2 GABP優(yōu)化算法訓(xùn)練流程3 GABP人臉檢測(cè)
這里采用ORL人臉數(shù)據(jù)庫(kù)進(jìn)行仿真實(shí)驗(yàn)。劍橋olivetli實(shí)驗(yàn)室拍攝一系列人臉圖像,共有40人,每人有不同的表情或不同視點(diǎn)的10幅圖像,計(jì)400幅圖像(圖3為其中一些人臉樣本)。這些圖像為灰度圖像,傾斜角一般不超過20°,這里在每個(gè)人的10幅圖像中取5幅圖像作為訓(xùn)練樣本對(duì)本系統(tǒng)進(jìn)行訓(xùn)練,并進(jìn)行標(biāo)準(zhǔn)化,得到各點(diǎn)灰度值,送入GABP網(wǎng)絡(luò)訓(xùn)練,調(diào)整權(quán)值和閾值,直到誤差足夠小或迭代到一定的次數(shù),當(dāng)訓(xùn)練結(jié)束,將權(quán)值和閾值保存在文件中。在GABP網(wǎng)絡(luò)中,由于BP網(wǎng)絡(luò)中輸出值與期望的輸出值之間的誤差平方和EP越小,則表示該網(wǎng)絡(luò)性能越好,可以選擇一種適應(yīng)度函數(shù):f(x)=1EP+1。
圖3 部分ORL人臉樣本接下來(lái)將訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行分類,裝載權(quán)值和閾值文件。選擇剩余的每個(gè)人5幅圖像用來(lái)分類,進(jìn)行標(biāo)準(zhǔn)化,送入GABP網(wǎng)絡(luò)進(jìn)行檢測(cè)。采用基于金字塔的子采樣過程,具體過程如下:首先將灰度圖像以1.2的比率重采樣縮小,而在每一級(jí)尺度變化中,以25×25的窗口大小,從上而下,從左到右掃描圖像,步長(zhǎng)為2個(gè)像素,最后將該窗口內(nèi)的625個(gè)像素點(diǎn)的灰度值送入已經(jīng)訓(xùn)練好的GABP網(wǎng)絡(luò)進(jìn)行人臉的判別,這個(gè)過程循環(huán)往復(fù),直到尺度變化后的圖象小于窗口大小為止。判別過程為:將數(shù)據(jù)輸入GABP網(wǎng)絡(luò)后,獲得2個(gè)輸出output(0)和output(1),如果output(0)大于output(1)則判斷為檢測(cè)正確,如果output(0)小于output(1)則判斷為檢測(cè)錯(cuò)誤,最后計(jì)算出檢測(cè)精度,如圖4所示。
圖4 GABP人臉檢測(cè)流程 分別采用本文的算法和傳統(tǒng)BP算法,其識(shí)別結(jié)果為,如表1所示。
表1 兩種方法用于人臉檢測(cè)的效果對(duì)比
網(wǎng)絡(luò)類型收斂步數(shù)正確率傳統(tǒng)BP算法38189.5%GABP算法23693.73%
對(duì)2種方法用于人臉檢測(cè)的效果對(duì)比可以看出,基于GABP網(wǎng)絡(luò)的人臉檢測(cè)方法與傳統(tǒng)BP網(wǎng)絡(luò)的方法相比,檢測(cè)率高出4個(gè)百分點(diǎn)左右。此外,GABP優(yōu)化的神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過程中不斷的調(diào)整權(quán)值和與閾值,輸出網(wǎng)絡(luò)最優(yōu)的權(quán)值和閾值,使總誤差函數(shù)
滿足條件,訓(xùn)練結(jié)束。從而提高訓(xùn)練速度,避免了在局部最優(yōu)解附近徘徊。因此它的學(xué)習(xí)速度很快,在同等條件下,傳統(tǒng)的BP網(wǎng)絡(luò)收斂為381步,而GABP優(yōu)化后的網(wǎng)絡(luò)僅為236步。
4 結(jié) 語(yǔ)
此文介紹一種GABP神經(jīng)網(wǎng)絡(luò)的人臉檢測(cè)算法,通過實(shí)驗(yàn)分析了該算法的性能。測(cè)試結(jié)果表明,該算法能明顯提高檢測(cè)精度,證明了遺傳算法優(yōu)化的BP網(wǎng)絡(luò)在人臉檢測(cè)的實(shí)際應(yīng)用中是可行的。
參 考 文 獻(xiàn)
[1]曾黃麟.智能計(jì)算[M].重慶:重慶大學(xué)出版社,2004.
[2]Golder G D.Genetic Algorithms in Search,Optimization and Machine Leam [M].London:AddisonWesley Pubishing Company Inc,1990.
[3]Bhatnv,Mcavoy T J.Determining Model Structure for Neural Models by Networks Tripping [J].Computer and Chem.Engng.,1992,16 (4):271281.
[4]潘昊,王曉勇,陳瓊,等.基于遺傳算法的BP經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用[J].計(jì)算機(jī)應(yīng)用,2005,25(12):2 7772 779.
[5]李敏強(qiáng),徐博藝,寇紀(jì)凇.遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合[J].系統(tǒng)工程理論與實(shí)踐,1999,(2):6569,112.
[6]樊為民.基于遺傳算法的神經(jīng)網(wǎng)絡(luò)算法研究[J].太原師范學(xué)院學(xué)報(bào):自然科學(xué)版,2004,3(4):1417.
[7]李建珍.基于遺傳算法的人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法[J].西北師范大學(xué)學(xué)報(bào),2002,38(2):3337.
[8]陳耀明.小波變換在圖像數(shù)據(jù)壓縮中的應(yīng)用\.現(xiàn)代電子技術(shù),2007,30(6):136138.
作者簡(jiǎn)介 焦利寶 男,1983年出生,河南新鄉(xiāng)人,碩士研究生。研究方向?yàn)槿斯ぶ悄芸刂萍爸悄苄畔⑻幚怼?/p>
彭 男,博士研究生,教授,碩士生導(dǎo)師。研究方向?yàn)橹饕獜氖掠?jì)算機(jī)應(yīng)用、人工智能與智能控制、專家系統(tǒng)方面的研究。
篇3
【關(guān)鍵詞】數(shù)字通信;自動(dòng)調(diào)制識(shí)別算法;研究
所謂的數(shù)字通信信號(hào)自動(dòng)調(diào)制識(shí)別技術(shù)主要是對(duì)通信系統(tǒng)中的信號(hào)進(jìn)行處理,包括:信號(hào)調(diào)制、信號(hào)檢測(cè)、信號(hào)提取等處理技術(shù)。自動(dòng)信號(hào)自動(dòng)調(diào)節(jié)識(shí)別技術(shù)在通信領(lǐng)域獲得了很大的發(fā)展,而且有很多的相關(guān)研究正在不斷的涌現(xiàn)。數(shù)字通信信號(hào)自動(dòng)調(diào)制識(shí)別技術(shù)屬于非合作通信的基礎(chǔ),在民用和軍用上都相當(dāng)廣泛。
一、數(shù)字通信信號(hào)調(diào)制識(shí)別方法分類介紹
通常數(shù)字信號(hào)調(diào)制識(shí)別的方法有傳統(tǒng)兩大分類,一類為基于決策理論的最大似然識(shí)別法;二類為特征提取的統(tǒng)計(jì)模式識(shí)別算法。而在統(tǒng)計(jì)模式識(shí)別法則主要有模式識(shí)別以及特征提取等,根據(jù)不同的調(diào)制信號(hào)中的不同設(shè)計(jì)來(lái)識(shí)別所有的分類器[1]。特征提取常常是對(duì)信號(hào)頻譜、瞬時(shí)信號(hào)、均值、星座特征以及高階統(tǒng)計(jì)等進(jìn)行主要特征進(jìn)行提取。決策理論的方法中,主要利用假設(shè)檢驗(yàn)以及概率等來(lái)描述調(diào)制模式的識(shí)別問題,通過最小的識(shí)別誤差來(lái)對(duì)調(diào)制模式進(jìn)行檢測(cè)判斷,因此可將其劃分為最優(yōu)分類器。
二、調(diào)制識(shí)別技術(shù)概念
(一)調(diào)制
所謂的自動(dòng)調(diào)制識(shí)別算法中的調(diào)制主要是當(dāng)消息在傳輸過程中由于存在著頻率較低的頻譜分量,且不利于信號(hào)的直接傳播,那么通信系統(tǒng)往往需要加入調(diào)制過程以此來(lái)達(dá)到信道調(diào)制的效果。調(diào)制技術(shù)可以對(duì)信號(hào)的頻譜進(jìn)行搬遷,將通信信號(hào)的頻譜搬到既定的位置上,然后將通信信號(hào)轉(zhuǎn)換成為適合信道傳輸?shù)男盘?hào)[2]。調(diào)制技術(shù)的方法種類有很多,而且根據(jù)信號(hào)的類型可將調(diào)制方法分為數(shù)字信號(hào)調(diào)制和模擬調(diào)制;根據(jù)信號(hào)在調(diào)制之后的頻譜類型可分為線性調(diào)制以及非線性調(diào)制。線性調(diào)制是通過改變載波的幅度來(lái)達(dá)到對(duì)基帶調(diào)制信號(hào)的頻譜搬移,此時(shí)的信號(hào)也保持了基帶信號(hào)的結(jié)構(gòu)和線性關(guān)系,所以線性調(diào)制也被稱為幅度調(diào)制。而非線性調(diào)制則是通過改變載波的頻率和相位來(lái)實(shí)現(xiàn)頻譜的搬遷,即始終保持載波的幅度不變,而載波的頻率和相位卻發(fā)生改變。
(二)識(shí)別
通信信號(hào)自動(dòng)調(diào)制的識(shí)別主要是在進(jìn)行信號(hào)調(diào)制的過程中清楚信號(hào)的調(diào)制參數(shù)以及信息內(nèi)容等??膳袛喑鲂盘?hào)所采取的調(diào)制方式,同時(shí)還可以根據(jù)某些調(diào)制的信息來(lái)確定調(diào)制的參數(shù),那么我們?cè)谶M(jìn)行調(diào)制的過程中選取適當(dāng)?shù)乃惴橛?jì)算提供準(zhǔn)確的參數(shù)[3]。識(shí)別技術(shù)中其主要的核心為分類器設(shè)計(jì)、特征提取等,其征的提取主要是對(duì)信號(hào)進(jìn)行分析,根據(jù)不同的信號(hào)的時(shí)頻域分析來(lái)進(jìn)行特征識(shí)別。
三、自動(dòng)調(diào)制識(shí)別算法探索
(一)自適應(yīng)lr算法
Lr算法屬于BP神經(jīng)網(wǎng)絡(luò)算法的一種,lr值本是固定不變的。但是自適應(yīng)lr算法確有著其自變的規(guī)律,若計(jì)算過程中可以在較平坦的曲面提高lr,反而加速了收斂減少了lr??梢员硎緸椋簑(k+1)=w(k)-η(k)F(w(k))。據(jù)該公式可知,通調(diào)整η(k)可以獲得較之BP神經(jīng)網(wǎng)絡(luò)更快的收斂速度。Lr算法中將動(dòng)量和自適應(yīng)lr梯度算法結(jié)合起來(lái),可以有效的提升學(xué)習(xí)的效率,還能夠限制網(wǎng)絡(luò)陷入局部極小值。
(二)L-M算法
L-M算法主要是利用目標(biāo)函數(shù)進(jìn)行一階和二階求導(dǎo),其迭代式子為:w(k+1)=w(k)-(JT(k)J(k)+uI)-1J(k)(w(k)),u表示阻尼因子;I表示單位矩陣;J(k)表示雅克比矩陣。L-M算法則是通過調(diào)節(jié)阻尼因子來(lái)對(duì)迭代收斂方向?qū)崿F(xiàn)動(dòng)態(tài)調(diào)整。該算法則是結(jié)合了牛頓法和梯度下降法進(jìn)行快速收斂。
(三)RPROP算法
RPROP算法與BP神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)有所不同,該算法在調(diào)整網(wǎng)絡(luò)的過程中主要是利用函數(shù)的誤差,針對(duì)閥值偏導(dǎo)數(shù)、網(wǎng)絡(luò)權(quán)值等進(jìn)行符號(hào)替代,可以有效的提升收斂的速度,這就解決了BP神經(jīng)網(wǎng)絡(luò)收斂速度慢的缺點(diǎn)[5]。RPROP算法在調(diào)整網(wǎng)絡(luò)的時(shí)候,可以先設(shè)置一個(gè)權(quán)更新值“”,則全修正值為w,其算法的計(jì)算公式為:
wij(t)=-(t) >0 (1)
wij(t)=+(t) <0 (2)
wij(t)=0 其他 (3)
式中,t表示訓(xùn)練的次數(shù),而RPROP算法則采用批處理方式進(jìn)行訓(xùn)練。
則表示在地t時(shí)訓(xùn)練時(shí),訓(xùn)練集的所有模式梯度累加。權(quán)更新值ij則表示在i、j此訓(xùn)練之后E上的梯度信息,更能夠適應(yīng)于學(xué)習(xí)更新。則其公式為:
ij(t)=η+×ij(t-1)
>0 (4)
ij(t)=η-×ij(t-1)
<0 (5)
ij(t)=0 其他 (6)
從上述的(4)、(5)、(6)式子看出,如果E的梯度符號(hào)發(fā)生改變,則表示wij變化太大,則ij應(yīng)該乘以η-,使之減小。如果E上的梯度符號(hào)不變,則隨著wij增大,ij應(yīng)乘以η+,則可以有效的加速誤差曲面的收斂。
四、結(jié)束語(yǔ)
數(shù)字通信信號(hào)自動(dòng)調(diào)制識(shí)別在合作和非合作領(lǐng)域具有非常重要的價(jià)值,而且已經(jīng)成為了當(dāng)前重要領(lǐng)域的研究熱點(diǎn)技術(shù)。隨著通信信息技術(shù)的快速發(fā)展,對(duì)于自動(dòng)化的要求越來(lái)越高,因此針對(duì)數(shù)字通信信號(hào)自動(dòng)化調(diào)制識(shí)別算法具有非常重要的意義,值得我們不斷進(jìn)行研究。
參考文獻(xiàn)
[1]李敏.數(shù)字通信信號(hào)自動(dòng)調(diào)制識(shí)別技術(shù)的研究[D].哈爾濱工程大學(xué),2012.
[2]蘆躍.數(shù)字信號(hào)調(diào)制識(shí)別及參數(shù)估計(jì)研究[D].蘇州大學(xué),2013.
篇4
關(guān)鍵詞: 回歸測(cè)試; 測(cè)試用例; 神經(jīng)網(wǎng)絡(luò); BP網(wǎng)絡(luò)
中圖分類號(hào): TN711?34 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2015)19?0114?03
Abstract: Regression testing means after modifying the source code, re?testing to confirm whether the discovered defect is repaired, and whether detection and modification have brought in a new bug or caused the errors in other codes which possesses a large proportion of the workload during testing procedure. The fundamental principle of neural network is analyzed, and the thought of BP algorithm is introduced into the case set selection of regression testing. The algorithm to select regression testing case package is presented. The functions which may be influenced by code modification are screened out by samples training, and the higher priority use case can be screened out. A set of regression testing strategy with high efficient and easy operation was summed up through the accumulation of testing practice.
Keywords: regression testing; testing case; neural network; BP network
0 引 言
軟件分析,設(shè)計(jì)過程中難免有各種各樣的錯(cuò)誤,需要通過測(cè)試查找錯(cuò)誤,以保證軟件的質(zhì)量。軟件測(cè)試是由人工或計(jì)算機(jī)來(lái)執(zhí)行或評(píng)價(jià)軟件的過程,驗(yàn)證軟件是否滿足規(guī)定的需求或識(shí)別期望的結(jié)果和實(shí)際結(jié)果之間有無(wú)差別。大量統(tǒng)計(jì)資料表明,軟件測(cè)試工作量往往占軟件開發(fā)總量的40%以上。而回歸測(cè)試作為軟件生命周期的一個(gè)組成部分,在整個(gè)軟件測(cè)試過程中占有很大的工作量比重,軟件開發(fā)的各個(gè)階段都會(huì)進(jìn)行多次回歸測(cè)試。在漸進(jìn)和快速迭代開發(fā)中,新版本的連續(xù)使回歸測(cè)試變得更加頻繁,而在極端編程方法中,更是要求每天都進(jìn)行若干次回歸測(cè)試。因此,研究回歸測(cè)試方法,盡可能地將軟件存在的問題找出來(lái),對(duì)保證軟件質(zhì)量和提升測(cè)試工作效率都是非常有意義的。
1 相關(guān)工作
1.1 回歸測(cè)試
回歸測(cè)試是指修改了舊代碼后,重新進(jìn)行測(cè)試以確認(rèn)修改沒有引入新的錯(cuò)誤或?qū)е缕渌a產(chǎn)生錯(cuò)誤。對(duì)于一個(gè)軟件開發(fā)項(xiàng)目來(lái)說(shuō),項(xiàng)目的測(cè)試組在實(shí)施測(cè)試的過程中會(huì)將所開發(fā)的測(cè)試用例保存到“測(cè)試用例庫(kù)”中,并對(duì)其進(jìn)行維護(hù)和管理。當(dāng)?shù)玫揭粋€(gè)軟件的基線版本時(shí),用于基線版本測(cè)試的所有測(cè)試用例就形成了基線測(cè)試用例庫(kù)。在需要進(jìn)行回歸測(cè)試時(shí),就可以根據(jù)所選擇的回歸測(cè)試策略,從基線測(cè)試用例庫(kù)中提取合適的測(cè)試用例組成回歸測(cè)試包,通過運(yùn)行回歸測(cè)試包實(shí)現(xiàn)回歸測(cè)試。
在軟件生命周期中,即使一個(gè)得到良好維護(hù)的測(cè)試用例庫(kù)也可能變得相當(dāng)大,這使每次回歸測(cè)試都重新運(yùn)行完整的測(cè)試包變得不切實(shí)際。一個(gè)完全的回歸測(cè)試包括每個(gè)基線測(cè)試用例,時(shí)間和成本約束可能阻礙運(yùn)行這樣一個(gè)測(cè)試,有時(shí)測(cè)試工作不得不選擇一個(gè)縮減的回歸測(cè)試包來(lái)完成回歸測(cè)試。
1.2 相關(guān)技術(shù)的研究
測(cè)試用例的優(yōu)化技術(shù)旨在以小的運(yùn)行代價(jià)盡可能多地發(fā)現(xiàn)系統(tǒng)Bug。假設(shè)測(cè)試用例是能發(fā)現(xiàn)缺陷的;測(cè)試用例的運(yùn)行效率是一樣的。測(cè)試用例的集合的選取不僅是減少用例的數(shù)目,降低用例的執(zhí)行代價(jià),也需要考慮測(cè)試覆蓋能力,即缺陷發(fā)現(xiàn)能力。在測(cè)試用例選擇優(yōu)化的問題上,已有很多文獻(xiàn)對(duì)此進(jìn)行了研究,如配對(duì)測(cè)試法[1]、關(guān)系樹模型[2]、蟻群模擬退火算法[3]及一些其他新的理論和方法[4?7]。
2 回歸測(cè)試用例集生成方法
2.1 基本原理
神經(jīng)網(wǎng)絡(luò)是通過對(duì)人腦的基本單元――神經(jīng)元的建模和聯(lián)接,探索模擬人腦神經(jīng)系統(tǒng)功能的模型,并研制一種具有學(xué)習(xí)、聯(lián)想、記憶和模式識(shí)別等智能信息處理功能的人工系統(tǒng)。
神經(jīng)網(wǎng)絡(luò)的一個(gè)重要特性是它能夠從環(huán)境中學(xué)習(xí),并把學(xué)習(xí)的結(jié)果分布存儲(chǔ)于網(wǎng)絡(luò)的突觸連接中。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)是一個(gè)過程,在其所處環(huán)境的激勵(lì)下,相繼給網(wǎng)絡(luò)輸入一些樣本模式,并按照一定的規(guī)則(學(xué)習(xí)算法)調(diào)整網(wǎng)絡(luò)各層的權(quán)值矩陣,待網(wǎng)絡(luò)各層權(quán)值都收斂到一定值,學(xué)習(xí)過程結(jié)束,從而以新的方式響應(yīng)環(huán)境。
2.2 BP神經(jīng)網(wǎng)絡(luò)
Back?Propagation Network,由于其權(quán)值的調(diào)整采用反向傳播(Back Propagation)的學(xué)習(xí)算法,因此被稱為BP網(wǎng)絡(luò)。網(wǎng)絡(luò)中心思想是梯度下降法,通過梯度搜索技術(shù),使網(wǎng)絡(luò)實(shí)際輸出值與期望輸出值的誤差均方值最小。網(wǎng)絡(luò)的學(xué)習(xí)過程是一種誤差邊向后傳播邊修正權(quán)系數(shù)的過程。一般分三層:輸入層(Input Layer),隱層(Hide Layer),輸出層(Out Layer),也可以有2層或更多個(gè)隱層。層與層之間采用全互聯(lián)方式,同一層單元之間不存在相互連接,如圖1所示。
由于神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織和并行處理等特征,并具有很強(qiáng)的容錯(cuò)能力和聯(lián)想能力,因此,神經(jīng)網(wǎng)絡(luò)具有模式識(shí)別能力。在神經(jīng)網(wǎng)絡(luò)識(shí)別中,根據(jù)標(biāo)準(zhǔn)的輸入輸出模式對(duì),采用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法,以標(biāo)準(zhǔn)的模式作為學(xué)習(xí)樣本進(jìn)行訓(xùn)練,通過學(xué)習(xí)調(diào)整神經(jīng)網(wǎng)絡(luò)的連接權(quán)值。當(dāng)訓(xùn)練滿足要求后,得到知識(shí)庫(kù),如圖2所示。
BP算法的具體步驟如下:
(1) 用小的隨機(jī)數(shù)對(duì)每一層的權(quán)值[W]初始化,以保證網(wǎng)絡(luò)不被大的加權(quán)輸入飽和;
(2) 計(jì)算網(wǎng)絡(luò)各層輸出矢量以及網(wǎng)絡(luò)誤差[E;]
(3) 計(jì)算各層反傳的誤差變化并計(jì)算各層權(quán)值的修正值以及新權(quán)值;
(4) 再次計(jì)算權(quán)值修正后誤差的平方和;
(5) 檢查誤差是否小于給定誤差,若是,訓(xùn)練結(jié)束;否則繼續(xù)。
輸入信號(hào)[Xi]通過中間節(jié)點(diǎn)(隱藏層節(jié)點(diǎn))作用于輸出節(jié)點(diǎn),經(jīng)過非線性變換,產(chǎn)生輸出信號(hào)[Yk,]網(wǎng)絡(luò)訓(xùn)練的每個(gè)樣本包括輸入向量[X]和期望輸出量[t](類別),網(wǎng)絡(luò)輸出值[Y]和期望輸出值(真值)[t]之間的偏差,通過調(diào)整輸入節(jié)點(diǎn)與隱藏層節(jié)點(diǎn)的連接強(qiáng)度取值和隱藏層節(jié)點(diǎn)與輸出節(jié)點(diǎn)之間的連接強(qiáng)度以及閾值,使誤差沿梯度的方向下降,經(jīng)過反復(fù)學(xué)習(xí)訓(xùn)練,確定與最小誤差項(xiàng)對(duì)應(yīng)的網(wǎng)絡(luò)參數(shù)(權(quán)值和閾值),訓(xùn)練即告停止。學(xué)習(xí)樣本的數(shù)量和質(zhì)量影響學(xué)習(xí)效果和學(xué)習(xí)速度。
為了訓(xùn)練一個(gè)BP網(wǎng)絡(luò),需要計(jì)算網(wǎng)絡(luò)加權(quán)輸入矢量以及網(wǎng)絡(luò)輸出和誤差矢量,然后求得誤差平方和。當(dāng)所訓(xùn)練矢量的誤差平方和小于誤差目標(biāo),訓(xùn)練則停止;否則在輸出層計(jì)算誤差變化,且采用反向傳播學(xué)習(xí)規(guī)則調(diào)整權(quán)值,并重復(fù)此過程。當(dāng)網(wǎng)絡(luò)完成訓(xùn)練后,對(duì)網(wǎng)絡(luò)輸入一個(gè)不是訓(xùn)練集合中的矢量,網(wǎng)絡(luò)將給出輸出結(jié)果。
2.3 回歸測(cè)試用例包選取
基于全量的測(cè)試用例庫(kù),回歸測(cè)試包的選擇策略可遵循下述基本算法進(jìn)行:
(1) 識(shí)別出軟件中被修改的部分。
(2) 從原基線測(cè)試用例庫(kù)[T]中,排除所有不再適用的測(cè)試用例,確定那些對(duì)新的軟件版本依然有效的測(cè)試用例,其結(jié)果是建立一個(gè)新的基線測(cè)試用例庫(kù)[T0。]
(3) 依據(jù)一定的策略從[T0]中選擇測(cè)試用例測(cè)試被修改的軟件。
(4) 如果必要,生成新的測(cè)試用例集[T1,]用于測(cè)試[T0]無(wú)法充分測(cè)試的軟件部分。
(5) 用[T1]執(zhí)行修改后的軟件。
在上述步驟中,第(2)和第(3)步測(cè)試驗(yàn)證修改是否破壞了現(xiàn)有的功能,第(4)和第(5)步測(cè)試驗(yàn)證修改工作本身。第(3)步中,將神經(jīng)網(wǎng)絡(luò)知識(shí)結(jié)合到測(cè)試領(lǐng)域,通過對(duì)樣本的學(xué)習(xí),確認(rèn)修改沒有引入新的錯(cuò)誤或?qū)е缕渌a產(chǎn)生錯(cuò)誤。
其主要思想為:對(duì)于[q]個(gè)輸入學(xué)習(xí)樣本:[P1,P2,…,Pq,]已知與其對(duì)應(yīng)的輸出樣本為:[T1,T2,…,Tq。]通過網(wǎng)絡(luò)的實(shí)際輸出[A1,A2,…,Aq]與目標(biāo)矢量[T1,T2,…,Tq]之間的誤差來(lái)修改其權(quán)值,使[Al (l=1,2,…,q)]與期望的[Tl]盡可能地接近,使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小。
3 回歸測(cè)試實(shí)踐的優(yōu)化
在項(xiàng)目測(cè)試過程中,不僅需要應(yīng)用高新的測(cè)試技術(shù),也要從宏觀上制定可行的測(cè)試策略,解決在有限的時(shí)間中使測(cè)試覆蓋率最優(yōu)化。本文從項(xiàng)目實(shí)踐角度出發(fā),提出以下的回歸測(cè)試策略:
(1) 對(duì)所有已修復(fù)Bug進(jìn)行驗(yàn)證;
(2) 對(duì)新增功能進(jìn)行全量重點(diǎn)測(cè)試;
(3) 對(duì)原有功能,按優(yōu)先級(jí)進(jìn)行測(cè)試。基于一定的風(fēng)險(xiǎn)標(biāo)準(zhǔn)從基線測(cè)試用例庫(kù)中選擇回歸測(cè)試包。首先運(yùn)行最重要、關(guān)鍵和可疑的測(cè)試,而跳過那些非關(guān)鍵、優(yōu)先級(jí)別低或者高穩(wěn)定的測(cè)試用例,這些用例即便可能測(cè)試到缺陷,這些缺陷的嚴(yán)重性也較低,不影響系統(tǒng)的功能。一般而言,測(cè)試從主要特征到次要特征。
(4) 對(duì)修復(fù)的Bug可能會(huì)引入新的Bug的功能模塊重點(diǎn)測(cè)試,可采用本文介紹的神經(jīng)網(wǎng)絡(luò)進(jìn)行樣本訓(xùn)練和用例篩選。將回歸測(cè)試局限于被改變的模塊和它的接口上。通常,一個(gè)回歸錯(cuò)誤一定涉及一個(gè)新的、修改的或刪除的代碼段。在允許的條件下,回歸測(cè)試盡可能覆蓋受到影響的部分。
(5) 如果情況允許,測(cè)試全部用例的策略是最安全的策略。但已經(jīng)運(yùn)行過許多次的回歸測(cè)試不太可能揭示新的錯(cuò)誤,而且很多時(shí)候,由于時(shí)間、人員、設(shè)備和經(jīng)費(fèi)的原因,不允許選擇再測(cè)試全部用例的回歸測(cè)試策略,此時(shí),可以選擇適當(dāng)?shù)牟呗赃M(jìn)行縮減的回歸測(cè)試。
4 結(jié) 語(yǔ)
將神經(jīng)網(wǎng)絡(luò)知識(shí)引入到測(cè)試領(lǐng)域是一個(gè)比較新的研究,本文就此方向進(jìn)行了研究,并給出了實(shí)例說(shuō)明。然而,BP神經(jīng)網(wǎng)絡(luò)需要大量的樣本數(shù)據(jù)用來(lái)訓(xùn)練和測(cè)試,當(dāng)樣本數(shù)量不夠時(shí),預(yù)測(cè)的誤偏差可能會(huì)較大,回歸測(cè)試開始時(shí),由于數(shù)據(jù)樣本不足,可能會(huì)存在預(yù)測(cè)的偏差,所以下一步的研究方向?qū)⑹侨绾慰朔@一問題。
參考文獻(xiàn)
[1] 廖劍鋒,蔡賢濤.組合測(cè)試中用例集的選擇策略[J].計(jì)算機(jī)工程與應(yīng)用,2012,48(11):65?70.
[2] 鈕鑫濤,聶長(zhǎng)海,CHAN Alvin.組合測(cè)試故障定位的關(guān)系樹模型[J].計(jì)算機(jī)學(xué)報(bào),2014,37(12):2505?2518.
[3] 聶長(zhǎng)海,徐寶文,史亮.一種基于組合測(cè)試的軟件故障診斷方法[J].東南大學(xué)學(xué)報(bào):自然科學(xué)版,2003,33(6):681?684.
[4] 徐寶文,聶長(zhǎng)海,史亮,等.一種基于組合測(cè)試的軟件故障調(diào)試方法[J].計(jì)算機(jī)學(xué)報(bào),2006,29(1):132?138.
[5] YILMAZ C. Covering arrays for efficient fault characterization in complex configuration space [J]. IEEE Transaction on Software Engineering, 2006, 32(1): 20?34.
篇5
關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);飼料產(chǎn)量;飼料產(chǎn)量預(yù)測(cè);畜牧水產(chǎn)業(yè)
中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):2095-1302(2017)01-00-02
0 引 言
我國(guó)是世界上人口最多的國(guó)家,畜牧水產(chǎn)業(yè)的發(fā)展與我國(guó)國(guó)民生活息息相關(guān)。畜牧水產(chǎn)業(yè)的可持續(xù)發(fā)展需要飼料產(chǎn)業(yè)的支持。飼料產(chǎn)業(yè)為現(xiàn)代養(yǎng)殖業(yè)的可持續(xù)發(fā)展提供了重要的物質(zhì)基礎(chǔ),為我國(guó)人民生活水平的提高作出了重大貢獻(xiàn)[1]。
1979年,我國(guó)正式從傳統(tǒng)飼料進(jìn)入現(xiàn)代飼料工業(yè)時(shí)代。經(jīng)過30多年的發(fā)展,我國(guó)飼料產(chǎn)量逐年增加,于2011年開始超過美國(guó),躍居世界第一,同時(shí)我國(guó)飼料從一開始飼料產(chǎn)品品種單一,質(zhì)量不高,到現(xiàn)在飼料產(chǎn)品多樣化、系列化,且飼料產(chǎn)品質(zhì)量管理體系不斷完善,有力地推動(dòng)了養(yǎng)殖業(yè)的快速可持續(xù)發(fā)展,加快了農(nóng)業(yè)結(jié)構(gòu)調(diào)整,增加了國(guó)民收入[2]。
目前,國(guó)內(nèi)用于飼料產(chǎn)量預(yù)測(cè)的方法并不多,范潤(rùn)梅[3]提出的灰色預(yù)測(cè)理論建立了GM(1,1)模型用于預(yù)測(cè)20092011年我國(guó)飼料產(chǎn)量,該模型具有較好的預(yù)測(cè)精度。但由于灰色預(yù)測(cè)的理論缺陷,當(dāng)數(shù)據(jù)波動(dòng)較大時(shí),GM(1,1)模型預(yù)測(cè)誤差較大,有時(shí)不能滿足預(yù)測(cè)需要。而BP神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的學(xué)習(xí)能力,可以逼近任意復(fù)雜的非線性函數(shù),信息利用率較高,在預(yù)測(cè)中得到了廣泛應(yīng)用[4-6]。本文利用BP神經(jīng)網(wǎng)絡(luò)模型和灰色預(yù)測(cè)模型對(duì)我國(guó)20102015年的飼料產(chǎn)量進(jìn)行了預(yù)測(cè),結(jié)果表明,BP模型具有很好的預(yù)測(cè)效果,預(yù)測(cè)最大誤差為5.79%,平均誤差為3.56%,而灰色預(yù)測(cè)模型預(yù)測(cè)的最大誤差為12.95%,平均誤差為7.24%。因此BP神經(jīng)網(wǎng)絡(luò)模型能夠更好地用于飼料產(chǎn)量的預(yù)y,具有更高的工程應(yīng)用價(jià)值。
1 灰色理論模型
GM(1,1)模型的基本原理如下:
根據(jù)灰色理論的原理,本文建立灰色預(yù)測(cè)模型的步驟如下所示:
①輸入樣本數(shù)據(jù),根據(jù)公式(3)對(duì)樣本數(shù)據(jù)進(jìn)行累加處理。
②根據(jù)公式(6)求得B和YN。
③根據(jù)公式(7)求得模型的累加預(yù)測(cè)值。
④根據(jù)公式(8)求得樣本的預(yù)測(cè)值。
灰色預(yù)測(cè)模型流程圖如圖1所示。
2 BP神經(jīng)網(wǎng)絡(luò)模型
BP神經(jīng)網(wǎng)絡(luò)有一個(gè)輸入層、一個(gè)輸出層和一個(gè)或多個(gè)隱含層,同層神經(jīng)元間無(wú)關(guān)聯(lián),異層神經(jīng)元間向前連接。根據(jù)對(duì)象的復(fù)雜程度,選擇適當(dāng)?shù)木W(wǎng)絡(luò)結(jié)構(gòu)就可以實(shí)現(xiàn)從輸入空間到輸出空間的任意非線性函數(shù)的映射。BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖2所示。
BP神經(jīng)網(wǎng)絡(luò)建模流程圖如圖3所示。BP神經(jīng)網(wǎng)絡(luò)模型的建立需要按照如下步驟進(jìn)行:
(1)輸入樣本數(shù)據(jù),對(duì)樣本數(shù)據(jù)進(jìn)行歸一化處理。
(2)設(shè)置神經(jīng)網(wǎng)絡(luò)的誤差精度、學(xué)習(xí)速率、最大訓(xùn)練次數(shù)等參數(shù)。
(3)使用梯度下降法對(duì)權(quán)值和閾值進(jìn)行調(diào)整,同時(shí)使用反向傳播算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。
(4)訓(xùn)練合格則模型建立成功,否則繼續(xù)訓(xùn)練。
(5)使用訓(xùn)練好的模型進(jìn)行預(yù)測(cè),輸出預(yù)測(cè)值。
(6)對(duì)預(yù)測(cè)值進(jìn)行反歸一化處理,得到真實(shí)的預(yù)測(cè)值。
3 兩種模型在飼料產(chǎn)量預(yù)測(cè)中的應(yīng)用
本文取19922015年這24年的飼料總產(chǎn)量相關(guān)數(shù)據(jù)進(jìn)行飼料產(chǎn)量預(yù)測(cè),以1992為起點(diǎn)依次選取19年的數(shù)據(jù)作為訓(xùn)練樣本分別采用灰色預(yù)測(cè)模型和BP神經(jīng)網(wǎng)絡(luò)模型來(lái)預(yù)測(cè)下一年的飼料產(chǎn)量,其預(yù)測(cè)結(jié)果和誤差分別如圖4、圖5所示。
從圖4可以看出,20112012年灰色模型和BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)值與實(shí)際值都能夠較好地吻合,而2013年我國(guó)飼料產(chǎn)量下降,數(shù)據(jù)曲線不再線性增加,此時(shí)灰色模型的預(yù)測(cè)值就偏離了實(shí)際值,預(yù)測(cè)誤差增大,但是BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)值還是可以與實(shí)際值較好地吻合。從圖5可以看出,BP神經(jīng)網(wǎng)絡(luò)模型的誤差大約為5%,而灰色模型的誤差最大達(dá)到了10%以上。從圖4和圖5中可以看出,BP神經(jīng)網(wǎng)絡(luò)模型相比灰色模型具有更高的預(yù)測(cè)精度,能夠更好地用于飼料產(chǎn)量預(yù)測(cè)。
4 結(jié) 語(yǔ)
由以上分析可知,采用灰色模型進(jìn)行飼料產(chǎn)量預(yù)測(cè)時(shí),當(dāng)飼料產(chǎn)量減少,波動(dòng)較大,灰色預(yù)測(cè)模型的預(yù)測(cè)誤差就可能會(huì)增大。本文采用BP神經(jīng)網(wǎng)絡(luò)模型有效減小了波動(dòng)時(shí)產(chǎn)生的預(yù)測(cè)誤差,提高了預(yù)測(cè)精度,為飼料產(chǎn)量的預(yù)測(cè)提供了一種新的研究方法。但該方法并不能夠時(shí)時(shí)優(yōu)于灰色模型,因此該方法有待于進(jìn)一步完善和發(fā)展。
參考文獻(xiàn)
[1]馬廣鵬.我國(guó)飼料行業(yè)發(fā)展現(xiàn)狀及趨勢(shì)分析[J].飼料工業(yè),2013(4):45-47.
[2]徐倩.畜牧飼料行業(yè)信息化管理進(jìn)程[J].廣東飼料,2015,24(8):10-13.
[3]范潤(rùn)梅,解沛,王征南.灰色預(yù)測(cè)模型在我國(guó)飼料產(chǎn)量預(yù)測(cè)[J].中國(guó)畜牧雜志, 2009,45(8):13-16.
[4]王啟平.BP神經(jīng)網(wǎng)絡(luò)在我國(guó)糧食產(chǎn)量預(yù)測(cè)中的應(yīng)用[J].預(yù)測(cè) 2002,21(3):79-80.
[5]周彩蘭,劉敏.BP神經(jīng)網(wǎng)絡(luò)在石油產(chǎn)量預(yù)測(cè)中的應(yīng)用[J].武漢理工大學(xué)學(xué)報(bào),2009(3):125-129.
[6]徐黎明,王清,陳劍平,等.基于BP神經(jīng)網(wǎng)絡(luò)的泥石流平均流速預(yù)測(cè)[J].吉林大學(xué)學(xué)報(bào)(地球科學(xué)版),2013,43(1):186-191.
篇6
引言
分子蒸餾是一種新型的在高真空條件下進(jìn)行的液-液分離技術(shù),具有蒸餾溫度低(低于物質(zhì)沸點(diǎn)溫度)真空度高,物料受熱時(shí)間短,分離程度高等特點(diǎn);且分離過程不可逆,沒有沸騰鼓泡現(xiàn)象[1]。特別適用于分離高沸點(diǎn)、熱敏性、高粘度和易被氧化的物質(zhì)。但是分子蒸餾過程是一個(gè)極其復(fù)雜的過程,實(shí)際生產(chǎn)中除了發(fā)揮其優(yōu)點(diǎn)外,還要要兼顧生產(chǎn)效率及產(chǎn)品質(zhì)量,因此,分子蒸餾生產(chǎn)工程的工藝參數(shù)優(yōu)化是一個(gè)多目標(biāo)組合優(yōu)化問題[2]。生產(chǎn)中根據(jù)生產(chǎn)目標(biāo)選擇相應(yīng)的工藝指標(biāo),這就需要進(jìn)行反復(fù)實(shí)驗(yàn)來(lái)獲取目標(biāo)下的最佳工藝參數(shù)值。由于分子蒸餾過程的復(fù)雜性,導(dǎo)致其工藝參數(shù)比較多,難以用數(shù)學(xué)方法來(lái)解決。而人工神經(jīng)網(wǎng)絡(luò)具有人體腦神經(jīng)系統(tǒng)的信息處理機(jī)制,可以映射任何較為復(fù)雜的非線性關(guān)系,具有自學(xué)習(xí)能力。本文采用應(yīng)用較為廣泛的BP神經(jīng)網(wǎng)絡(luò)和遺傳算法相結(jié)合,將其運(yùn)用到分子蒸餾過程中的工業(yè)參數(shù)優(yōu)化中,通過給定分子蒸餾的工藝參數(shù)及生產(chǎn)指標(biāo),經(jīng)過大量樣本的學(xué)習(xí)訓(xùn)練使網(wǎng)絡(luò)達(dá)到允許的誤差范圍,映射工藝參數(shù)與生產(chǎn)指標(biāo)之間的復(fù)雜非線性關(guān)系[3-4]。以該模型的預(yù)測(cè)性能輸出作為目標(biāo)函數(shù),對(duì)工藝參數(shù)進(jìn)一步優(yōu)化,從而實(shí)現(xiàn)預(yù)定的工藝指標(biāo)下的分子蒸餾工藝參數(shù)的優(yōu)化。
1分子蒸餾參數(shù)測(cè)試實(shí)驗(yàn)
1.1分子蒸餾過程模型氣體分子從液體表面溢出,由于其自由程的不同,與其他分子碰撞前的飛行距離各不相同。分子蒸餾技術(shù)就是利用不同種類分子逸出液面后平均自由程不同的性質(zhì)實(shí)現(xiàn)分離的。Langmuir[5]根據(jù)理想氣體的動(dòng)力學(xué)理論提出了分子自由程的數(shù)學(xué)模型:式中,p為分子所處環(huán)境壓強(qiáng);λm為分子運(yùn)動(dòng)平均自由程;d為分子有效直徑;T為分子所處環(huán)境溫度;k為玻爾茲曼常數(shù)。由式(1)分子平均自由程公式可知,氣體分子平均自由程與溫度成正比,與壓強(qiáng)反比。當(dāng)加熱板上的物料達(dá)到一定溫度時(shí),分子平均自由程大于板間距離的輕組分脫離加熱板飛向冷凝板,在冷凝板上捕獲,而平均自由程小于板間距的重組分到達(dá)不了冷凝板,從而實(shí)現(xiàn)了物質(zhì)的分離。其分離過程如圖1所示。
1.2實(shí)驗(yàn)設(shè)備本文在DCH-300三級(jí)分子蒸餾裝置的基礎(chǔ)上進(jìn)行參數(shù)測(cè)試實(shí)驗(yàn)研究。實(shí)驗(yàn)裝置的刮膜式短程蒸發(fā)器分子蒸餾過程為:液料放入原料罐被計(jì)量泵抽取。泵用穩(wěn)定流量輸送物料,經(jīng)過管道被送入降膜器內(nèi)的旋轉(zhuǎn)分配器,在離心力的作用下,被甩向夾套加熱室內(nèi)壁,這時(shí)物料液體受重力的作用,沿著內(nèi)壁向下流動(dòng),與此同時(shí)裝在轉(zhuǎn)軸上的刮板,把料液刮成簿膜,這樣料液受加熱而蒸發(fā),由于在重力及離心力的作用下,不斷地更新液膜。根據(jù)分子運(yùn)動(dòng)理論知道,液體混合物的分子受熱后運(yùn)動(dòng)會(huì)加劇,當(dāng)接受到足夠的能量時(shí),輕組分首先就會(huì)從液面溢出而成為氣體分子,當(dāng)氣體分子逸出碰到內(nèi)冷凝列管時(shí),瞬即從氣體變?yōu)橐后w并被柱下氣相罐收集,重組分因達(dá)不到逸出溫度,而仍然以液體狀態(tài)流出蒸餾柱,由液相罐收集。圖2為蒸餾裝置的工藝原理圖,其中,H1、H2、H3為三級(jí)的蒸發(fā)器,蒸發(fā)器面積分別為0.02m2,0.26m2,1.1m2。L1、L2、L3為三級(jí)的冷凝器,并且每一級(jí)的蒸發(fā)器都配有各自的刮膜電機(jī),可以控制刮膜轉(zhuǎn)速,提高蒸發(fā)速率,每一級(jí)的冷凝系統(tǒng)都與冷機(jī)相連,保證具有合適的冷凝溫度。第二級(jí)包括一個(gè)水環(huán)真空泵、2個(gè)羅茨真空泵,1個(gè)增壓真空泵構(gòu)成的泵組,第三級(jí)包括旋片真空泵和增壓泵,三級(jí)真空度越來(lái)越高,蒸餾的溫度就可以逐級(jí)降低,達(dá)到負(fù)壓低溫蒸發(fā)的降低能耗的目的。
1.3實(shí)驗(yàn)方案及結(jié)果本實(shí)驗(yàn)采用了3次蒸餾,第一級(jí)蒸餾為預(yù)脫氣、脫水處理階段,即薄膜蒸發(fā)階段,為確保后續(xù)蒸餾時(shí)具有足夠高的真空,而除去物料的空氣和溶劑等組份。物料進(jìn)蒸餾器之前,經(jīng)一級(jí)除氣裝置進(jìn)行脫氣處理,然后以一定的速率進(jìn)入二級(jí)、三級(jí)分子蒸餾刮膜器中,在高真空和適宜的蒸餾溫度下進(jìn)行,分離出殘余物和餾出物。實(shí)驗(yàn)安排采用在改變一個(gè)因素的單因素實(shí)驗(yàn)設(shè)計(jì)下,固定其他參數(shù),對(duì)得到的實(shí)驗(yàn)結(jié)果進(jìn)行比較,以便對(duì)這一因素的影響作出結(jié)論。實(shí)驗(yàn)水平如表1所示。本次實(shí)驗(yàn)共采用9組進(jìn)行試驗(yàn),通過改變蒸餾溫度、進(jìn)料速率和真空度等參數(shù),對(duì)實(shí)驗(yàn)所得精油含量與得率的影響。實(shí)驗(yàn)結(jié)果如表2所示通過上述試驗(yàn)結(jié)果可以看出,并不是工藝參數(shù)(即蒸餾溫度、進(jìn)料速率和真空度的值)越大越好,且沒有規(guī)律可循。也有采用正交試驗(yàn)進(jìn)行工藝參數(shù)優(yōu)化的方法,但對(duì)于分子蒸餾采取該種方法不可行,因?yàn)檎粚?shí)驗(yàn)法是當(dāng)真空度不變時(shí),通過多次實(shí)驗(yàn)得到最佳溫度,在此溫度下再通過多次蒸餾實(shí)驗(yàn)摸索最佳真空度,而分子蒸餾的蒸發(fā)器的溫度與真空度是具有耦合關(guān)系的量,當(dāng)真空度改變,物質(zhì)的沸點(diǎn)發(fā)生改變,即真空度變化,最佳蒸餾溫度隨之改變,因此為了提高生產(chǎn)效率及產(chǎn)品指標(biāo),進(jìn)行高效、高質(zhì)地分離提取,本文采用了基于BP網(wǎng)絡(luò)和遺傳算法的分子蒸餾工藝參數(shù)優(yōu)化方法。
2BP神經(jīng)網(wǎng)絡(luò)及遺傳算法優(yōu)化模型的建立
2.1基本原理人工神經(jīng)網(wǎng)絡(luò)信息處理、魯棒性、自學(xué)習(xí)及非映射能力較強(qiáng),遺傳算法具有并行、隨機(jī)和自適應(yīng)搜索等優(yōu)點(diǎn)[6]。本文采用神經(jīng)網(wǎng)絡(luò)與遺傳算法相結(jié)合的優(yōu)化設(shè)計(jì)方法,充分利用二者優(yōu)點(diǎn)?;驹硎?首先通過試驗(yàn)獲得目標(biāo)函數(shù)與工藝參數(shù)之間的離散試驗(yàn)數(shù)據(jù)關(guān)系。將試驗(yàn)數(shù)據(jù)作為網(wǎng)絡(luò)的樣本,對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,當(dāng)網(wǎng)絡(luò)達(dá)到誤差要求時(shí),存儲(chǔ)權(quán)值閾值,利用網(wǎng)絡(luò)的記憶功能,建立起工藝參數(shù)與指標(biāo)之間的非線性映射關(guān)系。再利用遺傳算法對(duì)這一黑匣型的函數(shù)求解。上述優(yōu)化問題的數(shù)學(xué)表達(dá)形式為:其中,xi表示神經(jīng)網(wǎng)絡(luò)的輸入,yi表示神經(jīng)網(wǎng)絡(luò)的輸出,f是評(píng)價(jià)函數(shù)。算法的實(shí)現(xiàn)過程為:運(yùn)用試驗(yàn)獲得的大量樣本對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,建立穩(wěn)定的BP網(wǎng)絡(luò)預(yù)測(cè)模型,對(duì)訓(xùn)練好的模型在一定范圍內(nèi)隨機(jī)產(chǎn)生多組輸入向量,通過BP預(yù)測(cè)出相應(yīng)的輸出量,再通過評(píng)價(jià)函數(shù),計(jì)算個(gè)體適應(yīng)度值,再利用遺傳算子通過適應(yīng)度值調(diào)整輸入向量,產(chǎn)生具有更好適應(yīng)性的新的種群。通過遺傳算子的計(jì)算得到優(yōu)化目標(biāo),相應(yīng)輸入即為目標(biāo)的優(yōu)化結(jié)果。
2.2BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣、最為成熟的1種采用誤差反向傳播的前饋型多層神經(jīng)網(wǎng)絡(luò)。包括輸入層、中間層和輸出層。選取1組訓(xùn)練樣本提供給神經(jīng)網(wǎng)絡(luò),經(jīng)過隱含層激活函數(shù)后向輸出層傳播,隱含層的輸出作為輸出層的輸入,最后獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來(lái)進(jìn)行的誤差的反向傳播階段,即按照網(wǎng)絡(luò)輸出與目標(biāo)值之間的誤差減小方向傳播,從輸出層到隱含層再到輸入層,逐層修正各層之間的連接權(quán)值[7-8]。含有一個(gè)隱層的3層BP神經(jīng)網(wǎng)絡(luò)可以任意精度逼近任何有理函數(shù)。本文采用單隱含層的BP神經(jīng)網(wǎng)絡(luò)作為預(yù)測(cè)模型,其模型結(jié)構(gòu)如圖3所示。大量學(xué)習(xí)樣本對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練后,分子蒸餾工藝參數(shù)與產(chǎn)品指標(biāo)之間就會(huì)通過神經(jīng)網(wǎng)絡(luò)建立起1種能映射二者之間內(nèi)在關(guān)系的連接關(guān)系,即獲得產(chǎn)品指標(biāo)預(yù)測(cè)的BP神經(jīng)網(wǎng)絡(luò)模型。本文在Matlab7.0神經(jīng)網(wǎng)絡(luò)工具箱的基礎(chǔ)上[8-9],安排了18組試驗(yàn)樣本,選擇9組作為訓(xùn)練樣本,其余9組作為測(cè)試樣本,網(wǎng)絡(luò)結(jié)構(gòu)為3×6×2,輸入層節(jié)點(diǎn)為3,分別為蒸餾溫度,真空度及進(jìn)料速率;隱層節(jié)點(diǎn)為6,輸出層為2,分別為產(chǎn)品的含量和得率。數(shù)據(jù)歸一化處理,訓(xùn)練時(shí),不同的訓(xùn)練函數(shù)的訓(xùn)練速度和精度不同,這里采用梯度下降法,訓(xùn)練誤差曲線如圖4所示。經(jīng)過42次的網(wǎng)絡(luò)訓(xùn)練,網(wǎng)絡(luò)的訓(xùn)練誤差值就收斂到預(yù)定的目標(biāo)誤差0.001。訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)用于產(chǎn)品指標(biāo)預(yù)測(cè),由預(yù)測(cè)結(jié)果與試驗(yàn)結(jié)果進(jìn)行比較可知,訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)具有較高的預(yù)測(cè)精度。
2.3優(yōu)化模型的建立遺傳算法是1種通過模擬自然進(jìn)化過程,根據(jù)自然選擇和遺傳算法,進(jìn)行隨機(jī)、自適應(yīng)搜索最優(yōu)解的方法。遺傳算法將自然界適者生存、劣者淘汰的生物進(jìn)化原理引入到待優(yōu)化參數(shù)問題中,將待優(yōu)化變量進(jìn)行編碼,組成初始種群,將其按一定的適應(yīng)度函數(shù)及遺傳算子的操作,即選擇、交叉和變異,選擇適應(yīng)度值較大的個(gè)體,形成高適應(yīng)值的新群體,經(jīng)過反復(fù)進(jìn)行,最終找到適應(yīng)度最大的個(gè)體[10],此時(shí)的個(gè)體即為優(yōu)化結(jié)果。本文以遺傳算法作為蒸餾工藝參數(shù)的優(yōu)化方法。式中,W1和W2分別為工藝權(quán)值,T1,T2分別為含量與得率的目標(biāo)值。可見目標(biāo)函數(shù)越小預(yù)測(cè)值越接近目標(biāo)值,當(dāng)目標(biāo)函數(shù)最小時(shí)對(duì)應(yīng)的工藝參數(shù)值為最優(yōu)值。遺傳算法在進(jìn)化搜索中基本不利用外部信息,僅以適應(yīng)度函數(shù)為依據(jù),個(gè)體的適應(yīng)度越大,表明其適應(yīng)能力越強(qiáng)[12-15]。建立的目標(biāo)函數(shù)需符合適應(yīng)度函數(shù)要求,本文采用的適應(yīng)度函數(shù)就是目標(biāo)函數(shù)的倒數(shù)。工藝參數(shù)優(yōu)化流程如圖5所示。經(jīng)過遺傳算子作用后的工藝參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入,通過訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型輸出目標(biāo)函數(shù)值,再計(jì)算個(gè)體適應(yīng)度函數(shù)值,再進(jìn)行選擇,交叉概率為0.8,變異概率為0.01等遺傳操作獲得新一代種群。通過反復(fù)進(jìn)化計(jì)算,直至適應(yīng)度函數(shù)值趨于穩(wěn)定,此時(shí)的輸入值為最優(yōu)解,優(yōu)化結(jié)果如圖6所示。此時(shí)W1=W2=0.5,達(dá)到穩(wěn)定后的適應(yīng)度值為38.97。此時(shí)蒸餾溫度為120℃,進(jìn)料速率295r/min,進(jìn)料速率60L/h。
篇7
Abstract: In order to improve the busy airport emergency management ability, and provide scientific basis for the busy airport emergency plan, a new method based on the combination of grey model and improved support vector regression model is proposed. Time series prediction is done to the abnormal peak traffic on the busy airport flights small sample.
關(guān)鍵詞: 灰色模型;支持向量回歸機(jī)模型;高峰航班流量;小樣本;時(shí)間序列預(yù)測(cè)
Key words: grey model;support vector regression model;peak flight flow;small sample;time series prediction
中圖分類號(hào):V355;F224 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1006-4311(2014)11-0316-02
0 引言
隨著我國(guó)民航事業(yè)的迅猛發(fā)展,空中交通流量驟然增加,航班流量是民航空中交通管制的重要數(shù)據(jù),是評(píng)定民航空管發(fā)展水平的關(guān)鍵指標(biāo)。對(duì)非常態(tài)的高峰航班流量進(jìn)行預(yù)測(cè),不僅有助于提高繁忙機(jī)場(chǎng)的應(yīng)急管理能力,而且還能為繁忙機(jī)場(chǎng)制定應(yīng)急預(yù)案提供科學(xué)依據(jù)。但是因?yàn)榉泵C(jī)場(chǎng)的非常態(tài)高峰航班流量受到諸多因素的影響作用,系統(tǒng)的發(fā)展變化并非是線性的,而是高度非線性的,所以就很難直接的發(fā)現(xiàn)描述系統(tǒng)發(fā)展變化規(guī)律的函數(shù)。
目前采用最多的是灰色預(yù)測(cè)方法或支持向量回歸機(jī)方法(SVR)。文獻(xiàn)[1]采用灰色預(yù)測(cè)對(duì)航班流量進(jìn)行預(yù)測(cè),灰色預(yù)測(cè)方法在解決繁忙機(jī)場(chǎng)非常態(tài)高峰航班流量這種“部分因素已知,部分因素未知”的“小樣本”、“貧信息”的時(shí)間序列預(yù)測(cè)中是一種非常有效的方法,先對(duì)原始數(shù)據(jù)進(jìn)行生成處理,淡化或消除沖擊擾動(dòng)對(duì)系統(tǒng)行為數(shù)據(jù)序列的影響,然后利用生成數(shù)據(jù)序列建立預(yù)測(cè)模型,但是灰色模型預(yù)測(cè)的精度并不高。文獻(xiàn)[4]采用SVR模型對(duì)航班流量進(jìn)行預(yù)測(cè),SVR是基于統(tǒng)計(jì)學(xué)習(xí)理論框架下的一種新的通用機(jī)器學(xué)習(xí)方法。它首先較好地解決了以往困擾很多學(xué)習(xí)方法的小樣本、過學(xué)習(xí)、高維數(shù)、局部最小等實(shí)際問題,其次具有很強(qiáng)的泛化能力,是解決小樣本時(shí)間序列預(yù)測(cè)建模的又一種可行的有效途徑。將灰色模型與SVR模型兩者相結(jié)合――灰色支持向量回歸機(jī)模型,利用灰色預(yù)測(cè)方法中“累加生成”的優(yōu)點(diǎn),削弱原始數(shù)據(jù)序列中隨機(jī)擾動(dòng)因素的影響,使雜亂無(wú)章的原始數(shù)據(jù)中所隱藏的規(guī)律顯露出來(lái),使數(shù)據(jù)更具有規(guī)律性,得到便于SVR學(xué)習(xí)的新序列,進(jìn)而建立優(yōu)于單一SVR方法的預(yù)測(cè)模型。
1 GM(1,1)預(yù)測(cè)模型
令原始數(shù)列x(0)=(x(0)(1),x(0)(2),…,x(0)(n))為非負(fù),用累加生成法對(duì)原始數(shù)列進(jìn)行一次累加生成x(0)的1-AGO序列為:
x(1)=(x(1)(1),x(1)(2),…,x(1)(n)),其中x(1)(k)=■x(0)(i),(k=1,2,…n)。GM(1,1)的灰微分方程模型為
x(0)(k)+az(1)(k)=b(k=2,3,…,n)(1)
其中,GM表示Gray Model(即灰色模型),方程的階數(shù)和變量均為1,x(0)(k)為灰導(dǎo)數(shù),a為發(fā)展系數(shù),b為灰作用量,z(1)(k)為白化背景值。相應(yīng)的白化微分方程為
■+ax■=b(2)
記u=(a,b)T,Y=(x(0)(2),x(0)(3),…,x(0)(n))T,B=-Z■(2) 1-Z■(3) 1 ┆ ┆-Z■(n) 1
按最小二乘法得出灰參數(shù)■=(a,b)■=(B■B)B■B■Y。
GM(1,1)的灰微分方程的解為
■(k+1)=(x(1)(0)-■)e-ak+■(3)
將其累減還原得到非負(fù)原始序列x(0)的預(yù)測(cè)值為
■(k+1)=a(1)■(k+1)=■(k+1)-■(k)(4)
2 改進(jìn)的SVR預(yù)測(cè)模型[3-5]
2.1 SVR原理 假定在航班流量預(yù)測(cè)問題中,待擬合樣本數(shù)據(jù)集為(x1,y1),(x2,y2),…,(xn,yn)其中n為樣本集容量。SVR在處理非線性問題時(shí)先用非線性映射?準(zhǔn)(?)將樣本數(shù)據(jù)x映射到高維特征空間H中去,并在這個(gè)空間中對(duì)函數(shù)f(x)=w??準(zhǔn)(x)+b做線性回歸處理。根據(jù)SVR結(jié)構(gòu)風(fēng)險(xiǎn)最小化原理,函數(shù)f(x)應(yīng)使如下風(fēng)險(xiǎn)函數(shù)最小
R(w)=■w2+C■L(f(x■)-y■)(5)
式中w為回歸系數(shù)向量,C為一大于零常數(shù)稱為懲罰系數(shù),控制對(duì)超過不敏感值誤差的樣本數(shù)據(jù)的懲罰程度,
L(f(x■)-y)為損失函數(shù),依據(jù)航班流量預(yù)測(cè)的特點(diǎn),這里筆者選取ε不敏感損失函數(shù)為式(7)。
L(f(x■)-y)=0,f(x■)-y■
ε為不敏感值,控制著模型精度。
由于要考慮允許擬合誤差,引入松弛因子ξ和ξ*。于是航班流量回歸估計(jì)問題就轉(zhuǎn)化為在約束條件(8)下的最小化函數(shù)(7)的問題。R(w,ξi,ξ■■)=■w2+C■(ξi+ξ■■)(7)
s.t.f(x■)-yi?燮ξ■■+εy■-f(x■)?燮ξi+εξi,ξ■■?叟0i=1,2,…,n(8)
先對(duì)式(8)采用拉格朗日乘子處理,然后按照對(duì)偶原理將式(8)轉(zhuǎn)化為下面的凸二次規(guī)劃問題w(α,α*)=■(αi-α■■)yi-■(αi-α■■)ε-■■(αi-α■■)(αj-α■■)?準(zhǔn)(xi)??準(zhǔn)(xj)(9)
s.t.■(αi-α■■)=00?燮αi,α■■?燮C(10)
這里α,α*是拉格朗日乘子,可以由式(9)求出,αi或α■■不等于零的項(xiàng)所對(duì)應(yīng)的樣本數(shù)據(jù)就被稱為支持向量,此時(shí)擬合函數(shù)就變成f(x)=■(αi-α■■)k(xi?x)+b(11)
這里k(xi?x)=?準(zhǔn)(xi)??準(zhǔn)(x)稱為核函數(shù),能夠滿足Mercer條件,xi為支持向量,x為待預(yù)測(cè)數(shù)據(jù)。
2.2 參數(shù)優(yōu)化 SVR模型參數(shù)有懲罰因子C,所選用核函數(shù)的參數(shù)γ和ε不敏感值,恰當(dāng)?shù)膮?shù)組合可以提高回歸模型的泛化性能。主要的參數(shù)選擇算法有留一法、交叉驗(yàn)證法、試湊法、網(wǎng)格搜索法、梯度下降法和免疫算法等。本文采用網(wǎng)格搜索法和計(jì)算精度較高的交叉檢驗(yàn)法確定參數(shù)。
3 灰色支持向量回歸機(jī)預(yù)測(cè)模型
繁忙機(jī)場(chǎng)航班流量受諸多因素影響,有的因素?cái)?shù)據(jù)不易測(cè)量,有的則尚未可知,所以本文利用灰色模型和支持向量回歸機(jī)的優(yōu)點(diǎn),建立灰色支持向量回歸機(jī)模型。
建模主要步驟如下:
步驟一:利用GM(1,1)預(yù)測(cè)方法得到非負(fù)原始序列x(0)=(x(0)(1),x(0)(2),…,x(0)(n)),x(0)(i)>0,i=1,2,…,n的1-AGO序列
x(1)=(x(1)(1),x(1)(2),…,x(1)(n)),x(1)(k)=■x(0)(i),k=1,2,…,n。
步驟二:核函數(shù)K(xi,x)及參數(shù)的選取。
步驟三:利用SVR方法,求出優(yōu)化問題的最優(yōu)解,找出支持向量。
步驟四:構(gòu)造出回歸決策函數(shù)f(x)。
步驟五:將1-AGO序列x(1)的預(yù)測(cè)值■求出。
步驟六:累減還原,得出預(yù)測(cè)模型,
■(k+1)=a(1)■(k+1)=■(k+1)-■(k)。
4 繁忙機(jī)場(chǎng)非常態(tài)高峰航班流量預(yù)測(cè)
4.1 選擇最優(yōu)參數(shù) 使用灰色支持向量回歸機(jī)方法預(yù)測(cè)機(jī)場(chǎng)航班流量,首先確定懲罰因子C,ε不敏感值和核函數(shù),以及所選取的核函數(shù)的參數(shù)。文獻(xiàn)[5]研究表明:非線性輸入值不能作為線形核函數(shù)的輸入;出于對(duì)訓(xùn)練性能的綜合考慮,經(jīng)過比較,這里的輸入核函數(shù)采用在處理時(shí)間序列問題時(shí)表現(xiàn)比其他核函數(shù)更佳的徑向基核函數(shù)
k(xi,x)=exp(-γxi-x2)(12)
采用網(wǎng)格搜索法和計(jì)算精度較高的K-CV方法確定參數(shù),基本原理是讓C和γ在一定的范圍劃分網(wǎng)格并遍歷網(wǎng)格內(nèi)所有點(diǎn)進(jìn)行取值,對(duì)于取定的C和γ利用K-CV方法得到在此組C和下γ訓(xùn)練集驗(yàn)證分類準(zhǔn)確率,最終取使得訓(xùn)練集驗(yàn)證分類準(zhǔn)確率最高的那組C和γ作為最佳的參數(shù)。
4.2 仿真實(shí)驗(yàn)及結(jié)果分析 以首都國(guó)際機(jī)場(chǎng)2009年~2013年春節(jié)期間航班流量數(shù)據(jù)中的旅客流量為例,對(duì)灰色支持向量機(jī)預(yù)測(cè)方法的實(shí)際預(yù)測(cè)效果進(jìn)行驗(yàn)證。由于春節(jié)前后近6周都處于航班旅客流量高峰期,所以有必要對(duì)春節(jié)前后共6周每周的平均每天航班旅客流量進(jìn)行預(yù)測(cè)。
以2009年~2010年的首都國(guó)際機(jī)場(chǎng)旅客流量數(shù)據(jù)即編號(hào)前24個(gè)作為學(xué)習(xí)樣本(其中a~f表示春節(jié)月中第一周到第六周)。然后以2013年春節(jié)期間6周的平均每周的航班流量數(shù)據(jù)即編號(hào)后6個(gè)作為測(cè)試樣本,進(jìn)行仿真實(shí)驗(yàn),同時(shí),為了便于比較本文方法的有效性,還利用GM(1,1)模型和單一的SVR模型對(duì)原始數(shù)據(jù)進(jìn)行預(yù)測(cè)。將3種模型的預(yù)測(cè)結(jié)果做出對(duì)比,取得的仿真實(shí)驗(yàn)結(jié)果。
從圖1可以看出離原始數(shù)據(jù)最近的是灰色支持向量回歸機(jī)預(yù)測(cè)數(shù)據(jù),由此可知利用灰色支持向量回歸機(jī)模型預(yù)測(cè)的結(jié)果精度比GM(1,1)模型和單一的SVR方法預(yù)測(cè)精度更高,結(jié)果較為準(zhǔn)確可靠。由仿真實(shí)驗(yàn)結(jié)果能夠得出灰色支持向量回歸機(jī)模型在為繁忙機(jī)場(chǎng)航班流量預(yù)測(cè)方面優(yōu)于GM(1,1)模型和單一SVR模型。因此,用灰色支持向量回歸機(jī)模型對(duì)首都國(guó)際機(jī)場(chǎng)2016年的春節(jié)期間的航班流量進(jìn)行預(yù)測(cè),預(yù)測(cè)結(jié)果見表1。
5 結(jié)束語(yǔ)
灰色支持向量回歸機(jī)模型發(fā)揮了中“累加生成”的優(yōu)點(diǎn),削弱了原始數(shù)據(jù)中的隨機(jī)性,增強(qiáng)了規(guī)律性,同時(shí)避免了GM(1,1)模型存在的理論缺陷,盡管組合模型中有個(gè)別數(shù)據(jù)擬合誤差偏大,但從整體預(yù)測(cè)效果看,仍然優(yōu)于單一GM(1,1)模型或SVR模型。由于繁忙機(jī)場(chǎng)航班流量的產(chǎn)生受多種因素影響,包括當(dāng)年年度國(guó)民經(jīng)濟(jì)增長(zhǎng)水平、票價(jià)浮動(dòng)等諸多因素,因此,下一步要做的是,預(yù)測(cè)繁忙機(jī)場(chǎng)非常態(tài)高峰航班流量時(shí),不應(yīng)僅僅考慮時(shí)間因素,也應(yīng)綜合考慮各種因素,以建立更準(zhǔn)確地預(yù)測(cè)模型,為繁忙機(jī)場(chǎng)的應(yīng)急管理提供更好的參考。
參考文獻(xiàn):
[1]李旭.昆明空域航班流量預(yù)測(cè)[J].中國(guó)民航大學(xué)學(xué)報(bào),
2012,30(5):5-8.
[2]國(guó)棟,張競(jìng)博,何圣關(guān).基于支持向量機(jī)的互連導(dǎo)線串?dāng)_分析及預(yù)測(cè)[J].科學(xué)技術(shù)與工程,2013,13(7):1816-1820.
[3]張衛(wèi)華,孫浩,穆朝絮.基于支持向量機(jī)的交通安全預(yù)測(cè)模型及仿真研究[J].系統(tǒng)仿真學(xué)報(bào),2009,21(19):6266-6270.
篇8
論文關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);電力企業(yè);信息化水平;評(píng)價(jià);指標(biāo)體系
0引言
電力行業(yè)是國(guó)內(nèi)應(yīng)用信息技術(shù)較早的行業(yè)之一,先后經(jīng)歷了生產(chǎn)過程自動(dòng)化、管理信息化等建設(shè)階段。目前,電力信息化呈現(xiàn)出基礎(chǔ)設(shè)施齊備、數(shù)據(jù)龐雜、應(yīng)用廣泛等特點(diǎn),已從量化范疇提升到質(zhì)的高度。對(duì)電力企業(yè)進(jìn)行有效的信息化評(píng)價(jià)和管理,是提升信息化水平和實(shí)現(xiàn)企業(yè)信息化可持續(xù)發(fā)展的重要保障。
如何積極開展信息化建設(shè)來(lái)降低運(yùn)營(yíng)成本?通過何種指標(biāo)來(lái)科學(xué)評(píng)價(jià)我國(guó)電力企業(yè)的信息化發(fā)展水平?這是當(dāng)前電力行業(yè)必須解決的一個(gè)問題,而目前我國(guó)還沒有一套完整的電力企業(yè)信息化水平評(píng)價(jià)指標(biāo)體系正式。通過構(gòu)建科學(xué)、實(shí)用、有效的電力企業(yè)信息化水平評(píng)價(jià)體系,采用具有學(xué)習(xí)、記憶、歸納、容錯(cuò)及自學(xué)習(xí)、自適應(yīng)能力的BP神經(jīng)網(wǎng)絡(luò)算法,科學(xué)、有效、客觀地評(píng)價(jià)電力企業(yè)信息化水平,有利于規(guī)范和完善電力企業(yè)信息化建設(shè),促進(jìn)電力信息化健康,快速地發(fā)展。
1電力企業(yè)信息化水平評(píng)價(jià)指標(biāo)體系的建立
1.1建立的原則
(1)簡(jiǎn)明科學(xué)原則。評(píng)價(jià)指標(biāo)體系應(yīng)明確反映電力企業(yè)信息化水平高低與指標(biāo)間的關(guān)系,避免無(wú)關(guān)的指標(biāo)列入,指標(biāo)體系的大小也應(yīng)適宜。若評(píng)價(jià)指標(biāo)體系過大、指標(biāo)層次過多、指標(biāo)過細(xì),則勢(shì)必將評(píng)價(jià)者的注意力吸引到細(xì)小問題上;而若評(píng)價(jià)指標(biāo)體系過小、指標(biāo)層次過少、指標(biāo)過粗,則不能充分反映和評(píng)價(jià)電力企業(yè)信息化的整體設(shè)計(jì)與使用情況。
(2)公正合理原則。即評(píng)價(jià)指標(biāo)應(yīng)能客觀、公正、合理地體現(xiàn)電力企業(yè)信息化水平的動(dòng)態(tài)性。
(3)易于操作原則。評(píng)價(jià)指標(biāo)體系在實(shí)際應(yīng)用中應(yīng)具有可操作性,指標(biāo)含義明確、可靠,數(shù)據(jù)易于收集,可供不了解指標(biāo)體系建立過程的人員進(jìn)行操作與應(yīng)用。
(4)以定量指標(biāo)為主,輔以一定的定性指標(biāo)。評(píng)價(jià)指標(biāo)盡可能以定量指標(biāo)為主,但全部采用定量指標(biāo)也不能完全反映電力企業(yè)信息化水平的整體情況,所以要輔以一些描述性的定性指標(biāo)。
1.2指標(biāo)體系的內(nèi)容
結(jié)合電力企業(yè)信息化水平評(píng)價(jià)指標(biāo)體系建立的原則,從3個(gè)層次來(lái)構(gòu)建電力企業(yè)信息化水平評(píng)價(jià)指標(biāo)體系,主要由業(yè)務(wù)支持程度、IT績(jī)效水平、信息技術(shù)水平、IT管理能力、IT持續(xù)發(fā)展能力等五大方面構(gòu)成,如表l所示。
1.3指標(biāo)值的確定及歸一化處理
在上述55個(gè)三級(jí)指標(biāo)中,有定性指標(biāo)和定量指標(biāo)之分。根據(jù)指標(biāo)的評(píng)價(jià)準(zhǔn)則又可分為3類指標(biāo):正向指標(biāo)、負(fù)向指標(biāo)和優(yōu)化指標(biāo)。由于不同的指標(biāo)從不同側(cè)面反映電力企業(yè)信息化水平,指標(biāo)之間又由于量綱不同,所以無(wú)法進(jìn)行比較。因此,為了便于最終評(píng)價(jià)值的確定,需要對(duì)各指標(biāo)進(jìn)行無(wú)量綱化處理,即對(duì)評(píng)價(jià)指標(biāo)做標(biāo)準(zhǔn)化、正規(guī)化處理,以便消除指標(biāo)量綱的影響??紤]神經(jīng)網(wǎng)絡(luò)訓(xùn)練的收斂問題,對(duì)所有指標(biāo)分3種情況進(jìn)行無(wú)量綱化處理。
(1)定性指標(biāo)。定性指標(biāo)有工程建設(shè)情況、信息安全措施、信息安全制度的完善程度、信息安全制度的執(zhí)行情況、企業(yè)職工IT素質(zhì)等。這些指標(biāo)的評(píng)價(jià)值采用專家打分的辦法進(jìn)行評(píng)價(jià),取值為0.0~1.0之間。
(2)正向定量指標(biāo)。是指標(biāo)值越大越好的指標(biāo),包括:設(shè)備的運(yùn)行率、安全運(yùn)行時(shí)間、物資供應(yīng)保障率、勞動(dòng)生產(chǎn)率、網(wǎng)絡(luò)覆蓋率、聯(lián)通率等。因這類指標(biāo)越大越好,故選用所有電力企業(yè)的最大值為該指標(biāo)的理想值,進(jìn)行無(wú)量綱化處理。
(3)負(fù)向定量指標(biāo)。是指其值越小越好的指標(biāo),包括采購(gòu)成本、生產(chǎn)成本、平均響應(yīng)時(shí)間等。這類指標(biāo)是越小越好,因此,選取所有電力企業(yè)的最小值為該指標(biāo)的理想值,并進(jìn)行無(wú)量綱化處理。
(4)優(yōu)化指標(biāo)。是指標(biāo)具有一個(gè)最優(yōu)的取值范圍,太大或太小都不好的指標(biāo),包括電力企業(yè)資產(chǎn)負(fù)債率指標(biāo),該指標(biāo)如果太大說(shuō)明企業(yè)在信息化投資建設(shè)中將會(huì)出現(xiàn)資不抵債的情況,不利于電力企業(yè)的發(fā)展;如果該指標(biāo)值很小則說(shuō)明在企業(yè)信息化建設(shè)中沒有發(fā)揮有限資本的價(jià)值。一般該指標(biāo)取40%~60%比較理想,然后進(jìn)行無(wú)量綱化處理。無(wú)量綱化處理方法如下:
(1)有量綱向無(wú)量綱的轉(zhuǎn)化。采取一種二次拋物偏大型分布的數(shù)學(xué)模型描述:
(2)無(wú)量綱指標(biāo)的處理。采取線性遞增函數(shù)進(jìn)行描述:
2電力企業(yè)信息化水平評(píng)價(jià)的神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)
2.1 BP神經(jīng)網(wǎng)絡(luò)的基本原理
人工神經(jīng)網(wǎng)絡(luò)(ANN)是由大量簡(jiǎn)單的處理單元組成的非線性、自適應(yīng)、自組織系統(tǒng),它是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上,試圖通過模擬人類神經(jīng)系統(tǒng)對(duì)信息進(jìn)行加工、記憶和處理的方式,設(shè)計(jì)出的一種具有人腦風(fēng)格的信息處理系統(tǒng)。它可廣泛應(yīng)用于預(yù)測(cè)、分類、模式識(shí)別和過程控制等各種數(shù)據(jù)處理場(chǎng)合,相對(duì)于傳統(tǒng)的數(shù)據(jù)分析處理方法,更適合處理模糊、非線性和模式特征不明確的問題。
BP神經(jīng)網(wǎng)絡(luò)是單向傳播的多層前向神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層,其中輸入和輸出都只有1層,中間層可有1層或多層。同層的網(wǎng)絡(luò)結(jié)點(diǎn)之間沒有連接,每個(gè)網(wǎng)絡(luò)結(jié)點(diǎn)表示一個(gè)神經(jīng)元,其傳遞函數(shù)通常采用Sigmoid型函數(shù)。每對(duì)神經(jīng)元之間的連接上有一個(gè)加權(quán)系數(shù)W,它可以加強(qiáng)或減弱上一個(gè)神經(jīng)元的輸出對(duì)下一個(gè)神經(jīng)元的刺激。這個(gè)加權(quán)系數(shù)通常稱為權(quán)值,修改權(quán)值的規(guī)則稱為權(quán)值算法。建立在BP神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上的專家系統(tǒng)根據(jù)一定的算法,通過對(duì)樣本數(shù)據(jù)的學(xué)習(xí)確定網(wǎng)絡(luò)權(quán)值。神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)的權(quán)值確定、結(jié)構(gòu)穩(wěn)定后,就可以處理新的數(shù)據(jù),給出相應(yīng)的輸出。
2.2基于BP網(wǎng)絡(luò)的電力企業(yè)信息化水平評(píng)價(jià)的學(xué)習(xí)過程
BP神經(jīng)網(wǎng)絡(luò)電力企業(yè)信息化水平評(píng)價(jià)模型中,輸入層包含55個(gè)神經(jīng)元,分別接受55個(gè)電力企業(yè)信息化水平評(píng)價(jià)中三級(jí)指標(biāo)的樣本數(shù)據(jù)輸入;中間層包含26個(gè)神經(jīng)元;輸出層有1個(gè)神經(jīng)元,就是電力企業(yè)信息化水平評(píng)價(jià)結(jié)果,相應(yīng)的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。
由于神經(jīng)網(wǎng)絡(luò)各層的初始連接權(quán)值是任意的,必須先對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,使電力企業(yè)信息化水平評(píng)價(jià)結(jié)果的實(shí)際輸出與期望值的偏差盡可能小。BP神經(jīng)網(wǎng)絡(luò)通過訓(xùn)練將學(xué)習(xí)樣本的真實(shí)值與網(wǎng)絡(luò)輸出的誤差反向傳播到各層的神經(jīng)元,采用梯度下降法不斷調(diào)節(jié)各層的權(quán)值,減小因權(quán)值帶來(lái)的偏差,從而使訓(xùn)練樣本真實(shí)輸出與網(wǎng)絡(luò)輸出的誤差控制在設(shè)定的0.001誤差范圍內(nèi)。具體BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程如下:
(1)根據(jù)電力企業(yè)信息化水平評(píng)價(jià)指標(biāo)要求,提供訓(xùn)練集。選人對(duì)網(wǎng)絡(luò)輸出即電力企業(yè)信息化水平有影響的三級(jí)指標(biāo)x1,x2,……,x55作為輸入自變量,以此確定輸入節(jié)點(diǎn)的個(gè)數(shù)(本網(wǎng)絡(luò)有55個(gè)輸入節(jié)點(diǎn));
(2)進(jìn)行初始化。置所有權(quán)值為隨機(jī)任意小,給定學(xué)習(xí)精度£一10,目標(biāo)誤差為0.001,讀入網(wǎng)絡(luò)初始權(quán)重及學(xué)習(xí)樣本。這里可通過對(duì)電力企業(yè)300名職工開展問卷調(diào)查,隨機(jī)抽取前100組記錄(樣本序號(hào)為1~100)作為神經(jīng)網(wǎng)絡(luò)辯識(shí)模型的訓(xùn)練樣本;
(3)按BP算法訓(xùn)練網(wǎng)絡(luò)。學(xué)習(xí)過程流程如圖2所示;
(4)判斷學(xué)習(xí)精度是否達(dá)到要求,如達(dá)到轉(zhuǎn)入下一步執(zhí)行;否則返回上一步繼續(xù)學(xué)習(xí);
(5)儲(chǔ)存并輸出權(quán)值。利用訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測(cè)試(采用10個(gè)樣本記錄為例),輸出電力企業(yè)信息化水平的最終評(píng)價(jià)結(jié)果。
3實(shí)驗(yàn)結(jié)果及分析
采用BP神經(jīng)網(wǎng)絡(luò)對(duì)電力企業(yè)信息化水平進(jìn)行辨識(shí),輸入層、隱含層和輸出層的結(jié)點(diǎn)數(shù)分別為55×26×1。根據(jù)經(jīng)驗(yàn)和試驗(yàn),前100組記錄用作學(xué)習(xí)樣本,作為訓(xùn)練神經(jīng)元連接權(quán)值用,學(xué)習(xí)精度£=1×10;后10組(樣本序號(hào)為291~300)樣本作為測(cè)試檢驗(yàn)用。經(jīng)過反復(fù)多次學(xué)習(xí),其學(xué)習(xí)結(jié)果(測(cè)試)如表2所示。