梯度下降法的基本原理范文
時間:2023-11-14 17:40:51
導(dǎo)語:如何才能寫好一篇梯度下降法的基本原理,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò) 反向傳播算法 故障診斷
1 引言
隨著經(jīng)濟(jì)的發(fā)展,空調(diào)系統(tǒng)得到了越來越廣泛的應(yīng)用,空調(diào)設(shè)備已成為重要的生活必備品之一。這就要求空調(diào)系統(tǒng)可靠性高且功能齊全,而且在故障診斷維修服務(wù)方面達(dá)到一定的水平。國內(nèi)目前的大部分空調(diào)系統(tǒng)中無故障診斷系統(tǒng),當(dāng)空調(diào)系統(tǒng)出現(xiàn)故障后,維保人員往往不能及時、準(zhǔn)確地了解系統(tǒng)出現(xiàn)故障的原因及相關(guān)信息,空調(diào)系統(tǒng)無法得到及時修復(fù),這種情況急需得到改善。
2 關(guān)于故障診斷技術(shù)
故障診斷FD(fault diagnosis)是一種了解和掌握設(shè)備在使用過程中的技術(shù),確定其整體或局部是否正常,早期發(fā)現(xiàn)故障及其原因并能預(yù)報故障發(fā)展趨勢的技術(shù)。在診斷過程中,必須利用被診斷對象表現(xiàn)出來的各種有用信息,經(jīng)過適當(dāng)?shù)靥幚砗头治?,做出正確的診斷結(jié)論。在制冷暖通空調(diào)領(lǐng)域,1987年在彥啟森教授的建議下,才開始了故障診斷專家系統(tǒng)在制冷暖通空調(diào)領(lǐng)域的研究應(yīng)用[1]。
3 人工神經(jīng)網(wǎng)絡(luò)用于空調(diào)系統(tǒng)故障診斷的基本原理
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network.簡稱ANN)正是在人類對其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。它實際上是由大量簡單元件相互連接而成的復(fù)雜網(wǎng)絡(luò),具有高度的非線性,能夠進(jìn)行復(fù)雜的邏輯操作和非線性關(guān)系實現(xiàn)的系統(tǒng)。
典型的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。
在眾多的人工神經(jīng)網(wǎng)絡(luò)模型中,最常用的是BP(Back Propagation)模型,即利用誤差反向傳播算法求解的多層前向神經(jīng)網(wǎng)絡(luò)模型[2]。BP網(wǎng)絡(luò)在故障診斷、模式識別、圖像識別、管理系統(tǒng)等方面都得到了廣泛的應(yīng)用。本文討論利用神經(jīng)網(wǎng)絡(luò)中的BP模型進(jìn)行空調(diào)系統(tǒng)的故障診斷。
首先需要進(jìn)行知識的獲取。由專家提供關(guān)于各種空調(diào)系統(tǒng)故障現(xiàn)象(征兆集)及相應(yīng)的故障原因(故障集)實例作為學(xué)習(xí)樣本。將數(shù)據(jù)分為兩部分,一部分用于訓(xùn)練網(wǎng)絡(luò),另一部分用于測試。將訓(xùn)練網(wǎng)絡(luò)的數(shù)據(jù)按一定順序編碼,分別賦給網(wǎng)絡(luò)輸入、輸出節(jié)點,通過神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法對樣本進(jìn)行學(xué)習(xí),經(jīng)過網(wǎng)絡(luò)內(nèi)部自適應(yīng)算法不斷修正權(quán)值,直到達(dá)到所要求的學(xué)習(xí)精度為止。此時在大量神經(jīng)元之間聯(lián)結(jié)權(quán)值上就分布著專家知識和經(jīng)驗。訓(xùn)練完畢后,再將測試網(wǎng)絡(luò)的數(shù)據(jù)從初始狀態(tài)出發(fā),向前推理,將顯示出的故障結(jié)果與實際的測試數(shù)據(jù)結(jié)果相比較,如果誤差很小,說明網(wǎng)絡(luò)的權(quán)值建立正確;如果誤差較大,說明網(wǎng)絡(luò)的權(quán)值建立有誤,需要重新進(jìn)行網(wǎng)絡(luò)的訓(xùn)練。
將訓(xùn)練樣本訓(xùn)練完畢后,即可進(jìn)行空調(diào)系統(tǒng)的故障診斷。只要實際輸入模式接近于某一個訓(xùn)練時的學(xué)習(xí)樣本的輸入模式,則可產(chǎn)生出接近學(xué)習(xí)樣本的輸出結(jié)果,也就是所謂的自聯(lián)想功能。同時,由于網(wǎng)絡(luò)計算上的大量并行性,當(dāng)機(jī)器運行狀況改變,出現(xiàn)網(wǎng)絡(luò)學(xué)習(xí)未考慮的情況時,系統(tǒng)亦能給出正確分類結(jié)果。同時將新數(shù)據(jù)并入網(wǎng)絡(luò),實現(xiàn)系統(tǒng)的自適應(yīng)。一般來說,學(xué)習(xí)的故障實例樣本越多,診斷結(jié)果的準(zhǔn)確率越高。
4 BP學(xué)習(xí)算法
BP算法因其簡單、易行、計算量小、并行性強(qiáng)等優(yōu)點,是目前神經(jīng)網(wǎng)絡(luò)訓(xùn)練采用最多也是最成熟的訓(xùn)練算法之一。BP算法的實質(zhì)是求解誤差函數(shù)的最小值問題,由于它采用非線性規(guī)劃中的梯度下降法(Gradient Descent),按誤差函數(shù)的負(fù)梯度方向修正權(quán)值 [3]。其主要思路是如果求出訓(xùn)練網(wǎng)絡(luò)的指標(biāo)函數(shù)誤差:
一般的BP算法稱為標(biāo)準(zhǔn)誤差逆?zhèn)鞑ニ惴ǎ簿褪菍?yīng)每一次輸入都校正一次權(quán)值。這種算法不是全局誤差意義上的梯度下降計算。對各個神經(jīng)元的輸出求偏導(dǎo)數(shù),那么就可以算出誤差對所有連接權(quán)值的偏導(dǎo)數(shù),從而可以利用梯度下降法來修改各個連接權(quán)值。真正的全局誤差意義上的梯度下降算法是在全部訓(xùn)練模式都學(xué)習(xí)完后才校正連接權(quán)和閾值。其計算流程如圖2所示:
5 故障診斷實例 5.1 空調(diào)系統(tǒng)故障診斷的BP網(wǎng)絡(luò)建立
空調(diào)系統(tǒng)故障模式及故障機(jī)制分析[4]如表1所示
表1 空調(diào)系統(tǒng)故障模式及故障機(jī)制分析 表示
符號
表示
符號
房間溫度均偏高
1.冷凍機(jī)產(chǎn)冷量不足
2.噴水堵塞
3.通過空氣處理設(shè)備的風(fēng)量過大,熱交換不良
4.回風(fēng)量大于送風(fēng)量
5.送風(fēng)量不足(可能空氣過濾氣堵塞)
6.表冷器結(jié)霜,造成堵塞
相對濕度均偏低
7.室外空氣未經(jīng)加濕處理
系統(tǒng)實測風(fēng)量大于設(shè)計風(fēng)量
8.系統(tǒng)的實際阻力小于設(shè)計阻力
9.設(shè)計時選用風(fēng)機(jī)容量偏大
房間氣流速度超過允許流速
10.送風(fēng)口速度過大
篇2
關(guān)鍵詞:人臉檢測;BP網(wǎng)絡(luò);遺傳算法;GABP網(wǎng)絡(luò)
中圖分類號:TP183 文獻(xiàn)標(biāo)識碼:B 文章編號:1004373X(2008)1615403
Face Detection Based on GABP Neural Network
JIAO Libao,PENG Yan,CHEN Chunlan
(Sichuan University of Science &Engineering,Zigong,643000,China)
Abstract:The constringency of the conventional BP neural network algorithm is too slow and local constringency is not ideal,which effect working performance.The lack above and face image data too big,a new method that the face detection method based on GABP neural network is introduced in this paper.Making the Genetic Algorithm (GA) search algorithm is used to train the network with updating the weights to minimize the error between the network output and the desired output.Then the BackPropagation (BP) algorithm is used to further train the artificial neural network used for face detection.The experiment indicate This network convergence rate is not only quick,moreover easy to achieve the optimal solution.This network has the high detection precision to the face image detection.
Keywords:face detection;BP neural network;genetic algorithm;GABP neural network
1 引 言
人臉檢測是圖像處理和識別領(lǐng)域的一個重要研究的課題,具有廣泛的應(yīng)用價值,例如檔案管理系統(tǒng)、人機(jī)交互、駕駛執(zhí)照、身份證的識別檢測,刑偵破案中犯罪嫌疑人照片的識別等,可以說人臉檢測是一種重要的個人身份鑒別的方法。本文將神經(jīng)網(wǎng)絡(luò)和遺傳算法有機(jī)的結(jié)合起來,建立了一種遺傳神經(jīng)網(wǎng)絡(luò),然后利用優(yōu)化后的神經(jīng)網(wǎng)絡(luò)較好地解決人臉檢測中往往存在的噪聲、殘缺和戴眼睛的人臉圖像等。GABP網(wǎng)絡(luò)的應(yīng)用于人臉檢測具有檢測速度快、檢測精度高等特點。
2 遺傳算法對BP網(wǎng)絡(luò)的優(yōu)化
2.1 BP神經(jīng)網(wǎng)絡(luò)的基本原理
BP(Back Propagation,反向傳播)網(wǎng)絡(luò)是神經(jīng)網(wǎng)絡(luò)的一個分支,又稱誤差信號反饋網(wǎng)絡(luò)[1]。誤差反向傳播的BP算法簡稱BP算法,其基本思想是有導(dǎo)師學(xué)習(xí),可按梯度下降法實現(xiàn)快速收斂。典型的BP網(wǎng)絡(luò)是3層前饋階層網(wǎng)絡(luò)(如圖1所示),即輸入層、隱含層(中間層)和輸入層。一個3層的BP網(wǎng)絡(luò)可以完成任意的n維到m維的非線性映射。
圖1 BP網(wǎng)絡(luò)結(jié)構(gòu)BP算法的學(xué)習(xí)過程由正向傳播和方向傳播組成。在正向傳播過程中,輸入信息從輸入層經(jīng)隱含層逐層處理,并傳向輸出層,每層神經(jīng)元(節(jié)點)的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層不能得到期望的輸出,則轉(zhuǎn)至方向傳播,將誤差信號(理想與實際輸出之差)按連接通路反向計算,由梯度下降法調(diào)整各層神經(jīng)元的權(quán)值,使誤差信號減小。神經(jīng)網(wǎng)絡(luò)理論已經(jīng)證明BP網(wǎng)絡(luò)具有強(qiáng)大的非線性映射的能力,一連續(xù)函數(shù)或映射均可采用3層網(wǎng)絡(luò)加以實現(xiàn)。
假設(shè)訓(xùn)練集包含M個樣本,中間層的單元數(shù)是L,對第P個訓(xùn)練樣本(p=1,2,…,M),單元j的實際輸出為opj,它的第i個輸入為opi,則:Upj=∑Ni=0WjiOpj。
其中Wji為神經(jīng)元i與神經(jīng)元j之間的連接權(quán)值。隱層神經(jīng)元的輸出采用S 函數(shù)激發(fā):Opj=f(upj)=11+exp(-upj);
誤差性能指標(biāo)函數(shù)為:E=∑PEp;其中EP=12∑jdpj-Opj.2;式中,dpj表示對P個訓(xùn)練樣本,單元j的期望輸出。訓(xùn)練網(wǎng)絡(luò)的目的是找到一組權(quán)重,使誤差函數(shù)極小化。根據(jù)梯度下降法,輸出層及隱含層連接權(quán)值學(xué)習(xí)算法為:
若權(quán)值的變化量記為ΔWij,取ΔWij正比于-EPWji,即ΔWij=ηδpjOpj;其中η為學(xué)習(xí)因子(可調(diào)整權(quán)值),令-EPuji=δpj,則EPWji=EPupiupjWji=EPujiOpj=-δpjOpj。用θi和φj分別表示輸出單元和隱含層的閾值。其閾值變化分別記為Δθi和Δφj,г蜚兄滴:ИЕ泉i(n+1)=θi(n)+Δθi(n);
φj(n+1)=φj(n)+Δφj(n)И2.2 GABP網(wǎng)絡(luò)
遺傳算法GA (Genetic Algorithm)是基于生物進(jìn)化原理的一種具有魯棒性的自適應(yīng)優(yōu)化方法[2]。遺傳算法遵循通過基于問題樣本適應(yīng)度函數(shù)對初始群體選擇、交叉和變異操作,來指導(dǎo)學(xué)習(xí)和確定搜索的方向。由于采用種群的方式組織搜索,所以它可以在全局解空間內(nèi)的多個區(qū)域內(nèi)尋求最優(yōu)解[3],而且特別適合大規(guī)模并行處理。對于BP網(wǎng)絡(luò)來說,也存在著不足,BP算法從本質(zhì)上講屬于梯度下降算法,因而不可避免的具有一些缺陷,如:易陷入局部極小點[4] 、訓(xùn)練速度慢[5]等。還有初始隨機(jī)加權(quán)的大小,會對局部最小部分產(chǎn)生很大的影響[6]。在優(yōu)化問題中,如果目標(biāo)函數(shù)是多峰的,或者搜索空間不規(guī)則,就要求所使用的算法必須具有高度的魯棒性,以避免在局部最優(yōu)解附近徘徊[7]。所以遺傳算法和BP網(wǎng)絡(luò)的結(jié)合正好優(yōu)劣互補(bǔ)。遺傳算法和神經(jīng)網(wǎng)絡(luò)的結(jié)合對于尋求全局最優(yōu)解其效果要優(yōu)于單個的使用遺傳算法或神經(jīng)網(wǎng)絡(luò),為充分結(jié)合遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的長處提出了GA對BP的優(yōu)化,從而獲得網(wǎng)絡(luò)的最優(yōu)設(shè)計的新方法。
由于遺傳算法的搜索不依賴梯度信息,也不需要求解函數(shù)可微,只需要求解適應(yīng)度函數(shù)在約束條件下可解。 并且遺傳算法具有全局搜索的特性,用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的連接權(quán)和網(wǎng)絡(luò)結(jié)構(gòu),可以較好地克服BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定過程中所帶來的網(wǎng)絡(luò)振蕩,以及網(wǎng)絡(luò)極易陷入局部解問題,并且有效提高神經(jīng)網(wǎng)絡(luò)的泛化能力。因此,利用遺傳算法全局性搜索的特點,尋找最為合適的網(wǎng)絡(luò)連接權(quán)和網(wǎng)絡(luò)結(jié)構(gòu)的方法來改變BP算法依賴梯度信息的指導(dǎo),從而達(dá)到對網(wǎng)絡(luò)結(jié)構(gòu)和網(wǎng)絡(luò)連接權(quán)值、閥值的最優(yōu)配置。
通過使用GA在由BP網(wǎng)絡(luò)初步確定的基本解空間上(網(wǎng)絡(luò)連接權(quán)和神經(jīng)元閥值的取值范圍) ,通過對基因的選擇,交叉變異操作。對樣本個體不斷擇優(yōu)進(jìn)化,直至進(jìn)化K(總的進(jìn)化代數(shù)由初始時給定)代后,選取個體中適應(yīng)度最大的個體來確定網(wǎng)絡(luò)的結(jié)構(gòu)和網(wǎng)絡(luò)的權(quán)值和閥值。
GABP優(yōu)化算法步驟描述如下:
(1) 確定網(wǎng)絡(luò)結(jié)構(gòu);
(2) 產(chǎn)生初始種群;
(3) 輸入訓(xùn)練樣本;
(4) 得到個體誤差,計算適應(yīng)度值;
(5) 判斷是否滿足要求?是,則停止轉(zhuǎn)入(6);否,則繼續(xù)訓(xùn)練,對網(wǎng)絡(luò)進(jìn)行優(yōu)化,產(chǎn)生新的閾值和權(quán)值;
(6) 得到GA優(yōu)化的網(wǎng)絡(luò)。
從算法過程可以看出,GA優(yōu)化BP網(wǎng)絡(luò)目的是確定網(wǎng)絡(luò)最優(yōu)的權(quán)值和閾值,而在訓(xùn)練過程中就是要不斷調(diào)整權(quán)值和閾值,直到總誤差函數(shù)是滿足條件,訓(xùn)練結(jié)束,其GABP網(wǎng)絡(luò)訓(xùn)練的流程圖(如圖2所示)。
圖2 GABP優(yōu)化算法訓(xùn)練流程3 GABP人臉檢測
這里采用ORL人臉數(shù)據(jù)庫進(jìn)行仿真實驗。劍橋olivetli實驗室拍攝一系列人臉圖像,共有40人,每人有不同的表情或不同視點的10幅圖像,計400幅圖像(圖3為其中一些人臉樣本)。這些圖像為灰度圖像,傾斜角一般不超過20°,這里在每個人的10幅圖像中取5幅圖像作為訓(xùn)練樣本對本系統(tǒng)進(jìn)行訓(xùn)練,并進(jìn)行標(biāo)準(zhǔn)化,得到各點灰度值,送入GABP網(wǎng)絡(luò)訓(xùn)練,調(diào)整權(quán)值和閾值,直到誤差足夠小或迭代到一定的次數(shù),當(dāng)訓(xùn)練結(jié)束,將權(quán)值和閾值保存在文件中。在GABP網(wǎng)絡(luò)中,由于BP網(wǎng)絡(luò)中輸出值與期望的輸出值之間的誤差平方和EP越小,則表示該網(wǎng)絡(luò)性能越好,可以選擇一種適應(yīng)度函數(shù):f(x)=1EP+1。
圖3 部分ORL人臉樣本接下來將訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行分類,裝載權(quán)值和閾值文件。選擇剩余的每個人5幅圖像用來分類,進(jìn)行標(biāo)準(zhǔn)化,送入GABP網(wǎng)絡(luò)進(jìn)行檢測。采用基于金字塔的子采樣過程,具體過程如下:首先將灰度圖像以1.2的比率重采樣縮小,而在每一級尺度變化中,以25×25的窗口大小,從上而下,從左到右掃描圖像,步長為2個像素,最后將該窗口內(nèi)的625個像素點的灰度值送入已經(jīng)訓(xùn)練好的GABP網(wǎng)絡(luò)進(jìn)行人臉的判別,這個過程循環(huán)往復(fù),直到尺度變化后的圖象小于窗口大小為止。判別過程為:將數(shù)據(jù)輸入GABP網(wǎng)絡(luò)后,獲得2個輸出output(0)和output(1),如果output(0)大于output(1)則判斷為檢測正確,如果output(0)小于output(1)則判斷為檢測錯誤,最后計算出檢測精度,如圖4所示。
圖4 GABP人臉檢測流程 分別采用本文的算法和傳統(tǒng)BP算法,其識別結(jié)果為,如表1所示。
表1 兩種方法用于人臉檢測的效果對比
網(wǎng)絡(luò)類型收斂步數(shù)正確率傳統(tǒng)BP算法38189.5%GABP算法23693.73%
對2種方法用于人臉檢測的效果對比可以看出,基于GABP網(wǎng)絡(luò)的人臉檢測方法與傳統(tǒng)BP網(wǎng)絡(luò)的方法相比,檢測率高出4個百分點左右。此外,GABP優(yōu)化的神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過程中不斷的調(diào)整權(quán)值和與閾值,輸出網(wǎng)絡(luò)最優(yōu)的權(quán)值和閾值,使總誤差函數(shù)
滿足條件,訓(xùn)練結(jié)束。從而提高訓(xùn)練速度,避免了在局部最優(yōu)解附近徘徊。因此它的學(xué)習(xí)速度很快,在同等條件下,傳統(tǒng)的BP網(wǎng)絡(luò)收斂為381步,而GABP優(yōu)化后的網(wǎng)絡(luò)僅為236步。
4 結(jié) 語
此文介紹一種GABP神經(jīng)網(wǎng)絡(luò)的人臉檢測算法,通過實驗分析了該算法的性能。測試結(jié)果表明,該算法能明顯提高檢測精度,證明了遺傳算法優(yōu)化的BP網(wǎng)絡(luò)在人臉檢測的實際應(yīng)用中是可行的。
參 考 文 獻(xiàn)
[1]曾黃麟.智能計算[M].重慶:重慶大學(xué)出版社,2004.
[2]Golder G D.Genetic Algorithms in Search,Optimization and Machine Leam [M].London:AddisonWesley Pubishing Company Inc,1990.
[3]Bhatnv,Mcavoy T J.Determining Model Structure for Neural Models by Networks Tripping [J].Computer and Chem.Engng.,1992,16 (4):271281.
[4]潘昊,王曉勇,陳瓊,等.基于遺傳算法的BP經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用[J].計算機(jī)應(yīng)用,2005,25(12):2 7772 779.
[5]李敏強(qiáng),徐博藝,寇紀(jì)凇.遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合[J].系統(tǒng)工程理論與實踐,1999,(2):6569,112.
[6]樊為民.基于遺傳算法的神經(jīng)網(wǎng)絡(luò)算法研究[J].太原師范學(xué)院學(xué)報:自然科學(xué)版,2004,3(4):1417.
[7]李建珍.基于遺傳算法的人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法[J].西北師范大學(xué)學(xué)報,2002,38(2):3337.
[8]陳耀明.小波變換在圖像數(shù)據(jù)壓縮中的應(yīng)用\.現(xiàn)代電子技術(shù),2007,30(6):136138.
作者簡介 焦利寶 男,1983年出生,河南新鄉(xiāng)人,碩士研究生。研究方向為人工智能控制及智能信息處理。
彭 男,博士研究生,教授,碩士生導(dǎo)師。研究方向為主要從事計算機(jī)應(yīng)用、人工智能與智能控制、專家系統(tǒng)方面的研究。
篇3
【關(guān)鍵詞】數(shù)字通信;自動調(diào)制識別算法;研究
所謂的數(shù)字通信信號自動調(diào)制識別技術(shù)主要是對通信系統(tǒng)中的信號進(jìn)行處理,包括:信號調(diào)制、信號檢測、信號提取等處理技術(shù)。自動信號自動調(diào)節(jié)識別技術(shù)在通信領(lǐng)域獲得了很大的發(fā)展,而且有很多的相關(guān)研究正在不斷的涌現(xiàn)。數(shù)字通信信號自動調(diào)制識別技術(shù)屬于非合作通信的基礎(chǔ),在民用和軍用上都相當(dāng)廣泛。
一、數(shù)字通信信號調(diào)制識別方法分類介紹
通常數(shù)字信號調(diào)制識別的方法有傳統(tǒng)兩大分類,一類為基于決策理論的最大似然識別法;二類為特征提取的統(tǒng)計模式識別算法。而在統(tǒng)計模式識別法則主要有模式識別以及特征提取等,根據(jù)不同的調(diào)制信號中的不同設(shè)計來識別所有的分類器[1]。特征提取常常是對信號頻譜、瞬時信號、均值、星座特征以及高階統(tǒng)計等進(jìn)行主要特征進(jìn)行提取。決策理論的方法中,主要利用假設(shè)檢驗以及概率等來描述調(diào)制模式的識別問題,通過最小的識別誤差來對調(diào)制模式進(jìn)行檢測判斷,因此可將其劃分為最優(yōu)分類器。
二、調(diào)制識別技術(shù)概念
(一)調(diào)制
所謂的自動調(diào)制識別算法中的調(diào)制主要是當(dāng)消息在傳輸過程中由于存在著頻率較低的頻譜分量,且不利于信號的直接傳播,那么通信系統(tǒng)往往需要加入調(diào)制過程以此來達(dá)到信道調(diào)制的效果。調(diào)制技術(shù)可以對信號的頻譜進(jìn)行搬遷,將通信信號的頻譜搬到既定的位置上,然后將通信信號轉(zhuǎn)換成為適合信道傳輸?shù)男盘朳2]。調(diào)制技術(shù)的方法種類有很多,而且根據(jù)信號的類型可將調(diào)制方法分為數(shù)字信號調(diào)制和模擬調(diào)制;根據(jù)信號在調(diào)制之后的頻譜類型可分為線性調(diào)制以及非線性調(diào)制。線性調(diào)制是通過改變載波的幅度來達(dá)到對基帶調(diào)制信號的頻譜搬移,此時的信號也保持了基帶信號的結(jié)構(gòu)和線性關(guān)系,所以線性調(diào)制也被稱為幅度調(diào)制。而非線性調(diào)制則是通過改變載波的頻率和相位來實現(xiàn)頻譜的搬遷,即始終保持載波的幅度不變,而載波的頻率和相位卻發(fā)生改變。
(二)識別
通信信號自動調(diào)制的識別主要是在進(jìn)行信號調(diào)制的過程中清楚信號的調(diào)制參數(shù)以及信息內(nèi)容等??膳袛喑鲂盘査扇〉恼{(diào)制方式,同時還可以根據(jù)某些調(diào)制的信息來確定調(diào)制的參數(shù),那么我們在進(jìn)行調(diào)制的過程中選取適當(dāng)?shù)乃惴橛嬎闾峁?zhǔn)確的參數(shù)[3]。識別技術(shù)中其主要的核心為分類器設(shè)計、特征提取等,其征的提取主要是對信號進(jìn)行分析,根據(jù)不同的信號的時頻域分析來進(jìn)行特征識別。
三、自動調(diào)制識別算法探索
(一)自適應(yīng)lr算法
Lr算法屬于BP神經(jīng)網(wǎng)絡(luò)算法的一種,lr值本是固定不變的。但是自適應(yīng)lr算法確有著其自變的規(guī)律,若計算過程中可以在較平坦的曲面提高lr,反而加速了收斂減少了lr??梢员硎緸椋簑(k+1)=w(k)-η(k)F(w(k))。據(jù)該公式可知,通調(diào)整η(k)可以獲得較之BP神經(jīng)網(wǎng)絡(luò)更快的收斂速度。Lr算法中將動量和自適應(yīng)lr梯度算法結(jié)合起來,可以有效的提升學(xué)習(xí)的效率,還能夠限制網(wǎng)絡(luò)陷入局部極小值。
(二)L-M算法
L-M算法主要是利用目標(biāo)函數(shù)進(jìn)行一階和二階求導(dǎo),其迭代式子為:w(k+1)=w(k)-(JT(k)J(k)+uI)-1J(k)(w(k)),u表示阻尼因子;I表示單位矩陣;J(k)表示雅克比矩陣。L-M算法則是通過調(diào)節(jié)阻尼因子來對迭代收斂方向?qū)崿F(xiàn)動態(tài)調(diào)整。該算法則是結(jié)合了牛頓法和梯度下降法進(jìn)行快速收斂。
(三)RPROP算法
RPROP算法與BP神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)有所不同,該算法在調(diào)整網(wǎng)絡(luò)的過程中主要是利用函數(shù)的誤差,針對閥值偏導(dǎo)數(shù)、網(wǎng)絡(luò)權(quán)值等進(jìn)行符號替代,可以有效的提升收斂的速度,這就解決了BP神經(jīng)網(wǎng)絡(luò)收斂速度慢的缺點[5]。RPROP算法在調(diào)整網(wǎng)絡(luò)的時候,可以先設(shè)置一個權(quán)更新值“”,則全修正值為w,其算法的計算公式為:
wij(t)=-(t) >0 (1)
wij(t)=+(t) <0 (2)
wij(t)=0 其他 (3)
式中,t表示訓(xùn)練的次數(shù),而RPROP算法則采用批處理方式進(jìn)行訓(xùn)練。
則表示在地t時訓(xùn)練時,訓(xùn)練集的所有模式梯度累加。權(quán)更新值ij則表示在i、j此訓(xùn)練之后E上的梯度信息,更能夠適應(yīng)于學(xué)習(xí)更新。則其公式為:
ij(t)=η+×ij(t-1)
>0 (4)
ij(t)=η-×ij(t-1)
<0 (5)
ij(t)=0 其他 (6)
從上述的(4)、(5)、(6)式子看出,如果E的梯度符號發(fā)生改變,則表示wij變化太大,則ij應(yīng)該乘以η-,使之減小。如果E上的梯度符號不變,則隨著wij增大,ij應(yīng)乘以η+,則可以有效的加速誤差曲面的收斂。
四、結(jié)束語
數(shù)字通信信號自動調(diào)制識別在合作和非合作領(lǐng)域具有非常重要的價值,而且已經(jīng)成為了當(dāng)前重要領(lǐng)域的研究熱點技術(shù)。隨著通信信息技術(shù)的快速發(fā)展,對于自動化的要求越來越高,因此針對數(shù)字通信信號自動化調(diào)制識別算法具有非常重要的意義,值得我們不斷進(jìn)行研究。
參考文獻(xiàn)
[1]李敏.數(shù)字通信信號自動調(diào)制識別技術(shù)的研究[D].哈爾濱工程大學(xué),2012.
[2]蘆躍.數(shù)字信號調(diào)制識別及參數(shù)估計研究[D].蘇州大學(xué),2013.
篇4
關(guān)鍵詞: 回歸測試; 測試用例; 神經(jīng)網(wǎng)絡(luò); BP網(wǎng)絡(luò)
中圖分類號: TN711?34 文獻(xiàn)標(biāo)識碼: A 文章編號: 1004?373X(2015)19?0114?03
Abstract: Regression testing means after modifying the source code, re?testing to confirm whether the discovered defect is repaired, and whether detection and modification have brought in a new bug or caused the errors in other codes which possesses a large proportion of the workload during testing procedure. The fundamental principle of neural network is analyzed, and the thought of BP algorithm is introduced into the case set selection of regression testing. The algorithm to select regression testing case package is presented. The functions which may be influenced by code modification are screened out by samples training, and the higher priority use case can be screened out. A set of regression testing strategy with high efficient and easy operation was summed up through the accumulation of testing practice.
Keywords: regression testing; testing case; neural network; BP network
0 引 言
軟件分析,設(shè)計過程中難免有各種各樣的錯誤,需要通過測試查找錯誤,以保證軟件的質(zhì)量。軟件測試是由人工或計算機(jī)來執(zhí)行或評價軟件的過程,驗證軟件是否滿足規(guī)定的需求或識別期望的結(jié)果和實際結(jié)果之間有無差別。大量統(tǒng)計資料表明,軟件測試工作量往往占軟件開發(fā)總量的40%以上。而回歸測試作為軟件生命周期的一個組成部分,在整個軟件測試過程中占有很大的工作量比重,軟件開發(fā)的各個階段都會進(jìn)行多次回歸測試。在漸進(jìn)和快速迭代開發(fā)中,新版本的連續(xù)使回歸測試變得更加頻繁,而在極端編程方法中,更是要求每天都進(jìn)行若干次回歸測試。因此,研究回歸測試方法,盡可能地將軟件存在的問題找出來,對保證軟件質(zhì)量和提升測試工作效率都是非常有意義的。
1 相關(guān)工作
1.1 回歸測試
回歸測試是指修改了舊代碼后,重新進(jìn)行測試以確認(rèn)修改沒有引入新的錯誤或?qū)е缕渌a產(chǎn)生錯誤。對于一個軟件開發(fā)項目來說,項目的測試組在實施測試的過程中會將所開發(fā)的測試用例保存到“測試用例庫”中,并對其進(jìn)行維護(hù)和管理。當(dāng)?shù)玫揭粋€軟件的基線版本時,用于基線版本測試的所有測試用例就形成了基線測試用例庫。在需要進(jìn)行回歸測試時,就可以根據(jù)所選擇的回歸測試策略,從基線測試用例庫中提取合適的測試用例組成回歸測試包,通過運行回歸測試包實現(xiàn)回歸測試。
在軟件生命周期中,即使一個得到良好維護(hù)的測試用例庫也可能變得相當(dāng)大,這使每次回歸測試都重新運行完整的測試包變得不切實際。一個完全的回歸測試包括每個基線測試用例,時間和成本約束可能阻礙運行這樣一個測試,有時測試工作不得不選擇一個縮減的回歸測試包來完成回歸測試。
1.2 相關(guān)技術(shù)的研究
測試用例的優(yōu)化技術(shù)旨在以小的運行代價盡可能多地發(fā)現(xiàn)系統(tǒng)Bug。假設(shè)測試用例是能發(fā)現(xiàn)缺陷的;測試用例的運行效率是一樣的。測試用例的集合的選取不僅是減少用例的數(shù)目,降低用例的執(zhí)行代價,也需要考慮測試覆蓋能力,即缺陷發(fā)現(xiàn)能力。在測試用例選擇優(yōu)化的問題上,已有很多文獻(xiàn)對此進(jìn)行了研究,如配對測試法[1]、關(guān)系樹模型[2]、蟻群模擬退火算法[3]及一些其他新的理論和方法[4?7]。
2 回歸測試用例集生成方法
2.1 基本原理
神經(jīng)網(wǎng)絡(luò)是通過對人腦的基本單元――神經(jīng)元的建模和聯(lián)接,探索模擬人腦神經(jīng)系統(tǒng)功能的模型,并研制一種具有學(xué)習(xí)、聯(lián)想、記憶和模式識別等智能信息處理功能的人工系統(tǒng)。
神經(jīng)網(wǎng)絡(luò)的一個重要特性是它能夠從環(huán)境中學(xué)習(xí),并把學(xué)習(xí)的結(jié)果分布存儲于網(wǎng)絡(luò)的突觸連接中。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)是一個過程,在其所處環(huán)境的激勵下,相繼給網(wǎng)絡(luò)輸入一些樣本模式,并按照一定的規(guī)則(學(xué)習(xí)算法)調(diào)整網(wǎng)絡(luò)各層的權(quán)值矩陣,待網(wǎng)絡(luò)各層權(quán)值都收斂到一定值,學(xué)習(xí)過程結(jié)束,從而以新的方式響應(yīng)環(huán)境。
2.2 BP神經(jīng)網(wǎng)絡(luò)
Back?Propagation Network,由于其權(quán)值的調(diào)整采用反向傳播(Back Propagation)的學(xué)習(xí)算法,因此被稱為BP網(wǎng)絡(luò)。網(wǎng)絡(luò)中心思想是梯度下降法,通過梯度搜索技術(shù),使網(wǎng)絡(luò)實際輸出值與期望輸出值的誤差均方值最小。網(wǎng)絡(luò)的學(xué)習(xí)過程是一種誤差邊向后傳播邊修正權(quán)系數(shù)的過程。一般分三層:輸入層(Input Layer),隱層(Hide Layer),輸出層(Out Layer),也可以有2層或更多個隱層。層與層之間采用全互聯(lián)方式,同一層單元之間不存在相互連接,如圖1所示。
由于神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織和并行處理等特征,并具有很強(qiáng)的容錯能力和聯(lián)想能力,因此,神經(jīng)網(wǎng)絡(luò)具有模式識別能力。在神經(jīng)網(wǎng)絡(luò)識別中,根據(jù)標(biāo)準(zhǔn)的輸入輸出模式對,采用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法,以標(biāo)準(zhǔn)的模式作為學(xué)習(xí)樣本進(jìn)行訓(xùn)練,通過學(xué)習(xí)調(diào)整神經(jīng)網(wǎng)絡(luò)的連接權(quán)值。當(dāng)訓(xùn)練滿足要求后,得到知識庫,如圖2所示。
BP算法的具體步驟如下:
(1) 用小的隨機(jī)數(shù)對每一層的權(quán)值[W]初始化,以保證網(wǎng)絡(luò)不被大的加權(quán)輸入飽和;
(2) 計算網(wǎng)絡(luò)各層輸出矢量以及網(wǎng)絡(luò)誤差[E;]
(3) 計算各層反傳的誤差變化并計算各層權(quán)值的修正值以及新權(quán)值;
(4) 再次計算權(quán)值修正后誤差的平方和;
(5) 檢查誤差是否小于給定誤差,若是,訓(xùn)練結(jié)束;否則繼續(xù)。
輸入信號[Xi]通過中間節(jié)點(隱藏層節(jié)點)作用于輸出節(jié)點,經(jīng)過非線性變換,產(chǎn)生輸出信號[Yk,]網(wǎng)絡(luò)訓(xùn)練的每個樣本包括輸入向量[X]和期望輸出量[t](類別),網(wǎng)絡(luò)輸出值[Y]和期望輸出值(真值)[t]之間的偏差,通過調(diào)整輸入節(jié)點與隱藏層節(jié)點的連接強(qiáng)度取值和隱藏層節(jié)點與輸出節(jié)點之間的連接強(qiáng)度以及閾值,使誤差沿梯度的方向下降,經(jīng)過反復(fù)學(xué)習(xí)訓(xùn)練,確定與最小誤差項對應(yīng)的網(wǎng)絡(luò)參數(shù)(權(quán)值和閾值),訓(xùn)練即告停止。學(xué)習(xí)樣本的數(shù)量和質(zhì)量影響學(xué)習(xí)效果和學(xué)習(xí)速度。
為了訓(xùn)練一個BP網(wǎng)絡(luò),需要計算網(wǎng)絡(luò)加權(quán)輸入矢量以及網(wǎng)絡(luò)輸出和誤差矢量,然后求得誤差平方和。當(dāng)所訓(xùn)練矢量的誤差平方和小于誤差目標(biāo),訓(xùn)練則停止;否則在輸出層計算誤差變化,且采用反向傳播學(xué)習(xí)規(guī)則調(diào)整權(quán)值,并重復(fù)此過程。當(dāng)網(wǎng)絡(luò)完成訓(xùn)練后,對網(wǎng)絡(luò)輸入一個不是訓(xùn)練集合中的矢量,網(wǎng)絡(luò)將給出輸出結(jié)果。
2.3 回歸測試用例包選取
基于全量的測試用例庫,回歸測試包的選擇策略可遵循下述基本算法進(jìn)行:
(1) 識別出軟件中被修改的部分。
(2) 從原基線測試用例庫[T]中,排除所有不再適用的測試用例,確定那些對新的軟件版本依然有效的測試用例,其結(jié)果是建立一個新的基線測試用例庫[T0。]
(3) 依據(jù)一定的策略從[T0]中選擇測試用例測試被修改的軟件。
(4) 如果必要,生成新的測試用例集[T1,]用于測試[T0]無法充分測試的軟件部分。
(5) 用[T1]執(zhí)行修改后的軟件。
在上述步驟中,第(2)和第(3)步測試驗證修改是否破壞了現(xiàn)有的功能,第(4)和第(5)步測試驗證修改工作本身。第(3)步中,將神經(jīng)網(wǎng)絡(luò)知識結(jié)合到測試領(lǐng)域,通過對樣本的學(xué)習(xí),確認(rèn)修改沒有引入新的錯誤或?qū)е缕渌a產(chǎn)生錯誤。
其主要思想為:對于[q]個輸入學(xué)習(xí)樣本:[P1,P2,…,Pq,]已知與其對應(yīng)的輸出樣本為:[T1,T2,…,Tq。]通過網(wǎng)絡(luò)的實際輸出[A1,A2,…,Aq]與目標(biāo)矢量[T1,T2,…,Tq]之間的誤差來修改其權(quán)值,使[Al (l=1,2,…,q)]與期望的[Tl]盡可能地接近,使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小。
3 回歸測試實踐的優(yōu)化
在項目測試過程中,不僅需要應(yīng)用高新的測試技術(shù),也要從宏觀上制定可行的測試策略,解決在有限的時間中使測試覆蓋率最優(yōu)化。本文從項目實踐角度出發(fā),提出以下的回歸測試策略:
(1) 對所有已修復(fù)Bug進(jìn)行驗證;
(2) 對新增功能進(jìn)行全量重點測試;
(3) 對原有功能,按優(yōu)先級進(jìn)行測試?;谝欢ǖ娘L(fēng)險標(biāo)準(zhǔn)從基線測試用例庫中選擇回歸測試包。首先運行最重要、關(guān)鍵和可疑的測試,而跳過那些非關(guān)鍵、優(yōu)先級別低或者高穩(wěn)定的測試用例,這些用例即便可能測試到缺陷,這些缺陷的嚴(yán)重性也較低,不影響系統(tǒng)的功能。一般而言,測試從主要特征到次要特征。
(4) 對修復(fù)的Bug可能會引入新的Bug的功能模塊重點測試,可采用本文介紹的神經(jīng)網(wǎng)絡(luò)進(jìn)行樣本訓(xùn)練和用例篩選。將回歸測試局限于被改變的模塊和它的接口上。通常,一個回歸錯誤一定涉及一個新的、修改的或刪除的代碼段。在允許的條件下,回歸測試盡可能覆蓋受到影響的部分。
(5) 如果情況允許,測試全部用例的策略是最安全的策略。但已經(jīng)運行過許多次的回歸測試不太可能揭示新的錯誤,而且很多時候,由于時間、人員、設(shè)備和經(jīng)費的原因,不允許選擇再測試全部用例的回歸測試策略,此時,可以選擇適當(dāng)?shù)牟呗赃M(jìn)行縮減的回歸測試。
4 結(jié) 語
將神經(jīng)網(wǎng)絡(luò)知識引入到測試領(lǐng)域是一個比較新的研究,本文就此方向進(jìn)行了研究,并給出了實例說明。然而,BP神經(jīng)網(wǎng)絡(luò)需要大量的樣本數(shù)據(jù)用來訓(xùn)練和測試,當(dāng)樣本數(shù)量不夠時,預(yù)測的誤偏差可能會較大,回歸測試開始時,由于數(shù)據(jù)樣本不足,可能會存在預(yù)測的偏差,所以下一步的研究方向?qū)⑹侨绾慰朔@一問題。
參考文獻(xiàn)
[1] 廖劍鋒,蔡賢濤.組合測試中用例集的選擇策略[J].計算機(jī)工程與應(yīng)用,2012,48(11):65?70.
[2] 鈕鑫濤,聶長海,CHAN Alvin.組合測試故障定位的關(guān)系樹模型[J].計算機(jī)學(xué)報,2014,37(12):2505?2518.
[3] 聶長海,徐寶文,史亮.一種基于組合測試的軟件故障診斷方法[J].東南大學(xué)學(xué)報:自然科學(xué)版,2003,33(6):681?684.
[4] 徐寶文,聶長海,史亮,等.一種基于組合測試的軟件故障調(diào)試方法[J].計算機(jī)學(xué)報,2006,29(1):132?138.
[5] YILMAZ C. Covering arrays for efficient fault characterization in complex configuration space [J]. IEEE Transaction on Software Engineering, 2006, 32(1): 20?34.
篇5
關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);飼料產(chǎn)量;飼料產(chǎn)量預(yù)測;畜牧水產(chǎn)業(yè)
中圖分類號:TP183 文獻(xiàn)標(biāo)識碼:A 文章編號:2095-1302(2017)01-00-02
0 引 言
我國是世界上人口最多的國家,畜牧水產(chǎn)業(yè)的發(fā)展與我國國民生活息息相關(guān)。畜牧水產(chǎn)業(yè)的可持續(xù)發(fā)展需要飼料產(chǎn)業(yè)的支持。飼料產(chǎn)業(yè)為現(xiàn)代養(yǎng)殖業(yè)的可持續(xù)發(fā)展提供了重要的物質(zhì)基礎(chǔ),為我國人民生活水平的提高作出了重大貢獻(xiàn)[1]。
1979年,我國正式從傳統(tǒng)飼料進(jìn)入現(xiàn)代飼料工業(yè)時代。經(jīng)過30多年的發(fā)展,我國飼料產(chǎn)量逐年增加,于2011年開始超過美國,躍居世界第一,同時我國飼料從一開始飼料產(chǎn)品品種單一,質(zhì)量不高,到現(xiàn)在飼料產(chǎn)品多樣化、系列化,且飼料產(chǎn)品質(zhì)量管理體系不斷完善,有力地推動了養(yǎng)殖業(yè)的快速可持續(xù)發(fā)展,加快了農(nóng)業(yè)結(jié)構(gòu)調(diào)整,增加了國民收入[2]。
目前,國內(nèi)用于飼料產(chǎn)量預(yù)測的方法并不多,范潤梅[3]提出的灰色預(yù)測理論建立了GM(1,1)模型用于預(yù)測20092011年我國飼料產(chǎn)量,該模型具有較好的預(yù)測精度。但由于灰色預(yù)測的理論缺陷,當(dāng)數(shù)據(jù)波動較大時,GM(1,1)模型預(yù)測誤差較大,有時不能滿足預(yù)測需要。而BP神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的學(xué)習(xí)能力,可以逼近任意復(fù)雜的非線性函數(shù),信息利用率較高,在預(yù)測中得到了廣泛應(yīng)用[4-6]。本文利用BP神經(jīng)網(wǎng)絡(luò)模型和灰色預(yù)測模型對我國20102015年的飼料產(chǎn)量進(jìn)行了預(yù)測,結(jié)果表明,BP模型具有很好的預(yù)測效果,預(yù)測最大誤差為5.79%,平均誤差為3.56%,而灰色預(yù)測模型預(yù)測的最大誤差為12.95%,平均誤差為7.24%。因此BP神經(jīng)網(wǎng)絡(luò)模型能夠更好地用于飼料產(chǎn)量的預(yù)y,具有更高的工程應(yīng)用價值。
1 灰色理論模型
GM(1,1)模型的基本原理如下:
根據(jù)灰色理論的原理,本文建立灰色預(yù)測模型的步驟如下所示:
①輸入樣本數(shù)據(jù),根據(jù)公式(3)對樣本數(shù)據(jù)進(jìn)行累加處理。
②根據(jù)公式(6)求得B和YN。
③根據(jù)公式(7)求得模型的累加預(yù)測值。
④根據(jù)公式(8)求得樣本的預(yù)測值。
灰色預(yù)測模型流程圖如圖1所示。
2 BP神經(jīng)網(wǎng)絡(luò)模型
BP神經(jīng)網(wǎng)絡(luò)有一個輸入層、一個輸出層和一個或多個隱含層,同層神經(jīng)元間無關(guān)聯(lián),異層神經(jīng)元間向前連接。根據(jù)對象的復(fù)雜程度,選擇適當(dāng)?shù)木W(wǎng)絡(luò)結(jié)構(gòu)就可以實現(xiàn)從輸入空間到輸出空間的任意非線性函數(shù)的映射。BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖2所示。
BP神經(jīng)網(wǎng)絡(luò)建模流程圖如圖3所示。BP神經(jīng)網(wǎng)絡(luò)模型的建立需要按照如下步驟進(jìn)行:
(1)輸入樣本數(shù)據(jù),對樣本數(shù)據(jù)進(jìn)行歸一化處理。
(2)設(shè)置神經(jīng)網(wǎng)絡(luò)的誤差精度、學(xué)習(xí)速率、最大訓(xùn)練次數(shù)等參數(shù)。
(3)使用梯度下降法對權(quán)值和閾值進(jìn)行調(diào)整,同時使用反向傳播算法對BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。
(4)訓(xùn)練合格則模型建立成功,否則繼續(xù)訓(xùn)練。
(5)使用訓(xùn)練好的模型進(jìn)行預(yù)測,輸出預(yù)測值。
(6)對預(yù)測值進(jìn)行反歸一化處理,得到真實的預(yù)測值。
3 兩種模型在飼料產(chǎn)量預(yù)測中的應(yīng)用
本文取19922015年這24年的飼料總產(chǎn)量相關(guān)數(shù)據(jù)進(jìn)行飼料產(chǎn)量預(yù)測,以1992為起點依次選取19年的數(shù)據(jù)作為訓(xùn)練樣本分別采用灰色預(yù)測模型和BP神經(jīng)網(wǎng)絡(luò)模型來預(yù)測下一年的飼料產(chǎn)量,其預(yù)測結(jié)果和誤差分別如圖4、圖5所示。
從圖4可以看出,20112012年灰色模型和BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測值與實際值都能夠較好地吻合,而2013年我國飼料產(chǎn)量下降,數(shù)據(jù)曲線不再線性增加,此時灰色模型的預(yù)測值就偏離了實際值,預(yù)測誤差增大,但是BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測值還是可以與實際值較好地吻合。從圖5可以看出,BP神經(jīng)網(wǎng)絡(luò)模型的誤差大約為5%,而灰色模型的誤差最大達(dá)到了10%以上。從圖4和圖5中可以看出,BP神經(jīng)網(wǎng)絡(luò)模型相比灰色模型具有更高的預(yù)測精度,能夠更好地用于飼料產(chǎn)量預(yù)測。
4 結(jié) 語
由以上分析可知,采用灰色模型進(jìn)行飼料產(chǎn)量預(yù)測時,當(dāng)飼料產(chǎn)量減少,波動較大,灰色預(yù)測模型的預(yù)測誤差就可能會增大。本文采用BP神經(jīng)網(wǎng)絡(luò)模型有效減小了波動時產(chǎn)生的預(yù)測誤差,提高了預(yù)測精度,為飼料產(chǎn)量的預(yù)測提供了一種新的研究方法。但該方法并不能夠時時優(yōu)于灰色模型,因此該方法有待于進(jìn)一步完善和發(fā)展。
參考文獻(xiàn)
[1]馬廣鵬.我國飼料行業(yè)發(fā)展現(xiàn)狀及趨勢分析[J].飼料工業(yè),2013(4):45-47.
[2]徐倩.畜牧飼料行業(yè)信息化管理進(jìn)程[J].廣東飼料,2015,24(8):10-13.
[3]范潤梅,解沛,王征南.灰色預(yù)測模型在我國飼料產(chǎn)量預(yù)測[J].中國畜牧雜志, 2009,45(8):13-16.
[4]王啟平.BP神經(jīng)網(wǎng)絡(luò)在我國糧食產(chǎn)量預(yù)測中的應(yīng)用[J].預(yù)測 2002,21(3):79-80.
[5]周彩蘭,劉敏.BP神經(jīng)網(wǎng)絡(luò)在石油產(chǎn)量預(yù)測中的應(yīng)用[J].武漢理工大學(xué)學(xué)報,2009(3):125-129.
[6]徐黎明,王清,陳劍平,等.基于BP神經(jīng)網(wǎng)絡(luò)的泥石流平均流速預(yù)測[J].吉林大學(xué)學(xué)報(地球科學(xué)版),2013,43(1):186-191.
篇6
引言
分子蒸餾是一種新型的在高真空條件下進(jìn)行的液-液分離技術(shù),具有蒸餾溫度低(低于物質(zhì)沸點溫度)真空度高,物料受熱時間短,分離程度高等特點;且分離過程不可逆,沒有沸騰鼓泡現(xiàn)象[1]。特別適用于分離高沸點、熱敏性、高粘度和易被氧化的物質(zhì)。但是分子蒸餾過程是一個極其復(fù)雜的過程,實際生產(chǎn)中除了發(fā)揮其優(yōu)點外,還要要兼顧生產(chǎn)效率及產(chǎn)品質(zhì)量,因此,分子蒸餾生產(chǎn)工程的工藝參數(shù)優(yōu)化是一個多目標(biāo)組合優(yōu)化問題[2]。生產(chǎn)中根據(jù)生產(chǎn)目標(biāo)選擇相應(yīng)的工藝指標(biāo),這就需要進(jìn)行反復(fù)實驗來獲取目標(biāo)下的最佳工藝參數(shù)值。由于分子蒸餾過程的復(fù)雜性,導(dǎo)致其工藝參數(shù)比較多,難以用數(shù)學(xué)方法來解決。而人工神經(jīng)網(wǎng)絡(luò)具有人體腦神經(jīng)系統(tǒng)的信息處理機(jī)制,可以映射任何較為復(fù)雜的非線性關(guān)系,具有自學(xué)習(xí)能力。本文采用應(yīng)用較為廣泛的BP神經(jīng)網(wǎng)絡(luò)和遺傳算法相結(jié)合,將其運用到分子蒸餾過程中的工業(yè)參數(shù)優(yōu)化中,通過給定分子蒸餾的工藝參數(shù)及生產(chǎn)指標(biāo),經(jīng)過大量樣本的學(xué)習(xí)訓(xùn)練使網(wǎng)絡(luò)達(dá)到允許的誤差范圍,映射工藝參數(shù)與生產(chǎn)指標(biāo)之間的復(fù)雜非線性關(guān)系[3-4]。以該模型的預(yù)測性能輸出作為目標(biāo)函數(shù),對工藝參數(shù)進(jìn)一步優(yōu)化,從而實現(xiàn)預(yù)定的工藝指標(biāo)下的分子蒸餾工藝參數(shù)的優(yōu)化。
1分子蒸餾參數(shù)測試實驗
1.1分子蒸餾過程模型氣體分子從液體表面溢出,由于其自由程的不同,與其他分子碰撞前的飛行距離各不相同。分子蒸餾技術(shù)就是利用不同種類分子逸出液面后平均自由程不同的性質(zhì)實現(xiàn)分離的。Langmuir[5]根據(jù)理想氣體的動力學(xué)理論提出了分子自由程的數(shù)學(xué)模型:式中,p為分子所處環(huán)境壓強(qiáng);λm為分子運動平均自由程;d為分子有效直徑;T為分子所處環(huán)境溫度;k為玻爾茲曼常數(shù)。由式(1)分子平均自由程公式可知,氣體分子平均自由程與溫度成正比,與壓強(qiáng)反比。當(dāng)加熱板上的物料達(dá)到一定溫度時,分子平均自由程大于板間距離的輕組分脫離加熱板飛向冷凝板,在冷凝板上捕獲,而平均自由程小于板間距的重組分到達(dá)不了冷凝板,從而實現(xiàn)了物質(zhì)的分離。其分離過程如圖1所示。
1.2實驗設(shè)備本文在DCH-300三級分子蒸餾裝置的基礎(chǔ)上進(jìn)行參數(shù)測試實驗研究。實驗裝置的刮膜式短程蒸發(fā)器分子蒸餾過程為:液料放入原料罐被計量泵抽取。泵用穩(wěn)定流量輸送物料,經(jīng)過管道被送入降膜器內(nèi)的旋轉(zhuǎn)分配器,在離心力的作用下,被甩向夾套加熱室內(nèi)壁,這時物料液體受重力的作用,沿著內(nèi)壁向下流動,與此同時裝在轉(zhuǎn)軸上的刮板,把料液刮成簿膜,這樣料液受加熱而蒸發(fā),由于在重力及離心力的作用下,不斷地更新液膜。根據(jù)分子運動理論知道,液體混合物的分子受熱后運動會加劇,當(dāng)接受到足夠的能量時,輕組分首先就會從液面溢出而成為氣體分子,當(dāng)氣體分子逸出碰到內(nèi)冷凝列管時,瞬即從氣體變?yōu)橐后w并被柱下氣相罐收集,重組分因達(dá)不到逸出溫度,而仍然以液體狀態(tài)流出蒸餾柱,由液相罐收集。圖2為蒸餾裝置的工藝原理圖,其中,H1、H2、H3為三級的蒸發(fā)器,蒸發(fā)器面積分別為0.02m2,0.26m2,1.1m2。L1、L2、L3為三級的冷凝器,并且每一級的蒸發(fā)器都配有各自的刮膜電機(jī),可以控制刮膜轉(zhuǎn)速,提高蒸發(fā)速率,每一級的冷凝系統(tǒng)都與冷機(jī)相連,保證具有合適的冷凝溫度。第二級包括一個水環(huán)真空泵、2個羅茨真空泵,1個增壓真空泵構(gòu)成的泵組,第三級包括旋片真空泵和增壓泵,三級真空度越來越高,蒸餾的溫度就可以逐級降低,達(dá)到負(fù)壓低溫蒸發(fā)的降低能耗的目的。
1.3實驗方案及結(jié)果本實驗采用了3次蒸餾,第一級蒸餾為預(yù)脫氣、脫水處理階段,即薄膜蒸發(fā)階段,為確保后續(xù)蒸餾時具有足夠高的真空,而除去物料的空氣和溶劑等組份。物料進(jìn)蒸餾器之前,經(jīng)一級除氣裝置進(jìn)行脫氣處理,然后以一定的速率進(jìn)入二級、三級分子蒸餾刮膜器中,在高真空和適宜的蒸餾溫度下進(jìn)行,分離出殘余物和餾出物。實驗安排采用在改變一個因素的單因素實驗設(shè)計下,固定其他參數(shù),對得到的實驗結(jié)果進(jìn)行比較,以便對這一因素的影響作出結(jié)論。實驗水平如表1所示。本次實驗共采用9組進(jìn)行試驗,通過改變蒸餾溫度、進(jìn)料速率和真空度等參數(shù),對實驗所得精油含量與得率的影響。實驗結(jié)果如表2所示通過上述試驗結(jié)果可以看出,并不是工藝參數(shù)(即蒸餾溫度、進(jìn)料速率和真空度的值)越大越好,且沒有規(guī)律可循。也有采用正交試驗進(jìn)行工藝參數(shù)優(yōu)化的方法,但對于分子蒸餾采取該種方法不可行,因為正交實驗法是當(dāng)真空度不變時,通過多次實驗得到最佳溫度,在此溫度下再通過多次蒸餾實驗摸索最佳真空度,而分子蒸餾的蒸發(fā)器的溫度與真空度是具有耦合關(guān)系的量,當(dāng)真空度改變,物質(zhì)的沸點發(fā)生改變,即真空度變化,最佳蒸餾溫度隨之改變,因此為了提高生產(chǎn)效率及產(chǎn)品指標(biāo),進(jìn)行高效、高質(zhì)地分離提取,本文采用了基于BP網(wǎng)絡(luò)和遺傳算法的分子蒸餾工藝參數(shù)優(yōu)化方法。
2BP神經(jīng)網(wǎng)絡(luò)及遺傳算法優(yōu)化模型的建立
2.1基本原理人工神經(jīng)網(wǎng)絡(luò)信息處理、魯棒性、自學(xué)習(xí)及非映射能力較強(qiáng),遺傳算法具有并行、隨機(jī)和自適應(yīng)搜索等優(yōu)點[6]。本文采用神經(jīng)網(wǎng)絡(luò)與遺傳算法相結(jié)合的優(yōu)化設(shè)計方法,充分利用二者優(yōu)點?;驹硎?首先通過試驗獲得目標(biāo)函數(shù)與工藝參數(shù)之間的離散試驗數(shù)據(jù)關(guān)系。將試驗數(shù)據(jù)作為網(wǎng)絡(luò)的樣本,對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,當(dāng)網(wǎng)絡(luò)達(dá)到誤差要求時,存儲權(quán)值閾值,利用網(wǎng)絡(luò)的記憶功能,建立起工藝參數(shù)與指標(biāo)之間的非線性映射關(guān)系。再利用遺傳算法對這一黑匣型的函數(shù)求解。上述優(yōu)化問題的數(shù)學(xué)表達(dá)形式為:其中,xi表示神經(jīng)網(wǎng)絡(luò)的輸入,yi表示神經(jīng)網(wǎng)絡(luò)的輸出,f是評價函數(shù)。算法的實現(xiàn)過程為:運用試驗獲得的大量樣本對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,建立穩(wěn)定的BP網(wǎng)絡(luò)預(yù)測模型,對訓(xùn)練好的模型在一定范圍內(nèi)隨機(jī)產(chǎn)生多組輸入向量,通過BP預(yù)測出相應(yīng)的輸出量,再通過評價函數(shù),計算個體適應(yīng)度值,再利用遺傳算子通過適應(yīng)度值調(diào)整輸入向量,產(chǎn)生具有更好適應(yīng)性的新的種群。通過遺傳算子的計算得到優(yōu)化目標(biāo),相應(yīng)輸入即為目標(biāo)的優(yōu)化結(jié)果。
2.2BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣、最為成熟的1種采用誤差反向傳播的前饋型多層神經(jīng)網(wǎng)絡(luò)。包括輸入層、中間層和輸出層。選取1組訓(xùn)練樣本提供給神經(jīng)網(wǎng)絡(luò),經(jīng)過隱含層激活函數(shù)后向輸出層傳播,隱含層的輸出作為輸出層的輸入,最后獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來進(jìn)行的誤差的反向傳播階段,即按照網(wǎng)絡(luò)輸出與目標(biāo)值之間的誤差減小方向傳播,從輸出層到隱含層再到輸入層,逐層修正各層之間的連接權(quán)值[7-8]。含有一個隱層的3層BP神經(jīng)網(wǎng)絡(luò)可以任意精度逼近任何有理函數(shù)。本文采用單隱含層的BP神經(jīng)網(wǎng)絡(luò)作為預(yù)測模型,其模型結(jié)構(gòu)如圖3所示。大量學(xué)習(xí)樣本對BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練后,分子蒸餾工藝參數(shù)與產(chǎn)品指標(biāo)之間就會通過神經(jīng)網(wǎng)絡(luò)建立起1種能映射二者之間內(nèi)在關(guān)系的連接關(guān)系,即獲得產(chǎn)品指標(biāo)預(yù)測的BP神經(jīng)網(wǎng)絡(luò)模型。本文在Matlab7.0神經(jīng)網(wǎng)絡(luò)工具箱的基礎(chǔ)上[8-9],安排了18組試驗樣本,選擇9組作為訓(xùn)練樣本,其余9組作為測試樣本,網(wǎng)絡(luò)結(jié)構(gòu)為3×6×2,輸入層節(jié)點為3,分別為蒸餾溫度,真空度及進(jìn)料速率;隱層節(jié)點為6,輸出層為2,分別為產(chǎn)品的含量和得率。數(shù)據(jù)歸一化處理,訓(xùn)練時,不同的訓(xùn)練函數(shù)的訓(xùn)練速度和精度不同,這里采用梯度下降法,訓(xùn)練誤差曲線如圖4所示。經(jīng)過42次的網(wǎng)絡(luò)訓(xùn)練,網(wǎng)絡(luò)的訓(xùn)練誤差值就收斂到預(yù)定的目標(biāo)誤差0.001。訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)用于產(chǎn)品指標(biāo)預(yù)測,由預(yù)測結(jié)果與試驗結(jié)果進(jìn)行比較可知,訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)具有較高的預(yù)測精度。
2.3優(yōu)化模型的建立遺傳算法是1種通過模擬自然進(jìn)化過程,根據(jù)自然選擇和遺傳算法,進(jìn)行隨機(jī)、自適應(yīng)搜索最優(yōu)解的方法。遺傳算法將自然界適者生存、劣者淘汰的生物進(jìn)化原理引入到待優(yōu)化參數(shù)問題中,將待優(yōu)化變量進(jìn)行編碼,組成初始種群,將其按一定的適應(yīng)度函數(shù)及遺傳算子的操作,即選擇、交叉和變異,選擇適應(yīng)度值較大的個體,形成高適應(yīng)值的新群體,經(jīng)過反復(fù)進(jìn)行,最終找到適應(yīng)度最大的個體[10],此時的個體即為優(yōu)化結(jié)果。本文以遺傳算法作為蒸餾工藝參數(shù)的優(yōu)化方法。式中,W1和W2分別為工藝權(quán)值,T1,T2分別為含量與得率的目標(biāo)值??梢娔繕?biāo)函數(shù)越小預(yù)測值越接近目標(biāo)值,當(dāng)目標(biāo)函數(shù)最小時對應(yīng)的工藝參數(shù)值為最優(yōu)值。遺傳算法在進(jìn)化搜索中基本不利用外部信息,僅以適應(yīng)度函數(shù)為依據(jù),個體的適應(yīng)度越大,表明其適應(yīng)能力越強(qiáng)[12-15]。建立的目標(biāo)函數(shù)需符合適應(yīng)度函數(shù)要求,本文采用的適應(yīng)度函數(shù)就是目標(biāo)函數(shù)的倒數(shù)。工藝參數(shù)優(yōu)化流程如圖5所示。經(jīng)過遺傳算子作用后的工藝參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入,通過訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型輸出目標(biāo)函數(shù)值,再計算個體適應(yīng)度函數(shù)值,再進(jìn)行選擇,交叉概率為0.8,變異概率為0.01等遺傳操作獲得新一代種群。通過反復(fù)進(jìn)化計算,直至適應(yīng)度函數(shù)值趨于穩(wěn)定,此時的輸入值為最優(yōu)解,優(yōu)化結(jié)果如圖6所示。此時W1=W2=0.5,達(dá)到穩(wěn)定后的適應(yīng)度值為38.97。此時蒸餾溫度為120℃,進(jìn)料速率295r/min,進(jìn)料速率60L/h。
篇7
Abstract: In order to improve the busy airport emergency management ability, and provide scientific basis for the busy airport emergency plan, a new method based on the combination of grey model and improved support vector regression model is proposed. Time series prediction is done to the abnormal peak traffic on the busy airport flights small sample.
關(guān)鍵詞: 灰色模型;支持向量回歸機(jī)模型;高峰航班流量;小樣本;時間序列預(yù)測
Key words: grey model;support vector regression model;peak flight flow;small sample;time series prediction
中圖分類號:V355;F224 文獻(xiàn)標(biāo)識碼:A 文章編號:1006-4311(2014)11-0316-02
0 引言
隨著我國民航事業(yè)的迅猛發(fā)展,空中交通流量驟然增加,航班流量是民航空中交通管制的重要數(shù)據(jù),是評定民航空管發(fā)展水平的關(guān)鍵指標(biāo)。對非常態(tài)的高峰航班流量進(jìn)行預(yù)測,不僅有助于提高繁忙機(jī)場的應(yīng)急管理能力,而且還能為繁忙機(jī)場制定應(yīng)急預(yù)案提供科學(xué)依據(jù)。但是因為繁忙機(jī)場的非常態(tài)高峰航班流量受到諸多因素的影響作用,系統(tǒng)的發(fā)展變化并非是線性的,而是高度非線性的,所以就很難直接的發(fā)現(xiàn)描述系統(tǒng)發(fā)展變化規(guī)律的函數(shù)。
目前采用最多的是灰色預(yù)測方法或支持向量回歸機(jī)方法(SVR)。文獻(xiàn)[1]采用灰色預(yù)測對航班流量進(jìn)行預(yù)測,灰色預(yù)測方法在解決繁忙機(jī)場非常態(tài)高峰航班流量這種“部分因素已知,部分因素未知”的“小樣本”、“貧信息”的時間序列預(yù)測中是一種非常有效的方法,先對原始數(shù)據(jù)進(jìn)行生成處理,淡化或消除沖擊擾動對系統(tǒng)行為數(shù)據(jù)序列的影響,然后利用生成數(shù)據(jù)序列建立預(yù)測模型,但是灰色模型預(yù)測的精度并不高。文獻(xiàn)[4]采用SVR模型對航班流量進(jìn)行預(yù)測,SVR是基于統(tǒng)計學(xué)習(xí)理論框架下的一種新的通用機(jī)器學(xué)習(xí)方法。它首先較好地解決了以往困擾很多學(xué)習(xí)方法的小樣本、過學(xué)習(xí)、高維數(shù)、局部最小等實際問題,其次具有很強(qiáng)的泛化能力,是解決小樣本時間序列預(yù)測建模的又一種可行的有效途徑。將灰色模型與SVR模型兩者相結(jié)合――灰色支持向量回歸機(jī)模型,利用灰色預(yù)測方法中“累加生成”的優(yōu)點,削弱原始數(shù)據(jù)序列中隨機(jī)擾動因素的影響,使雜亂無章的原始數(shù)據(jù)中所隱藏的規(guī)律顯露出來,使數(shù)據(jù)更具有規(guī)律性,得到便于SVR學(xué)習(xí)的新序列,進(jìn)而建立優(yōu)于單一SVR方法的預(yù)測模型。
1 GM(1,1)預(yù)測模型
令原始數(shù)列x(0)=(x(0)(1),x(0)(2),…,x(0)(n))為非負(fù),用累加生成法對原始數(shù)列進(jìn)行一次累加生成x(0)的1-AGO序列為:
x(1)=(x(1)(1),x(1)(2),…,x(1)(n)),其中x(1)(k)=■x(0)(i),(k=1,2,…n)。GM(1,1)的灰微分方程模型為
x(0)(k)+az(1)(k)=b(k=2,3,…,n)(1)
其中,GM表示Gray Model(即灰色模型),方程的階數(shù)和變量均為1,x(0)(k)為灰導(dǎo)數(shù),a為發(fā)展系數(shù),b為灰作用量,z(1)(k)為白化背景值。相應(yīng)的白化微分方程為
■+ax■=b(2)
記u=(a,b)T,Y=(x(0)(2),x(0)(3),…,x(0)(n))T,B=-Z■(2) 1-Z■(3) 1 ┆ ┆-Z■(n) 1
按最小二乘法得出灰參數(shù)■=(a,b)■=(B■B)B■B■Y。
GM(1,1)的灰微分方程的解為
■(k+1)=(x(1)(0)-■)e-ak+■(3)
將其累減還原得到非負(fù)原始序列x(0)的預(yù)測值為
■(k+1)=a(1)■(k+1)=■(k+1)-■(k)(4)
2 改進(jìn)的SVR預(yù)測模型[3-5]
2.1 SVR原理 假定在航班流量預(yù)測問題中,待擬合樣本數(shù)據(jù)集為(x1,y1),(x2,y2),…,(xn,yn)其中n為樣本集容量。SVR在處理非線性問題時先用非線性映射?準(zhǔn)(?)將樣本數(shù)據(jù)x映射到高維特征空間H中去,并在這個空間中對函數(shù)f(x)=w??準(zhǔn)(x)+b做線性回歸處理。根據(jù)SVR結(jié)構(gòu)風(fēng)險最小化原理,函數(shù)f(x)應(yīng)使如下風(fēng)險函數(shù)最小
R(w)=■w2+C■L(f(x■)-y■)(5)
式中w為回歸系數(shù)向量,C為一大于零常數(shù)稱為懲罰系數(shù),控制對超過不敏感值誤差的樣本數(shù)據(jù)的懲罰程度,
L(f(x■)-y)為損失函數(shù),依據(jù)航班流量預(yù)測的特點,這里筆者選取ε不敏感損失函數(shù)為式(7)。
L(f(x■)-y)=0,f(x■)-y■
ε為不敏感值,控制著模型精度。
由于要考慮允許擬合誤差,引入松弛因子ξ和ξ*。于是航班流量回歸估計問題就轉(zhuǎn)化為在約束條件(8)下的最小化函數(shù)(7)的問題。R(w,ξi,ξ■■)=■w2+C■(ξi+ξ■■)(7)
s.t.f(x■)-yi?燮ξ■■+εy■-f(x■)?燮ξi+εξi,ξ■■?叟0i=1,2,…,n(8)
先對式(8)采用拉格朗日乘子處理,然后按照對偶原理將式(8)轉(zhuǎn)化為下面的凸二次規(guī)劃問題w(α,α*)=■(αi-α■■)yi-■(αi-α■■)ε-■■(αi-α■■)(αj-α■■)?準(zhǔn)(xi)??準(zhǔn)(xj)(9)
s.t.■(αi-α■■)=00?燮αi,α■■?燮C(10)
這里α,α*是拉格朗日乘子,可以由式(9)求出,αi或α■■不等于零的項所對應(yīng)的樣本數(shù)據(jù)就被稱為支持向量,此時擬合函數(shù)就變成f(x)=■(αi-α■■)k(xi?x)+b(11)
這里k(xi?x)=?準(zhǔn)(xi)??準(zhǔn)(x)稱為核函數(shù),能夠滿足Mercer條件,xi為支持向量,x為待預(yù)測數(shù)據(jù)。
2.2 參數(shù)優(yōu)化 SVR模型參數(shù)有懲罰因子C,所選用核函數(shù)的參數(shù)γ和ε不敏感值,恰當(dāng)?shù)膮?shù)組合可以提高回歸模型的泛化性能。主要的參數(shù)選擇算法有留一法、交叉驗證法、試湊法、網(wǎng)格搜索法、梯度下降法和免疫算法等。本文采用網(wǎng)格搜索法和計算精度較高的交叉檢驗法確定參數(shù)。
3 灰色支持向量回歸機(jī)預(yù)測模型
繁忙機(jī)場航班流量受諸多因素影響,有的因素數(shù)據(jù)不易測量,有的則尚未可知,所以本文利用灰色模型和支持向量回歸機(jī)的優(yōu)點,建立灰色支持向量回歸機(jī)模型。
建模主要步驟如下:
步驟一:利用GM(1,1)預(yù)測方法得到非負(fù)原始序列x(0)=(x(0)(1),x(0)(2),…,x(0)(n)),x(0)(i)>0,i=1,2,…,n的1-AGO序列
x(1)=(x(1)(1),x(1)(2),…,x(1)(n)),x(1)(k)=■x(0)(i),k=1,2,…,n。
步驟二:核函數(shù)K(xi,x)及參數(shù)的選取。
步驟三:利用SVR方法,求出優(yōu)化問題的最優(yōu)解,找出支持向量。
步驟四:構(gòu)造出回歸決策函數(shù)f(x)。
步驟五:將1-AGO序列x(1)的預(yù)測值■求出。
步驟六:累減還原,得出預(yù)測模型,
■(k+1)=a(1)■(k+1)=■(k+1)-■(k)。
4 繁忙機(jī)場非常態(tài)高峰航班流量預(yù)測
4.1 選擇最優(yōu)參數(shù) 使用灰色支持向量回歸機(jī)方法預(yù)測機(jī)場航班流量,首先確定懲罰因子C,ε不敏感值和核函數(shù),以及所選取的核函數(shù)的參數(shù)。文獻(xiàn)[5]研究表明:非線性輸入值不能作為線形核函數(shù)的輸入;出于對訓(xùn)練性能的綜合考慮,經(jīng)過比較,這里的輸入核函數(shù)采用在處理時間序列問題時表現(xiàn)比其他核函數(shù)更佳的徑向基核函數(shù)
k(xi,x)=exp(-γxi-x2)(12)
采用網(wǎng)格搜索法和計算精度較高的K-CV方法確定參數(shù),基本原理是讓C和γ在一定的范圍劃分網(wǎng)格并遍歷網(wǎng)格內(nèi)所有點進(jìn)行取值,對于取定的C和γ利用K-CV方法得到在此組C和下γ訓(xùn)練集驗證分類準(zhǔn)確率,最終取使得訓(xùn)練集驗證分類準(zhǔn)確率最高的那組C和γ作為最佳的參數(shù)。
4.2 仿真實驗及結(jié)果分析 以首都國際機(jī)場2009年~2013年春節(jié)期間航班流量數(shù)據(jù)中的旅客流量為例,對灰色支持向量機(jī)預(yù)測方法的實際預(yù)測效果進(jìn)行驗證。由于春節(jié)前后近6周都處于航班旅客流量高峰期,所以有必要對春節(jié)前后共6周每周的平均每天航班旅客流量進(jìn)行預(yù)測。
以2009年~2010年的首都國際機(jī)場旅客流量數(shù)據(jù)即編號前24個作為學(xué)習(xí)樣本(其中a~f表示春節(jié)月中第一周到第六周)。然后以2013年春節(jié)期間6周的平均每周的航班流量數(shù)據(jù)即編號后6個作為測試樣本,進(jìn)行仿真實驗,同時,為了便于比較本文方法的有效性,還利用GM(1,1)模型和單一的SVR模型對原始數(shù)據(jù)進(jìn)行預(yù)測。將3種模型的預(yù)測結(jié)果做出對比,取得的仿真實驗結(jié)果。
從圖1可以看出離原始數(shù)據(jù)最近的是灰色支持向量回歸機(jī)預(yù)測數(shù)據(jù),由此可知利用灰色支持向量回歸機(jī)模型預(yù)測的結(jié)果精度比GM(1,1)模型和單一的SVR方法預(yù)測精度更高,結(jié)果較為準(zhǔn)確可靠。由仿真實驗結(jié)果能夠得出灰色支持向量回歸機(jī)模型在為繁忙機(jī)場航班流量預(yù)測方面優(yōu)于GM(1,1)模型和單一SVR模型。因此,用灰色支持向量回歸機(jī)模型對首都國際機(jī)場2016年的春節(jié)期間的航班流量進(jìn)行預(yù)測,預(yù)測結(jié)果見表1。
5 結(jié)束語
灰色支持向量回歸機(jī)模型發(fā)揮了中“累加生成”的優(yōu)點,削弱了原始數(shù)據(jù)中的隨機(jī)性,增強(qiáng)了規(guī)律性,同時避免了GM(1,1)模型存在的理論缺陷,盡管組合模型中有個別數(shù)據(jù)擬合誤差偏大,但從整體預(yù)測效果看,仍然優(yōu)于單一GM(1,1)模型或SVR模型。由于繁忙機(jī)場航班流量的產(chǎn)生受多種因素影響,包括當(dāng)年年度國民經(jīng)濟(jì)增長水平、票價浮動等諸多因素,因此,下一步要做的是,預(yù)測繁忙機(jī)場非常態(tài)高峰航班流量時,不應(yīng)僅僅考慮時間因素,也應(yīng)綜合考慮各種因素,以建立更準(zhǔn)確地預(yù)測模型,為繁忙機(jī)場的應(yīng)急管理提供更好的參考。
參考文獻(xiàn):
[1]李旭.昆明空域航班流量預(yù)測[J].中國民航大學(xué)學(xué)報,
2012,30(5):5-8.
[2]國棟,張競博,何圣關(guān).基于支持向量機(jī)的互連導(dǎo)線串?dāng)_分析及預(yù)測[J].科學(xué)技術(shù)與工程,2013,13(7):1816-1820.
[3]張衛(wèi)華,孫浩,穆朝絮.基于支持向量機(jī)的交通安全預(yù)測模型及仿真研究[J].系統(tǒng)仿真學(xué)報,2009,21(19):6266-6270.
篇8
論文關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);電力企業(yè);信息化水平;評價;指標(biāo)體系
0引言
電力行業(yè)是國內(nèi)應(yīng)用信息技術(shù)較早的行業(yè)之一,先后經(jīng)歷了生產(chǎn)過程自動化、管理信息化等建設(shè)階段。目前,電力信息化呈現(xiàn)出基礎(chǔ)設(shè)施齊備、數(shù)據(jù)龐雜、應(yīng)用廣泛等特點,已從量化范疇提升到質(zhì)的高度。對電力企業(yè)進(jìn)行有效的信息化評價和管理,是提升信息化水平和實現(xiàn)企業(yè)信息化可持續(xù)發(fā)展的重要保障。
如何積極開展信息化建設(shè)來降低運營成本?通過何種指標(biāo)來科學(xué)評價我國電力企業(yè)的信息化發(fā)展水平?這是當(dāng)前電力行業(yè)必須解決的一個問題,而目前我國還沒有一套完整的電力企業(yè)信息化水平評價指標(biāo)體系正式。通過構(gòu)建科學(xué)、實用、有效的電力企業(yè)信息化水平評價體系,采用具有學(xué)習(xí)、記憶、歸納、容錯及自學(xué)習(xí)、自適應(yīng)能力的BP神經(jīng)網(wǎng)絡(luò)算法,科學(xué)、有效、客觀地評價電力企業(yè)信息化水平,有利于規(guī)范和完善電力企業(yè)信息化建設(shè),促進(jìn)電力信息化健康,快速地發(fā)展。
1電力企業(yè)信息化水平評價指標(biāo)體系的建立
1.1建立的原則
(1)簡明科學(xué)原則。評價指標(biāo)體系應(yīng)明確反映電力企業(yè)信息化水平高低與指標(biāo)間的關(guān)系,避免無關(guān)的指標(biāo)列入,指標(biāo)體系的大小也應(yīng)適宜。若評價指標(biāo)體系過大、指標(biāo)層次過多、指標(biāo)過細(xì),則勢必將評價者的注意力吸引到細(xì)小問題上;而若評價指標(biāo)體系過小、指標(biāo)層次過少、指標(biāo)過粗,則不能充分反映和評價電力企業(yè)信息化的整體設(shè)計與使用情況。
(2)公正合理原則。即評價指標(biāo)應(yīng)能客觀、公正、合理地體現(xiàn)電力企業(yè)信息化水平的動態(tài)性。
(3)易于操作原則。評價指標(biāo)體系在實際應(yīng)用中應(yīng)具有可操作性,指標(biāo)含義明確、可靠,數(shù)據(jù)易于收集,可供不了解指標(biāo)體系建立過程的人員進(jìn)行操作與應(yīng)用。
(4)以定量指標(biāo)為主,輔以一定的定性指標(biāo)。評價指標(biāo)盡可能以定量指標(biāo)為主,但全部采用定量指標(biāo)也不能完全反映電力企業(yè)信息化水平的整體情況,所以要輔以一些描述性的定性指標(biāo)。
1.2指標(biāo)體系的內(nèi)容
結(jié)合電力企業(yè)信息化水平評價指標(biāo)體系建立的原則,從3個層次來構(gòu)建電力企業(yè)信息化水平評價指標(biāo)體系,主要由業(yè)務(wù)支持程度、IT績效水平、信息技術(shù)水平、IT管理能力、IT持續(xù)發(fā)展能力等五大方面構(gòu)成,如表l所示。
1.3指標(biāo)值的確定及歸一化處理
在上述55個三級指標(biāo)中,有定性指標(biāo)和定量指標(biāo)之分。根據(jù)指標(biāo)的評價準(zhǔn)則又可分為3類指標(biāo):正向指標(biāo)、負(fù)向指標(biāo)和優(yōu)化指標(biāo)。由于不同的指標(biāo)從不同側(cè)面反映電力企業(yè)信息化水平,指標(biāo)之間又由于量綱不同,所以無法進(jìn)行比較。因此,為了便于最終評價值的確定,需要對各指標(biāo)進(jìn)行無量綱化處理,即對評價指標(biāo)做標(biāo)準(zhǔn)化、正規(guī)化處理,以便消除指標(biāo)量綱的影響。考慮神經(jīng)網(wǎng)絡(luò)訓(xùn)練的收斂問題,對所有指標(biāo)分3種情況進(jìn)行無量綱化處理。
(1)定性指標(biāo)。定性指標(biāo)有工程建設(shè)情況、信息安全措施、信息安全制度的完善程度、信息安全制度的執(zhí)行情況、企業(yè)職工IT素質(zhì)等。這些指標(biāo)的評價值采用專家打分的辦法進(jìn)行評價,取值為0.0~1.0之間。
(2)正向定量指標(biāo)。是指標(biāo)值越大越好的指標(biāo),包括:設(shè)備的運行率、安全運行時間、物資供應(yīng)保障率、勞動生產(chǎn)率、網(wǎng)絡(luò)覆蓋率、聯(lián)通率等。因這類指標(biāo)越大越好,故選用所有電力企業(yè)的最大值為該指標(biāo)的理想值,進(jìn)行無量綱化處理。
(3)負(fù)向定量指標(biāo)。是指其值越小越好的指標(biāo),包括采購成本、生產(chǎn)成本、平均響應(yīng)時間等。這類指標(biāo)是越小越好,因此,選取所有電力企業(yè)的最小值為該指標(biāo)的理想值,并進(jìn)行無量綱化處理。
(4)優(yōu)化指標(biāo)。是指標(biāo)具有一個最優(yōu)的取值范圍,太大或太小都不好的指標(biāo),包括電力企業(yè)資產(chǎn)負(fù)債率指標(biāo),該指標(biāo)如果太大說明企業(yè)在信息化投資建設(shè)中將會出現(xiàn)資不抵債的情況,不利于電力企業(yè)的發(fā)展;如果該指標(biāo)值很小則說明在企業(yè)信息化建設(shè)中沒有發(fā)揮有限資本的價值。一般該指標(biāo)取40%~60%比較理想,然后進(jìn)行無量綱化處理。無量綱化處理方法如下:
(1)有量綱向無量綱的轉(zhuǎn)化。采取一種二次拋物偏大型分布的數(shù)學(xué)模型描述:
(2)無量綱指標(biāo)的處理。采取線性遞增函數(shù)進(jìn)行描述:
2電力企業(yè)信息化水平評價的神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)
2.1 BP神經(jīng)網(wǎng)絡(luò)的基本原理
人工神經(jīng)網(wǎng)絡(luò)(ANN)是由大量簡單的處理單元組成的非線性、自適應(yīng)、自組織系統(tǒng),它是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上,試圖通過模擬人類神經(jīng)系統(tǒng)對信息進(jìn)行加工、記憶和處理的方式,設(shè)計出的一種具有人腦風(fēng)格的信息處理系統(tǒng)。它可廣泛應(yīng)用于預(yù)測、分類、模式識別和過程控制等各種數(shù)據(jù)處理場合,相對于傳統(tǒng)的數(shù)據(jù)分析處理方法,更適合處理模糊、非線性和模式特征不明確的問題。
BP神經(jīng)網(wǎng)絡(luò)是單向傳播的多層前向神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層,其中輸入和輸出都只有1層,中間層可有1層或多層。同層的網(wǎng)絡(luò)結(jié)點之間沒有連接,每個網(wǎng)絡(luò)結(jié)點表示一個神經(jīng)元,其傳遞函數(shù)通常采用Sigmoid型函數(shù)。每對神經(jīng)元之間的連接上有一個加權(quán)系數(shù)W,它可以加強(qiáng)或減弱上一個神經(jīng)元的輸出對下一個神經(jīng)元的刺激。這個加權(quán)系數(shù)通常稱為權(quán)值,修改權(quán)值的規(guī)則稱為權(quán)值算法。建立在BP神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上的專家系統(tǒng)根據(jù)一定的算法,通過對樣本數(shù)據(jù)的學(xué)習(xí)確定網(wǎng)絡(luò)權(quán)值。神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)的權(quán)值確定、結(jié)構(gòu)穩(wěn)定后,就可以處理新的數(shù)據(jù),給出相應(yīng)的輸出。
2.2基于BP網(wǎng)絡(luò)的電力企業(yè)信息化水平評價的學(xué)習(xí)過程
BP神經(jīng)網(wǎng)絡(luò)電力企業(yè)信息化水平評價模型中,輸入層包含55個神經(jīng)元,分別接受55個電力企業(yè)信息化水平評價中三級指標(biāo)的樣本數(shù)據(jù)輸入;中間層包含26個神經(jīng)元;輸出層有1個神經(jīng)元,就是電力企業(yè)信息化水平評價結(jié)果,相應(yīng)的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。
由于神經(jīng)網(wǎng)絡(luò)各層的初始連接權(quán)值是任意的,必須先對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,使電力企業(yè)信息化水平評價結(jié)果的實際輸出與期望值的偏差盡可能小。BP神經(jīng)網(wǎng)絡(luò)通過訓(xùn)練將學(xué)習(xí)樣本的真實值與網(wǎng)絡(luò)輸出的誤差反向傳播到各層的神經(jīng)元,采用梯度下降法不斷調(diào)節(jié)各層的權(quán)值,減小因權(quán)值帶來的偏差,從而使訓(xùn)練樣本真實輸出與網(wǎng)絡(luò)輸出的誤差控制在設(shè)定的0.001誤差范圍內(nèi)。具體BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程如下:
(1)根據(jù)電力企業(yè)信息化水平評價指標(biāo)要求,提供訓(xùn)練集。選人對網(wǎng)絡(luò)輸出即電力企業(yè)信息化水平有影響的三級指標(biāo)x1,x2,……,x55作為輸入自變量,以此確定輸入節(jié)點的個數(shù)(本網(wǎng)絡(luò)有55個輸入節(jié)點);
(2)進(jìn)行初始化。置所有權(quán)值為隨機(jī)任意小,給定學(xué)習(xí)精度£一10,目標(biāo)誤差為0.001,讀入網(wǎng)絡(luò)初始權(quán)重及學(xué)習(xí)樣本。這里可通過對電力企業(yè)300名職工開展問卷調(diào)查,隨機(jī)抽取前100組記錄(樣本序號為1~100)作為神經(jīng)網(wǎng)絡(luò)辯識模型的訓(xùn)練樣本;
(3)按BP算法訓(xùn)練網(wǎng)絡(luò)。學(xué)習(xí)過程流程如圖2所示;
(4)判斷學(xué)習(xí)精度是否達(dá)到要求,如達(dá)到轉(zhuǎn)入下一步執(zhí)行;否則返回上一步繼續(xù)學(xué)習(xí);
(5)儲存并輸出權(quán)值。利用訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測試(采用10個樣本記錄為例),輸出電力企業(yè)信息化水平的最終評價結(jié)果。
3實驗結(jié)果及分析
采用BP神經(jīng)網(wǎng)絡(luò)對電力企業(yè)信息化水平進(jìn)行辨識,輸入層、隱含層和輸出層的結(jié)點數(shù)分別為55×26×1。根據(jù)經(jīng)驗和試驗,前100組記錄用作學(xué)習(xí)樣本,作為訓(xùn)練神經(jīng)元連接權(quán)值用,學(xué)習(xí)精度£=1×10;后10組(樣本序號為291~300)樣本作為測試檢驗用。經(jīng)過反復(fù)多次學(xué)習(xí),其學(xué)習(xí)結(jié)果(測試)如表2所示。