神經(jīng)網(wǎng)絡(luò)的優(yōu)化方法范文

時(shí)間:2024-04-01 11:31:21

導(dǎo)語:如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)的優(yōu)化方法,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。

神經(jīng)網(wǎng)絡(luò)的優(yōu)化方法

篇1

關(guān)鍵字:BP神經(jīng)網(wǎng)絡(luò); 數(shù)據(jù)庫; 查詢;準(zhǔn)確度

中圖分類號(hào):TP393 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009-3044(2017)04-0001-03

神經(jīng)網(wǎng)絡(luò)系統(tǒng)是根據(jù)人體神經(jīng)系統(tǒng)的基本原理構(gòu)建的,其在一定程度上實(shí)現(xiàn)了記憶和訓(xùn)練過程[1-2]。此項(xiàng)功能體現(xiàn)了神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)計(jì)算機(jī)算法存在的根本差異,其具備在線學(xué)習(xí)、自調(diào)節(jié)以及自適應(yīng)性,同時(shí)具備信息的分布式信息存儲(chǔ)特性。正是由于神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)特性,使其在聯(lián)想記憶、數(shù)據(jù)非線性映射、在線學(xué)習(xí)模型構(gòu)建、數(shù)據(jù)信息分類與識(shí)別等領(lǐng)域具有了廣泛的應(yīng)用空間。

在云數(shù)據(jù)應(yīng)用時(shí)代,存儲(chǔ)系統(tǒng)的應(yīng)用領(lǐng)域及使用者的范圍不斷擴(kuò)大[6],用戶呈指數(shù)倍的增長使得數(shù)據(jù)的存儲(chǔ)容量不斷增長,用戶訪問數(shù)據(jù)庫的頻繁程度也將持續(xù)增加,這對(duì)存儲(chǔ)系統(tǒng)數(shù)據(jù)庫訪問的吞吐量性能提出了更高的要求,也對(duì)數(shù)據(jù)查詢的效率得出了更加嚴(yán)格的標(biāo)準(zhǔn)。

本文提出的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法主要通過對(duì)云存儲(chǔ)數(shù)據(jù)的關(guān)鍵詞進(jìn)行相似度對(duì)比,利用神經(jīng)網(wǎng)絡(luò)算法對(duì)查詢數(shù)據(jù)樣本進(jìn)行記憶訓(xùn)練,通過對(duì)查詢關(guān)鍵字進(jìn)行數(shù)據(jù)匹配,最終實(shí)現(xiàn)數(shù)據(jù)的準(zhǔn)確查詢。為了測試本文設(shè)計(jì)的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的可行性及準(zhǔn)確性能,作者在完成了模型構(gòu)建后,Matlab軟件中構(gòu)建實(shí)驗(yàn)場景,模擬數(shù)據(jù)庫檢索過程,完成了對(duì)查詢方法進(jìn)行測試驗(yàn)證。

1 神經(jīng)網(wǎng)絡(luò)模型的建立

1.1 BP神經(jīng)網(wǎng)絡(luò)處理單元模型

為了不失一般性,選取BP神經(jīng)網(wǎng)絡(luò)的任意兩層介紹其處理單元的數(shù)學(xué)模型。BP神經(jīng)網(wǎng)絡(luò)處理單元的結(jié)果如圖1所示,其中,L1層的[n]個(gè)神經(jīng)元和L2層的[p]個(gè)神經(jīng)元進(jìn)行全連接,定義連接權(quán)向量為[W={wij},i=1,2,…,n,j=1,2,…,p];L1層的[n]個(gè)神經(jīng)元的輸出作為L2層各神經(jīng)元的輸入列向量[X=(x1,…,xi,…,xn)T],L2層各個(gè)神經(jīng)元的閾值設(shè)置為[θj,j=1,2,…,p],因此,L2層各神經(jīng)元接收的輸入加權(quán)和如下式所示[3-4]:

L2層各神經(jīng)元的輸出結(jié)果利用轉(zhuǎn)移函數(shù)進(jìn)行計(jì)算。一般情況下,BP神經(jīng)網(wǎng)絡(luò)將Sigmoid函數(shù)作為轉(zhuǎn)移函數(shù)。Sigmoid函數(shù)的數(shù)學(xué)表達(dá)式為:

因此,L2層各個(gè)處理單元的輸出為:

由于Sigmoid函數(shù)的輸出類似于本文設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)的信號(hào)輸出形式,本文設(shè)計(jì)的模型采用Sigmoid函數(shù)作為系統(tǒng)的轉(zhuǎn)移函數(shù),其能蜃既訪枋鍪據(jù)檢索過程中的非線性特性水平[5-6]。

1.2 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

本文的無線通信選擇機(jī)制采用三層BP神經(jīng)網(wǎng)絡(luò)結(jié)果,具體學(xué)習(xí)算法如下所述:

輸入模式向量設(shè)為[Xk=(x1k,…,xik,…,xnk)T],[k=1,2,…,m],其中[m]表示樣本模式對(duì)個(gè)數(shù),[n]表示輸入層神經(jīng)元數(shù)量;輸入模式對(duì)應(yīng)的期望輸出向量為[Yk=(y1k,…,yik,…,yqk)T],隱含層神經(jīng)元的凈輸入向量設(shè)置為[Sk=(s1k,…,sik,…,spk)T],輸出向量設(shè)置為[Bk=(b1k,…,bik,…,bpk)T],[q]表示輸出層單元數(shù)量,[p]表示隱含層單元個(gè)數(shù);輸出層神經(jīng)元凈輸入向量設(shè)置為[Lk=(l1k,…,lik,…,lqk)T],實(shí)際輸出向量設(shè)置為[Ck=(c1k,…,cik,…,cqk)T];輸入層神經(jīng)元至隱含層神經(jīng)元的連接權(quán)值設(shè)置為[W={wij}],其中,[i=1,2,…,n,j=1,2,…,p]隱含層至輸出層的連接權(quán)值設(shè)置為[V={vjt}],隱含層神經(jīng)元的閾值設(shè)置為[θ={θj},j=1,2,…,p],輸出層各神經(jīng)元的閾值設(shè)置為[γ={γt},t=1,2,…,q]。

(1)初始化操作。將連接權(quán)值矩陣[W]、[V]及閾值[θ]、[γ]在[[-1,+1]]區(qū)間內(nèi)進(jìn)行隨機(jī)取值。

(2)隨機(jī)從訓(xùn)練集合中選取一個(gè)學(xué)習(xí)模式對(duì)[(Xk,Yk)]作為BP神經(jīng)網(wǎng)絡(luò)的輸入。

(3)輸入層的輸出的計(jì)算。輸入層的各神經(jīng)元不對(duì)輸入模式進(jìn)行任何處理,而是直接將接收到的數(shù)據(jù)關(guān)鍵詞直接輸出到隱含層各神經(jīng)元,不做任何的數(shù)據(jù)處理。

(4)根據(jù)下式求得隱含層各處理單元的凈輸入和凈輸出:

(5)根據(jù)下式求得各輸出層神經(jīng)元的凈輸入和實(shí)際輸出:

(6)根據(jù)設(shè)定的期望輸出,通過下式求得各輸出層神經(jīng)元的校正誤差[dkt],

(7)根據(jù)下式得出隱含層各神經(jīng)處理單元的校正誤差[ekj],

(8)根據(jù)下式調(diào)整隱含層至輸出層的連接權(quán)值[V]和輸出層神經(jīng)元閾值[γ], [α]表示學(xué)習(xí)速率,[0

(9)根據(jù)下式調(diào)整輸入層至隱含層神經(jīng)元的連接權(quán)值[W]和輸出層神經(jīng)元閾值[θ], [β]表示學(xué)習(xí)速率,[0

(10)為BP神經(jīng)網(wǎng)絡(luò)隨機(jī)輸入下一個(gè)學(xué)習(xí)模式對(duì),返回(3)處,直至訓(xùn)練完成[m]個(gè)學(xué)習(xí)模式對(duì)。

(11)對(duì)系統(tǒng)的全局誤差[E]進(jìn)行判斷,查看其是否滿足神經(jīng)網(wǎng)絡(luò)設(shè)定的精度需求。如果 [E≤ε],這說明滿足結(jié)束條件,結(jié)束學(xué)習(xí)過程,如果未滿足,則繼續(xù)學(xué)習(xí)。

(12)更新神網(wǎng)絡(luò)學(xué)習(xí)次數(shù),如果未達(dá)到設(shè)定的學(xué)習(xí)次數(shù),則返回Step2。

(13)BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程結(jié)束。

在整個(gè)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)階段中,分別涵蓋了輸入模式的“順傳播過程”,全局誤差的“逆?zhèn)鞑ミ^程”以及“學(xué)習(xí)記憶訓(xùn)練”過程,(11)至(12)表示是收斂過程。全局誤差[E]的理想學(xué)習(xí)曲線如圖2所示。

為了減小震蕩,加快網(wǎng)絡(luò)的記憶訓(xùn)練速度,作者在對(duì)連接權(quán)值進(jìn)行調(diào)整時(shí),在改變量基礎(chǔ)上添加一定比例的權(quán)值改變值,稱之為動(dòng)量項(xiàng)。則附加動(dòng)量項(xiàng)的連接權(quán)值調(diào)整方法如下式所示:

式中,[ηΔwij(n-1)]代表動(dòng)量項(xiàng),其中[n]為學(xué)習(xí)次數(shù),[η]作為動(dòng)量系數(shù),[0

加入動(dòng)量項(xiàng)的本質(zhì)目的是使控制學(xué)習(xí)過程的學(xué)習(xí)速率[β]不僅僅是一個(gè)固定值,而是能夠持續(xù)變化的。在引入動(dòng)量項(xiàng)后,網(wǎng)絡(luò)總是試圖使連接權(quán)值的調(diào)整按照相同方向進(jìn)行,即使前后兩次連接權(quán)值的調(diào)整值方向相反,也能夠降低震蕩趨勢,加快學(xué)習(xí)記憶速度,以及網(wǎng)絡(luò)收斂速度[7]。

通常來說,動(dòng)量系數(shù)的取值不宜過大。若動(dòng)量系數(shù)過大,動(dòng)量項(xiàng)所占比例過重,則本次誤差修正項(xiàng)的作用會(huì)不太明顯,以致完全沒有作用,反而會(huì)減慢收斂速度,甚至導(dǎo)致整個(gè)網(wǎng)絡(luò)震蕩。一般情況下,動(dòng)量系數(shù)的最大值在0.9作用,本文取值為0.6。

2 數(shù)據(jù)庫查詢方法測試

為了測試本文設(shè)計(jì)的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的可行性及準(zhǔn)確性能,作者在完成了模型構(gòu)建后,Matlab軟件中構(gòu)建實(shí)驗(yàn)場景,模擬數(shù)據(jù)庫檢索過程,完成了對(duì)查詢方法進(jìn)行測試驗(yàn)證。數(shù)據(jù)庫查詢學(xué)習(xí)樣本使用的是加州大學(xué)標(biāo)準(zhǔn)數(shù)據(jù)集,通過選擇中度數(shù)據(jù)規(guī)模的樣本空間進(jìn)行設(shè)計(jì)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練,主要訓(xùn)練搜索關(guān)鍵字與查詢結(jié)果直接的對(duì)應(yīng)關(guān)系,并進(jìn)行存儲(chǔ)記憶。通過不同查詢次數(shù)的響應(yīng)延時(shí)進(jìn)行統(tǒng)計(jì)分析,與未使用任何算法的隨機(jī)檢索方法的搜索結(jié)果進(jìn)行對(duì)比分析。數(shù)據(jù)檢索實(shí)驗(yàn)對(duì)比結(jié)果如圖3所示。

從數(shù)據(jù)檢索對(duì)比結(jié)果得知,當(dāng)?shù)螖?shù)達(dá)到200次時(shí),本文提出的基于神經(jīng)網(wǎng)絡(luò)算法的數(shù)據(jù)庫查詢方法滿足收斂條件[f(x)≤e-10],此時(shí)可視為系統(tǒng)以及查詢到最優(yōu)數(shù)據(jù)結(jié)果。同時(shí),較隨機(jī)數(shù)據(jù)庫檢索方法,本設(shè)計(jì)的優(yōu)化方法在響應(yīng)延時(shí)方面平均降低了34.7%,同時(shí)搜索查詢準(zhǔn)確率高達(dá)99.3%。

3 總結(jié)

神經(jīng)網(wǎng)絡(luò)在聯(lián)想記憶、數(shù)據(jù)非線性映射、在線學(xué)習(xí)模型構(gòu)建、數(shù)據(jù)信息分類與識(shí)別等領(lǐng)域具有了廣泛的應(yīng)用空間。通過對(duì)云存儲(chǔ)數(shù)據(jù)庫查詢過程的原理進(jìn)行研究,本文提出的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法主要通過對(duì)云存儲(chǔ)數(shù)據(jù)的關(guān)鍵詞進(jìn)行相似度對(duì)比,利用神經(jīng)網(wǎng)絡(luò)算法對(duì)查詢數(shù)據(jù)樣本進(jìn)行記憶訓(xùn)練,通過對(duì)查詢關(guān)鍵字進(jìn)行數(shù)據(jù)匹配,最終實(shí)現(xiàn)數(shù)據(jù)的準(zhǔn)確查詢。為了測試本文設(shè)計(jì)的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的可行性及準(zhǔn)確性能,作者在完成了模型構(gòu)建后,Matlab軟件中構(gòu)建實(shí)驗(yàn)場景,模擬數(shù)據(jù)庫檢索過程,完成了對(duì)查詢方法進(jìn)行測試驗(yàn)證。仿真結(jié)果表明,本文提出的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的準(zhǔn)確率高達(dá)98.3%,具有較高的檢索精度及穩(wěn)定性。

參考文獻(xiàn):

[1] 李中志.基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的水位流量關(guān)系擬合[J].中國農(nóng)村水利水電, 2008(10):30-32.

[2] 任雯,胥布工.基于標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)模型的非線性系統(tǒng)分布式無線網(wǎng)絡(luò)化控制[J]. 控制與決策, 2015,30(4):691-697.

[3] 余開華.小波神經(jīng)網(wǎng)絡(luò)模型在河道流量水位預(yù)測中的應(yīng)用[J].水資源與水工程學(xué)報(bào), 2013, 24(2):204-208.

[4] 潘道宏.RBF神經(jīng)網(wǎng)絡(luò)模型擬合電力抽水站水位流量關(guān)系研究[J].水利科技與經(jīng)濟(jì), 2010,16(3):300-301.

[5] 孔玉靜,侯鑫,華爾天等.基于BP神經(jīng)網(wǎng)絡(luò)的無線傳感器網(wǎng)絡(luò)路由協(xié)議的研究[J].傳感技術(shù)學(xué)報(bào), 2013, 26(2):246-251.

[6] 田曉青,劉松良.基于人工神經(jīng)網(wǎng)絡(luò)的過閘流量軟測量研究[J].電子產(chǎn)品世界, 2013(10):43-45.

篇2

關(guān)鍵詞:短期負(fù)荷預(yù)測;神經(jīng)網(wǎng)絡(luò);遺傳算法

作者簡介:黃國棟(1976-),男,廣東陽江人,廣東電網(wǎng)湛江供電局,工程師。(廣東 湛江 524005)

中圖分類號(hào):TM714 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1007-0079(2014)06-0261-02

電力短期負(fù)荷預(yù)測是對(duì)未來一周以內(nèi)(通常為一周或一天)的負(fù)荷進(jìn)行預(yù)測。短期負(fù)荷預(yù)測在電網(wǎng)運(yùn)行實(shí)時(shí)控制和發(fā)電規(guī)劃中具有重要地位,短期負(fù)荷的預(yù)測結(jié)果是調(diào)度中心制定發(fā)電計(jì)劃、電力系統(tǒng)運(yùn)行安全評(píng)估、電力企業(yè)日常經(jīng)營管理的重要依據(jù)。[1]在當(dāng)前電力系統(tǒng)市場化形勢下,提高負(fù)荷預(yù)測精度對(duì)于電力系統(tǒng)的經(jīng)濟(jì)運(yùn)行、合理制定機(jī)組檢修計(jì)劃和進(jìn)行電力需求管理等具有重要意義。

一、電力系統(tǒng)負(fù)荷變化的特點(diǎn)及預(yù)測方法

電力系統(tǒng)負(fù)荷變化受到很多因素的影響。一方面,負(fù)荷變化存在由未知不確定因素引起的隨機(jī)波動(dòng);另一方面,具有周期變化的規(guī)律性,這也使得負(fù)荷曲線具有相似性;同時(shí),由于受天氣、節(jié)假日等特殊情況的影響,負(fù)荷變化又會(huì)體現(xiàn)出差異性。[2]整體上講,負(fù)荷曲線是與很多因素相關(guān)而且難以用數(shù)學(xué)公式表達(dá)的非線性函數(shù)。

相對(duì)于早期的統(tǒng)計(jì)技術(shù)法和專家系統(tǒng)法,神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)在于它不依靠專家經(jīng)驗(yàn),只利用觀察到的數(shù)據(jù),可以在訓(xùn)練過程中通過學(xué)習(xí)來逼近任意的非線性輸入/輸出關(guān)系,因此,將神經(jīng)網(wǎng)絡(luò)方法應(yīng)用于電力負(fù)荷預(yù)測有著明顯的優(yōu)勢。但是,神經(jīng)網(wǎng)絡(luò)存在兩個(gè)主要問題:收斂速度慢和容易陷入局部極小點(diǎn)。因此,本文采用遺傳算法優(yōu)化人工神經(jīng)網(wǎng)絡(luò),建立電力短期負(fù)荷預(yù)測模型,并將結(jié)合廣東省某城市的電力負(fù)荷的實(shí)際情況對(duì)預(yù)測方法進(jìn)行探討和研究。

二、人工神經(jīng)網(wǎng)絡(luò)模型

BP(Back Propagation)神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)模型中的所有神經(jīng)元按照功能一般分成三層(輸入層、隱含層和輸出層),各層順次連接。[3]其三層模型拓?fù)浣Y(jié)構(gòu)如圖1所示。

BP算法的學(xué)習(xí)過程分為正向傳播過程和反向傳播過程兩個(gè)階段。

1.正向傳播過程

輸入信息從輸入層經(jīng)隱含層逐層計(jì)算各單元的實(shí)際輸出值,各神經(jīng)元的狀態(tài)只對(duì)下一層神經(jīng)元的狀態(tài)產(chǎn)生影響。設(shè)BP網(wǎng)絡(luò)的輸入層有n1個(gè)節(jié)點(diǎn),隱含層有n2個(gè)節(jié)點(diǎn),輸出層有n3個(gè)節(jié)點(diǎn),輸入為xi,輸入層與隱含層之間的權(quán)值為wki,隱含層與輸出層之間的權(quán)值為wjk;隱含層的閾值為bk,輸出層的閾值為bj;隱含層的傳遞函數(shù)為f1(·),輸出層的傳遞函數(shù)為f2(·)。則隱含層節(jié)點(diǎn)輸出zk和輸出層節(jié)點(diǎn)輸出yj分別為:

k=1,2,……n2

(1)

j=1,2,……n3

(2)

2.反相傳播過程

若網(wǎng)絡(luò)實(shí)際輸出值與期望值之差,即誤差超出允許值,則逆向逐層修正連接權(quán)值。設(shè)BP網(wǎng)絡(luò)有P個(gè)輸入樣本,采用平方型誤差函數(shù),于是得到全局誤差為:

(3)

式中:為第p個(gè)樣本的實(shí)際輸出,為期望輸出。

采用累計(jì)誤差BP算法依次調(diào)整輸出層權(quán)值wjk和隱含層權(quán)值wki誤差使全局誤差變小,即:

(4)

(5)

式中:η為學(xué)習(xí)率。

如此往復(fù)不斷調(diào)整權(quán)值,直到使網(wǎng)絡(luò)的誤差滿足要求。

三、遺傳算法

1.遺傳算法的基本原理

遺傳算法(Genetic Algorithms,簡稱GA)是一種高度并行、自適應(yīng)全局優(yōu)化搜索方法。[4]它借鑒自然界遺傳和選擇機(jī)理,首先初始化一個(gè)種群,然后按照某種指標(biāo)在每一代選取較優(yōu)個(gè)體,利用遺傳算子(選擇、交叉和變異)對(duì)這些個(gè)體進(jìn)行組合,產(chǎn)生新一代個(gè)體,重復(fù)此過程,直到滿足優(yōu)化準(zhǔn)則為止。遺傳算法是基于對(duì)生物遺傳和進(jìn)化過程的計(jì)算機(jī)模擬,它能使各種人工系統(tǒng)具有良好的自適應(yīng)能力和優(yōu)化能力。目前,遺傳算法已經(jīng)廣泛應(yīng)用于規(guī)劃設(shè)計(jì)、組合優(yōu)化、自適應(yīng)控制、經(jīng)濟(jì)運(yùn)行、模式識(shí)別、人工智能、分子生物學(xué)、故障診斷以及計(jì)算機(jī)技術(shù)等領(lǐng)域,并取得了很好的效果。

2.遺傳算法的實(shí)現(xiàn)過程

(1)將問題的解以編碼形式表示出來,并隨機(jī)生成若干個(gè)體,即初始群體。

(2)譯碼,計(jì)算目標(biāo)函數(shù)得出個(gè)體適應(yīng)度值,判斷是否滿足停止條件。

(3)根據(jù)個(gè)體適應(yīng)度值的高低,應(yīng)用選擇、交叉和突變算子進(jìn)行遺傳操作,產(chǎn)生下一代群體。

(4)返回步驟(2),反復(fù)執(zhí)行,直到滿足停止條件。最后,搜索到最優(yōu)個(gè)體,即問題的最優(yōu)解。[5]

3.遺傳算法優(yōu)化BP網(wǎng)絡(luò)權(quán)值、閾值

由于遺傳算法是以最大值作為優(yōu)化目標(biāo),為適應(yīng)神經(jīng)網(wǎng)絡(luò)算法的要求,將適應(yīng)度函數(shù)取反,即變?yōu)橐宰钚≈禐閮?yōu)化目標(biāo)。遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法的步驟:

(1)構(gòu)建BP網(wǎng)絡(luò),確定遺傳算法個(gè)體長度。

(2)生成初始種群,確定種群規(guī)模。對(duì)遺傳算法個(gè)體進(jìn)行編碼,編碼由神經(jīng)網(wǎng)絡(luò)的輸入層與隱含層的連接權(quán)值、隱含層閾值、隱含層與輸出層的連接權(quán)值和輸出層閾值四部分組成。

(3)根據(jù)個(gè)體得到BP網(wǎng)絡(luò)的權(quán)值和閾值,應(yīng)用訓(xùn)練數(shù)據(jù)訓(xùn)練,得到網(wǎng)絡(luò)的輸出。計(jì)算實(shí)際輸出與期望輸出的誤差,并依據(jù)此誤差計(jì)算個(gè)體適應(yīng)度值。

(4)根據(jù)個(gè)體的適應(yīng)度進(jìn)行選優(yōu)操作,選擇若干適應(yīng)度強(qiáng)的個(gè)體直接進(jìn)入下一代,適應(yīng)度差的個(gè)體被淘汰。

(5)進(jìn)行交叉、變異操作,生成下一代群體,然后返回步驟(3),直到得到最優(yōu)解。

四、實(shí)例分析

本試驗(yàn)分別采用單一神經(jīng)網(wǎng)絡(luò)預(yù)測法、遺傳算法和神經(jīng)網(wǎng)絡(luò)的組合預(yù)測法,分別對(duì)廣東省某城市某一日的時(shí)負(fù)荷進(jìn)行預(yù)測與分析。以該市2010年6月2日~21日和2010年6月3日~22日(只選取工作日)的整點(diǎn)負(fù)荷訓(xùn)練樣本集,根據(jù)6月23日各整點(diǎn)的時(shí)負(fù)荷數(shù)據(jù)和24日各整點(diǎn)的溫度與天氣,預(yù)測6月24日的時(shí)負(fù)荷。

1.數(shù)據(jù)預(yù)處理

根據(jù)神經(jīng)網(wǎng)絡(luò)的建模原理,訓(xùn)練樣本的準(zhǔn)確性對(duì)于模型的預(yù)測準(zhǔn)確性至關(guān)重要。由于系統(tǒng)故障、線路停電檢修、通信錯(cuò)誤等原因,歷史負(fù)荷數(shù)據(jù)中經(jīng)常存在一些不良數(shù)據(jù)。這些不良數(shù)據(jù)具有很強(qiáng)的隨機(jī)性,會(huì)對(duì)網(wǎng)絡(luò)的預(yù)測精度和預(yù)測速度產(chǎn)生嚴(yán)重影響。因此,在建立電力短期負(fù)荷預(yù)測模型前,先對(duì)訓(xùn)練用的數(shù)據(jù)樣本進(jìn)行預(yù)處理。應(yīng)用格拉布斯準(zhǔn)則判別是否有不良數(shù)據(jù),如果有要直接消除并以相應(yīng)的插值代替,從而提高數(shù)據(jù)的準(zhǔn)確度和可信度。經(jīng)計(jì)算,本實(shí)例的樣本數(shù)據(jù)正常,符合實(shí)際情況。

數(shù)據(jù)歸一化方法是神經(jīng)網(wǎng)絡(luò)預(yù)測前對(duì)數(shù)據(jù)常做的一種處理方法。數(shù)據(jù)歸一化處理把所有的數(shù)據(jù)都轉(zhuǎn)化為[0,1]之間的數(shù),其目的是取消數(shù)據(jù)間數(shù)量級(jí)差別,避免因?yàn)檩斎?輸出數(shù)據(jù)數(shù)量級(jí)差別較大而造成網(wǎng)絡(luò)預(yù)測誤差較大。最后需要進(jìn)行反歸一化,得到最終預(yù)測結(jié)果。[6]數(shù)據(jù)歸一化的方法主要有最大最小值法和平均數(shù)方差法。本文采用最大最小值法。

2.確定BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

考慮到該城市位于中國南端,緯度較低,影響電力負(fù)荷最主要的因素是溫度等天氣情況。采集預(yù)測日前一天每小時(shí)的負(fù)荷數(shù)據(jù)和預(yù)測日當(dāng)天各小時(shí)的溫度值(取平均值)、氣象類型(晴、陰、雨)作為預(yù)測條件。由此確定BP神經(jīng)網(wǎng)絡(luò)模型的輸入節(jié)點(diǎn)數(shù)為3;輸出節(jié)點(diǎn)數(shù)為1;隱含層節(jié)點(diǎn)數(shù)取8。為方便計(jì)算,將氣象類型數(shù)字化、歸一化處理,溫度值和負(fù)荷數(shù)據(jù)歸一化處理。本文采用分散式建模方法,即為一天的24小時(shí)各建立一個(gè)模型,共建立24個(gè)。分散式建模方法相對(duì)于集中建模方法(24小時(shí)用一個(gè)模型),雖然模型多,但是預(yù)測準(zhǔn)確度高。每個(gè)整點(diǎn)的時(shí)負(fù)荷采用相應(yīng)的BP神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測。建模工具選用matlab7.0。[7]

3.遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)

以整點(diǎn)負(fù)荷、溫度數(shù)據(jù)和氣象數(shù)據(jù)作為網(wǎng)絡(luò)的訓(xùn)練樣本集,應(yīng)用遺傳算法對(duì)基于單一神經(jīng)網(wǎng)絡(luò)建立的各個(gè)模型(每小時(shí)各建一個(gè)模型,共24個(gè))進(jìn)行優(yōu)化,得到每個(gè)模型近似最優(yōu)權(quán)值和閾值。應(yīng)用優(yōu)化的權(quán)值和閾值對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,并保存訓(xùn)練好的網(wǎng)絡(luò)。最后,應(yīng)用訓(xùn)練好的網(wǎng)絡(luò)對(duì)各整點(diǎn)時(shí)負(fù)荷進(jìn)行預(yù)測。

表1 2010年6月24日負(fù)荷預(yù)測值與誤差

時(shí)間 實(shí)際值 BP神經(jīng)網(wǎng)絡(luò)

方法預(yù)測 誤差/% 遺傳算法神經(jīng)網(wǎng)絡(luò)方法預(yù)測 誤差/%

0:00 404.743 412.375 1.886 397.470 -1.797

1:00 382.280 376.397 -1.539 382.009 -0.071

2:00 359.937 369.208 2.576 352.735 -2.001

3:00 355.508 352.308 -0.900 357.115 0.452

4:00 347.836 341.504 -1.820 346.528 -0.376

5:00 347.545 342.354 -1.494 346.586 -0.276

6:00 354.184 356.650 0.696 360.655 1.827

7:00 364.504 363.920 -0.160 360.123 -1.202

8:00 395.881 392.358 -0.890 390.042 -1.475

9:00 462.394 471.572 1.985 464.239 0.399

10:00 500.344 502.904 0.512 494.610 -1.146

11:00 514.415 515.950 0.298 513.479 -0.182

12:00 477.935 489.898 2.503 485.792 1.644

13:00 479.680 473.516 -1.285 472.638 -1.468

14:00 470.148 477.403 1.543 462.066 -1.719

15:00 482.950 490.302 1.522 474.556 -1.738

16:00 487.295 483.800 -0.717 486.028 -0.260

17:00 501.225 503.265 0.407 505.465 0.846

18:00 470.361 462.391 -1.694 466.165 -0.892

19:00 455.995 443.791 -2.676 463.788 1.709

20:00 493.266 494.178 0.185 494.682 0.287

21:00 489.909 498.115 1.675 486.195 -0.758

22:00 474.146 486.493 2.604 480.348 1.308

23:00 446.201 436.293 -2.221 441.855 -0.974

單一神經(jīng)網(wǎng)絡(luò)方法和遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)方法得出的預(yù)測結(jié)果見表1和圖3。從圖3中3條曲線對(duì)比可以看出,應(yīng)用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)預(yù)測模型得到的預(yù)測結(jié)果比單一神經(jīng)網(wǎng)絡(luò)的更接近實(shí)際負(fù)荷曲線。單一神經(jīng)網(wǎng)絡(luò)預(yù)測的負(fù)荷最大誤差為-2.676%,平均誤差1.408%,而用基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)預(yù)測的負(fù)荷最大誤差為-2.001%,平均誤差為1.034%,精度顯然大于單一神經(jīng)網(wǎng)絡(luò)。

五、結(jié)論

本文利用遺傳算法優(yōu)化了BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),并且應(yīng)用此模型對(duì)實(shí)際電力短期負(fù)荷進(jìn)行了預(yù)測試驗(yàn)分析。實(shí)證證明,遺傳算法的全局優(yōu)化搜索能力有效彌補(bǔ)了BP神經(jīng)網(wǎng)絡(luò)容易陷入局部極小值的缺陷,在此基礎(chǔ)上建立的預(yù)測模型的可靠性、準(zhǔn)確性都有所增強(qiáng),證明了基于遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測方法是可行的。

參考文獻(xiàn):

[1]牛東曉,曹樹華,趙磊,等.電力負(fù)荷預(yù)測技術(shù)及其應(yīng)用[M].北京:中國電力出版社,2002.

[2]陳金賽,張新波.基于改進(jìn)BP人工神經(jīng)網(wǎng)絡(luò)的電力負(fù)荷預(yù)測[J].杭州電子科技大學(xué)學(xué)報(bào),2011,34(4):173-176.

[3]田景文,高美娟.人工神經(jīng)網(wǎng)絡(luò)算法研究及應(yīng)用[M].北京:北京理工大學(xué)出版社,2006.

[4]王小平,曹立明.遺傳算法[M].西安:西安交通大學(xué)出版社,

2002.

[5]李玲純,田麗.基于遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測[J].安徽工程科技學(xué)院學(xué)報(bào),2009,24(3):57-60.

篇3

【摘要】

人工神經(jīng)網(wǎng)絡(luò)模擬人腦生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)處理信息的方式,是通過經(jīng)驗(yàn)而不是通過設(shè)計(jì)好的程序進(jìn)行學(xué)習(xí)、訓(xùn)練,這些構(gòu)成了人工神經(jīng)網(wǎng)絡(luò)具有模式識(shí)別、預(yù)測、評(píng)價(jià)和優(yōu)化決策等能力的基礎(chǔ)。本文就神經(jīng)網(wǎng)絡(luò)近年來在藥劑學(xué)的處方設(shè)計(jì)及優(yōu)化、制備工藝及體內(nèi)體外相關(guān)性評(píng)價(jià)等方面的應(yīng)用做一綜述。

【關(guān)鍵詞】 人工神經(jīng)網(wǎng)絡(luò);藥物制劑

Abstract:Artificial neural networks simulating the process of human brains nerve systems to deal with information,which learning and training date according with the experience other than the designed programme,is the base of the ability that the artificial neural network could be used for pattern distinguish,prediction and optimization etc.This papertbriefly reviewed the application of neural networks in pharmaceutical fields,such as formulation optimization,preparation parameters optimization and in vitro-in vivo correlation evaluation.

Key words:artificial neural networks;pharmaceutic

藥物制劑研究是一個(gè)復(fù)雜的過程,包括制劑處方,制劑制備工藝及制劑體內(nèi)體外評(píng)價(jià)等,其中任何一個(gè)方面都屬于多因素,多水平的復(fù)雜優(yōu)化問題。例如處方設(shè)計(jì)過程中涉及不同質(zhì)量不同用量的各種敷料配比及壓力、溫度、水分等,這些因素直接影響劑型的安全性和有效性;制劑設(shè)備工藝涉及眾多紛繁復(fù)雜的工藝參數(shù)優(yōu)化,制劑體內(nèi)體外評(píng)價(jià)更是受生物系統(tǒng)的極端復(fù)雜性影響。過去人們通常依靠某一方面的專家來承擔(dān)相應(yīng)的工作,免不了受許多經(jīng)驗(yàn)化主觀因素的影響,效率較低,而基于人工智能的神經(jīng)網(wǎng)絡(luò)則很適于處理這類復(fù)雜的多變量非線性系統(tǒng),并可通過網(wǎng)絡(luò)的預(yù)測能力實(shí)現(xiàn)多因素的同步優(yōu)化[1-3]。

1 神經(jīng)網(wǎng)絡(luò)理論

人工神經(jīng)網(wǎng)絡(luò)(artificial neural network)是一種由大量簡單處理單元以某種方式相互連接而成,對(duì)連續(xù)的輸入做出狀態(tài)響應(yīng)的動(dòng)態(tài)信息處理系統(tǒng)。它模擬人腦生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)處理信息的方式,通過經(jīng)驗(yàn)而不是通過設(shè)計(jì)好的程序進(jìn)行學(xué)習(xí)、訓(xùn)練。因此,人工神經(jīng)網(wǎng)絡(luò)具有人腦的某些重要特性,如聯(lián)想記憶、并行處理、自學(xué)習(xí)、自組織、自適應(yīng)和容錯(cuò)性等能力,這些構(gòu)成了人工神經(jīng)網(wǎng)絡(luò)具有模式識(shí)別、預(yù)測評(píng)價(jià)和優(yōu)化決策等能力的基礎(chǔ)。

如圖1所示,這是含有一個(gè)隱含層的神經(jīng)網(wǎng)絡(luò)示意圖,其中空心圓圈表示神經(jīng)元,神經(jīng)元是神經(jīng)網(wǎng)絡(luò)(neural network)的基本單元,也稱為節(jié)點(diǎn)。每層中可以包含多個(gè)節(jié)點(diǎn),多層節(jié)點(diǎn)之間按一定的方式相互連接構(gòu)成神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)的信息處理功能由神經(jīng)元的輸入和輸出、網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)、連接權(quán)的大?。ㄍ挥|聯(lián)系強(qiáng)度)以及神經(jīng)元的閾值所決定的。輸入層節(jié)點(diǎn)的輸入變量為自變量(樣本圖1 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖

Fig.1 Delineation of structure of artificial neural networks

參數(shù)),輸出層節(jié)點(diǎn)的輸出變量為應(yīng)變量(目標(biāo)函數(shù)),當(dāng)多個(gè)輸入進(jìn)入神經(jīng)元后,其加權(quán)求和值超過神經(jīng)元的閾值后會(huì)形成輸出,通過連接權(quán)連接,傳遞到下一層神經(jīng)元,作為下一層神經(jīng)元的輸入值,這樣按網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)依次傳遞。根據(jù)神經(jīng)網(wǎng)絡(luò)的計(jì)算原理,每一神經(jīng)元的輸入值將更新變化,最后到達(dá)輸出層。將輸出值與樣本的期望輸出值進(jìn)行比較,計(jì)算出誤差,按學(xué)習(xí)規(guī)律將誤差反向傳播到前一層神經(jīng)元,調(diào)整連接權(quán)大小,重新計(jì)算,再輸出。如此反復(fù),直到訓(xùn)練集樣本輸出誤差和達(dá)到期望值。至此得到固定的連接權(quán)值,就達(dá)到對(duì)未知樣本進(jìn)行預(yù)測和分析。其中網(wǎng)絡(luò)的信息主要儲(chǔ)存在連接權(quán)中[4]。

根據(jù)神經(jīng)元之間的相互結(jié)合關(guān)系和作用方式,神經(jīng)網(wǎng)絡(luò)模型可以分為很多種,其中反向傳播神經(jīng)網(wǎng)絡(luò)(back-propagation neural network)即BP[5]神經(jīng)網(wǎng)絡(luò)是目前藥劑領(lǐng)域中應(yīng)用最廣泛、計(jì)算能力最強(qiáng)的人工神經(jīng)網(wǎng)絡(luò)模型之一。由于這種網(wǎng)絡(luò)的權(quán)值和閾值調(diào)整采用了反向傳播的學(xué)習(xí)算法,解決了感知器所不能解決的問題,可以實(shí)現(xiàn)從輸入到輸出的任意非線性映射。在確定了網(wǎng)絡(luò)的結(jié)構(gòu)后,利用輸入樣本集對(duì)其進(jìn)行訓(xùn)練,即對(duì)網(wǎng)絡(luò)的權(quán)值和閾值進(jìn)行學(xué)習(xí)和調(diào)整。經(jīng)過訓(xùn)練的BP網(wǎng)絡(luò),對(duì)于不是樣本集中的輸入樣本也能給出合適的輸出,利用這種方式可以使用該網(wǎng)絡(luò)對(duì)未知樣本進(jìn)行預(yù)測。

2 人工神經(jīng)網(wǎng)絡(luò)在藥劑中的應(yīng)用

2.1 藥物制劑處方設(shè)計(jì)及優(yōu)化

制劑處方設(shè)計(jì)及優(yōu)化是目前神經(jīng)網(wǎng)絡(luò)在藥物制劑中應(yīng)用最多[6-11],也是比較有發(fā)展前景的方向之一,尤其是應(yīng)用于緩控釋制劑的處方優(yōu)化和設(shè)計(jì)中。

梁文權(quán)[12]等將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于優(yōu)化HPMC緩釋片處方。以藥物的溶解度、含藥量、HPMC的量、HPMC的固有黏度、輔料的量、黏合劑的濃度、溶出儀的轉(zhuǎn)速為神經(jīng)網(wǎng)絡(luò)的輸入,藥物的累計(jì)釋放量作為輸出,采用BP網(wǎng)絡(luò)對(duì)52個(gè)樣本進(jìn)行訓(xùn)練,建立BP神經(jīng)網(wǎng)絡(luò)模型。然后與優(yōu)化算法相結(jié)合實(shí)現(xiàn)對(duì)乙酰氨基酚、甲氧芐氨嘧啶、米諾地爾、氧氟沙星等模型藥物在不同的含藥量、不同轉(zhuǎn)速條件下的處方進(jìn)行優(yōu)化。試驗(yàn)結(jié)果發(fā)現(xiàn)利用神經(jīng)網(wǎng)絡(luò)預(yù)測藥物的釋放、訓(xùn)練處方和測試處方的實(shí)測值和預(yù)測值能很好吻合,得到的4個(gè)優(yōu)化處方的釋放值均和目標(biāo)值很接近。魏曉紅[13]等選取9種藥物作為模型藥物,按HPMC:糊精=5-0.2∶1配比制成不同釋放度的緩釋片,測定各個(gè)處方的釋放度,以每個(gè)藥物的溶解度和處方中HPMC∶糊精的配比值作為網(wǎng)絡(luò)的輸入,以釋放度測量中每個(gè)給定取樣時(shí)間點(diǎn)藥物的累積釋放量作為輸出變量,得到含一個(gè)隱含層,迭代次數(shù)為25次的BP神經(jīng)網(wǎng)絡(luò),通過優(yōu)化,成功擬定了4個(gè)制劑處方,按此處方制備的緩釋片的實(shí)測釋放值與神經(jīng)網(wǎng)絡(luò)預(yù)測值相符。根據(jù)此法,可以從藥物的溶解度設(shè)計(jì)符合一定釋放度要求的緩釋制劑處方。

駱快燕[14]等用干壓包衣技術(shù)制備卡托普利延時(shí)起效延緩片時(shí),用人工神經(jīng)網(wǎng)絡(luò)預(yù)測釋藥時(shí)滯。運(yùn)用一個(gè)3層BP神經(jīng)網(wǎng)絡(luò),以釋放度作為輸入層神經(jīng)元,以對(duì)應(yīng)時(shí)間點(diǎn)作為輸出層神經(jīng)元,得到一個(gè)含8個(gè)隱含層神經(jīng)元的BP網(wǎng)絡(luò),其中變換函數(shù)為雙曲正切函數(shù),學(xué)習(xí)規(guī)則為歸一化累積Delta規(guī)則,目標(biāo)誤差為0.001,學(xué)習(xí)速率為0.01。神經(jīng)網(wǎng)絡(luò)預(yù)測釋藥時(shí)滯結(jié)果為后面用SAS進(jìn)行多元線性回歸提供了可靠的數(shù)據(jù),使預(yù)測優(yōu)化處方很快達(dá)到設(shè)計(jì)要求。

吳濤等[15]在硫酸沙丁胺醇滲透泵控釋片的處方篩選中采用反應(yīng)曲面法和人工神經(jīng)網(wǎng)絡(luò)法優(yōu)化法。選擇包衣液中PEG 1 500含量與包衣膜的厚度為網(wǎng)絡(luò)的輸入因素,以各個(gè)處方1~8小時(shí)的積累釋放度對(duì)實(shí)踐的相關(guān)系數(shù)和各處方8小時(shí)的累積釋放度為輸出因素,在36個(gè)實(shí)驗(yàn)處方中隨機(jī)抽取24個(gè)作為網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù),其余作為網(wǎng)絡(luò)的測試數(shù)據(jù)檢測網(wǎng)絡(luò)預(yù)測性能,建立了含一個(gè)隱含層的BP神經(jīng)網(wǎng)絡(luò)建立模型,最后根據(jù)預(yù)測結(jié)果實(shí)現(xiàn)處方優(yōu)化。比較結(jié)果證實(shí)神經(jīng)網(wǎng)絡(luò)方法較優(yōu)。

2.2 藥物制劑制備工藝方面的應(yīng)用

藥物劑型的制備工藝過程中,存在著諸如溫度、壓力、粘度、流速等諸多影響因素,這些工藝參數(shù)與制劑質(zhì)量指標(biāo)之間往往存在很強(qiáng)的非線性和耦合性,很難用傳統(tǒng)的方法建立有效的質(zhì)量控制模型。基于人工智能的人工神經(jīng)網(wǎng)絡(luò)具有辨識(shí)和逼近任意復(fù)雜非線性系統(tǒng)的能力,而且具有一定的容錯(cuò)能力,可以同步優(yōu)化制備工藝中的多個(gè)工藝參數(shù)[16]。

張宇飛等[17]收集某大型中藥企業(yè)滴丸制劑生產(chǎn)線的100多個(gè)生產(chǎn)批次,每個(gè)批次包含多個(gè)數(shù)據(jù)的樣本作為神經(jīng)網(wǎng)絡(luò)訓(xùn)練集,設(shè)計(jì)了一個(gè)具有三個(gè)層的BP神經(jīng)網(wǎng)絡(luò),輸入層的5個(gè)節(jié)點(diǎn)分別為化料溫度,化料時(shí)間,滴制溫度,滴制速度及冷凝溫度;輸出層的結(jié)點(diǎn)為滴丸成品率,建立了某滴丸制劑過程工藝參數(shù)與滴丸成品率之間的神經(jīng)網(wǎng)絡(luò)映射模型。然后利用遺傳算法對(duì)模型輸入?yún)?shù)空間進(jìn)行尋優(yōu),搜索使滴丸成品率達(dá)到最優(yōu)時(shí)所對(duì)應(yīng)的工藝參數(shù)值。經(jīng)生產(chǎn)試制,利用優(yōu)化后的工藝參數(shù)值進(jìn)行生產(chǎn),能使該制劑過程的成品率提高約2.6個(gè)百分點(diǎn),表明利用神經(jīng)網(wǎng)絡(luò)與遺傳算法對(duì)制劑過程進(jìn)行建模與優(yōu)化是合理的,該項(xiàng)目屬于國家863高技術(shù)研究發(fā)展計(jì)劃項(xiàng)目。

2.3 藥物制劑體內(nèi)-體外相關(guān)性評(píng)價(jià)的應(yīng)用

建立體內(nèi)外相關(guān)性評(píng)價(jià)方法對(duì)藥物制劑研究非常重要。一個(gè)好的體內(nèi)外相關(guān)性模型應(yīng)能使預(yù)測值與實(shí)測值相互吻合,從而用體外的釋藥數(shù)據(jù)預(yù)測藥物的體內(nèi)過程,設(shè)計(jì)與已知制劑生物等效的制劑,或者制定藥物制劑的質(zhì)量標(biāo)準(zhǔn)及指導(dǎo)臨床用藥。但是生物系統(tǒng)是極其復(fù)雜的,藥物在體內(nèi)的代謝過程也是相當(dāng)復(fù)雜的,使得判定藥物療效與生物學(xué)、藥物動(dòng)力學(xué)及藥物分布等各因素之間的關(guān)系非常困難[18]。人工神經(jīng)網(wǎng)絡(luò)是模擬生物神經(jīng)系統(tǒng)對(duì)外界系統(tǒng)的認(rèn)知過程,它給我們提供了一個(gè)很好的研究體內(nèi)外相關(guān)性的方法[19-20]。

李凌冰[21]等采用人工神經(jīng)網(wǎng)絡(luò)結(jié)合Wagner-Nelson法,研究氯氮平非pH依賴型緩釋片的體內(nèi)體外相關(guān)性。以處方中HPMC與琥珀酸的用量為神經(jīng)網(wǎng)絡(luò)輸入變量,考慮到緩控釋制劑的特點(diǎn),以2h的血藥濃度,12h的血藥濃度一時(shí)間曲線下面積AUCl2,以及血藥濃度的峰值(max數(shù)據(jù)為輸出,建立了氯氮平非pH依賴型緩釋制劑處方組成和血藥濃度之間的關(guān)系模型。以此為基礎(chǔ),繪制輸出三個(gè)輸出變量的等高線圖譜,分別在3個(gè)等高線圖譜上標(biāo)記最佳變量所取值的范圍,將3個(gè)圖中的最佳區(qū)域結(jié)合在一起從而求得生物利用度最佳的處方。李凌冰等[22]應(yīng)用人工神經(jīng)網(wǎng)絡(luò)研究紅霉素緩釋微囊的體內(nèi)外相關(guān)性。以明膠為囊材制備紅霉素緩釋膠囊,以體外釋放度的數(shù)據(jù)作為網(wǎng)絡(luò)輸入,血藥濃度數(shù)據(jù)作為網(wǎng)絡(luò)輸出,通過比較血藥濃度實(shí)測值與預(yù)測值的差異考察了網(wǎng)絡(luò)的可靠性,結(jié)果令人滿意。

3 結(jié)語

人工神經(jīng)網(wǎng)絡(luò)技術(shù)作為一種新方法新技術(shù)雖然已在藥劑研究領(lǐng)域取得了一定的進(jìn)展,但仍然有許多問題需要進(jìn)一步的研究。例如神經(jīng)網(wǎng)絡(luò)雖然可用于制劑制備工藝參數(shù)的優(yōu)化,但能否利用神經(jīng)網(wǎng)絡(luò)實(shí)時(shí)監(jiān)控工藝過程以控制質(zhì)量還需要進(jìn)一步探討;人工神經(jīng)網(wǎng)絡(luò)通常需要大量的數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò),但有時(shí)數(shù)據(jù)的獲得比較困難,尤其是體內(nèi)的試驗(yàn)數(shù)據(jù);神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的選擇規(guī)律、傳遞函數(shù)的選取,防止過擬合和陷入局部最優(yōu)等問題也需要在模型的建立過程中考慮;在制劑分析中的方法適應(yīng)性和重現(xiàn)性等基礎(chǔ)工作也還需要深入的研究。

總之,神經(jīng)網(wǎng)絡(luò)是一個(gè)充滿了活力的研究領(lǐng)域,通過以上的簡述可以發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)在藥劑學(xué)研究領(lǐng)域具有廣闊的應(yīng)用前景,相信隨著神經(jīng)網(wǎng)絡(luò)理論和技術(shù)的不斷發(fā)展,神經(jīng)網(wǎng)絡(luò)以其獨(dú)特的模擬、學(xué)習(xí)、預(yù)測能力必將在藥劑學(xué)的各個(gè)方面得到更充分的應(yīng)用。

參考文獻(xiàn)

[1]Takayama K,F(xiàn)ujikawa M,Obata Y,et al.Morishita M,Neural Network Based Optimization of Drug Formulations[J].Advanced Drug Delivery Reviews,2003,55(9):1 217-1 231.

[2]Agatonovic-Kustrin S,Beresford R.Basic Concepts of Artificial Neural Networks Modeling and Its Application in Pharmaceutical Research[J].Journal of Pharmaceutical and Biomedical Analysis,2000,22(4):717-727.

[3]K Takayama,A Morva, M Fujikawa,et al.Formula Optimization of Theophylline Controlled-release Tablet Based on Artificial Neural Networks [J].Journal of Controlled Release,2000,68(2):175-186.

[4]Hassoun M.Fundamentals of Artificial Neural Networks[M].The MIT Press,1995:25.

[5]R J Erb.Introduction to Backpropagation Neural Network Computation[J].Pharmaceutical.Research,1993,10(2):165-170.

[6]P.C.Wu,Y.Obata,M.Fujikawa,et al.Simultaneous Optimization Based on Artificial Neural Networks in Ketoprofen Hydrogel Formula Containing O-enthyl-3-butylcyclohexanol as Percutaneous Absorption Enhancer[J].Journal of Pharmaceutical Sciences,2001,90(7):1 004-1 014.

[7]A P Plumb,R C Rowe,P York,et al.The Effect of Experimental Design on the Modeling of a Tablet Coating Formulation Using Artificial Neural Networks[J].European Journal of Pharmaceutical Sciences,2002,16(3):281-288.

[8]Onuki Y,Hoshi M,Okabe H,et al.Formulation Optimization of Photocrosslinked Polyacrylic Acid Modified with 2-hydroxyethyl Methacrylate Hydrogel as an Adhesive for a Dermatological Patch[J].Journal of controlled release,2005,108(2-3):331-340.

[9]Fan T,Takayama K,Hattori Y,et al.Formulation Optimization of Paclitaxel Carried by PEGylated Emulsions Based on Artificial Nneural Network[J].Pharmaceutical Research,2004,21(9):1 692-1 697.

[10]Lim CP,Quek SS,Peh KK.Prediction of Drug Release Profiles Using an Intelligent Learning System:an Experimental Study in Transdermal Iontophoresis[J].J Pharm Biomed Anal,2003,31(1):159-168.

[11]Plumb AP,Rowe RC,York P,et al.Effect of Varying Optimization Parameters on Optimization by Guided Evolutionary Simulated Annealing(GESA)Using a Tablet Film Coat as an Example Formulation[J].European Journal of Pharmaceutical Sciences,2003,18(3-4):259-266.

[12]范彩霞,梁文權(quán).神經(jīng)網(wǎng)絡(luò)多目標(biāo)同步優(yōu)化HPMC緩釋片處方[J].中國藥學(xué)雜志,2004,39(10):768-771.

[13]魏曉紅,吳建軍,梁文權(quán).神經(jīng)網(wǎng)絡(luò)用于口服緩釋制劑的處方設(shè)計(jì)[J].藥學(xué)學(xué)報(bào),2001,36(9):690-694.

[14]駱快燕,姚彤煒,黃安琪.卡托普利延遲起釋型緩釋片的研制[J].中國現(xiàn)代應(yīng)用藥學(xué)雜志,2005,22(3):224-228.

[15]吳淘,潘衛(wèi)三,陳濟(jì)民,等.多目標(biāo)同步優(yōu)化法優(yōu)化硫酸沙丁胺醇滲透泵控釋片的制備工藝[J].藥學(xué)學(xué)報(bào),2000,35(8):617-621.

[17]張宇飛,邵秀麗,雷建軍.基于神經(jīng)網(wǎng)絡(luò)和遺傳算法的中藥滴丸制劑過程建模與優(yōu)化[J].計(jì)算機(jī)工程與應(yīng)用,2005,2(2):191-194.

[18]James AD.Artificial Network Applied to the in Vitro-in Vivo Correlation of an Extended-release Formulation:Initial Trials and Experience[J].Journal of pharmaceutical Science,1999,88(1):154-160.

[19]Fu XC,Chen CX,Wang GP,et al.Prediction of Human Intestinal Absorption Using an Artificial Neural Network[J].Pharmazie,2005,60(9):674-676.

[20]Balan G,Timmins P,Greene D,et al.In Vivo-in Vitro Correlation Models for Metformin after Administration of Modified-release Oral Dosage Forms to Healthy Human Volunteers[J].Journal of.Pharmaceutical Sciences,2001,90(8):1 176-1 185.

篇4

關(guān)鍵詞:數(shù)據(jù)挖掘;數(shù)據(jù)庫;遺傳算法;神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào):TP392文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào)文章編號(hào):1672-7800(2013)012-0129-02

基金項(xiàng)目:佛山科學(xué)技術(shù)學(xué)院重點(diǎn)項(xiàng)目(2010)

作者簡介:劉曉莉(1961-),女,佛山科學(xué)技術(shù)學(xué)院副教授,研究方向?yàn)閼?yīng)用數(shù)學(xué)。

1遺傳算法基本特征

遺傳算法是模擬達(dá)爾文的遺傳選擇和自然淘汰的生物進(jìn)化過程的計(jì)算模型,是一種具有廣泛適用性的通用優(yōu)化搜索方法。遺傳算法主要借用了生物遺傳學(xué)的觀點(diǎn),通過自然選擇、遺傳和變異等作用機(jī)制來產(chǎn)生下一代種群,如此逐代進(jìn)化,直至得到滿足要求的后代即問題的解,是一種公認(rèn)的全局搜索能力較強(qiáng)的算法。

遺傳算法有良好智能性,易于并行,減少了陷于局部最優(yōu)解的風(fēng)險(xiǎn)。遺傳算法的處理對(duì)象不是參數(shù)本身,而是對(duì)參數(shù)集進(jìn)行了編碼的個(gè)體,可以直接對(duì)集合、隊(duì)列、矩陣、圖表等結(jié)構(gòu)進(jìn)行操作。同時(shí),在標(biāo)準(zhǔn)的遺傳算法中,基本上不用搜索空間的知識(shí)或其它輔助信息,而僅用適應(yīng)度函數(shù)值來評(píng)估個(gè)體,并在此基礎(chǔ)上進(jìn)行遺傳操作; 遺傳算法不是采用確定性規(guī)則,而是采用概率的變遷規(guī)則來指導(dǎo)它的搜尋方向。正是這些特征和優(yōu)點(diǎn),使得遺傳算法在數(shù)據(jù)挖掘技術(shù)中占有很重要的地位,既可以用來挖掘分類模式、聚類模式、依賴模式、層次模式,也可用于評(píng)估其它算法的適合度。

2神經(jīng)網(wǎng)絡(luò)基本特征

神經(jīng)網(wǎng)絡(luò)是人腦或自然神經(jīng)網(wǎng)絡(luò)若干基本特征的抽象和模擬,是以大量的、同時(shí)也是很簡單的處理單元(神經(jīng)元)廣泛地互相連接形成的復(fù)雜非線性系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個(gè)分布式矩陣結(jié)構(gòu),它根據(jù)樣本的輸入輸出對(duì)加權(quán)法進(jìn)行自我調(diào)整,從而近似模擬出輸入、輸出內(nèi)在隱含的映射關(guān)系。建模時(shí),不必考慮各個(gè)因素之間的相互作用及各個(gè)因素對(duì)輸出結(jié)果的影響機(jī)制,這恰好彌補(bǔ)了人們對(duì)各個(gè)因素及對(duì)輸出結(jié)果的機(jī)制不清楚的缺陷,從而解決眾多用以往方法很難解決的問題。

神經(jīng)網(wǎng)絡(luò)具有大規(guī)模的并行處理和分布式的信息存儲(chǔ),有良好的自適應(yīng)、自組織性,學(xué)習(xí)能力很強(qiáng),有較強(qiáng)的聯(lián)想功能和容錯(cuò)功能,在解決機(jī)理比較復(fù)雜、無法用數(shù)學(xué)模型來刻畫的問題,甚至對(duì)其機(jī)理一無所知的問題等,神經(jīng)網(wǎng)絡(luò)方法特別適用,是一種用于預(yù)測、評(píng)價(jià)、分類、模式識(shí)別、過程控制等各種數(shù)據(jù)處理場合的計(jì)算方法,其應(yīng)用已經(jīng)滲透到多個(gè)領(lǐng)域,在計(jì)算機(jī)視覺、模式識(shí)別、智能控制、非線性優(yōu)化、信號(hào)處理、經(jīng)濟(jì)和機(jī)器人等方面取得了可喜的進(jìn)展。

3遺傳算法與神經(jīng)網(wǎng)絡(luò)混合算法在數(shù)據(jù)挖掘中的應(yīng)用

作為一種有效的優(yōu)化方法,遺傳算法可以應(yīng)用于規(guī)則挖掘,可以單獨(dú)用于數(shù)據(jù)倉庫中關(guān)聯(lián)規(guī)則的挖掘,還可以和神經(jīng)網(wǎng)絡(luò)技術(shù)相結(jié)合,建立基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的數(shù)據(jù)挖掘體系,用于數(shù)據(jù)挖掘中的分類問題。

學(xué)習(xí)能力是神經(jīng)網(wǎng)絡(luò)中最引人矚目的特征,學(xué)習(xí)算法的研究一直占據(jù)重要地位??梢詫⑦z傳算法應(yīng)用于神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程中,這樣可以避免傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)算法容易陷入局部極小的問題。有研究者提出了一種基于遺傳算法的神經(jīng)網(wǎng)絡(luò)二次訓(xùn)練方法,可以提高神經(jīng)網(wǎng)絡(luò)的模糊處理能力,有效解決神經(jīng)網(wǎng)絡(luò)陷入局部極小的缺點(diǎn),加快收斂速率,提高學(xué)習(xí)效率。也有研究者探究了基于基因重組的遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的方法,通過訓(xùn)練權(quán)值來實(shí)現(xiàn)分類,可以提高神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)分類的準(zhǔn)確性。因此,采用遺傳算法與神經(jīng)網(wǎng)絡(luò)模型相結(jié)合方法,可以解決多維非線性系統(tǒng)及模型未知系統(tǒng)的預(yù)測、評(píng)價(jià)與優(yōu)化等問題,其成功案例有很多,下面是其中的幾例。

一些研究者針對(duì)當(dāng)前專家系統(tǒng)知識(shí)獲取瓶頸的難題,提出了基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的汽輪機(jī)組數(shù)據(jù)挖掘方法。該方法首先將汽輪機(jī)組歷史故障數(shù)據(jù)進(jìn)行模糊化及離散化處理后,建立神經(jīng)網(wǎng)絡(luò)模型,然后再利用遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,實(shí)現(xiàn)了基于神經(jīng)網(wǎng)絡(luò)與遺傳算法相結(jié)合的汽輪機(jī)組數(shù)據(jù)挖掘和故障診斷仿真系統(tǒng),其診斷正確率達(dá)到了84%。

綜合運(yùn)用人工智能、計(jì)算智能(人工神經(jīng)網(wǎng)、遺傳算法) 、模式識(shí)別、數(shù)理統(tǒng)計(jì)等先進(jìn)技術(shù)作為數(shù)據(jù)挖掘工具,可以建立可靠、高效的數(shù)據(jù)挖掘軟件平臺(tái),已在很多工業(yè)控制和優(yōu)化中得到應(yīng)用和實(shí)驗(yàn)驗(yàn)證,并取得了滿意的應(yīng)用效果。例如,某鋁廠根據(jù)以往不同原料成分和原料的不同配比與產(chǎn)品質(zhì)量關(guān)系記錄的數(shù)據(jù)庫,應(yīng)用數(shù)據(jù)挖掘軟件平臺(tái),可以挖掘出適應(yīng)不同原料成分的最佳配比規(guī)律,從而提高產(chǎn)品質(zhì)量的穩(wěn)定性。又如,以往在化工產(chǎn)品優(yōu)化配方、催化劑配方優(yōu)化或材料工藝優(yōu)化等研究中,基本上都是采用試驗(yàn)改進(jìn)的方式,需經(jīng)過多次試驗(yàn)才能達(dá)到預(yù)期目的,但也有可能失敗。為降低消耗, 少做試驗(yàn)就能達(dá)到預(yù)期目的,可采用神經(jīng)網(wǎng)絡(luò)對(duì)產(chǎn)品配方實(shí)驗(yàn)數(shù)據(jù)建模,在此基礎(chǔ)上,再應(yīng)用遺傳算法對(duì)配方模型進(jìn)行優(yōu)化,得到優(yōu)化配方。

正是遺傳算法與神經(jīng)網(wǎng)絡(luò)等算法的支撐以及計(jì)算機(jī)技術(shù)的發(fā)展,目前,數(shù)據(jù)挖掘廣泛地應(yīng)用于天文、地理、生物信息學(xué)、金融、保險(xiǎn)、商業(yè)、電信、網(wǎng)絡(luò)、交通等眾多領(lǐng)域。例如,應(yīng)用在地理數(shù)據(jù)庫上,主要挖掘地質(zhì)、地貌特征,為尋找礦產(chǎn)或進(jìn)行城市規(guī)劃等提供參考依據(jù);在電信Web服務(wù)器方面,可以挖掘Web日志,根據(jù)用戶興趣動(dòng)態(tài)鏈接Web頁面,統(tǒng)計(jì)頁面鏈接及權(quán)威主頁等,對(duì)檢索頁面進(jìn)行聚類,方便用戶找到需要的信息;在生物醫(yī)學(xué)信息和DNA數(shù)據(jù)分析方面,進(jìn)行遺傳、疾病等數(shù)據(jù)特征的挖掘,為疾病診斷、治療和預(yù)防研究提供科學(xué)依據(jù);對(duì)金融數(shù)據(jù)進(jìn)行挖掘,可以分析客戶信用度;在CRM(客戶關(guān)系模型)上使用數(shù)據(jù)挖掘,獲得客戶群體分類信息、交叉銷售安排及開發(fā)新客戶和保留老客戶的策略;在電信業(yè)中使用挖掘技術(shù),以預(yù)防網(wǎng)絡(luò)欺詐等;應(yīng)用在商業(yè)問題的研究包括:進(jìn)行客戶群體劃分、背景分析、交叉銷售等市場行為分析,以及客戶流失性、信用度分析與欺詐發(fā)現(xiàn);在電子商務(wù)方面,從服務(wù)器以及瀏覽器端的日志記錄中發(fā)現(xiàn)隱藏在數(shù)據(jù)中的模式信息,了解系統(tǒng)的訪問模式以及用戶的行為模式,作出預(yù)測性分析等等。

4結(jié)語

神經(jīng)網(wǎng)絡(luò)和遺傳算法作為數(shù)據(jù)挖掘技術(shù),也有一些不足和缺陷。遺傳算法除了要進(jìn)一步改進(jìn)基本理論和方法外,還要采用和神經(jīng)網(wǎng)絡(luò)、模擬退火、最近臨規(guī)則等其它方法相結(jié)合的策略,提高遺傳算法的局部搜索能力,從而進(jìn)一步改善其收斂速度和解的品質(zhì),提高數(shù)據(jù)挖掘技術(shù)。特別是對(duì)于單調(diào)函數(shù)或單峰函數(shù),遺傳算法在初始時(shí)很快向最優(yōu)值逼近,但是在最優(yōu)值附近收斂較慢;而對(duì)于多峰函數(shù)的優(yōu)化問題,它往往會(huì)出現(xiàn)“早熟”,即收斂于局部極值。因此,研究如何改進(jìn)遺傳算法,采用合適的算法加快尋優(yōu)速度和改善尋優(yōu)質(zhì)量,無論在理論上還是在實(shí)踐上都有重要意義。神經(jīng)網(wǎng)絡(luò)的神經(jīng)計(jì)算基礎(chǔ)理論框架以及生理層面的研究仍需深入與加強(qiáng),如何提高神經(jīng)網(wǎng)絡(luò)的可理解性問題,以及研究遺傳算法、神經(jīng)網(wǎng)絡(luò)技術(shù)與其它人工智能技術(shù)更好地結(jié)合,從而獲得比單一方法更好的效果等問題,值得進(jìn)一步探索。

雖然數(shù)據(jù)挖掘技術(shù)已得到了廣泛應(yīng)用,但現(xiàn)有的數(shù)據(jù)挖掘方法并不能完全適應(yīng)所面臨的具有多樣性的海量數(shù)據(jù)分析的現(xiàn)實(shí),急需解決的問題是:如何研究并行處理和抽樣的方法,來處理大規(guī)模的數(shù)據(jù)以獲得較高的計(jì)算效率;如何利用統(tǒng)計(jì)、模糊數(shù)學(xué)來確定隱含變量及依賴關(guān)系,開發(fā)容噪的挖掘方法,以解決異質(zhì)數(shù)據(jù)集的數(shù)據(jù)挖掘問題;如何更好地進(jìn)行文本數(shù)據(jù)挖掘、Web數(shù)據(jù)挖掘、分類系統(tǒng)、可視化系統(tǒng)、空間數(shù)據(jù)系統(tǒng)和分布式數(shù)據(jù)挖掘等新技術(shù)的應(yīng)用。因此,未來數(shù)據(jù)挖掘的研究表現(xiàn)在數(shù)據(jù)挖掘功能、工具、方法(算法) 的拓展與理論創(chuàng)新,其應(yīng)用的范圍和深度會(huì)進(jìn)一步加強(qiáng)。

參考文獻(xiàn)參考文獻(xiàn):

[1]孟曉明.淺談數(shù)據(jù)挖掘技術(shù)[J].計(jì)算機(jī)應(yīng)用與軟件,2004 (8).

[2]李慧芳,姚躍華,陳一棟.改進(jìn)的遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)優(yōu)化的分類[J].微計(jì)算機(jī)信息,2008(15).

[3]王東龍,李茂青.基于遺傳算法的數(shù)據(jù)挖掘技術(shù)應(yīng)用[J].南昌大學(xué)學(xué)報(bào), 2005(1).

[4]宋仁國.鋁合金工藝優(yōu)化的遺傳算法[J].材料科學(xué)與工程,1998(1).

[5]韓力群.催化劑配方的神經(jīng)網(wǎng)絡(luò)建模與遺傳算法優(yōu)化[J].化工學(xué)報(bào),1999(4).

[6]郭崇慧,陸玉昌.預(yù)測型數(shù)據(jù)挖掘中的優(yōu)化方法[J].工程數(shù)學(xué)學(xué)報(bào),2005(1).

[7]楊杰.用于建模、優(yōu)化、故障診斷的數(shù)據(jù)挖掘技術(shù)[J].計(jì)算機(jī)集成制造系統(tǒng),2000(10).

篇5

關(guān)鍵詞:風(fēng)電功率 多種群遺傳算法 單種群遺傳算法 神經(jīng)網(wǎng)絡(luò) 優(yōu)化

引言

近年來,風(fēng)能作為一種新型的可再生能源,被應(yīng)用到電力系統(tǒng)中,在解決能源問題的同時(shí),又對(duì)電網(wǎng)的穩(wěn)定安全運(yùn)行帶來了巨大的挑戰(zhàn)。本文基于BP神經(jīng)網(wǎng)絡(luò),提出了用單種群遺傳算法和多種群遺傳算法優(yōu)化的組合預(yù)測方法。對(duì)歷史數(shù)據(jù)建立模型,對(duì)未來短期風(fēng)電功率分別用上述三種方法進(jìn)行預(yù)測,并對(duì)結(jié)果進(jìn)行比較。

1、BP神經(jīng)網(wǎng)絡(luò)

(1)BP算法的基本思想。BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神將網(wǎng)絡(luò),利用信號(hào)前向傳遞,誤差反向傳播的思想來進(jìn)行網(wǎng)絡(luò)學(xué)習(xí)。在前向傳播中,將輸入信號(hào),從輸入層經(jīng)隱含層層層處理,直至輸出層。利用輸出層輸出結(jié)果與預(yù)期輸出之間的差異,反向傳播,調(diào)整網(wǎng)絡(luò)權(quán)值和閾值,從而使網(wǎng)絡(luò)預(yù)測輸出不斷逼近期望輸出。

(2)輸入層與輸出層神經(jīng)元個(gè)數(shù)的確定。輸入層神經(jīng)元的個(gè)數(shù)與輸入變量的維數(shù)相等,輸出層神經(jīng)元的個(gè)數(shù)與預(yù)期輸出的維數(shù)相等。

(3)隱含層神經(jīng)元個(gè)數(shù)的確定。BP神經(jīng)網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)數(shù)對(duì)于BP神經(jīng)網(wǎng)絡(luò)的預(yù)測精度有較大的影響:節(jié)點(diǎn)數(shù)太少,網(wǎng)絡(luò)不能很好地學(xué)習(xí),需要增加訓(xùn)練次數(shù),訓(xùn)練的精度也受到影響;節(jié)點(diǎn)數(shù)太多,訓(xùn)練時(shí)間增加,網(wǎng)絡(luò)容易過擬和,泛化性能差。

(4)節(jié)點(diǎn)傳遞函數(shù)的確定。常用的轉(zhuǎn)移函數(shù)有線性傳遞函數(shù)、指數(shù)S型、對(duì)數(shù)S型等,在網(wǎng)絡(luò)的結(jié)構(gòu)和權(quán)值、閾值相同的情況下,轉(zhuǎn)移函數(shù)對(duì)BP神經(jīng)網(wǎng)絡(luò)預(yù)測誤差具有較大的影響。一般隱含層節(jié)點(diǎn)轉(zhuǎn)移函數(shù)選用對(duì)數(shù)或指數(shù)S型函數(shù),輸出層節(jié)點(diǎn)轉(zhuǎn)移函數(shù)選用正切或線性傳遞函數(shù)。

(5)輸入數(shù)據(jù)的預(yù)處理。為了提高神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度和提高收斂性,一般情況下要對(duì)輸入數(shù)據(jù)進(jìn)行歸一化處理,本文采用最大最小法。

2、單種群遺傳算法

(1)遺傳算法概述。遺傳算法(GA)是一種進(jìn)化算法,基本思想是“物競天擇,適者生存”的演化法則。把待解決的實(shí)際問題抽象,將其中參數(shù)編碼為染色體,利用迭代的方式進(jìn)行選擇,交叉以及變異等運(yùn)算從而交換種群中染色體的信息,最終生成符合優(yōu)化目標(biāo)的染色體。

(2)編碼。將原始問題的解空間的數(shù)據(jù)映射到遺傳空間的基因型串結(jié)構(gòu),其數(shù)據(jù)的不同組合構(gòu)成了原始問題的不痛的解。本文采用二進(jìn)制編碼法。

(3)適應(yīng)度函數(shù)。適應(yīng)度函數(shù)表征染色體的適應(yīng)度,其值越大表明該染色體越適應(yīng)環(huán)境,越有可能為下一代提供其遺傳信息。本文采用期望輸出與實(shí)際輸出的均方差作為適應(yīng)度函數(shù)值。

(4)選擇、交叉、變異算子。選擇算子的主要目的是從種群中選出優(yōu)良的個(gè)體,使其有機(jī)會(huì)作為父代為下一代提供遺傳信息。選擇的機(jī)制為適應(yīng)度大的個(gè)體被選中的概率大。交叉算子實(shí)現(xiàn)了父代間的信息交換,是遺傳算法的主要操作。變異算子體現(xiàn)了實(shí)際問題中的參數(shù)變化,從而使算法跳出局部最優(yōu),達(dá)到或接近全局最優(yōu)。

3、多種群遺傳算法

(1)單種群遺傳算法的不足。單種群遺傳算法在優(yōu)化時(shí)不依賴于梯度,具有很強(qiáng)的魯棒性和全局搜索能力,被廣泛應(yīng)用到機(jī)器學(xué)習(xí),模式識(shí)別,數(shù)學(xué)規(guī)劃等領(lǐng)域。但會(huì)出現(xiàn)早熟問題。

(2)多種群遺傳算法概述。為了克服遺傳算法的未成熟問題,學(xué)者們提出了自適應(yīng)的交叉和變異,并得出了一些益的結(jié)論。但由于影響遺傳算法未成熟問題的因素很多,一般方法仍有一定的局限性,為此本文采用多種群遺傳算法代替遺傳算法,并引入移民算子和人工選擇算子,進(jìn)行多種群的并行搜索。

(3)移民算子與人工選擇算子。各個(gè)種群之間通過移民算子進(jìn)行聯(lián)系,實(shí)現(xiàn)多種群的協(xié)同進(jìn)化;最優(yōu)解的獲取是多種群協(xié)同精華的結(jié)果。通過人工選擇算子保存各個(gè)種群每個(gè)進(jìn)化代中的最優(yōu)個(gè)體,并作為判斷算法收斂的依據(jù)。

4、單種群與多種群遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)

在神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)相同的情況下,每次運(yùn)行神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測和有可能會(huì)得出不同的結(jié)果,即網(wǎng)絡(luò)初始權(quán)值與閾值對(duì)網(wǎng)絡(luò)預(yù)測結(jié)果有很大的影響。本文使用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)初始權(quán)值與閾值,從而確定最佳的初始權(quán)值與閾值,提高預(yù)測的準(zhǔn)確度。算法流程如圖所示。

5、算例分析

根據(jù)《國家能源局關(guān)于印發(fā)風(fēng)電場電功率預(yù)測預(yù)報(bào)管理暫行辦法》,風(fēng)電場功率預(yù)測預(yù)報(bào)考核指標(biāo),利用2011年電工杯數(shù)學(xué)建模競賽A題的數(shù)據(jù)進(jìn)行驗(yàn)證。分別利用BP神經(jīng)網(wǎng)絡(luò)、單種群遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)、多種群遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)進(jìn)行編程,預(yù)測結(jié)果如表1所示

預(yù)測結(jié)果顯示,使用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測的結(jié)果已經(jīng)達(dá)到了比較高的精確度,但單種群遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)和多種群遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)將預(yù)測精度進(jìn)一步提高,其中多種群遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)的預(yù)測效果最佳。

6、結(jié)論

本文提出基于遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)預(yù)測模型,充分挖掘歷史數(shù)據(jù),采用多種群協(xié)調(diào)進(jìn)化,提高網(wǎng)絡(luò)預(yù)測精度與泛化性能,同時(shí)提高網(wǎng)絡(luò)穩(wěn)定性。實(shí)例證明多種群遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)預(yù)測模型比單一種群遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)預(yù)測模型具有更好的預(yù)測效果,為風(fēng)電功率預(yù)測提供了一種新的思路。具有很好的應(yīng)用前景。

參考文獻(xiàn):

[1]王素霞.國內(nèi)外風(fēng)力發(fā)電的情況及發(fā)展趨勢[J].電力技術(shù)經(jīng)濟(jì),2007,19(1):29-31.

[2]時(shí)慶華,高山,陳昊.2種風(fēng)電功率預(yù)測模型的比較[J].能源技術(shù)經(jīng)濟(jì).2011,23(6):31-35

[3]洪翠,林維明,溫不瀛.風(fēng)電場風(fēng)速及風(fēng)電功率預(yù)測方法研究綜述[J].電網(wǎng)與清潔能源,2011,27(1):20-66.

篇6

80年代初,在美國、日本、接著在我國國內(nèi)都掀起了一股研究神經(jīng)網(wǎng)絡(luò)理論和神經(jīng)計(jì)算機(jī)的熱潮,并將神經(jīng)網(wǎng)絡(luò)原理應(yīng)用于圖象處理、模式識(shí)別、語音綜合及機(jī)器人控制等領(lǐng)域。近年來,美國等先進(jìn)國家又相繼投入巨額資金,制定出強(qiáng)化研究計(jì)劃,開展對(duì)腦功能和新型智能計(jì)算機(jī)的研究。

人腦是自生命誕生以來,生物經(jīng)過數(shù)十億年漫長歲月進(jìn)化的結(jié)果,是具有高度智能的復(fù)雜系統(tǒng),它不必采用繁復(fù)的數(shù)字計(jì)算和邏輯運(yùn)算,卻能靈活處理各種復(fù)雜的,不精確的和模糊的信息,善于理解語言、圖象并具有直覺感知等功能。

人腦的信息處理機(jī)制極其復(fù)雜,從結(jié)構(gòu)上看它是包含有140億神經(jīng)細(xì)胞的大規(guī)模網(wǎng)絡(luò)。單個(gè)神經(jīng)細(xì)胞的工作速度并不高(毫秒級(jí)),但它通過超并行處理使得整個(gè)系統(tǒng)實(shí)現(xiàn)處理的高速性和信息表現(xiàn)的多樣性。

因此,從信息處理的角度對(duì)人腦進(jìn)行研究,并由此研制出一種象人腦一樣能夠“思維”的智能計(jì)算機(jī)和智能信息處理方法,一直是人工智能追求的目標(biāo)。

神經(jīng)網(wǎng)絡(luò)就是通過對(duì)人腦的基本單元---神經(jīng)元的建模和聯(lián)結(jié),來探索模擬人腦神經(jīng)系統(tǒng)功能的模型,并研制一種具有學(xué)習(xí)、聯(lián)想、記憶和模式識(shí)別等智能信息處理功能的人工系統(tǒng)。本文介紹神經(jīng)網(wǎng)絡(luò)的特點(diǎn)以及近年來有關(guān)神經(jīng)網(wǎng)絡(luò)與混沌理論、模糊計(jì)算和遺傳算法等相結(jié)合的混合神經(jīng)網(wǎng)絡(luò)研究的動(dòng)態(tài)。

一.神經(jīng)網(wǎng)絡(luò)和聯(lián)結(jié)主義

回顧認(rèn)知科學(xué)的發(fā)展,有所謂符號(hào)主義和聯(lián)結(jié)主義兩大流派。符號(hào)主義從宏觀層次上,撇開人腦的內(nèi)部結(jié)構(gòu)和機(jī)制,僅從人腦外在表現(xiàn)出來的智能現(xiàn)象出發(fā)進(jìn)行研究。例如,將記憶、判斷、推理、學(xué)習(xí)等心理活動(dòng)總結(jié)成規(guī)律、甚至編制成規(guī)則,然后用計(jì)算機(jī)進(jìn)行模擬,使計(jì)算機(jī)表現(xiàn)出各種智能。

符號(hào)主義認(rèn)為,認(rèn)識(shí)的基本元素是符號(hào),認(rèn)知過程是對(duì)符號(hào)表示的運(yùn)算。人類的語言,文字的思維均可用符號(hào)來描述,而且思維過程只不過是這些符號(hào)的存儲(chǔ)、變換和輸入、輸出而已。以這種方法實(shí)現(xiàn)的系統(tǒng)具有串行、線性、準(zhǔn)確、簡潔、易于表達(dá)的特點(diǎn),體現(xiàn)了邏輯思維的基本特性。七十年代的專家系統(tǒng)和八十年代日本的第五代計(jì)算機(jī)研究計(jì)劃就是其主要代表。

聯(lián)接主義則與其不同,其特點(diǎn)是從微觀出發(fā)。聯(lián)接主義認(rèn)為符號(hào)是不存在的,認(rèn)知的基本元素就是神經(jīng)細(xì)胞(神經(jīng)元),認(rèn)知過程是大量神經(jīng)元的聯(lián)接,以及這種聯(lián)接所引起的神經(jīng)元的不同興奮狀態(tài)和系統(tǒng)所表現(xiàn)出的總體行為。八十年代再度興起的神經(jīng)網(wǎng)絡(luò)和神經(jīng)計(jì)算機(jī)就是這種聯(lián)接主義的代表。

神經(jīng)網(wǎng)絡(luò)的主要特征是:大規(guī)模的并行處理和分布式的信息存儲(chǔ),良好的自適應(yīng)、自組織性,以及很強(qiáng)的學(xué)習(xí)功能、聯(lián)想功能和容錯(cuò)功能。與當(dāng)今的馮.諾依曼式計(jì)算機(jī)相比,更加接近人腦的信息處理模式。主要表現(xiàn)如下:

神經(jīng)網(wǎng)絡(luò)能夠處理連續(xù)的模擬信號(hào)。例如連續(xù)灰度變化的圖象信號(hào)。

能夠處理混沌的、不完全的、模糊的信息。

傳統(tǒng)的計(jì)算機(jī)能給出精確的解答,神經(jīng)網(wǎng)絡(luò)給出的是次最優(yōu)的逼近解答。

神經(jīng)網(wǎng)絡(luò)并行分布工作,各組成部分同時(shí)參與運(yùn)算,單個(gè)神經(jīng)元的動(dòng)作速度不高,但總體的處理速度極快。

神經(jīng)網(wǎng)絡(luò)信息存儲(chǔ)分布于全網(wǎng)絡(luò)各個(gè)權(quán)重變換之中,某些單元障礙并不影響信息的完整,具有魯棒性。

傳統(tǒng)計(jì)算機(jī)要求有準(zhǔn)確的輸入條件,才能給出精確解。神經(jīng)網(wǎng)絡(luò)只要求部分條件,甚至對(duì)于包含有部分錯(cuò)誤的輸入,也能得出較好的解答,具有容錯(cuò)性。

神經(jīng)網(wǎng)絡(luò)在處理自然語言理解、圖象模式識(shí)別、景物理解、不完整信息的處理、智能機(jī)器人控制等方面有優(yōu)勢。

符號(hào)主義和聯(lián)接主義兩者各有特色,學(xué)術(shù)界目前有一種看法:認(rèn)為基于符號(hào)主義得傳統(tǒng)人工智能和基于聯(lián)接主義得神經(jīng)網(wǎng)絡(luò)是分別描述人腦左、右半腦的功能,反映了人類智能的兩重性:精確處理和非精確處理,分別面向認(rèn)識(shí)的理性和感性兩個(gè)方面,兩者的關(guān)系應(yīng)該是互補(bǔ)而非互相代替。理想的智能系統(tǒng)及其表現(xiàn)的智能行為應(yīng)是兩者相互結(jié)合的結(jié)果。

接下去的問題是,符號(hào)AI和聯(lián)接AI具體如何結(jié)合,兩者在智能系統(tǒng)中相互關(guān)系如何?分別扮演什么角色?目前這方面發(fā)表的文獻(xiàn)很多,大致有如下幾種類型:

1.松耦合模型:符號(hào)機(jī)制的專家系統(tǒng)與聯(lián)接機(jī)制的神經(jīng)網(wǎng)絡(luò)通過一個(gè)中間媒介(例如數(shù)據(jù)文件)進(jìn)行通訊。

2.緊耦合模型:與松耦合模型相比較,其通訊不是通過外部數(shù)據(jù)進(jìn)行,而是直接通過內(nèi)部數(shù)據(jù)完成,具有較高的效率。其主要類型有嵌入式系統(tǒng)和黑板結(jié)構(gòu)等。

3.轉(zhuǎn)換模型:將專家系統(tǒng)的知識(shí)轉(zhuǎn)換成神經(jīng)網(wǎng)絡(luò),或把神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換成專家系統(tǒng)的知識(shí),轉(zhuǎn)換前的系統(tǒng)稱為源系統(tǒng),轉(zhuǎn)換后的系統(tǒng)稱為目標(biāo)系統(tǒng),由一種機(jī)制轉(zhuǎn)成另一種機(jī)制。如果源系統(tǒng)是專家系統(tǒng),目標(biāo)系統(tǒng)是神經(jīng)網(wǎng)絡(luò),則可獲得學(xué)習(xí)能力及自適應(yīng)性;反之,可獲得單步推理能力、解釋能力及知識(shí)的顯式表示。當(dāng)然,轉(zhuǎn)換需要在兩種的機(jī)制之間,確定結(jié)構(gòu)上的一致性,目前主要問題是還沒有一種完備而精確的轉(zhuǎn)換方法實(shí)現(xiàn)兩者的轉(zhuǎn)換。有待進(jìn)一步研究。

4.綜合模型:綜合模型共享數(shù)據(jù)結(jié)構(gòu)和知識(shí)表示,這時(shí)聯(lián)接機(jī)制和符號(hào)機(jī)制不再分開,兩者相互結(jié)合成為一個(gè)整體,既具有符號(hào)機(jī)制的邏輯功能,又有聯(lián)接機(jī)制的自適應(yīng)和容錯(cuò)性的優(yōu)點(diǎn)和特點(diǎn)。例如聯(lián)接主義的專家系統(tǒng)等。

近年來神經(jīng)網(wǎng)絡(luò)研究的另一個(gè)趨勢,是將它與模糊邏輯、混沌理論、遺傳進(jìn)化算法等相結(jié)合,即所謂“混合神經(jīng)網(wǎng)絡(luò)”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法,人們希望通過她們之間的相互結(jié)合,能夠獲得具有有柔性信息處理功能的系統(tǒng)。下面分別介紹。

二.混沌理論與智能信息處理

混沌理論是對(duì)貌似無序而實(shí)際有序,表面上看來是雜亂無章的現(xiàn)象中,找出其規(guī)律,并予以處理的一門學(xué)科。早在七十年代,美國和歐洲的一些物理學(xué)家、生物學(xué)家、數(shù)學(xué)家就致力于尋求在許許多多不同種類的不規(guī)則性之間的聯(lián)系。生物學(xué)家發(fā)現(xiàn)在人類的心臟中有混沌現(xiàn)象存在,血管在顯微鏡下交叉纏繞,其中也有驚人的有序性。在生物腦神經(jīng)系統(tǒng)中從微觀的神經(jīng)膜電位到宏觀的腦電波,都可以觀察到混沌的性態(tài),證明混沌也是神經(jīng)系統(tǒng)的正常特性。

九十年代開始,則更進(jìn)一步將混沌和神經(jīng)網(wǎng)絡(luò)結(jié)合起來,提出多種混沌神經(jīng)網(wǎng)絡(luò)模型,并探索應(yīng)用混沌理論的各種信息處理方法。例如,在神經(jīng)元模型中,引入神經(jīng)膜的不應(yīng)性,研究神經(jīng)元模型的混沌響應(yīng),研究在神經(jīng)網(wǎng)絡(luò)的方程中,不應(yīng)性項(xiàng)的定標(biāo)參數(shù),不定性時(shí)間衰減常數(shù)等參數(shù)的性質(zhì),以及這些參數(shù)于神經(jīng)網(wǎng)絡(luò)混沌響應(yīng)的關(guān)系,并確定混沌---神經(jīng)網(wǎng)絡(luò)模型具有混沌解的參數(shù)空間。經(jīng)過試驗(yàn),由這種混沌神經(jīng)網(wǎng)絡(luò)模型所繪出的輸出圖形和腦電圖極為相似。

現(xiàn)代腦科學(xué)把人腦的工作過程看成為復(fù)雜的多層次的混沌動(dòng)力學(xué)系統(tǒng)。腦功能的物理基礎(chǔ)是混沌性質(zhì)的過程,腦的工作包含有混沌的性質(zhì)。通過混沌動(dòng)力學(xué),研究、分析腦模型的信息處理能力,可進(jìn)一步探索動(dòng)態(tài)聯(lián)想記憶、動(dòng)態(tài)學(xué)習(xí)并應(yīng)用到模式識(shí)別等工程領(lǐng)域。例如:

對(duì)混沌的隨機(jī)不規(guī)則現(xiàn)象,可利用混沌理論進(jìn)行非線性預(yù)測和決策。

對(duì)被噪聲所掩蓋的微弱信號(hào),如果噪聲是一種混沌現(xiàn)象,則可通過非線性辨識(shí),有效進(jìn)行濾波。

利用混沌現(xiàn)象對(duì)初始值的敏銳依賴性,構(gòu)成模式識(shí)別系統(tǒng)。

研究基于混沌---神經(jīng)網(wǎng)絡(luò)自適應(yīng)存儲(chǔ)檢索算法。該算法主要包括三個(gè)步驟,即:特征提取、自適應(yīng)學(xué)習(xí)和檢索。

模式特征提取采用從簡單的吸引子到混沌的層次分支結(jié)構(gòu)來描述,這種分支結(jié)構(gòu)有可能通過少數(shù)幾個(gè)系統(tǒng)參數(shù)的變化來加以控制,使復(fù)雜問題簡單化。自適應(yīng)學(xué)習(xí)采用神經(jīng)網(wǎng)絡(luò)的誤差反傳學(xué)習(xí)法。檢索過程是通過一個(gè)具有穩(wěn)定吸引子的動(dòng)力學(xué)系統(tǒng)來完成,即利用輸入的初始條件與某個(gè)吸引子(輸出)之間的存在直接對(duì)應(yīng)關(guān)系的方法進(jìn)行檢索。利用這種方法可應(yīng)用于模式識(shí)別。例如黑白圖象的人臉識(shí)別。

三.模糊集理論與模糊工程

八十年代以來在模糊集理論和應(yīng)用方面,也有很大進(jìn)展。1983年美國西海岸AI研究所發(fā)表了稱為REVEAL的模糊輔助決策系統(tǒng)并投入市場,1986年美國將模糊邏輯導(dǎo)入OPS---5,并研究成功模糊專家系統(tǒng)外殼FLOPS,1987年英國發(fā)表采用模糊PROLOG的智能系統(tǒng)FRIL等。除此通用工具的研制以外,各國還開發(fā)一系列用于專用目的的智能信息處理系統(tǒng)并實(shí)際應(yīng)用于智能控制、模式識(shí)別、醫(yī)療診斷、故障檢測等方面。

模糊集理論和神經(jīng)網(wǎng)絡(luò)雖然都屬于仿效生物體信息處理機(jī)制以獲得柔性信息處理功能的理論,但兩者所用的研究方法卻大不相同,神經(jīng)網(wǎng)絡(luò)著眼于腦的微觀網(wǎng)絡(luò)結(jié)構(gòu),通過學(xué)習(xí)、自組織化和非線性動(dòng)力學(xué)理論形成的并行分析方法,可處理無法語言化的模式信息。而模糊集理論則著眼于可用語言和概念作為代表的腦的宏觀功能,按照人為引入的隸屬度函數(shù),邏輯的處理包含有模糊性的語言信息。

神經(jīng)網(wǎng)絡(luò)和模糊集理論目標(biāo)相近而方法各異。因此如果兩者相互結(jié)合,必能達(dá)到取長補(bǔ)短的作用。將模糊和神經(jīng)網(wǎng)絡(luò)相結(jié)合的研究,約在15年前便已在神經(jīng)網(wǎng)絡(luò)領(lǐng)域開始,為了描述神經(jīng)細(xì)胞模型,開始采用模糊語言,把模糊集合及其運(yùn)算用于神經(jīng)元模型和描述神經(jīng)網(wǎng)絡(luò)系統(tǒng)。目前,有關(guān)模糊---神經(jīng)網(wǎng)絡(luò)模型的研究大體上可分為兩類:一類是以神經(jīng)網(wǎng)絡(luò)為主,結(jié)合模糊集理論。例如,將神經(jīng)網(wǎng)絡(luò)參數(shù)模糊化,采用模糊集合進(jìn)行模糊運(yùn)算。另一類以模糊集、模糊邏輯為主,結(jié)合神經(jīng)網(wǎng)絡(luò)方法,利用神經(jīng)網(wǎng)絡(luò)的自組織特性,達(dá)到柔性信息處理的目的。

與神經(jīng)網(wǎng)絡(luò)相比,模糊集理論和模糊計(jì)算是更接近實(shí)用化的理論,特別近年來美國和日本的各大公司都紛紛推出各種模糊芯片,研制了型號(hào)繁多的模糊推理板,并實(shí)際應(yīng)用于智能控制等各個(gè)應(yīng)用領(lǐng)域,建立“模糊工程”這樣一個(gè)新領(lǐng)域。日本更首先在模糊家電方面打開市場,帶有模糊控制,甚至標(biāo)以神經(jīng)---模糊智能控制的洗衣機(jī)、電冰箱、空調(diào)器、攝象機(jī)等已成為新一代家電的時(shí)髦產(chǎn)品。我國目前市場上也有許多洗衣機(jī),例如榮事達(dá)洗衣機(jī)就是采用模糊神經(jīng)網(wǎng)絡(luò)智能控制方式的洗衣機(jī)。

四.遺傳算法

遺傳算法(Genetic Algorithm :GA)是模擬生物的進(jìn)化現(xiàn)象(自然、淘汰、交叉、突然變異)的一種概率搜索和最優(yōu)化方法。是模擬自然淘汰和遺傳現(xiàn)象的工程模型。

GA的歷史可追溯到1960年,明確提出遺傳算法的是1975年美國Michigan大學(xué)的Holland博士,他根據(jù)生物進(jìn)化過程的適應(yīng)現(xiàn)象,提出如下的GA模型方案:

1.將多個(gè)生物的染色體(Chromosmoe)組成的符號(hào)集合,按文字進(jìn)行編碼,稱為個(gè)體。

2.定義評(píng)價(jià)函數(shù),表示個(gè)體對(duì)外部環(huán)境的適應(yīng)性。其數(shù)值大的個(gè)體表示對(duì)外部環(huán)境的適應(yīng)性高,它的生存(子孫的延續(xù))的概率也高。

3.每個(gè)個(gè)體由多個(gè)“部分”組合而成,每個(gè)部分隨機(jī)進(jìn)行交叉及突然變異等變化,并由此產(chǎn)生子孫(遺傳現(xiàn)象)。

4.個(gè)體的集合通過遺傳,由選擇淘汰產(chǎn)生下一代。

遺傳算法提出之后,很快得到人工智能、計(jì)算機(jī)、生物學(xué)等領(lǐng)域科學(xué)家的高度重視,并在各方面廣泛應(yīng)用。1989年美國Goldberg博士發(fā)表一本專著:“Genetic Algorithms in Search,Optimization and Machine Learning”。出版后產(chǎn)生較大影響,該書對(duì)GA的數(shù)學(xué)基礎(chǔ)理論,GA的基本定理、數(shù)理分析以及在搜索法、最優(yōu)化、機(jī)器學(xué)習(xí)等GA應(yīng)用方面進(jìn)行了深入淺出的介紹,并附有Pascal模擬程序。

1985年7月在美國召開第一屆“遺傳算法國際會(huì)議”(ICGA)。以后每隔兩年召開一次。近年來,遺傳算法發(fā)展很快,并廣泛應(yīng)用于信息技術(shù)的各個(gè)領(lǐng)域,例如:

智能控制:機(jī)器人控制。機(jī)器人路徑規(guī)劃。

工程設(shè)計(jì):微電子芯片的布局、布線;通信網(wǎng)絡(luò)設(shè)計(jì)、濾波器設(shè)計(jì)、噴氣發(fā)動(dòng)機(jī)設(shè)計(jì)。

圖象處理:圖象恢復(fù)、圖象識(shí)別、特征抽取。

調(diào)度規(guī)劃:生產(chǎn)規(guī)劃、調(diào)度問題、并行機(jī)任務(wù)分配。

優(yōu)化理論:TSP問題、背包問題、圖劃分問題。

人工生命:生命的遺傳進(jìn)化以及自增殖、自適應(yīng);免疫系統(tǒng)、生態(tài)系統(tǒng)等方面的研究。

神經(jīng)網(wǎng)絡(luò)、模糊集理論和以遺傳算法為代表的進(jìn)化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標(biāo)相近而方法各異;將它們相互結(jié)合,必能達(dá)到取長補(bǔ)短、各顯優(yōu)勢的效果。例如,遺傳算法與神經(jīng)網(wǎng)絡(luò)和模糊計(jì)算相結(jié)合方面就有:

神經(jīng)網(wǎng)絡(luò)連續(xù)權(quán)的進(jìn)化。

傳統(tǒng)神經(jīng)網(wǎng)絡(luò)如BP網(wǎng)絡(luò)是通過學(xué)習(xí),并按一定規(guī)則來改變數(shù)值分布。這種方法有訓(xùn)練時(shí)間過長和容易陷入局部優(yōu)化的問題。采用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)可以克服這個(gè)缺點(diǎn)。

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的進(jìn)化。

目前神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)全靠設(shè)計(jì)者的經(jīng)驗(yàn),由人事先確定,還沒有一種系統(tǒng)的方法來確定網(wǎng)絡(luò)結(jié)構(gòu),采用遺傳算法可用來優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的進(jìn)化。

采用遺傳算法可使神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程能夠適應(yīng)不同問題和環(huán)境的要求。

基于遺傳算法的模糊推理規(guī)則的優(yōu)化,以及隸屬度函數(shù)的自適應(yīng)調(diào)整也都取得很好效果。

上述神經(jīng)網(wǎng)絡(luò)、模糊計(jì)算、遺傳算法和混沌理論等都是智能信息處理的基本理論和方法。近年來學(xué)術(shù)界將它們統(tǒng)稱為“計(jì)算智能”。有關(guān)這方面更詳細(xì)的內(nèi)容,可參閱我們編著的下列著作:

“神經(jīng)網(wǎng)絡(luò)與神經(jīng)計(jì)算機(jī)”(1992年科學(xué)出版社出版)

篇7

關(guān)鍵詞:暖通空調(diào) 控制系統(tǒng) 設(shè)計(jì)

由于暖通空調(diào)具有時(shí)滯和大慣性,當(dāng)前的控制信號(hào)要等到很長時(shí)間才能在系統(tǒng)的輸出中反映,而廣義預(yù)測控制可以利用現(xiàn)在時(shí)刻的控制變量使未來時(shí)刻系統(tǒng)的輸出快速準(zhǔn)確的跟蹤期望的輸出。同時(shí)暖通空調(diào)的工況環(huán)境不斷變化且有干擾作用,用神經(jīng)網(wǎng)絡(luò)的強(qiáng)學(xué)習(xí)能力使暖通空調(diào)控制系統(tǒng)有效的抑制工況變化和干擾帶來的對(duì)控制效果不利的影響。因此本文把廣義預(yù)測控制和神經(jīng)網(wǎng)絡(luò)結(jié)合對(duì)暖通空調(diào)進(jìn)行控制。

本文選取的基于RBF模糊神經(jīng)網(wǎng)絡(luò)暖通空調(diào)廣義預(yù)測控制系統(tǒng)結(jié)構(gòu)如圖1所示:

圖1暖通空調(diào)廣義預(yù)測控制結(jié)構(gòu)圖

如前面所描述暖通空調(diào)系統(tǒng)具有非線性,時(shí)變性、大滯后和大慣性等特點(diǎn),還受到許多的干擾。圖中1所示干擾1為冷熱水干擾,主要有盤管中冷/熱水流量、壓力變化,這些干擾折合成冷/熱水溫度變化就會(huì)對(duì)系統(tǒng)造成一定的影響。干擾2為外界干擾,主要有日照、室外氣溫、外部空氣侵入以及新風(fēng)溫度變化和風(fēng)機(jī)轉(zhuǎn)速變化,這些干擾可以看成空調(diào)的送風(fēng)風(fēng)量變化。干擾3為房間內(nèi)部干擾,主要有人員的頻繁進(jìn)出、房間內(nèi)部各種耗能發(fā)熱設(shè)備的使用。

1、暖通空調(diào)控制器在線滾動(dòng)優(yōu)化

暖通空調(diào)廣義預(yù)測控制的在線滾動(dòng)優(yōu)化是利用模型辨識(shí)部分提供的預(yù)測輸出信息,根據(jù)優(yōu)化的目標(biāo)函數(shù)及選定的優(yōu)化方法進(jìn)行在線的滾動(dòng)優(yōu)化,從而得到合理的控制規(guī)律,考慮在線優(yōu)化的計(jì)算量,本文用RBF模糊神經(jīng)網(wǎng)絡(luò)完成廣義預(yù)測控制的在線滾動(dòng)優(yōu)化。實(shí)現(xiàn)在線滾動(dòng)優(yōu)化的RBF模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示:

模糊神經(jīng)網(wǎng)絡(luò)廣義預(yù)測控制器由圖2所示的網(wǎng)絡(luò)實(shí)現(xiàn),則模糊神經(jīng)網(wǎng)絡(luò)廣義預(yù)測控制器的出,即暖通空調(diào)冷凍水調(diào)節(jié)法電壓可表示為:選擇合理的參數(shù)Nl、N2、Nu、 。設(shè)控制目標(biāo)函數(shù)為:式中: 為房間期望溫度。

按性能指標(biāo),利用優(yōu)化方法獲得未來控制長度內(nèi)的冷凍水調(diào)節(jié)閥電壓,并取其首分量作為當(dāng)前時(shí)刻的冷凍水調(diào)節(jié)閥電壓??紤]降低在線計(jì)算的復(fù)雜性,采用了較常用的梯度下降法作為主要的優(yōu)化算法。優(yōu)化過程的關(guān)鍵是計(jì)算性能指標(biāo)對(duì)RBF模糊神經(jīng)網(wǎng)絡(luò)控制器參數(shù)的導(dǎo)數(shù)。

RBF模糊神經(jīng)網(wǎng)絡(luò)廣義預(yù)測控制器參數(shù)修正如下:

其中:對(duì)于的求取是通過暖通空調(diào)的預(yù)測模型獲得:

式(12)中的c、、w是實(shí)現(xiàn)暖通空調(diào)預(yù)測模型的RBF模糊神經(jīng)網(wǎng)絡(luò)的參數(shù)。

在每一個(gè)周期內(nèi),通過上述RBF模糊神經(jīng)網(wǎng)和修正方法,利用暖通空調(diào)預(yù)測模型提供的信息來完成給定目標(biāo)函數(shù)的優(yōu)化,進(jìn)而準(zhǔn)確的提供冷凍水調(diào)節(jié)閥電壓,從而實(shí)現(xiàn)廣義預(yù)測控制的在線滾動(dòng)優(yōu)化來得到暖通空調(diào)的合理控制規(guī)律。

2、暖通空調(diào)預(yù)測模型

在線滾動(dòng)優(yōu)化部分的房間溫度預(yù)測值yr和式(12)的求取是通過廣義預(yù)測中的模型預(yù)測所提供。

假定暖通空調(diào)輸入輸出特性由一般形式的離散方程描述:

式中:u,y一分別是調(diào)節(jié)閥的電壓和被調(diào)房間的輸出溫度,m,n―暖通空調(diào)輸入和輸出的階次,d一暖通空調(diào)系統(tǒng)的延遲。

用預(yù)測模型通過遞推算法對(duì)k+P時(shí)刻的系統(tǒng)輸出進(jìn)行估計(jì),遞推算法如下:

式中:yr為預(yù)測房間溫度

暖通空調(diào)的RBF模糊神經(jīng)網(wǎng)絡(luò)動(dòng)態(tài)模型,在暖通空調(diào)的廣義預(yù)測控制中,建立的暖通空調(diào)動(dòng)態(tài)模型,通過反復(fù)迭代來完成對(duì)k+p時(shí)刻的暖通空調(diào)系統(tǒng)輸出的估計(jì),可知通過暖通空調(diào)動(dòng)態(tài)模型的迭代計(jì)算,可以在各種工況變化和干擾作用下,為暖通空調(diào)廣義預(yù)測控制系統(tǒng)提供準(zhǔn)確的未來房間預(yù)測溫度。

3、暖通空調(diào)廣義預(yù)測控制反饋校正

預(yù)測控制算法在進(jìn)行滾動(dòng)優(yōu)化時(shí),優(yōu)化的基點(diǎn)應(yīng)與系統(tǒng)實(shí)際一致。但本文中,由于暖通空調(diào)系統(tǒng)受諸多干擾的影響,有可能導(dǎo)致辨識(shí)模型的失配。既基于不變RBF模糊神經(jīng)網(wǎng)模型的預(yù)測不可能和實(shí)際空氣處理單元完全相符。這就需要用附加的預(yù)測手段補(bǔ)充模型預(yù)測的不足,或者對(duì)基礎(chǔ)模型進(jìn)行在線修正。況且滾動(dòng)優(yōu)只有建立在反饋校正的基礎(chǔ)上,才能體現(xiàn)出其優(yōu)越性。本文選取的是根據(jù)目標(biāo)函數(shù)對(duì)暖通空調(diào)預(yù)測模型進(jìn)行參數(shù)修正。

對(duì)RBF模糊神經(jīng)網(wǎng)絡(luò)各隱單元的“中心”和“寬度”和隱層到輸出層的權(quán)值采用梯度下降法進(jìn)行調(diào)整;

設(shè)其中,yr為暖通空調(diào)預(yù)測模型輸出,y為房間溫度,Ep為平方誤差函數(shù)。那么,學(xué)習(xí)過程中對(duì)實(shí)現(xiàn)暖通空調(diào)模型預(yù)測的RBF模糊神經(jīng)網(wǎng)絡(luò)的cij, ,wj的調(diào)整一下公式來進(jìn)行:

在控制的每一步,都實(shí)時(shí)檢測被控對(duì)象的實(shí)際輸出與RBF模糊神經(jīng)網(wǎng)絡(luò)預(yù)測器輸出之間的誤差,若此誤差大于預(yù)先設(shè)定的允許誤差,則利用上述修正方法修正暖通空調(diào)預(yù)測模型的RBF模糊神經(jīng)網(wǎng)絡(luò)參數(shù);否則,維持原有的RBF模糊神經(jīng)網(wǎng)絡(luò)預(yù)測模型。

(4)由上面對(duì)基于RBF模糊神經(jīng)網(wǎng)預(yù)測控制的分析,我們可以將模糊神經(jīng)網(wǎng)絡(luò)廣義預(yù)測對(duì)空氣處理單元的控制算法歸納為以下的步驟:

1)通過暖通空調(diào)冷凍水調(diào)節(jié)閥電壓和被調(diào)房間溫度數(shù)據(jù)完成預(yù)測功能的模糊RBF神經(jīng)網(wǎng)絡(luò)的初始參數(shù)設(shè)置,同時(shí)初步建立在線優(yōu)化控制器RBF模糊神經(jīng)網(wǎng)的結(jié)構(gòu);

2)設(shè)置被調(diào)房間溫度期望軌跡少(k)和被調(diào)房間實(shí)際溫度y(k),然后計(jì)算溫度誤差e(k)、誤差變化ec(k);

3)根據(jù)式(5.2)計(jì)算模糊神經(jīng)網(wǎng)絡(luò)廣義預(yù)測控制器的輸出,該輸出同時(shí)送被控對(duì)象及模糊RBF神經(jīng)網(wǎng)絡(luò)預(yù)測器;

4)利用實(shí)現(xiàn)式(13)離散方程的RBF模糊辨識(shí)網(wǎng)絡(luò)計(jì)算系統(tǒng)的預(yù)測輸出,以式 (14)為目標(biāo)函數(shù),并采用式(15-20)修正模糊RBF神經(jīng)網(wǎng)絡(luò)預(yù)測器的參數(shù);

5)由式(5.2)計(jì)u(k+N),以式(3)為目標(biāo)函數(shù),并按式(4-12)修改模糊神經(jīng)網(wǎng)絡(luò)廣義預(yù)測在線優(yōu)化控制器的參數(shù);

6)返回計(jì)算步驟2)。

參考文獻(xiàn):

篇8

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化;灰色關(guān)聯(lián)度分析;剪枝算法

4 實(shí)例建模

4.1 分類實(shí)例――XOR問題

XOR問題就是如何用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)異或邏輯關(guān)系,即Y=A?XOR?B。對(duì)于這個(gè)問題用單個(gè)神經(jīng)元模型無法解決,因?yàn)樵搯栴}是線性不可分的,對(duì)于兩維輸入空間,神經(jīng)元的作用可以理解為對(duì)輸入空間進(jìn)行一條直線劃分。

多層神經(jīng)網(wǎng)絡(luò)可以解決這個(gè)問題,因?yàn)槎鄬泳W(wǎng)絡(luò)引入了中間隱含層,每個(gè)隱含神經(jīng)元可以按不同的方法來劃分輸入空間抽取輸入空間中包含的某些特征,從而形成更為復(fù)雜的分類區(qū)域。理論上已經(jīng)證明三層神經(jīng)網(wǎng)絡(luò)足以解決任意復(fù)雜分類問題。

我們考慮用BP神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)XOR問題,初步建立一個(gè)隱含層為30個(gè)神經(jīng)元的網(wǎng)絡(luò)結(jié)構(gòu),再運(yùn)用前文灰色關(guān)聯(lián)度分析的方法進(jìn)行網(wǎng)絡(luò)剪枝,以實(shí)現(xiàn)最簡網(wǎng)絡(luò)的XOR問題。

XOR問題的樣本有四個(gè),即他們的輸入為x=■;對(duì)應(yīng)的輸出為:y=[0101];輸入是2維向量,用2個(gè)神經(jīng)元作為輸入層,網(wǎng)絡(luò)輸出是1維向量,用1個(gè)神經(jīng)元作為輸出層,對(duì)于這個(gè)問題,在BP神經(jīng)網(wǎng)絡(luò)隱含層節(jié)點(diǎn)個(gè)數(shù)未知的情況下,先取30個(gè)節(jié)點(diǎn),經(jīng)過簡單的訓(xùn)練后得到網(wǎng)絡(luò)結(jié)構(gòu),再利用灰色關(guān)聯(lián)分析優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)。

初始結(jié)構(gòu):2-30-1,神經(jīng)元的傳遞函數(shù)取tin sig函數(shù),BP網(wǎng)絡(luò)的訓(xùn)練函數(shù)取tan sig;設(shè)定網(wǎng)絡(luò)的訓(xùn)練參數(shù)如下:目標(biāo)誤差為1e-4; 最大迭代步數(shù)為5000步;其余為系統(tǒng)默認(rèn)值。

灰色關(guān)聯(lián)計(jì)算時(shí)選取的分辨系數(shù)為?籽=0.4;額定灰色關(guān)聯(lián)度為?著=0.55,最大剪枝次數(shù)為5,考慮到?jīng)]進(jìn)行一次剪枝和并枝操作,網(wǎng)絡(luò)訓(xùn)練較好,各神經(jīng)元間的聯(lián)系更加緊密,故每進(jìn)行一次剪枝和并枝過程,額定灰色關(guān)聯(lián)度累加一次即?著=?著+0.05;

由表1-3可知,在程序運(yùn)行過程中,原BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)首先調(diào)整為2-15-1,此時(shí)被刪除的節(jié)點(diǎn)是E=2,5,6,7,9,10,16,17,20,21,

22,23,24,25,29共15個(gè),在此基礎(chǔ)上繼續(xù)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練學(xué)習(xí),第二次刪除的節(jié)點(diǎn)是E=14,26,27,28,30共4個(gè),此時(shí)的網(wǎng)絡(luò)結(jié)構(gòu)調(diào)整為2-10-1,依次過程第五次網(wǎng)絡(luò)達(dá)到穩(wěn)定,得到BP網(wǎng)的最優(yōu)化結(jié)構(gòu)為2-3-1,具體每次調(diào)整過程對(duì)應(yīng)的縱向節(jié)點(diǎn)和橫向節(jié)點(diǎn)以及關(guān)聯(lián)度如表1-2所示(省略前兩次調(diào)整過程)。

每次剪枝完后網(wǎng)絡(luò)的輸出值是比較可觀的,誤差也是接近我們的目標(biāo)誤差,精度很高,足見雖然每次減少了隱含層神經(jīng)節(jié)的個(gè)數(shù),但網(wǎng)絡(luò)訓(xùn)練不受影響,也證實(shí)了剪枝算法的合理性,如表3所示。

4.2 函數(shù)逼近實(shí)例――Y=sin(X)

我們考慮用BP神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)函數(shù)逼近問題,初步建立一個(gè)隱含層為30個(gè)神經(jīng)元的網(wǎng)絡(luò)結(jié)構(gòu),進(jìn)行網(wǎng)絡(luò)剪枝運(yùn)用前文灰色關(guān)聯(lián)度分析的方法,以實(shí)現(xiàn)最簡網(wǎng)絡(luò)的Y=sin(X)函數(shù)逼近問題。

我們選取100個(gè)樣本,隱含層節(jié)點(diǎn)數(shù)為30,輸入和輸出都是一維的。選取Y=sin(X)為逼近函數(shù),輸入從0.01?仔到0.02?仔,增長率為0.02?仔。最大訓(xùn)練次數(shù)為5000,學(xué)習(xí)速率為0.005,目標(biāo)誤差為1e-3。

灰色關(guān)聯(lián)計(jì)算時(shí)選取的分辨系數(shù)為?籽=0.5;額定灰色關(guān)聯(lián)度為?著=0.50,最大剪枝次數(shù)為5,考慮到?jīng)]進(jìn)行一次剪枝和并枝操作,網(wǎng)絡(luò)訓(xùn)練較好,各神經(jīng)元間的聯(lián)系更加緊密,故每進(jìn)行一次剪枝和并枝過程,額定灰色關(guān)聯(lián)度累加一次即?著=?著+0.05;

通過調(diào)節(jié)權(quán)值和閾值,網(wǎng)絡(luò)達(dá)到穩(wěn)定后,進(jìn)行剪枝操作,第一次剪枝節(jié)點(diǎn)為E=12,13,21,25,27第二次剪枝節(jié)點(diǎn)為E=2,5,6,7,11,

16,22,30第三次剪枝節(jié)點(diǎn)為E=10,14,26,28,最終隱層節(jié)點(diǎn)為7個(gè)。函數(shù)逼近結(jié)果如圖1所示。由圖可知,大體符合函數(shù)逼近的趨勢,逼近效果較好。

5 結(jié)束語

文章通過分析了幾類前饋神經(jīng)網(wǎng)絡(luò)縱向和橫向信息的傳輸特點(diǎn),采用灰色關(guān)聯(lián)分析方法,通過剪枝和并枝過程來設(shè)計(jì)一種以BP算法為例的剪枝算法,數(shù)值試驗(yàn)結(jié)果表明這種方法非常有效,同時(shí)也對(duì)前饋神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)優(yōu)化提供了一種新的學(xué)習(xí)算法。

參考文獻(xiàn)

[1]馮知凡.基于圖像處理及BP神經(jīng)網(wǎng)絡(luò)的車牌識(shí)別技術(shù)的研究[D].武漢科技大學(xué),2011.

[2]楊晟院,高協(xié)平.基于面向?qū)ο驜P算法的灰度位圖圖像處理[J].計(jì)算機(jī)工程與應(yīng)用,2003,33:103-105.

[3]周凌翱.改進(jìn)BP神經(jīng)網(wǎng)絡(luò)在模式識(shí)別中的應(yīng)用及研究[D].南京理工大學(xué),2010.

[4]張宇.基于BP神經(jīng)網(wǎng)絡(luò)匯率預(yù)測的智能交易系統(tǒng)[D].安徽大學(xué),2011.

[5]李聰.基于BP神經(jīng)網(wǎng)絡(luò)的股票指數(shù)期貨價(jià)格預(yù)測[D].青島大學(xué),2012.

[6]黃慶斌.BP算法的改進(jìn)及其應(yīng)用研究[D].西南交通大學(xué),2010.

[7]李曉峰,徐玖平,王蔭清,賀昌政.BP人工神經(jīng)網(wǎng)絡(luò)自適應(yīng)學(xué)習(xí)算法的建立及其應(yīng)用[J].系統(tǒng)工程理論與實(shí)踐,2004,05:1-8.

[8]黃麗.BP神經(jīng)網(wǎng)絡(luò)算法改進(jìn)及應(yīng)用研究[D].重慶師范大學(xué),2008.

[9]陳小前,羅世彬,王振國,陶玉靜.BP神經(jīng)網(wǎng)絡(luò)應(yīng)用中的前后處理過程研究[J].系統(tǒng)工程理論與實(shí)踐,2002,1:65-70+88.

[10]熊焱,吳微,張超,亢喜岱.基于灰色關(guān)聯(lián)分析的高階神經(jīng)網(wǎng)絡(luò)剪枝算法[J].大連理工大學(xué)學(xué)報(bào),2010,3:463-468.

篇9

關(guān)鍵詞: BP算法; 入侵檢測; 神經(jīng)網(wǎng)絡(luò); 隨機(jī)優(yōu)化算子

中圖分類號(hào): TN915.08?34; TP393.08 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2017)11?0091?04

Research on BP algorithm based on neural network and its application

in network intrusion detection

LUO Junsong

(College of Information Science and Technology, Chengdu University of Technology, Chengdu 610059, China)

Abstract: By analyzing the problems of BP neural network applied to the detection system, the automatic variable?rate learning method, forgetting factor and random optimization operator are introduced into the BP algorithm on the basis of traditional BP algorithm. The BP algorithm is applied to the network intrusion detection system. The simulation results show that the improved BP neural network algorithm applied to intrusion detection has the characteristics of fast speed and easy convergence, and can quickly obtain the target accuracy of 0.02. The detection rate, missed detection rate and false alarm rate of the improved BP neural network algorithm can reach up to 96.17%, 3.83% and 4.15% respectively, whose detection rate is 11.65% higher than that of the traditional BP algorithm, the missed detection rate is 10.66% lower than that of the traditional BP algorithm, and the false alarm rate is 4.07% lower than that of the traditional BP algorithm. The superiority of the algorithm is obvious.

Keywords: BP algorithm; intrusion detection; neural network; random optimization operator

0 引 言

隨著通信技術(shù)和計(jì)算機(jī)技術(shù)的快速發(fā)展,計(jì)算機(jī)的網(wǎng)絡(luò)規(guī)模越來越大,通信系統(tǒng)也越來越復(fù)雜,由于計(jì)算機(jī)網(wǎng)絡(luò)本身具有漏洞,同時(shí)還有黑客對(duì)網(wǎng)絡(luò)進(jìn)行攻擊,因此計(jì)算機(jī)網(wǎng)絡(luò)受到的威脅和攻擊日益增加[1?3]。網(wǎng)絡(luò)安全形勢越來越嚴(yán)峻。通過入侵檢測技術(shù)可收集計(jì)算機(jī)網(wǎng)絡(luò)中的若干關(guān)鍵點(diǎn)信息,同時(shí)對(duì)這些信息進(jìn)行分析,并對(duì)網(wǎng)絡(luò)是否遭到襲擊、是否存在違反安全策略行為進(jìn)行檢查,并做出及時(shí)響應(yīng),對(duì)網(wǎng)絡(luò)連接進(jìn)行切斷并報(bào)警等[4?6]。目前傾向于通過入侵檢測技術(shù)結(jié)合人工智能算法進(jìn)行相關(guān)研究,對(duì)于各種入侵行為,采用人工智能算法通過自學(xué)習(xí)、自適應(yīng)能力進(jìn)行識(shí)別、檢測[7]。

作為一種重要的模式識(shí)別方法,人工神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織、推廣能力強(qiáng)等特點(diǎn)[8]。在入侵檢測系統(tǒng)中,應(yīng)用人工神經(jīng)網(wǎng)絡(luò)方法可使系統(tǒng)能較好地識(shí)別已知攻擊,同時(shí)還具有對(duì)未知攻擊進(jìn)行檢測的能力[9]。但是在異常入侵檢測系統(tǒng)中,應(yīng)用標(biāo)準(zhǔn)BP算法存在收斂局部極小值、學(xué)習(xí)速度慢等缺點(diǎn),這在很大程度上影響了入侵檢測系統(tǒng)的性能[10]。本文在對(duì)原有BP神經(jīng)網(wǎng)絡(luò)算法進(jìn)行改進(jìn)的基礎(chǔ)上,研究了優(yōu)化的神經(jīng)網(wǎng)絡(luò)BP算法及其在網(wǎng)絡(luò)入侵檢測中的應(yīng)用。

1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò),包括輸入信號(hào)前向傳遞和誤差反向傳播兩個(gè)過程,在結(jié)構(gòu)上一般由輸入層、隱含層、輸出層三層構(gòu)成,每一層的神經(jīng)元狀態(tài)只影響下一層神經(jīng)元狀態(tài)。它被廣泛應(yīng)用在BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型中。網(wǎng)絡(luò)結(jié)構(gòu)一般只需單個(gè)隱含層就能以任意精度逼近任意有理函數(shù)。訓(xùn)練樣本的輸入、輸出向量的維數(shù)分別決定了網(wǎng)絡(luò)的輸入、輸出層神經(jīng)節(jié)點(diǎn)個(gè)數(shù),典型的只有單個(gè)隱含層、單個(gè)輸出的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)

圖1中,為BP神經(jīng)網(wǎng)絡(luò)的一組輸入向量;為網(wǎng)絡(luò)的目標(biāo)輸出值;為輸入層與隱含層之間的連接權(quán)值;為隱含層c輸出層之間的連接權(quán)值;分別為隱含層和輸出層的節(jié)點(diǎn)閾值。若設(shè)隱含層節(jié)點(diǎn)個(gè)數(shù)為則在前向傳遞中,輸入信號(hào)向量從輸入層經(jīng)隱含層逐層傳輸,最后到輸出層,通過各層連接權(quán)值矢量、閾值矢量和每一層相應(yīng)的激勵(lì)函數(shù)進(jìn)行計(jì)算。得到輸出層的預(yù)測輸出值若預(yù)測值與目標(biāo)值之間有誤差,則誤差部分轉(zhuǎn)入反向逐層傳遞,沿誤差減小方向調(diào)整網(wǎng)絡(luò)各層連接的權(quán)值、閾值。反復(fù)執(zhí)行以上過程,使得BP神經(jīng)網(wǎng)絡(luò)的預(yù)測值不斷逼近實(shí)際輸出值。

2 入侵檢測算法

網(wǎng)絡(luò)入侵檢測通過分析系統(tǒng)數(shù)據(jù),一旦有網(wǎng)絡(luò)攻擊行為、非授權(quán)網(wǎng)絡(luò)訪問時(shí),入侵檢測系統(tǒng)就會(huì)報(bào)警,同時(shí)對(duì)入侵線路進(jìn)行切斷。入侵檢測系統(tǒng)應(yīng)具有監(jiān)視系統(tǒng)、用戶的活動(dòng),對(duì)系統(tǒng)、用戶活動(dòng)進(jìn)行分析,對(duì)異常行為模式進(jìn)行分析,對(duì)已知進(jìn)攻模式進(jìn)行識(shí)別,審計(jì)系統(tǒng)弱點(diǎn)、構(gòu)造,跟蹤管理系統(tǒng)審計(jì),對(duì)系統(tǒng)、數(shù)據(jù)文件完整性進(jìn)行評(píng)估,對(duì)用戶違反安全策略行為進(jìn)行識(shí)別。常見的攻擊手段目前包括非授權(quán)獲得權(quán)限、非授權(quán)訪問、探測、拒絕服務(wù)等。在實(shí)際中,這些攻擊手段變異很大,入侵檢測難度較大。BP神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的自學(xué)習(xí)和自組織能力,經(jīng)過訓(xùn)練后,對(duì)以前觀察到的入侵檢測行為模式,BP神經(jīng)網(wǎng)絡(luò)會(huì)進(jìn)行歸納和總結(jié),可識(shí)別出已觀察到的攻擊和已知攻擊變異的新攻擊,圖2為網(wǎng)絡(luò)的入侵檢測過程。

3 改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)入侵檢測

3.1 BP神經(jīng)網(wǎng)絡(luò)用于檢測系統(tǒng)存在的問題

BP神經(jīng)網(wǎng)絡(luò)采用分布式存儲(chǔ),但傳統(tǒng)的BP算法存在一些不足,包括極小的局部,較慢的學(xué)習(xí)收斂速度,缺乏理論隱含層節(jié)點(diǎn)的選取,已經(jīng)學(xué)完樣本會(huì)受到新加入樣本的影響,每次樣本的輸入必須具有確定相同的特征數(shù)目。

在入侵檢測中,BP神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)方式主要是與現(xiàn)有系統(tǒng)結(jié)合進(jìn)行,BP神經(jīng)網(wǎng)絡(luò)與應(yīng)用模式識(shí)別系統(tǒng)相結(jié)合使用,例如與專家系統(tǒng)結(jié)合。在這種方式中,BP神經(jīng)網(wǎng)絡(luò)可作為系統(tǒng)組成部分,通常是作為信息過濾模塊或信息預(yù)處理模塊,當(dāng)信息輸入系統(tǒng)后,神經(jīng)網(wǎng)絡(luò)會(huì)對(duì)信息做過濾處理。另外,神經(jīng)網(wǎng)絡(luò)可規(guī)則自動(dòng)生成模塊,進(jìn)而更新入侵檢測系統(tǒng)規(guī)則庫、模式庫。這種方式的優(yōu)點(diǎn)是能將入侵檢測系統(tǒng)的工作性能提高,缺點(diǎn)是這種方式神經(jīng)網(wǎng)絡(luò)的真正優(yōu)勢不能得到充分發(fā)揮。

3.2 改進(jìn)的神經(jīng)網(wǎng)絡(luò)算法

在信號(hào)檢測、非線性處理、模式識(shí)別等領(lǐng)域,人工神經(jīng)網(wǎng)絡(luò)應(yīng)用較多,這是因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)自組織性、自適應(yīng)性非常好,同時(shí)其非線性特性明顯,信息存儲(chǔ)為分布式模式、可進(jìn)行大規(guī)模的并行處理。實(shí)質(zhì)上BP神經(jīng)網(wǎng)絡(luò)算法屬于非線性優(yōu)化的梯度算法,在收斂性上,該算法存在不足,也就是說該算法的學(xué)習(xí)結(jié)果有可能落入到均方誤差全局最小點(diǎn),也有可能落入到局部極小點(diǎn),造成算法不收斂,使工作模式陷入錯(cuò)誤。

入侵檢測系統(tǒng)的主要功能是對(duì)入侵計(jì)算機(jī)網(wǎng)絡(luò)的行為和計(jì)算機(jī)系統(tǒng)進(jìn)行檢測,包括數(shù)據(jù)聚類、數(shù)據(jù)采集、分析判斷行為、對(duì)入侵行為進(jìn)行響應(yīng)、報(bào)警等。BP網(wǎng)絡(luò)各層神經(jīng)元僅連接相鄰層神經(jīng)元;在各層內(nèi)部,神經(jīng)元間無連接;同時(shí)各層神經(jīng)元間也無反饋連接。在信號(hào)輸入后,傳播到隱節(jié)點(diǎn)經(jīng)變換函數(shù)再將信息傳播到輸出節(jié)點(diǎn),經(jīng)過處理,輸出結(jié)果。本文將改進(jìn)的BP 神經(jīng)網(wǎng)絡(luò)用于入侵檢測系統(tǒng),其檢測模型見圖3。

3.2.1 采用自動(dòng)變速率學(xué)習(xí)法

傳統(tǒng)BP算法在梯度基礎(chǔ)上,采用最陡下降法LMS學(xué)習(xí)問題,學(xué)習(xí)步長為一個(gè)較小值,并且這個(gè)值是固定不變的,對(duì)網(wǎng)絡(luò)收斂無益處。因而選擇基于梯度方向自動(dòng)對(duì)學(xué)習(xí)速率進(jìn)行調(diào)節(jié)。通過梯度對(duì)學(xué)習(xí)方向做最終確定,在梯度方向上,學(xué)習(xí)步長由速率決定。若相鄰兩次梯度方向是相同的,表明該方向的收斂有利;若相鄰兩次梯度方向是相反的,表明該方向的收斂不穩(wěn)定。根據(jù)這個(gè)規(guī)律,通過兩次相對(duì)梯度的變化確定學(xué)習(xí)步長。當(dāng)兩次梯度為相同方向時(shí),學(xué)習(xí)步長增大,該方向上學(xué)習(xí)速度要加快;在兩次梯度為相反方向時(shí),學(xué)習(xí)步長減小,整個(gè)網(wǎng)絡(luò)收斂速度要加快,自適應(yīng)速率調(diào)節(jié)方法如下:

(1)

(2)

式中表示在時(shí)刻和時(shí)刻梯度的乘積。

3.2.2 引入遺忘因子

根據(jù)相鄰兩次梯度變化,通過自適應(yīng)變速率學(xué)習(xí)法對(duì)學(xué)習(xí)步長算法進(jìn)行確定。變化單純學(xué)習(xí)速率,這時(shí)收斂速度不能完全保證,但不會(huì)有振蕩產(chǎn)生,因此考慮變速率學(xué)習(xí)法,在權(quán)值調(diào)節(jié)量上,加一個(gè)量,這個(gè)量正比于前幾次的加權(quán),權(quán)值調(diào)節(jié)量采用式(3)計(jì)算:

(3)

式中:表示遺忘因子,引入遺忘因子項(xiàng),在學(xué)習(xí)過程中可通過對(duì)學(xué)習(xí)速率進(jìn)行等效微調(diào)的效果進(jìn)行說明。遺忘因子的作用是緩沖平滑,并使調(diào)節(jié)的平均方向朝底部變化。

3.2.3 引入隨機(jī)優(yōu)化算子

BP神經(jīng)網(wǎng)絡(luò)算法在引入遺忘因子,采用自動(dòng)變速率學(xué)習(xí)法后,雖然可微調(diào)學(xué)習(xí)速率,但BP神經(jīng)網(wǎng)絡(luò)的不足和限制仍存在,為了進(jìn)一步對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,本文引入隨機(jī)優(yōu)化算子,當(dāng)網(wǎng)絡(luò)權(quán)值誤差迭代達(dá)到一定次數(shù)后,收斂不明顯或連續(xù)幾次發(fā)生系統(tǒng)誤差函數(shù)梯度變化,這種情況表明網(wǎng)絡(luò)進(jìn)入疲乏狀態(tài),要借助外界推動(dòng)力對(duì)網(wǎng)絡(luò)進(jìn)行激活。當(dāng)出現(xiàn)這兩種情況時(shí),與權(quán)值維數(shù)相同的隨機(jī)數(shù)就產(chǎn)生了,直接將權(quán)值和隨機(jī)數(shù)相加,對(duì)系統(tǒng)誤差變化進(jìn)行判斷,若誤差未降低,繼續(xù)產(chǎn)生隨機(jī)數(shù),進(jìn)行權(quán)值修改,當(dāng)誤差出現(xiàn)減少時(shí)停止,然后再從新權(quán)值繼續(xù)開始BP算法,隨機(jī)優(yōu)化算子可隨機(jī)變化搜索方向,局部極小點(diǎn)就擺脫掉了,圖4為改進(jìn)的BP算法流程圖。

4 仿真實(shí)驗(yàn)

本文的仿真實(shí)驗(yàn)在Matlab 7.0實(shí)驗(yàn)平臺(tái)進(jìn)行,以此來驗(yàn)證提出改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法是否能達(dá)到較好的效果,本文同時(shí)給出采用未改進(jìn)的BP算法網(wǎng)絡(luò)入侵檢測和改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法網(wǎng)絡(luò)入侵檢測模型仿真實(shí)驗(yàn)結(jié)果。

圖5為兩種算法得到的訓(xùn)練精度。從兩種算法的實(shí)驗(yàn)仿真結(jié)果可看出,將改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法用于入侵檢測,速度快、易收斂,目標(biāo)精度0.02很快達(dá)到。在規(guī)定周期內(nèi),未改進(jìn)的BP算法不能達(dá)到規(guī)定的目標(biāo)精度,易陷入局部極小,本文提出的改進(jìn)的BP算法所用訓(xùn)練周期較短,學(xué)習(xí)時(shí)間縮短顯著,效果良好。

評(píng)價(jià)檢測模型的標(biāo)準(zhǔn)為漏報(bào)率、誤報(bào)率、檢測率,其定義分別如下:

表1為未改進(jìn)的BP算法與改進(jìn)的BP算法的比較結(jié)果,從表1中可看出,改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法的檢測率、漏報(bào)率、誤報(bào)率分別為96.17%,3.83%,4.15%,檢測率比未改進(jìn)的BP算法要高出11.65%,漏報(bào)率比未改進(jìn)的BP算法要低10.66%,誤報(bào)率比未改進(jìn)的BP算法要低4.07%。

表1 兩種算法的入侵檢測結(jié)果

[算法 訓(xùn)練周期 /s 檢測率 /% 漏報(bào)率 /% 誤報(bào)率 /% 基本BP算法 480 84.52 14.49 8.22 改進(jìn)的BP算法 480 96.17 3.83 4.15 ]

5 結(jié) 語

本文在對(duì)原有BP 神經(jīng)網(wǎng)絡(luò)算法進(jìn)行改進(jìn)的基礎(chǔ)上,研究了改進(jìn)優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)算法及其在網(wǎng)絡(luò)入侵檢測中的應(yīng)用。通過分析BP神經(jīng)網(wǎng)絡(luò)用于檢測系統(tǒng)存在的問題,在傳統(tǒng)BP算法基礎(chǔ)上,采用自動(dòng)變速率學(xué)習(xí)法,引入遺忘因子、隨機(jī)優(yōu)化算子,并將其用于網(wǎng)絡(luò)入侵檢測系統(tǒng)。仿真實(shí)驗(yàn)表明,改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法用于入侵檢測,速度快易收斂,目標(biāo)精度0.02很快達(dá)到。本文算法具有明顯的優(yōu)越性,各種入侵行為檢測率得到明顯提高,系統(tǒng)誤報(bào)率也降低了,入侵檢測系統(tǒng)性能得到有效改進(jìn),本文算法優(yōu)越性明顯。

參考文獻(xiàn)

[1] 宋玲,常磊.變異粒子群優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)在入侵檢測中的應(yīng)用[J].智能系統(tǒng)學(xué)報(bào),2013,8(6):558?563.

[2] 劉伉伉,謝福,郭雪雪.基于BP神經(jīng)網(wǎng)絡(luò)的云計(jì)算入侵檢測技術(shù)研究[J].計(jì)算機(jī)與數(shù)字工程,2014(12):2357?2361.

[3] 黃煜坤.基于BP神經(jīng)網(wǎng)絡(luò)算法的入侵檢測技術(shù)[J].電子制作,2015(10):60?62.

[4] 沈夏炯,王龍,韓道軍.人工蜂群優(yōu)化的BP 神經(jīng)網(wǎng)絡(luò)在入侵檢測中的應(yīng)用[J].計(jì)算機(jī)工程,2016,42(2):190?194.

[5] 王玲.基于BP 算法的人工神經(jīng)網(wǎng)絡(luò)建模研究[J].裝備制造技術(shù),2014(1):162?164.

[6] 王俊士,李江濤.一種改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)算法在入侵檢測中的應(yīng)用[J].電腦知識(shí)與技術(shù),2014,10(3):614?617.

[7] 顏謙和,顏珍.遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)入侵檢測系統(tǒng)[J].計(jì)算機(jī)仿真,2011,28(4):141?144.

[8] 汪潔.基于神經(jīng)網(wǎng)絡(luò)的入侵z測系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[J].計(jì)算機(jī)應(yīng)用與軟件,2013(5):320?322.

篇10

關(guān)鍵詞 神經(jīng)網(wǎng)絡(luò);空調(diào);應(yīng)用

中圖分類號(hào) TP387 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 1673-9671-(2012)071-0184-02

中央空調(diào)系統(tǒng)是一個(gè)龐大復(fù)雜的系統(tǒng),主要包括:空調(diào)冷熱源系統(tǒng)、水或空氣系統(tǒng)、控制系統(tǒng)等,空調(diào)系統(tǒng)能耗與影響因素之間是一種多變量、強(qiáng)耦合、嚴(yán)重非線性的關(guān)系,具有很強(qiáng)的動(dòng)態(tài)性。而人工神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)從輸入到輸出的任意非線性映射,能夠模擬高度非線性系統(tǒng),具有較強(qiáng)的學(xué)習(xí)能力、自適應(yīng)能力、容錯(cuò)能力和聯(lián)想能力,已成為復(fù)雜的非線性系統(tǒng)建模、仿真、預(yù)測的新型工具,人工神經(jīng)網(wǎng)絡(luò)自20世紀(jì)40年代初被首度提出來以后,經(jīng)過幾十年的發(fā)展,廣泛運(yùn)用于模式識(shí)別和圖像處理、控制與優(yōu)化、人工智能等方面。隨著我國空調(diào)事業(yè)的快速發(fā)展及節(jié)能減排新形下,人工神經(jīng)網(wǎng)絡(luò)在空調(diào)系統(tǒng)中的運(yùn)用越來越受到廣大暖通空調(diào)研究者的關(guān)注。

1 神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是對(duì)人腦或生物神經(jīng)網(wǎng)絡(luò)的抽象和建模,具有從環(huán)境學(xué)習(xí)的能力,以類似生物的交互方式適應(yīng)環(huán)境。人工神經(jīng)網(wǎng)絡(luò)是一個(gè)由大量簡單的神經(jīng)元廣泛聯(lián)接組成的復(fù)合系統(tǒng),當(dāng)系統(tǒng)被訓(xùn)練達(dá)到平衡后,由各個(gè)神經(jīng)元的權(quán)值組成的整個(gè)網(wǎng)絡(luò)的分布狀態(tài),就是所求的結(jié)果。網(wǎng)絡(luò)學(xué)習(xí)的過程也就是各神經(jīng)元權(quán)值的調(diào)整過程。人工神經(jīng)網(wǎng)絡(luò)根據(jù)連接方式不同可以分為兩大類:無反饋的前向神經(jīng)網(wǎng)絡(luò)和相互連接型網(wǎng)絡(luò)(包括反饋網(wǎng)絡(luò)),圖1為BP神經(jīng)網(wǎng)絡(luò)系統(tǒng)結(jié)構(gòu)簡圖,BP網(wǎng)絡(luò)就是一種誤差反向傳播的前向網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法總體來講可分為有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)。人工神經(jīng)網(wǎng)絡(luò)的具有強(qiáng)容錯(cuò)性、冗余性、魯棒性和信息分布式并行處理及快速進(jìn)行大量計(jì)算能力特點(diǎn), 能適應(yīng)復(fù)雜環(huán)境和進(jìn)行多目標(biāo)控制。

圖1 BP網(wǎng)絡(luò)系統(tǒng)結(jié)構(gòu)

2 人工神經(jīng)網(wǎng)絡(luò)在空調(diào)系統(tǒng)中的應(yīng)用

2.1 空調(diào)風(fēng)系統(tǒng)方面的應(yīng)用

變風(fēng)量系統(tǒng)(VAV系統(tǒng))的基本思想是:當(dāng)室內(nèi)負(fù)荷發(fā)生變化時(shí),改變送入室內(nèi)風(fēng)量,以滿足室內(nèi)人員的舒適性或工藝性要求,實(shí)現(xiàn)送風(fēng)量的自動(dòng)調(diào)節(jié),最大限度地減少風(fēng)機(jī)動(dòng)力,節(jié)約運(yùn)行能耗。目前對(duì)變風(fēng)量空調(diào)控制方法傳統(tǒng)方法主要有:定靜壓控制、變靜壓控制、總風(fēng)量控制等,但多數(shù)局限于的PID控制理論,對(duì)變風(fēng)量空調(diào)這種非線性系統(tǒng)的控制精度難以保證。朱為明等人在VAV系統(tǒng)中采用神經(jīng)網(wǎng)絡(luò)預(yù)測優(yōu)化算法對(duì)變風(fēng)量空調(diào)進(jìn)行控制,神經(jīng)網(wǎng)絡(luò)預(yù)測優(yōu)化算法控制過程的節(jié)能范圍為:6%-13.5%,與PID控制方法相比,神經(jīng)網(wǎng)絡(luò)預(yù)測優(yōu)化算法的控制量之和減少6%以上,具有較好的節(jié)能效果。

2.2 空調(diào)水系統(tǒng)方面的應(yīng)用

中央空調(diào)水系統(tǒng)主要包括冷卻水和冷凍水系統(tǒng),對(duì)于大型系統(tǒng),管道長,系統(tǒng)熱容量大、慣性大,被控系統(tǒng)水溫和流速變化速度較慢,滯后現(xiàn)象嚴(yán)重,是一種典型的大滯后系統(tǒng),對(duì)于過程純滯后非線性特性,目前過程控制傳統(tǒng)算法不具備克服滯后影響的能力,在穩(wěn)定性和響應(yīng)速度上都難以達(dá)到較好的性能指標(biāo)。周洪煜等人利用了神經(jīng)網(wǎng)絡(luò)的非線性逼近特性、自學(xué)習(xí)、自組織的能力以及預(yù)測控制的滾動(dòng)優(yōu)化和反饋校正的特性,建立起的中央空調(diào)水系統(tǒng)的動(dòng)態(tài)模型,作為預(yù)測控制器的預(yù)測模型,不需要對(duì)被控對(duì)象進(jìn)行精確的辨識(shí), 提出的多變量神經(jīng)網(wǎng)絡(luò)預(yù)測控制系統(tǒng)具有優(yōu)良的控制效果,實(shí)現(xiàn)了空調(diào)水系統(tǒng)的自適應(yīng)控制。何厚鍵等人在中央空調(diào)水系統(tǒng)的建模與優(yōu)化研究中,利用前饋型網(wǎng)絡(luò)結(jié)合BP算法建立了冷卻塔和制冷機(jī)的神經(jīng)網(wǎng)絡(luò)模型,解決的具有高度非線性的中央空調(diào)水系統(tǒng)設(shè)備的建模問題。

2.3 制冷系統(tǒng)方面的應(yīng)用

神經(jīng)網(wǎng)絡(luò)在空調(diào)中的制冷系統(tǒng)應(yīng)用,主要體現(xiàn)在制冷機(jī)組優(yōu)化控制和制冷系統(tǒng)的故障診斷兩方面。在中央空調(diào)系統(tǒng)中制冷機(jī)組是能耗最大的設(shè)備,對(duì)制冷機(jī)組進(jìn)行優(yōu)化控制,提高其運(yùn)行效率,是空調(diào)系統(tǒng)節(jié)能的重要途徑之一。趙健等人在分析了影響壓縮機(jī)運(yùn)行效率的主要因素基礎(chǔ)上,建立了以壓縮機(jī)入口制冷劑溫度、壓縮機(jī)出口制冷劑溫度和負(fù)荷為輸入量,最佳吸氣壓力輸出為輸出量的BP神經(jīng)網(wǎng)絡(luò)模型。通過在線修正制冷機(jī)的吸氣壓力工作點(diǎn),解決變負(fù)荷下,制冷機(jī)優(yōu)化控制問題,大幅度提高制冷性能參數(shù)COP的值,降低了制冷機(jī)的運(yùn)行能耗,與采用額定工況相比,采用神經(jīng)網(wǎng)絡(luò)優(yōu)化控制方法的制冷機(jī)節(jié)能量約為44.8%。

故障診斷是一種了解和掌握設(shè)備在使用過程中的技術(shù),確定其整體或局部是否正常,早期發(fā)現(xiàn)故障及其原因并能預(yù)報(bào)故障發(fā)展趨勢的技術(shù)。在制冷系統(tǒng)的故障診斷方面,神經(jīng)網(wǎng)絡(luò)也發(fā)揮著重要作用,隨著我國空調(diào)制冷事的蓬勃發(fā)展,制冷系統(tǒng)越來越復(fù)雜,故障的潛在發(fā)生點(diǎn)也越來越多,制冷設(shè)備的故障檢測與診斷越來越受到人們的重視。胡正定等人在分析制冷系統(tǒng)常見故障特征的基礎(chǔ)上,建立以壓縮機(jī)進(jìn)口溫度、蒸發(fā)器進(jìn)口溫度、冷媒水進(jìn)口溫度、冷媒水出口溫度、壓縮機(jī)排氣壓力、壓縮機(jī)吸氣壓力、壓縮機(jī)出口溫度、冷凝器出口溫度等8特征征參數(shù)作為輸入量,故障模式作為輸出量的補(bǔ)償模糊神經(jīng)網(wǎng)絡(luò)模型。仿真結(jié)果表明,系統(tǒng)的診斷結(jié)果且有較高的準(zhǔn)確率。李中領(lǐng)等人在空調(diào)系統(tǒng)故障診斷中利用神經(jīng)網(wǎng)絡(luò)建立了三層BP網(wǎng)絡(luò)模型,輸入層節(jié)點(diǎn)個(gè)數(shù)為4,對(duì)應(yīng)于4種故障現(xiàn)象,隱含層單元個(gè)數(shù)為4,輸出層節(jié)點(diǎn)個(gè)數(shù)為12,對(duì)應(yīng)于12種故障原因,輸出節(jié)點(diǎn)值的大小反映了故障出現(xiàn)的可能性。

2.4 負(fù)荷預(yù)測方面的應(yīng)用

空調(diào)系統(tǒng)逐時(shí)負(fù)荷的準(zhǔn)確預(yù)測是實(shí)現(xiàn)現(xiàn)代控制的前提之一,準(zhǔn)確預(yù)測空調(diào)負(fù)荷對(duì)空調(diào)高效節(jié)能運(yùn)行具有重大意義,影響空調(diào)負(fù)荷的因素有空氣溫度、濕度、太陽輻射強(qiáng)度、人員、設(shè)備運(yùn)行情況等,空調(diào)負(fù)荷與影響因素之間是嚴(yán)重非線性的關(guān)系,具有動(dòng)態(tài)性。

2.5 空調(diào)制冷系統(tǒng)的仿真設(shè)計(jì)方面的應(yīng)用

制冷空調(diào)產(chǎn)品設(shè)計(jì)中,大量地依賴樣機(jī)的反復(fù)制作與調(diào)試,使得產(chǎn)品的設(shè)計(jì)周期延長,并影響性能優(yōu)化,用計(jì)算機(jī)仿真代替樣機(jī)試驗(yàn),在計(jì)算機(jī)上面實(shí)現(xiàn)優(yōu)化設(shè)計(jì),使得制冷空調(diào)裝置仿真技術(shù)近年來得到了迅速發(fā)展 。

2.6 大型建筑運(yùn)行能耗的評(píng)價(jià)方面的應(yīng)用

大型公共建筑指非住宅的民用建筑,包括辦公樓、商場、賓館、醫(yī)院、學(xué)校等,大型公共建筑用能特點(diǎn)是單位面積耗能非常高,為每年100 kW/m2-300 kW/m2,而且我國大型公共建筑能源系統(tǒng)效率較低,浪費(fèi)嚴(yán)重,其電耗超過公共建筑節(jié)能設(shè)計(jì)標(biāo)準(zhǔn)規(guī)定指標(biāo)的10倍以上。大型公共建筑中央空調(diào)系統(tǒng)運(yùn)行能耗的科學(xué)評(píng)價(jià)是對(duì)大型公共建筑進(jìn)行用能科學(xué)管理的重要基礎(chǔ),趙靖等人基于BP人工神經(jīng)網(wǎng)絡(luò),將冷水機(jī)組、冷凍水泵、冷卻水泵、冷卻塔、其它設(shè)備月平均功率、運(yùn)行時(shí)間和氣象特征共七個(gè)作為預(yù)測因子,空調(diào)系統(tǒng)總能耗為輸出量,建立了大型公共建筑系統(tǒng)運(yùn)行能耗的預(yù)測評(píng)價(jià)模型,仿真結(jié)果表明,網(wǎng)絡(luò)的平均預(yù)測誤差輸出值約為3.3E-014,可以滿足實(shí)際應(yīng)用的要求。

3 發(fā)展方向

人工神經(jīng)網(wǎng)絡(luò)基于較強(qiáng)的學(xué)習(xí)能力、自適應(yīng)能力、容錯(cuò)能力和聯(lián)想能力,在暖通空調(diào)領(lǐng)域中的應(yīng)用已經(jīng)取得了突破性的進(jìn)展。今后的發(fā)展方向主要有兩個(gè)方面,首先,不斷改進(jìn)神經(jīng)網(wǎng)絡(luò)性能,提高其預(yù)測和控制精確度;另外,逐步使神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)由軟件實(shí)現(xiàn)過渡到硬件實(shí)現(xiàn),擴(kuò)大其在空調(diào)領(lǐng)域的應(yīng)用范圍,也是今后的研究方向之一。

參考文獻(xiàn)

[1]胡守仁.神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].北京:國防科技大學(xué)出版社,1999.

[2]候媛彬,杜京義,汪梅.神經(jīng)網(wǎng)絡(luò)[M].西安電子科技大學(xué)出版社,2007.