導(dǎo)語：如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)算法，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公文云整理的十篇范文，供你借鑒。

篇1

1、BP（Back Propagation）網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系，而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓撲結(jié)構(gòu)包括輸入層（input）、隱層(hide layer)和輸出層(output layer)。

2、BP神經(jīng)網(wǎng)絡(luò)算法是在BP神經(jīng)網(wǎng)絡(luò)現(xiàn)有算法的基礎(chǔ)上提出的，是通過任意選定一組權(quán)值，將給定的目標輸出直接作為線性方程的代數(shù)和來建立線性方程組，解得待求權(quán)，不存在傳統(tǒng)方法的局部極小及收斂速度慢的問題，且更易理解。

（來源：文章屋網(wǎng) ）

篇2

計算機網(wǎng)絡(luò)拓撲結(jié)構(gòu)主要是指計算機連接網(wǎng)絡(luò)之后，其自身設(shè)備與傳輸媒介所共同組成的一種物理構(gòu)成模式，其網(wǎng)絡(luò)拓撲結(jié)構(gòu)的形式主要是由通信子網(wǎng)來決定的，其結(jié)構(gòu)的主要功能是實現(xiàn)數(shù)據(jù)信息的網(wǎng)絡(luò)共享、處理及交換，并要在一定程度上提升網(wǎng)絡(luò)數(shù)據(jù)信息運行的可靠性，站在網(wǎng)絡(luò)拓撲的結(jié)構(gòu)來講，計算機網(wǎng)絡(luò)結(jié)構(gòu)的主要部分是鏈路與結(jié)點，計算機網(wǎng)絡(luò)實質(zhì)上是由一組結(jié)點以及多條鏈路所共同組成的一種模擬結(jié)構(gòu)。計算機網(wǎng)絡(luò)通常表示為：G=<V，E>，其中V表示的是網(wǎng)絡(luò)結(jié)點集，E表示的是鏈路集，如果應(yīng)用Va來表示結(jié)構(gòu)中增加的結(jié)點集，Eb來表示增加的連接集，那么就能夠得到其拓撲擴展的計算機網(wǎng)絡(luò)結(jié)構(gòu)為G’=<V’，E’>。

2基于計算機網(wǎng)絡(luò)連接優(yōu)化中的神經(jīng)網(wǎng)絡(luò)算法

本次研究中分析的均場神經(jīng)網(wǎng)絡(luò)算法實際上是一種神經(jīng)網(wǎng)絡(luò)算法與均場退火技術(shù)相結(jié)合的算法，應(yīng)用這種方法能夠有效的增強計算機的網(wǎng)絡(luò)連接，并且達到更優(yōu)化、更快的連接效果，這其實是一種利潤最大化的網(wǎng)絡(luò)優(yōu)化算法，其能夠最大限度的提高計算機網(wǎng)絡(luò)的性價比。

2.1神經(jīng)網(wǎng)絡(luò)算法

人工神經(jīng)網(wǎng)絡(luò)屬于非線性動力學(xué)系統(tǒng)，其能夠?qū)π畔⑦M行分布式的存儲及協(xié)同處理，其在人工神經(jīng)網(wǎng)絡(luò)之上的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的基礎(chǔ)之上，應(yīng)用網(wǎng)絡(luò)算法及網(wǎng)絡(luò)模型進行各種信號的處理，或者是對某種運行模式進行識別，從而建立其一個獨立的專家系統(tǒng)，或者是構(gòu)成機器人，當前在多個領(lǐng)域中，人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)都得到了廣泛的應(yīng)用，在該基礎(chǔ)上所發(fā)展起來的人工神經(jīng)網(wǎng)絡(luò)算法是一種監(jiān)督性的學(xué)習(xí)算法，人們對于其重視程度逐漸增加，但是在實際的應(yīng)用中，其存在收斂速度較慢的缺陷，難以保證將收斂程度壓制到全局的最小點，容易導(dǎo)致計算機網(wǎng)絡(luò)學(xué)習(xí)及記憶不穩(wěn)定性增強的問題，這會對計算機網(wǎng)絡(luò)的連接效果造成直接的影響，做好其網(wǎng)絡(luò)連接的優(yōu)化非常的必要。

2.2均場神經(jīng)網(wǎng)絡(luò)算法

在基于計算機網(wǎng)絡(luò)連接增強優(yōu)化下的均場神經(jīng)網(wǎng)絡(luò)算法的研究中，對其網(wǎng)絡(luò)效果進行判斷，需要建立起一個完整的場均神經(jīng)網(wǎng)絡(luò)模型，在模型的構(gòu)建過程中，應(yīng)該做好函數(shù)法構(gòu)造過程中的目標函數(shù)的構(gòu)建問題，具體的構(gòu)建方式表現(xiàn)為：應(yīng)用Si來表示Hopfield計算網(wǎng)絡(luò)中的一個神經(jīng)元狀態(tài)，并且規(guī)定當Si=1時，表示的含義是網(wǎng)絡(luò)選中了連接i，可以實現(xiàn)正常的連接，當Si=0時，表示的含義是：網(wǎng)絡(luò)中沒有選中連接i，網(wǎng)絡(luò)無法實現(xiàn)正常連接，再應(yīng)用罰函數(shù)法就結(jié)構(gòu)來進行網(wǎng)絡(luò)模型的創(chuàng)建。

2.3實例分析

根據(jù)上文中分析的計算方法，在得到計算結(jié)果之后，能夠?qū)鶊鼍W(wǎng)絡(luò)算法的可行性及有效性進行判定，我們分別采用模擬退火算法、遺傳算法、均場神經(jīng)網(wǎng)絡(luò)算法進行比較，結(jié)果顯示模擬退火算法需要計算99次，這樣才能保證計算出規(guī)定的連接集，并從中獲取一定的利潤值，在遺傳算法中需要進行96次的計算，在均場神經(jīng)網(wǎng)絡(luò)算法中，需要實施88次的計算，均場神經(jīng)網(wǎng)絡(luò)算法在獲得網(wǎng)路連接效果等方面，更快、更加有效，更適宜應(yīng)用于計算機網(wǎng)絡(luò)連接的增強優(yōu)化以及網(wǎng)絡(luò)結(jié)構(gòu)拓撲的擴展工作中。

3結(jié)束語

篇3

關(guān)鍵詞：車牌定位；脈沖神經(jīng)網(wǎng)絡(luò)（SNN）；邊緣檢測；車牌定位；字符分割；字符識別 文獻標識碼：A

中圖分類號：TP391 文章編號：1009-2374（2016）32-0013-02 DOI：10.13535/ki.11-4406/n.2016.32.006

現(xiàn)在車牌定位已經(jīng)提出了很多方法，其中經(jīng)常用到的是基于黑白圖像定位、基于顏色特征算法和基于車牌邊緣檢測算法。大多數(shù)算法都是基于單一特征來進行車牌定位提取，這樣的定位方法在確定車牌區(qū)域上存在著明顯的局限性，受到特定條件的限制。車牌區(qū)域主要有以下特征：顏色特征、幾何特征、位置特征、紋理特征、灰度跳變特征、投影特征和頻譜特征等。車牌和字符的顏色共有五種組合分別為：藍底白字、黃底黑字、白底黑字、黑底白字以及白底紅字，其中一些小型和大型車輛的牌照底色會跟著省份的變化而略有不同。本文綜合分析車牌的特征，提出了基于脈沖神經(jīng)網(wǎng)絡(luò)顏色特征提取的車牌粗定位和基于脈沖神經(jīng)網(wǎng)絡(luò)的邊緣檢測的精確定位。

1 算法描述及流程

首先輸入拍攝的彩色車牌圖像，利用SNN對車牌圖像進行顏色特征提取，接著經(jīng)過一系列處理實現(xiàn)車牌的粗定位，然后運用灰度化、邊緣檢測、形態(tài)學(xué)處理和二值化等技術(shù)對粗定位車牌進行處理，再采用行列掃描投影法進行精確定位，最終提取出正確的車牌區(qū)域，其中的邊緣檢測也是基于SNN?；赟NN的車牌定位流程如圖1所示：

2 車牌的粗定位

以藍色為例，上述算法的具體步驟如下：（1）輸入彩色車牌圖像；（2）將三幅成分圖、和中的每個像素轉(zhuǎn)換為脈沖序列；（3）計算其脈沖序列的放電頻數(shù)，分別用維數(shù)為的數(shù)組、和來存儲；（4）將三個像素閾值、、轉(zhuǎn)換為脈沖序列，并計算其放電頻數(shù)，分別用、和來存儲；（5）判斷是否滿足、、，如果滿足的話，令，否則令。

如果，則在坐標處的像素為藍色。其他顏色原理相同。

3 車牌的精確定位

本文主要基于感受野和脈沖神經(jīng)元來檢測車牌圖像的邊緣，其網(wǎng)絡(luò)的結(jié)構(gòu)如圖3所示。該網(wǎng)絡(luò)有三層：第一層為光感輸入層；第二層為中間層，四個并行神經(jīng)元矩陣、、、對應(yīng)四種不同的感受野，為了簡化只畫出了每個矩陣中的一個神經(jīng)元。在突觸連接中的“X”代表興奮性突觸，“”代表抑制性突觸，中間層通過不同的權(quán)重矩陣連接光感輸入層，分別執(zhí)行上、下、左、右邊緣的檢測，這些權(quán)重矩陣能改變圖像中不同尺寸感受野的大??；第三層為輸出層，其中每一個神經(jīng)元累加來自第二層對應(yīng)四個并行神經(jīng)元矩陣的輸出。通過繪制輸出層的脈沖頻率圖，能得到對應(yīng)于輸入圖像的邊緣圖。本文主要介紹神經(jīng)元通過權(quán)重矩陣連接到光感輸入層的感受野，其響應(yīng)了感受野的右邊緣。此脈沖神經(jīng)網(wǎng)絡(luò)檢測右邊緣的原理如下：

如果一個灰度均勻圖像位于該感受野中時，產(chǎn)生一個均勻的脈沖的輸出，膜電勢不會變化，不會有脈沖序列產(chǎn)生；如果一個邊緣明確的圖像位于感受野中，感受野的左半部分產(chǎn)生一個較強的信號，右半部分產(chǎn)生一個符號相反的較弱的信號，由于左半部分興奮信號沒有被右半部抑制信號抵消，因此膜電勢上升得很快，最終產(chǎn)生響應(yīng)右邊緣的脈沖序列。突觸權(quán)重矩陣相當于在感受野內(nèi)檢測邊緣的一個濾波器，其他三個邊緣原理相同。輸出層神經(jīng)元累積來自中間層的四個神經(jīng)元矩陣的輸出，然后響應(yīng)位于感受野任意方向的邊緣。

如圖4所示，通過與canny邊緣檢測和sobel邊緣檢測對比，可知sobel邊緣檢測結(jié)果缺失了部分邊緣，canny邊緣檢測能力很強，但是提取了很多無用的邊緣，然而SNN邊緣檢測結(jié)果最好，彌補了兩者的缺點。

4 實驗結(jié)果及分析

使用Visual C++ 2012開發(fā)工具搭建此算法的軟件實驗平臺，共收集了樣本400張（全國各個省份的車牌），并且針對各種底色車牌逐一進行提取，有366張可以成功定位，定位率達到91.5%。從以上實驗結(jié)果可知該算法能達到很好的定位效果。

5 結(jié)語

本文主要介紹了基于脈沖神經(jīng)網(wǎng)絡(luò)的車牌定位算法，分別從車牌粗定位和精確定位兩方面進行了系統(tǒng)的分析，綜合運用了圖像處理中的灰度化處理、邊緣檢測、二值化等技術(shù)對車牌圖像進行分析和處理，充分利用車牌顏色和紋理等特征對車牌進行提取。由于客觀條件和時間的限制，本文的研究還存在很多不足，有很多方面需要進一步提高。

參考文獻

[1] 孫杰.車牌定位分割技術(shù)的研究與實現(xiàn)[D].東北電力大學(xué)，2007.

[2] 張燕，任安虎.多特征與BP神經(jīng)網(wǎng)絡(luò)車牌識別系統(tǒng)研究[J].科學(xué)技術(shù)與工程，2012，（22）.

[3] 陳麗娟.基于脈沖神經(jīng)網(wǎng)絡(luò)的車牌識別系統(tǒng)的設(shè)計與實現(xiàn)[D].福建師范大學(xué)，2015.

[4] QingXiang Wu，Martin McGinnity，Liam Maguire，Ammar Belatreche，Brendan Glackin.Edge Detection Based on Spiking Neural Network Model[J].Third International Conference on Intelligent Computing，ICIC 2007.

[5] 陳浩.基于脈沖神經(jīng)網(wǎng)絡(luò)模型的車輛車型識別研究[D].福建師范大學(xué)，2011.

篇4

關(guān)鍵詞： DFB激光器； 遺傳算法； 神經(jīng)網(wǎng)絡(luò)； 溫度控制

中圖分類號： TN249?34； TP273 文獻標識碼： A 文章編號： 1004?373X（2016）15?0164?03

Abstract： To solve the problems of nonlinearity and delay property existing in DFB laser temperature control system， the composite control structure based on genetic algorithm and neural network is proposed. In the system， the microprocessor as the system core processor is used to design the temperature control system， and the Pt resistance， TEC semiconductor refrigerator， temperature sensor and temperature control actuator are used as the control units. The neural network positive model was constructed to analyze the physical characteristics of the controlled object. The neural network control is used to map the control laws， and the fast searching ability of genetic algorithm is used to train the weight coefficient of neural network. The designed system was verified with the experiment. The results show that the temperature control accuracy of the system is ±0.002 ℃， the range of temperature control is 5～70 ℃， the overshoot is less than 8%， the designed system can realize the control effect of high precision and wide range， and has better engineering application value.

Keywords： DFB laser； genetic algorithm； neural network； temperature control

0 引 言

激光檢測技術(shù)已經(jīng)應(yīng)用在許多工業(yè)領(lǐng)域，其中分布式（DFB）激光器的波長能夠有效匹配甲烷和一氧化碳等氣體的吸收峰，所以在很多領(lǐng)域利用它來檢測氣體的濃度。DFB激光器的波長主要與電流和溫度有關(guān)，當電流保持不變時，DFB的波長與溫度的變化關(guān)系[1?3]為0.2～0.3 nm/℃。因此，為了提高氣體的檢測精度，必須確保DFB激光器發(fā)光的波長準確且穩(wěn)定，需要對它的溫度進行精確控制[4?7]。

國內(nèi)外有很多生產(chǎn)廠家和研究機構(gòu)都在研究如何在較寬的溫度范圍內(nèi)提高DFB激光器的溫度控制精度。目前，國外的產(chǎn)品一般能夠在-50～100 ℃的環(huán)境下正常工作，且控制精度不低于0.001 ℃。國內(nèi)的產(chǎn)品一般只能在常溫下工作，控制精度[8]僅為0.05～0.1 ℃。本文針對DFB激光器溫度控制系統(tǒng)普遍存在的非線性和延遲性等問題，利用遺傳算法和神經(jīng)網(wǎng)絡(luò)構(gòu)造復(fù)合控制結(jié)構(gòu)，實現(xiàn)在較寬的范圍內(nèi)對溫度進行高精度穩(wěn)定控制的效果。

1 硬件系統(tǒng)設(shè)計

1.1 系統(tǒng)總體方案

設(shè)計的基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的DFB激光器溫度控制系統(tǒng)主要由鉑電阻、恒流源、信號調(diào)整、驅(qū)動電路、A/D和D/A轉(zhuǎn)換模塊、控制器、LED顯示和上位機等組成，總體框圖如圖1所示。

激光器的溫度變化由溫度傳感器鉑熱電阻轉(zhuǎn)變?yōu)殡娦盘枺?jīng)過信號調(diào)整和A/D轉(zhuǎn)換將數(shù)據(jù)送給微處理器，與上位機設(shè)定的標準值進行比較計算得到偏差，再將該偏差信號由數(shù)字控制器處理和調(diào)整之后，經(jīng)由D/A轉(zhuǎn)換和驅(qū)動電路進入執(zhí)行器件，對被控對象加熱或者制冷，從而將DFB激光器的溫度控制在特定值。

1.2 溫度測量和處理

采用鉑電阻Pt100作為系統(tǒng)的溫度傳感器，它具有工作溫度范圍大和穩(wěn)定性好的優(yōu)點。給鉑電阻加載恒定的微小電流（1 mA左右），再通過測量鉑電阻兩端的電壓來獲取溫度信號。對電壓信號進行模數(shù)轉(zhuǎn)換時，使用的芯片為ICL7109，分辨率高達244 ppm，能夠直連微處理器，轉(zhuǎn)換的速度為30次/s。在微處理器的控制下，電壓信號由多路開關(guān)經(jīng)ICL7109實現(xiàn)模數(shù)轉(zhuǎn)換。同時，參考溫度的信號由上位機和電位器分壓得到。

在微處理器上對實際溫度與參考溫度進行比較，它們的差值由微處理器上設(shè)定的控制算法進行處理，得到相應(yīng)的控制信號，該信號經(jīng)數(shù)模轉(zhuǎn)換芯片DAC0832處理和放大后驅(qū)動執(zhí)行器件工作。這里的數(shù)模轉(zhuǎn)換芯片為雙極性輸出，可以提供正向和反向的電壓信號，從而實現(xiàn)加熱或者制冷。

1.3 TEC驅(qū)動

采用熱電制冷器（TEC）作為系統(tǒng)的溫度控制執(zhí)行器件。根據(jù)珀耳帖效應(yīng)，當給TEC通過不同方向的電流時，即可實現(xiàn)TEC的制冷或加熱，而調(diào)節(jié)它的電流大小即可改變它的加熱或者制冷的輸出大小[9]。為了快速地控制TEC的電流，采用MAX1968型的控制芯片，它能夠直接控制電流，具有消除浪涌電流和減小噪聲干擾的優(yōu)點。它內(nèi)置有基準電壓源，當電壓大于基準值時，實現(xiàn)加熱的效果；相反，實現(xiàn)制冷的目的。

2 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)控制

2.1 神經(jīng)網(wǎng)絡(luò)正模型

3 實驗結(jié)果與分析

由前述的分析來設(shè)計DFB激光器的溫度控制系統(tǒng)，并用實驗來驗證系統(tǒng)設(shè)計的合理性和可行性。選取初始種群為60個染色體，其中每個染色體均有25個權(quán)系數(shù)，它們的變化范圍為[[-2，4]]，進化代數(shù)的最大值為40代。實驗室溫度的初始值為20 ℃，設(shè)定期望的DFB激光器溫度值分別為5 ℃，15 ℃，40 ℃和70 ℃，從零時刻啟動溫度控制過程，得到不同目標溫度控制的實驗結(jié)果，如圖3～圖6所示。

從圖3～圖6中可以看出，基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的控制算法可以使得DFB激光器的實際溫度達到預(yù)期設(shè)定的溫度值。對于低于室溫的溫度控制，超調(diào)量為8%，控制精度為±0.002 ℃；對于高于室溫的溫度控制，沒有超調(diào)量，控制精度為±0.001 7 ℃。因此，本文設(shè)計的控制系統(tǒng)能夠?qū)崿F(xiàn)DFB激光器工作溫度的精確控制，穩(wěn)定度較高。

4 結(jié) 語

本文設(shè)計了基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的DFB激光器溫度控制系統(tǒng)，系統(tǒng)使用微處理器、鉑電阻和TEC半導(dǎo)體制冷器分別作為處理器、溫度敏感器和溫控的執(zhí)行器件，通過構(gòu)建復(fù)合控制結(jié)構(gòu)，能夠使得系統(tǒng)的輸出達到期望值。實驗結(jié)果表明，該系統(tǒng)能夠?qū)崿F(xiàn)DFB激光器溫度的高精度和穩(wěn)定控制，控制精度和控制范圍分別能夠達到±0.002 ℃和5～70 ℃，超調(diào)量低于8%，具有較好的推廣應(yīng)用前景。

參考文獻

[1] 胡鵬程，時瑋澤，梅健挺.高精度鉑電阻測溫系統(tǒng)[J].光學(xué)精密工程，2014，22（4）：988?995.

[2] 單成玉.溫度對半導(dǎo)體激光器性能參數(shù)的影響[J].吉林師范大學(xué)學(xué)報（自然科學(xué)版），2003（4）：95?97.

[3] 李金義，杜振輝，齊汝賓，等.利用熱敏電阻精確測量DFB激光器動態(tài)結(jié)溫度[J].儀器儀表學(xué)報，2012，33（9）：2088?2093.

[4] 秦國華，謝文斌，王華敏.基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的刀具磨損檢測與控制[J].光學(xué)精密工程，2015，23（5）：1314?1321.

[5] 玲，林勤花.基于遺傳神經(jīng)網(wǎng)絡(luò)的P2P流量識別系統(tǒng)[J].現(xiàn)代電子技術(shù)，2015，38（17）：117?120.

[6] 徐齊勝，羅勝琪，陶欣，等.基于神經(jīng)網(wǎng)絡(luò)遺傳算法的鍋爐燃燒優(yōu)化系統(tǒng)[J].自動化與儀表，2014，29（6）：30?32.

[7] 陳苗，陳福深，肖勇.溫度對半導(dǎo)體激光器特性的影響[J].中國科技信息，2011（3）：46?47.

[8] 李江瀾，石云波，趙鵬飛，等.TEC的高精度半導(dǎo)體激光器溫控設(shè)計[J].紅外與激光工程，2014，43（6）：1745?1749.

[9] 徐廣平，馮國旭，耿林.基于單片機控制的高精度TEC溫控[J].激光與紅外，2009，39（3）：254?256.

[10] 康偉.基于BP神經(jīng)網(wǎng)絡(luò)的DFB激光器恒溫控制系統(tǒng)建模與仿真[J].激光雜志，2015，36（4）：59?62.

篇5

關(guān)鍵詞：數(shù)據(jù)挖掘；數(shù)據(jù)庫；遺傳算法；神經(jīng)網(wǎng)絡(luò)

中圖分類號：TP392文獻標識碼：A文章編號文章編號：1672-7800（2013）012-0129-02

基金項目：佛山科學(xué)技術(shù)學(xué)院重點項目（2010）

作者簡介：劉曉莉（1961-），女，佛山科學(xué)技術(shù)學(xué)院副教授，研究方向為應(yīng)用數(shù)學(xué)。

1遺傳算法基本特征

遺傳算法是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型，是一種具有廣泛適用性的通用優(yōu)化搜索方法。遺傳算法主要借用了生物遺傳學(xué)的觀點，通過自然選擇、遺傳和變異等作用機制來產(chǎn)生下一代種群，如此逐代進化，直至得到滿足要求的后代即問題的解，是一種公認的全局搜索能力較強的算法。

遺傳算法有良好智能性，易于并行，減少了陷于局部最優(yōu)解的風(fēng)險。遺傳算法的處理對象不是參數(shù)本身，而是對參數(shù)集進行了編碼的個體，可以直接對集合、隊列、矩陣、圖表等結(jié)構(gòu)進行操作。同時，在標準的遺傳算法中，基本上不用搜索空間的知識或其它輔助信息，而僅用適應(yīng)度函數(shù)值來評估個體，并在此基礎(chǔ)上進行遺傳操作； 遺傳算法不是采用確定性規(guī)則，而是采用概率的變遷規(guī)則來指導(dǎo)它的搜尋方向。正是這些特征和優(yōu)點，使得遺傳算法在數(shù)據(jù)挖掘技術(shù)中占有很重要的地位，既可以用來挖掘分類模式、聚類模式、依賴模式、層次模式，也可用于評估其它算法的適合度。

2神經(jīng)網(wǎng)絡(luò)基本特征

神經(jīng)網(wǎng)絡(luò)是人腦或自然神經(jīng)網(wǎng)絡(luò)若干基本特征的抽象和模擬，是以大量的、同時也是很簡單的處理單元（神經(jīng)元）廣泛地互相連接形成的復(fù)雜非線性系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個分布式矩陣結(jié)構(gòu)，它根據(jù)樣本的輸入輸出對加權(quán)法進行自我調(diào)整，從而近似模擬出輸入、輸出內(nèi)在隱含的映射關(guān)系。建模時，不必考慮各個因素之間的相互作用及各個因素對輸出結(jié)果的影響機制，這恰好彌補了人們對各個因素及對輸出結(jié)果的機制不清楚的缺陷，從而解決眾多用以往方法很難解決的問題。

神經(jīng)網(wǎng)絡(luò)具有大規(guī)模的并行處理和分布式的信息存儲，有良好的自適應(yīng)、自組織性，學(xué)習(xí)能力很強，有較強的聯(lián)想功能和容錯功能，在解決機理比較復(fù)雜、無法用數(shù)學(xué)模型來刻畫的問題，甚至對其機理一無所知的問題等，神經(jīng)網(wǎng)絡(luò)方法特別適用，是一種用于預(yù)測、評價、分類、模式識別、過程控制等各種數(shù)據(jù)處理場合的計算方法，其應(yīng)用已經(jīng)滲透到多個領(lǐng)域，在計算機視覺、模式識別、智能控制、非線性優(yōu)化、信號處理、經(jīng)濟和機器人等方面取得了可喜的進展。

3遺傳算法與神經(jīng)網(wǎng)絡(luò)混合算法在數(shù)據(jù)挖掘中的應(yīng)用

作為一種有效的優(yōu)化方法，遺傳算法可以應(yīng)用于規(guī)則挖掘，可以單獨用于數(shù)據(jù)倉庫中關(guān)聯(lián)規(guī)則的挖掘，還可以和神經(jīng)網(wǎng)絡(luò)技術(shù)相結(jié)合，建立基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的數(shù)據(jù)挖掘體系，用于數(shù)據(jù)挖掘中的分類問題。

學(xué)習(xí)能力是神經(jīng)網(wǎng)絡(luò)中最引人矚目的特征，學(xué)習(xí)算法的研究一直占據(jù)重要地位。可以將遺傳算法應(yīng)用于神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程中，這樣可以避免傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)算法容易陷入局部極小的問題。有研究者提出了一種基于遺傳算法的神經(jīng)網(wǎng)絡(luò)二次訓(xùn)練方法，可以提高神經(jīng)網(wǎng)絡(luò)的模糊處理能力，有效解決神經(jīng)網(wǎng)絡(luò)陷入局部極小的缺點，加快收斂速率，提高學(xué)習(xí)效率。也有研究者探究了基于基因重組的遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的方法，通過訓(xùn)練權(quán)值來實現(xiàn)分類，可以提高神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)分類的準確性。因此，采用遺傳算法與神經(jīng)網(wǎng)絡(luò)模型相結(jié)合方法，可以解決多維非線性系統(tǒng)及模型未知系統(tǒng)的預(yù)測、評價與優(yōu)化等問題，其成功案例有很多，下面是其中的幾例。

一些研究者針對當前專家系統(tǒng)知識獲取瓶頸的難題，提出了基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的汽輪機組數(shù)據(jù)挖掘方法。該方法首先將汽輪機組歷史故障數(shù)據(jù)進行模糊化及離散化處理后，建立神經(jīng)網(wǎng)絡(luò)模型，然后再利用遺傳算法對神經(jīng)網(wǎng)絡(luò)進行優(yōu)化，實現(xiàn)了基于神經(jīng)網(wǎng)絡(luò)與遺傳算法相結(jié)合的汽輪機組數(shù)據(jù)挖掘和故障診斷仿真系統(tǒng)，其診斷正確率達到了84%。

綜合運用人工智能、計算智能（人工神經(jīng)網(wǎng)、遺傳算法） 、模式識別、數(shù)理統(tǒng)計等先進技術(shù)作為數(shù)據(jù)挖掘工具，可以建立可靠、高效的數(shù)據(jù)挖掘軟件平臺，已在很多工業(yè)控制和優(yōu)化中得到應(yīng)用和實驗驗證，并取得了滿意的應(yīng)用效果。例如，某鋁廠根據(jù)以往不同原料成分和原料的不同配比與產(chǎn)品質(zhì)量關(guān)系記錄的數(shù)據(jù)庫，應(yīng)用數(shù)據(jù)挖掘軟件平臺，可以挖掘出適應(yīng)不同原料成分的最佳配比規(guī)律，從而提高產(chǎn)品質(zhì)量的穩(wěn)定性。又如，以往在化工產(chǎn)品優(yōu)化配方、催化劑配方優(yōu)化或材料工藝優(yōu)化等研究中，基本上都是采用試驗改進的方式，需經(jīng)過多次試驗才能達到預(yù)期目的，但也有可能失敗。為降低消耗， 少做試驗就能達到預(yù)期目的，可采用神經(jīng)網(wǎng)絡(luò)對產(chǎn)品配方實驗數(shù)據(jù)建模，在此基礎(chǔ)上，再應(yīng)用遺傳算法對配方模型進行優(yōu)化，得到優(yōu)化配方。

正是遺傳算法與神經(jīng)網(wǎng)絡(luò)等算法的支撐以及計算機技術(shù)的發(fā)展，目前，數(shù)據(jù)挖掘廣泛地應(yīng)用于天文、地理、生物信息學(xué)、金融、保險、商業(yè)、電信、網(wǎng)絡(luò)、交通等眾多領(lǐng)域。例如，應(yīng)用在地理數(shù)據(jù)庫上，主要挖掘地質(zhì)、地貌特征，為尋找礦產(chǎn)或進行城市規(guī)劃等提供參考依據(jù)；在電信Web服務(wù)器方面，可以挖掘Web日志，根據(jù)用戶興趣動態(tài)鏈接Web頁面，統(tǒng)計頁面鏈接及權(quán)威主頁等，對檢索頁面進行聚類，方便用戶找到需要的信息；在生物醫(yī)學(xué)信息和DNA數(shù)據(jù)分析方面，進行遺傳、疾病等數(shù)據(jù)特征的挖掘，為疾病診斷、治療和預(yù)防研究提供科學(xué)依據(jù)；對金融數(shù)據(jù)進行挖掘，可以分析客戶信用度；在CRM（客戶關(guān)系模型）上使用數(shù)據(jù)挖掘，獲得客戶群體分類信息、交叉銷售安排及開發(fā)新客戶和保留老客戶的策略；在電信業(yè)中使用挖掘技術(shù)，以預(yù)防網(wǎng)絡(luò)欺詐等；應(yīng)用在商業(yè)問題的研究包括：進行客戶群體劃分、背景分析、交叉銷售等市場行為分析，以及客戶流失性、信用度分析與欺詐發(fā)現(xiàn)；在電子商務(wù)方面，從服務(wù)器以及瀏覽器端的日志記錄中發(fā)現(xiàn)隱藏在數(shù)據(jù)中的模式信息，了解系統(tǒng)的訪問模式以及用戶的行為模式，作出預(yù)測性分析等等。

4結(jié)語

神經(jīng)網(wǎng)絡(luò)和遺傳算法作為數(shù)據(jù)挖掘技術(shù)，也有一些不足和缺陷。遺傳算法除了要進一步改進基本理論和方法外，還要采用和神經(jīng)網(wǎng)絡(luò)、模擬退火、最近臨規(guī)則等其它方法相結(jié)合的策略，提高遺傳算法的局部搜索能力，從而進一步改善其收斂速度和解的品質(zhì)，提高數(shù)據(jù)挖掘技術(shù)。特別是對于單調(diào)函數(shù)或單峰函數(shù)，遺傳算法在初始時很快向最優(yōu)值逼近，但是在最優(yōu)值附近收斂較慢；而對于多峰函數(shù)的優(yōu)化問題，它往往會出現(xiàn)“早熟”，即收斂于局部極值。因此，研究如何改進遺傳算法，采用合適的算法加快尋優(yōu)速度和改善尋優(yōu)質(zhì)量，無論在理論上還是在實踐上都有重要意義。神經(jīng)網(wǎng)絡(luò)的神經(jīng)計算基礎(chǔ)理論框架以及生理層面的研究仍需深入與加強，如何提高神經(jīng)網(wǎng)絡(luò)的可理解性問題，以及研究遺傳算法、神經(jīng)網(wǎng)絡(luò)技術(shù)與其它人工智能技術(shù)更好地結(jié)合，從而獲得比單一方法更好的效果等問題，值得進一步探索。

雖然數(shù)據(jù)挖掘技術(shù)已得到了廣泛應(yīng)用，但現(xiàn)有的數(shù)據(jù)挖掘方法并不能完全適應(yīng)所面臨的具有多樣性的海量數(shù)據(jù)分析的現(xiàn)實，急需解決的問題是：如何研究并行處理和抽樣的方法，來處理大規(guī)模的數(shù)據(jù)以獲得較高的計算效率；如何利用統(tǒng)計、模糊數(shù)學(xué)來確定隱含變量及依賴關(guān)系，開發(fā)容噪的挖掘方法，以解決異質(zhì)數(shù)據(jù)集的數(shù)據(jù)挖掘問題；如何更好地進行文本數(shù)據(jù)挖掘、Web數(shù)據(jù)挖掘、分類系統(tǒng)、可視化系統(tǒng)、空間數(shù)據(jù)系統(tǒng)和分布式數(shù)據(jù)挖掘等新技術(shù)的應(yīng)用。因此，未來數(shù)據(jù)挖掘的研究表現(xiàn)在數(shù)據(jù)挖掘功能、工具、方法（算法） 的拓展與理論創(chuàng)新，其應(yīng)用的范圍和深度會進一步加強。

參考文獻參考文獻：

[1]孟曉明.淺談數(shù)據(jù)挖掘技術(shù)[J].計算機應(yīng)用與軟件，2004 （8）.

[2]李慧芳，姚躍華，陳一棟.改進的遺傳算法對神經(jīng)網(wǎng)絡(luò)優(yōu)化的分類[J].微計算機信息，2008（15）.

[3]王東龍，李茂青.基于遺傳算法的數(shù)據(jù)挖掘技術(shù)應(yīng)用[J].南昌大學(xué)學(xué)報， 2005（1）.

[4]宋仁國.鋁合金工藝優(yōu)化的遺傳算法[J].材料科學(xué)與工程，1998（1）.

[5]韓力群.催化劑配方的神經(jīng)網(wǎng)絡(luò)建模與遺傳算法優(yōu)化[J].化工學(xué)報，1999（4）.

[6]郭崇慧，陸玉昌.預(yù)測型數(shù)據(jù)挖掘中的優(yōu)化方法[J].工程數(shù)學(xué)學(xué)報，2005（1）.

[7]楊杰.用于建模、優(yōu)化、故障診斷的數(shù)據(jù)挖掘技術(shù)[J].計算機集成制造系統(tǒng)，2000（10）.

篇6

關(guān)鍵詞：計算機神經(jīng)網(wǎng)絡(luò)；粒子群優(yōu)化算法；應(yīng)用

中圖分類號：TP183

粒子群優(yōu)化算法是一種相對簡單、有效的隨機全局優(yōu)化技術(shù)，通過對粒子群優(yōu)化算法進行相應(yīng)的改進，以此確保其收斂性，然后再將粒子群優(yōu)化算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練中，能夠更有效的找出最優(yōu)化解。粒子群優(yōu)化算法和遺傳算法相比，粒子群優(yōu)化算法并沒有遺傳算法復(fù)雜的交叉、變異以及編碼，而是對粒子所在解空間的具置進行搜索，不需要對眾多的參數(shù)進行調(diào)整，其收斂速度相對較快。

1 粒子群優(yōu)化算法的基本原理以及優(yōu)化改進

1.1 粒子群吧優(yōu)化算法的基本原理

PSO中，每一個優(yōu)化問題的解都是搜集空間中的一個“粒子”的狀態(tài)，粒子群優(yōu)化算法是對群體的全局進行考慮，通過迭代搜尋選取最優(yōu)值，通過將系統(tǒng)轉(zhuǎn)化成一組隨機的例子，由于例子在解空間追隨最優(yōu)的例子進行湊所，所以粒子群優(yōu)化算法是一種具有全局尋優(yōu)能力的優(yōu)化工具。例子群優(yōu)化算法的基本原理表現(xiàn)為：假設(shè)在一個D維的目標搜集中間中，由N個不同的粒子組成了一個特定的群體，其中第i個粒子表示成其在這個D維空間中的向量（xi），也就是該粒子在D為空間中的位置，每一個粒子的位置都存在一個特定的解，通過將xi帶入到相應(yīng)的目標函數(shù)中，通過適當?shù)暮瘮?shù)計算就能得到其適應(yīng)度值，然后根據(jù)該xi適應(yīng)度值的大小，以此衡量xi的優(yōu)劣程度。其中，第i個粒子飛行的速度表示D維中的另一個向量，表示為vi，將在D維空間中搜索到的第i個粒子的最有位置記錄為pi，則整個粒子群搜索到的最有位置pi的粒子群優(yōu)化算法表現(xiàn)為：公式一：vi=ci+c1r1（pi-xi）+c2r2（pg-xi）；公式二：vik+1=vik+c1×rand（）×（pbest-xik）+c2×rand（）×（gbest-xik）；公式三：xi=xi+vi，其中i=1，2，…N；r1和r2為學(xué)習(xí)因子，rand（）表示介于[0，1]之間的隨機常數(shù)，c1和c2表示為非負常數(shù)。其中迭代的終止條件是根據(jù)選擇的最大迭代次數(shù)決定的，表示的為第i個李在迄今為止搜索到的最優(yōu)化位置應(yīng)該滿足的適應(yīng)度的最小值。

從社會學(xué)角度方面來說，粒子群優(yōu)化算法公式中的表示的是粒子的記憶項以及自身認知項，能夠表示上次速度的方向以及大小對粒子造成的影響，還能夠?qū)斍暗闹赶蛄Ｗ赢斪髯陨淼淖顑?yōu)化矢量，以此表示粒子的動作來源于自身的經(jīng)驗，能夠反映粒子之間的協(xié)同作用以及知識共享，粒子能夠根據(jù)粒子群中相鄰粒子的最好經(jīng)驗，然后再結(jié)合自身的經(jīng)驗，以此來決定自身的下一步運動，從而形成PSO的標準形式。

1.2 粒子群優(yōu)化算法的改進

粒子群粒子群優(yōu)化算法需要用戶確定的參數(shù)相對較少，并且其操作相對簡單，因此該種方法使用起來非常方便，但是，由于粒子群優(yōu)化算法容易陷入局部極值點，導(dǎo)致搜索的收斂性相對較低，并且粒子群優(yōu)化算法的收斂性分析已經(jīng)收到眾多學(xué)者的重視，因此，為了增強粒子群優(yōu)化算法的收斂性，可以將抗體多樣性保持機制引入到粒子群優(yōu)化算法中，其步驟表現(xiàn)為：首先，確定參數(shù)值，記憶粒子個數(shù)M，即常數(shù)因子c1和c2粒子群的個數(shù)N，粒子的濃度概率選擇閥值Pi，其隨機產(chǎn)生的N個粒子xi的飛行速度表示為vi，以此計算粒子的適應(yīng)度函數(shù)值；根據(jù)公式計算粒子的選擇概率，將粒子群體中前M個最大適應(yīng)度的粒子當作記憶細胞進行儲存，將概率大于Pi的粒子根據(jù)相應(yīng)的方法進行計算，從而把M個記憶細胞替換成適應(yīng)度最差的M個粒子，以此形成全新的粒子群，最終判斷其能付滿足相應(yīng)的選擇條件，如果滿足輸出適應(yīng)度值最好的要求，則選定該粒子。由此可見，通過上述的方法對粒子群優(yōu)算法進行改進，能夠保證粒子群優(yōu)化算法的精確性，并且通過實踐證明，經(jīng)過改進后的粒子群優(yōu)化算法，其計算機的仿真結(jié)果顯示，該種粒子群優(yōu)化算法的收斂速度明顯優(yōu)于沒有改進的粒子群優(yōu)化算法的收斂速度。

2 粒子群優(yōu)化算法在計算機審計網(wǎng)絡(luò)中的應(yīng)用

計算機神經(jīng)網(wǎng)絡(luò)能夠模擬大腦的思維能力，然后通過對各種數(shù)據(jù)進行分析，從而建立其相應(yīng)的數(shù)學(xué)模型，計算機神經(jīng)網(wǎng)絡(luò)中除了包含許多處理器以外，還包含了許多與人腦神經(jīng)相似的節(jié)點，這些節(jié)點按照一定的規(guī)律進行連接。如果將計算機神經(jīng)網(wǎng)絡(luò)中的每一個過程都細分為若干個微程序，并且將所有的微程序都交付于處理器進行處理，那么處理器處理所有的微程序的過程，就是一條微程序的處理流水線，這樣計算機處理信息的速度也將會顯著的提高。粒子群優(yōu)化算法在計算機神經(jīng)網(wǎng)絡(luò)中的應(yīng)用，包括的內(nèi)容有組合優(yōu)化、參數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、學(xué)習(xí)算法、網(wǎng)絡(luò)拓撲結(jié)構(gòu)和傳遞函數(shù)、鏈接權(quán)重等，通過把個體轉(zhuǎn)化成微粒，其中包括計算機神經(jīng)網(wǎng)絡(luò)中的所有能夠用到的參數(shù)，然后經(jīng)過一些列的復(fù)雜、重復(fù)的程序，最終達到最終的訓(xùn)練目標。相對于傳統(tǒng)的神經(jīng)訓(xùn)練法來說，由于BP算法需要可微的函數(shù)以及梯度信息等大量的數(shù)據(jù)，只有通過大量的計算才能得到相應(yīng)的訓(xùn)練結(jié)果，其運行難度較大、程序相對復(fù)雜，而采用離子群優(yōu)化算法，其處理信息的速度顯著的提升，能夠有效的克服其運行效率低的問題。粒子群優(yōu)化算法在計算機神經(jīng)系統(tǒng)網(wǎng)絡(luò)中的應(yīng)用，主要表現(xiàn)在兩個方面：其一，粒子區(qū)優(yōu)化算法在參數(shù)優(yōu)化中的應(yīng)用，能夠通過解決計算機神經(jīng)網(wǎng)絡(luò)中的各種離散型問題，從而進行參數(shù)優(yōu)化；其二，粒子群優(yōu)化算法在組合優(yōu)化中的應(yīng)用，其中典型的應(yīng)用表現(xiàn)為其在工程經(jīng)濟問題中的應(yīng)用，其能夠通過將各種資源進行科學(xué)的組合，通過設(shè)置一定的約束條件對這些組合進行排序，通過不斷的嘗試最終能夠找到最有效的解決方案，然后合理的利用所有的組合實現(xiàn)經(jīng)濟效益的最大化。此外，粒子群優(yōu)化算法不僅能夠應(yīng)用在計算機神經(jīng)網(wǎng)絡(luò)中，還能夠應(yīng)用在更多的領(lǐng)域中，例如軟件編輯、游戲開發(fā)、電力系統(tǒng)等領(lǐng)域中。

3 結(jié)束語

文章對計算機神經(jīng)網(wǎng)絡(luò)中粒子群優(yōu)化算法的應(yīng)用進行了研究，對粒子群優(yōu)化算法進行了相應(yīng)的改進，有效的提高了粒子群優(yōu)化算法的收斂速度。將粒子群優(yōu)化算法應(yīng)用在計算機神經(jīng)網(wǎng)絡(luò)中，其操作相對簡單，比較容易實現(xiàn)，并且其還能夠更快的收斂于最優(yōu)解，有效的克服了傳統(tǒng)遺傳算法缺點。因此，在計算機神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練中，廣泛的推廣和應(yīng)用粒子群優(yōu)化算法具有很大的現(xiàn)實意義。

參考文獻：

[1]丁玲，范平，聞彬.粒子群優(yōu)化算法在計算機神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[J].理論與算法，2013（17）：39-41.

[2]曹大有.一種免疫粒子群優(yōu)化算法及在小波神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中的應(yīng)用[J].計算機應(yīng)用于軟件，2009（06）：189-192.

[3]劉愛軍，楊育，李斐.混沌模擬退火粒子群優(yōu)化算法研究及應(yīng)用[J].浙江大學(xué)學(xué)報（工學(xué)版），2013（10）：1722-1729.

[4]虞斌能，焦斌，顧幸生.改進協(xié)同粒子群優(yōu)化算法及其在Flow Shop調(diào)度中的應(yīng)用[J].華東理工大學(xué)學(xué)報（自然科學(xué)版），2009（03）：468-474.

[5]劉寶寧，章衛(wèi)國，李廣文.一種改進的多目標粒子群優(yōu)化算法[J].北京航空航天大學(xué)學(xué)報，2013（04）：458-473.

篇7

關(guān)鍵詞： BP神經(jīng)網(wǎng)絡(luò)； 非線性方程組； 迭代算法； 誤差收斂

中圖分類號： TN911?34； TP183 文獻標識碼： A 文章編號： 1004?373X（2013）08?0020?03

0 引 言

神經(jīng)網(wǎng)絡(luò)具有許多優(yōu)點，如大規(guī)模并行處理、分布式存儲以及網(wǎng)絡(luò)的計算時間復(fù)雜度幾乎為零等[1]，因此，神經(jīng)網(wǎng)絡(luò)的應(yīng)用已越來越廣泛。BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是采用誤差反向傳播學(xué)習(xí)算法的多層前饋神經(jīng)網(wǎng)絡(luò)，它是當前獲得廣泛應(yīng)用的模型之一。BP算法的基本思想[2?4]是： 網(wǎng)絡(luò)學(xué)習(xí)由輸入信號的正向傳播和誤差的逆向傳播兩個過程組成。正向傳播過程是指樣本信號由輸入層輸入，經(jīng)網(wǎng)絡(luò)的權(quán)重、閾值和神經(jīng)元的轉(zhuǎn)移函數(shù)作用后，從輸出層輸出。

如果輸出值與期望值之間的誤差大于預(yù)期，則轉(zhuǎn)入誤差反向傳播階段，進行修正，即誤差通過隱層向輸入層逐層返回。網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過程實質(zhì)就是根據(jù)輸出值與期望值之間的誤差不斷調(diào)整網(wǎng)絡(luò)權(quán)重和閾值的過程，直到網(wǎng)絡(luò)輸出誤差減小到允許值或到達設(shè)定的訓(xùn)練次數(shù)為止。由于 BP神經(jīng)網(wǎng)絡(luò)模型具有較強的隨機性和不確定性，很多研究對BP算法進行改進，并取得了大量的成果，具體參看文獻[5?6]，這些算法提高了BP神經(jīng)網(wǎng)絡(luò)在實際應(yīng)用中的可靠性，使得BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用范圍越來越廣泛。

神經(jīng)網(wǎng)絡(luò)求在求解非線性方程組中的應(yīng)用也有了較好的研究。文獻[7?9]研究了人工神經(jīng)網(wǎng)絡(luò)逼近非線性多元函數(shù)的可能性，得到了相應(yīng)于幾類特殊作用函數(shù)的神經(jīng)網(wǎng)絡(luò)逼近存在性定理， 這些定理保證了用單層神經(jīng)網(wǎng)絡(luò)逼近連續(xù)多元函數(shù)時，可達到任意的精確度。趙啟林等提出一種權(quán)值耦合的BP神經(jīng)網(wǎng)絡(luò)模型[10]，吳靈敏等提出了對形式為[x=f（x）]的多元非線方程組的神經(jīng)網(wǎng)絡(luò)求解方法[11]，趙華敏等利用能量函數(shù)降能的方法尋找方程組的根[12]。

這些方法對多變元非線性方程函數(shù)形式有一定的要求。孫銀慧等利用迭代BP神經(jīng)網(wǎng)絡(luò)的逼近非線性方程組的函數(shù)的反函數(shù)的方法，提出了一種通用性較強的求解方法[13]。

本文對文獻[13]中所提出的方法進行了分析研究，發(fā)現(xiàn)存在誤差收斂過早導(dǎo)致無窮跌代以及收斂值并非最小值的問題，并對算法進行了改進。

1 迭代的ANN算法

1.1 非線性方程組

研究如下非線性方程組的數(shù)值解問題[13]：

[y=f（x）] （1）

式中：[f：RnRn；x，y∈Rn]。

假設(shè)[x0=[x1，0，x2，0，...，xn，0]T]為它的一個解，[f（x）]的反函數(shù) [x=f-1（y）]存在，則有：

[f（x0）=0， x0=f-1（0）]（2） 盡管利用[f（x）=0]求解[x0]很不容易，但是若能求得[x=f-1（y）]，則可由式（2）方便求得式（1）的解[x0]。雖然[x=f-1（y）]的顯式表達式同樣不易求得，但如果能夠得到其映射數(shù)據(jù)，則可以利用各種擬合方法逼近[x=f-1（y）]，從而得到[x0]。這種映射數(shù)據(jù)可以由[y=f（x）]很方便的得到，因而非線性方程組（1）的求解問題轉(zhuǎn)化為尋求一種好的擬合方法，利用已有的映射數(shù)據(jù)來精確逼近[x=f-1（y）]，采用人工神經(jīng)網(wǎng)路（ANN）加以實現(xiàn)。

1.2 迭代的神經(jīng)網(wǎng)絡(luò)算法

1.2.1 算法簡介

文獻[13]中主要介紹了兩種方法，一種是簡單的ANN方法，另外一種是迭代的ANN方法，詳見文獻[13]。在求解算法中，給定方程組（1）的解的存在區(qū)域D，經(jīng)過其中的算法1和算法2得到的輸出 [x0′=[x1，0′，x2，0′，....，xn，0′]T]近似為方程組（1）的解[x0]。

對于誤差的衡量，由于實際計算中[x0]并不可知，無法計算解誤差[|x0-x0′|]，用[Δ=||Δy||∞=max（Δyi）]，其中[Δyi=|yi，0-yi，0′|，][i=1，2，...，n]來衡量，其中[y0′=f（x0′）]。此處文獻中的[Δ]和[Δyi]的描述有誤，本文進行了更正。在算法2的第2個步驟中，如果 [x0′∈D]，則縮小區(qū)域D，實際上根據(jù)文獻的實驗數(shù)據(jù)的表2，作者并沒有縮小區(qū)域D，而是改變了D，本文作者也認為在這種情況下沒有必要縮小D，只需要根據(jù)[x0′]改變D即可，這一點也體現(xiàn)在本文提出的改進算法里。

1.2.2 算法實驗分析

使用文獻[13]中的算例進行方程組的求解：

[y1=f1（x）=2x31-x22-1=0y2=f2（x）=x1x32-x2-4=0] （3）

式中[x=[x1，x2]T，]該方程組的解為[x0=[x1，0，x2，0]T=]

[[1.234 3，1.661 5]T]。

采用兩個輸入的（10?2）BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，利用Matlab的工具箱實現(xiàn)，第二層隱層神經(jīng)元節(jié)點個數(shù)為10，使用變換函數(shù)選正切S型函數(shù)（tansig）；第三層為輸出層，節(jié)點個數(shù)為2，輸出層神經(jīng)元傳遞函數(shù)為purelin函數(shù)，并且選Levenberg?Marquardt算法（trainlm）為BP網(wǎng)絡(luò)的學(xué)習(xí)算法，訓(xùn)練次數(shù)100次，學(xué)習(xí)誤差為0.000 1。

按照文獻[13]所描述的迭代算法進行實驗，在不同初始化權(quán)重和閾值的情況下，在不同的區(qū)域D按照迭代的ANN算法進行迭代求解。

大量的實驗結(jié)果表明，在迭代求解的過程中[Δ]的并不是直線或者曲線下降的，而是按照波浪線下降并且最后穩(wěn)定于某一個值的，也就是[Δ]可能在達到[ε]之前就不再下降，并且最后的穩(wěn)定狀態(tài)的值并一定是[Δ]的最小值。

圖1是[Δ]隨著迭代次數(shù)n的變化曲線，橫坐標軸為n，豎坐標軸為[Δ]，在實驗過程中，D的取值為：[x1∈[1：0.01：1.5]，x2∈[1.5：0.01：2]]，固定網(wǎng)絡(luò)結(jié)構(gòu)和初始化參數(shù)進行迭代，當n=20時[Δ]達到了最小值，當n=35以后[Δ]便不再開始變化。改變區(qū)域D的值也有相同的試驗結(jié)果。

圖2中D的取值為：

[x1∈[0：0.01：0.5]， x2∈[1.5：0.01：2]]

圖3中D的取值為：

[x1∈[0：0.01：0.5]， x2∈[2：0.01：2.5]]

圖4中D的取值：

[x1∈[1 000：0.01：1 000.5]， x2∈[2 000：0.01：2 000.5]時的][Δ]隨著迭代次數(shù)n的變化曲線。

2 迭代的方法的改進

根據(jù)試驗結(jié)果所標明的[Δ]隨著迭代次數(shù)n的變化趨勢和收斂分析，原來的迭代算法會出現(xiàn)無窮迭代，或者不能找到最小[Δ]。因此對原來迭代算法進行改進。

（1）對[Δ]達到平穩(wěn)狀態(tài)的判斷。隨著迭代次數(shù)的增加，當[Δ]的值不再發(fā)生變化時便中斷迭代過程以免進入無休止的迭代求解。

（2）對[Δ]最小值的求解。由于當[Δ]達到平穩(wěn)狀態(tài)時的值未必是最小值，因此在迭代過程中記錄[Δ]的最小值。當[Δ]達到最小值的對應(yīng)的方程組的解被認為是方程組的近似解。

①設(shè)寄存器 min_delta用來記錄[Δ]的最小值，寄存器min_x記錄[Δ]取最小值時方程組的解，給定區(qū)域D和允許誤差ε ，利用算法1[13]求得初步解[x0′]，[Δ]，用[Δ]初始化寄存器min_delta；

②根據(jù)[[x0′]]改變區(qū)域D，使得D滿足[[x0′]∈D]得到新的求解區(qū)域D；

③以D為新的求解區(qū)域，利用算法 1 求得新的解賦值給[x0′]，并計算誤差 [Δ]，如果[Δ]

利用改進的算法對方程組進行了求解，表1 為區(qū)域D分別為三種情況時實驗的結(jié)果數(shù)據(jù)，[x1，0′]，[x2，0′]為[Δ]為最小時所求得近似解。結(jié)果表明在不知道[D0]的情況下，即使D偏離[D0]很遠時，也就是給一個任意的樣本初始點，迭代過程也能使[Δ]收斂到一個較小值。比如D的取值為：[x1∈[800，800.5]，x2∈[800，800.5]]時，經(jīng)過85次迭代[Δ]達到一個穩(wěn)定值，并在n=43時，[Δ]達到最小值0.052 1，[x1，0′]=1.234 2，[x2，0′]=1.667 2。

3 結(jié) 語

本文主要研究利用BP神經(jīng)網(wǎng)絡(luò)可以逼近多變元非線性方程組的函數(shù)的反函數(shù)，并利用迭代算法進行求解方程組的根，這是是一種通用的解多變元方程組的方法。

對文獻[13]所提出的利用迭代神經(jīng)網(wǎng)絡(luò)求解多變元非線性方程組的方法進行了研究和實驗分析，發(fā)現(xiàn)原算法可能由于誤差[Δ]過早收斂而出現(xiàn)無窮迭代，并且由于誤差并非一直隨迭代次數(shù)的增加直線或者曲線變小，因此收斂的誤差值并不一定是最小值。改進算法并根據(jù)誤差[Δ]隨迭代次數(shù)的變化曲線對迭代算法進行了改進，試驗結(jié)果表明給一個任意的樣本初始點，改進的迭代算都能能使[Δ]收斂到一個較小值，并找出[Δ]取最小值時方程組的近似解，具有較高的工程應(yīng)用。由于網(wǎng)絡(luò)的初始化權(quán)重和閾值以及對網(wǎng)絡(luò)的迭代結(jié)果有重要的影響，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù)的選取和優(yōu)化是值得進一步研究的問題。

參考文獻

[1] 焦李成.神經(jīng)網(wǎng)絡(luò)系統(tǒng)理論[M].西安：西安電子科技大學(xué)出版社，1996：1? 25.

[2] 張立明.人工神經(jīng)網(wǎng)絡(luò)的模型及其應(yīng)用[M].上海：復(fù)旦大學(xué)出版社，1992.

[3] ABIYEV Rahib Hidayat， ALTUNKAYA Koray. Neural network based biometric personal identification with fast iris segmentation [J]. International Journal of Control， Automation， and Systems， 2009， 7 （1）： 17?23.

[4] YANG Li， SONG Ma?lin. Research on BP neural network for nonlinear economic modeling and its realization based on Matlab [C]// International Symposium on Intelligent Information Technology Application. [S.l.]： [s.n.]， 2009 ： 505?508.

[5] 蔣蓉蓉.一種基于遺傳算法的BP網(wǎng)絡(luò)改進方法[J].微計算機信息，2007，23（11）：234?236.

[6] 王靜偉.BP神經(jīng)網(wǎng)絡(luò)改進算法的研究[J].中國水運，2008，8 （1）：157?158.

[7] CYBENKO G. Approximation by superpositions of a sigmidal function [J]. Math Contral Signals Systems， 1989， 2： 303?373.

[8] PALM G. On representation and approximation of nonlinear systems [J]. Discrete System Bid Cybernet， 1979， 34： 49?52.

[9] HECHT?NIELSEN R. Theory of the back propagation neural nerwork [C]// Proceedings of the International Joint Conference on Neural Nerworks. [S.l.]： IJCNN， 1989， 1： 593?608.

[10] 趙啟林，卓家壽.非線性方程組的耦合神經(jīng)網(wǎng)絡(luò)算法[J].河海大學(xué)學(xué)報，2000，28（5）：38?40.

[11] 吳靈敏，柳重堪.用神經(jīng)網(wǎng)絡(luò)解多元非線性方程組[J].北方交通大學(xué)學(xué)報，1997，21（2）：245?248.

篇8

關(guān)鍵詞：字符識別；BP神經(jīng)網(wǎng)絡(luò)；車牌識別

中圖分類號：TP391.41 文獻標識碼：A

1 引言（Introduction）

汽車牌照的識別是計算機視覺與模式識別應(yīng)用于的重要研究課題，車牌識別的準確率和高效性是識別的關(guān)鍵。由于車牌圖像難免會受到光照、天氣等因素影響，車牌圖像質(zhì)量會有所下降，為了對車牌字符的進行有效地識別，首先要對其進行去噪、增強等預(yù)處理，之后應(yīng)用識別算法對其進行識別[1]。本文研究了用BP神經(jīng)網(wǎng)絡(luò)方法對汽車牌照字符的識別算法。首先對分割、歸一化后的字符特征進行提取，所提取的特征向量記錄的就是字符的特征。把這個特征向量送到BP網(wǎng)絡(luò)中進行訓(xùn)練，就可以得到訓(xùn)練好的權(quán)值，用這個權(quán)值對車牌字符進行識別。對于車牌圖像的識別率達90%以上，表明該方法是有效的。

2 字符識別的原理（The principle of character

recognition）

字符識別的基本原理即對字符進行匹配識別。提取代表未知字符基本特征、結(jié)構(gòu)的樣本庫和提前在計算機中保存的標準字符的字典（字符基本特征和結(jié)構(gòu)的集合），在一定的規(guī)則下逐個匹配比較。在計算機中保存的標準字符的字典中，尋找與輸入字符樣本最相似的表達項，然后找出對應(yīng)的字符就是識別的結(jié)果[2]。字符識別的原理框圖如圖1所示。

3 BP神經(jīng)網(wǎng)絡(luò)字符識別算法（The BP neural network

character recognition algorithm）

BP算法基本原理是利用輸出后的誤差來估計輸出層的直接前導(dǎo)層的誤差，再用這個誤差估計更前一層的誤差，如此一層一層的反傳下去，就獲得了所有其他各層的誤差估計[3]。對BP網(wǎng)絡(luò)的設(shè)計要點是高效率的特征提取方法、具有代表性的大量訓(xùn)練樣本和穩(wěn)定高效的學(xué)習(xí)方法。

3.1 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

算法的基本流程就是：

（1）設(shè)置變量和參量，包括輸入向量（訓(xùn)練樣本和樣本個數(shù)）、每次迭代中輸入層和隱含層之間、隱含層與隱含層之間、隱含層與輸出層之間的權(quán)值向量矩陣、迭代次數(shù)、每次迭代的實際輸出、期望輸出和學(xué)習(xí)效率。

（2）隨機初始化權(quán)值矩陣。給三類權(quán)值矩陣賦一個相對較小的隨機非零值。

（3）進行樣本輸入。采用隨機輸入的方法。

（4）前向傳播。按照公式一層一層的前向計算隱藏神經(jīng)元和輸出神經(jīng)元的輸入和輸出。

（5）誤差計算，判斷。根據(jù)每次迭代的期望值和實際輸出結(jié)果算出誤差，判斷誤差值滿足要求與否，如果滿足進行第8步，否則進行下一步。

（6）迭代次數(shù)判斷。如果已經(jīng)達到最大的迭代次數(shù)，則進行第8步，否則進行反響傳播，即反向按照公式一層層迭代計算每層神經(jīng)元的局部梯度。

（7）權(quán)值更新。依據(jù)反向傳播過程計算出的局部梯度值，計算出各矩陣的權(quán)值修正值，并進行修正。

（8）終止判斷。終止條件為：所有的樣本都學(xué)習(xí)完成。否則進行第3步。

3.2 實際使用BP神經(jīng)網(wǎng)絡(luò)過程中的一些問題

①樣本的處理?？蛇m當放寬輸出條件，例如當輸出大于0.9時就當作是1，輸出小于0.1時當作0。對于輸入樣本，也應(yīng)該進行歸一化處理。

②初始化權(quán)值的選擇。權(quán)值的不同對學(xué)習(xí)結(jié)果會產(chǎn)生影響，因此選擇一個相對比較合理的權(quán)值是非常重要的。實際使用時，應(yīng)該用較小的隨機數(shù)來對權(quán)值進行初始化，隨機數(shù)的大小的分布也應(yīng)該是均勻的。

③學(xué)習(xí)率的選擇。神經(jīng)網(wǎng)絡(luò)中有一個學(xué)習(xí)率的概念，為了保證系統(tǒng)的穩(wěn)定性，通常應(yīng)該取較小的學(xué)習(xí)率，一般選取范圍在0.01―0.8。如果學(xué)習(xí)率過大，可能會導(dǎo)致系統(tǒng)不穩(wěn)定。如果學(xué)習(xí)率過小，會使得學(xué)習(xí)時間變長，收斂也會變慢。

3.3 BP神經(jīng)網(wǎng)絡(luò)應(yīng)用過程

BP神經(jīng)網(wǎng)絡(luò)應(yīng)用過程如圖2所示。

3.4 BP網(wǎng)絡(luò)三個層的神經(jīng)元數(shù)目的確定

目前還沒有什么成熟的定理能確定各層神經(jīng)元的神經(jīng)元個數(shù)和含有幾層網(wǎng)絡(luò)，大量經(jīng)驗表明，三層的網(wǎng)絡(luò)可以逼近任意一個非線性網(wǎng)絡(luò)。

首先，使用已知的樣本對BP網(wǎng)絡(luò)進行訓(xùn)練。對于輸入層的結(jié)點，其數(shù)目是之前車牌圖像預(yù)處理后輸出特征的維數(shù)。

對于隱含層的結(jié)點數(shù)目，一般情況下，隱含層神經(jīng)元數(shù)目和BP網(wǎng)絡(luò)精確度成正比，數(shù)目越多，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時間也會越長。但是，當隱含層神經(jīng)元數(shù)目過大時，識別的準確率就會受到影響，同時也會使得網(wǎng)絡(luò)的抗噪聲能力下降[4]。綜合考慮上述情況，根據(jù)以往經(jīng)驗，使用10個隱含層的神經(jīng)元。

對于輸出層結(jié)點數(shù)目，受輸入層結(jié)點數(shù)的約束。本文中，我們采用8421碼對數(shù)字0―9，字母A―Z，省名簡稱“京津滬冀魯豫鄂蘇皖晉湘桂閩川浙甘寧陜吉遼臺”依次進行編碼。例如，對于輸出“1”，表示為（0，0，0，0，0，1），對于輸出“A”，表示為（0，0，1，0，1，0），對于輸出“京”，表示為（1，0，0，1，0，0）。因此，采用6個輸出層神經(jīng)元。

然而，實驗中發(fā)現(xiàn)，當使用上述結(jié)構(gòu)的標準輸出向量時，會出現(xiàn)BP神經(jīng)網(wǎng)絡(luò)無法收斂的問題。原因在于BP網(wǎng)絡(luò)學(xué)習(xí)中采用的激活函數(shù)的輸出只可能無限接近1或0，但不會是1或0。針對這個問題，對標準輸出向量的編碼方式進行如下調(diào)整：用0.1代替0，用0.9代替1。即對于輸出“0”，表示為（0.1，0.1，0.1，0.1，0.1，0.1），對于輸出“1”，表示為（0.1，0.1，0.1，0.1，0.1，0.9），對于輸出“A”，表示為（0.1，0.1，0.9，0.1，0.9，0.1），對于輸出“京”，表示為（0.9，0.1，0.1，0.9，0.1，0.1），以此類推。

3.5 BP神經(jīng)網(wǎng)絡(luò)識別字符的流程

使用BP神經(jīng)網(wǎng)絡(luò)進行字符識別，實際上可看作是訓(xùn)練和識別兩個過程。其中，訓(xùn)練就是提取訓(xùn)練樣本的特征向量。第一步，將挑選好的圖像形式的已知數(shù)據(jù)作為訓(xùn)練樣本，這些已知數(shù)據(jù)能夠很好的反應(yīng)樣本的可分性。第二步，在訓(xùn)練樣本圖像經(jīng)過進行特征提取操作后送入BP網(wǎng)絡(luò)中進行訓(xùn)練。訓(xùn)練之前，要提前輸入一系列訓(xùn)練參數(shù)。

經(jīng)過BP網(wǎng)絡(luò)的訓(xùn)練后，就可以用其對待識別數(shù)據(jù)進行識別。待識別數(shù)據(jù)在經(jīng)過灰度化、二值化、歸一化、分割等預(yù)處理操作后，再經(jīng)過特征向量提取，最后在BP網(wǎng)絡(luò)中進行識別，得出識別結(jié)果。

3.6 實驗結(jié)果

實驗中采用了在不同環(huán)境下拍攝到的100張車牌圖像，這些牌照的清晰程度、區(qū)域大小都不相同，按照前文所述BP神經(jīng)網(wǎng)絡(luò)算法進行模擬實驗。根據(jù)表1所示識別結(jié)果，由于個別字母與數(shù)字之間有相似之處，導(dǎo)致其識別率相對較低，分別為95.9%、96.2%。而車牌中漢子字符數(shù)量很少，且特征相對比較明顯，使得其識別率相對較高，實驗結(jié)果為98.0%。

4 結(jié)論（Conclusion）

基于BP神經(jīng)網(wǎng)絡(luò)的車牌字符識別方法，對于比較清晰的車牌圖像，本方法能有效識別其中的字符，但對于較低解析度和較為模糊的車牌還需要進行很多預(yù)處理的工作，因為必須將車牌中的字符獨立地被分割后，才能用該方法進行識別。而事實上，在那些圖像不夠清晰的車牌上分割出獨立的字符也是特別困難的。雖然，BP神經(jīng)網(wǎng)絡(luò)在識別效果上提高的余地較大，具有較強的容錯能力，還可進一步訓(xùn)練學(xué)習(xí)，識別率較高，但其識別速度較慢，不能滿足實時性的要求。

參考文獻（References）

[1] 郭榮燕，胡雪惠.BP神經(jīng)網(wǎng)絡(luò)在車牌字符識別中的應(yīng)用[J].計

算機仿真，2010（9）：299-301；350.

[2] 劉靜.幾種車牌字符識別算法的比較[J].電腦與電信，2008（8）：

72-73；78.

[3] 石云.BP神經(jīng)網(wǎng)絡(luò)的Matlab實現(xiàn)[J].湘南學(xué)院學(xué)報，2010（5）：86-

88；111.

[4] 尹念東.BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用設(shè)計[J].信息技術(shù)，2003（6）：18-20.

作者簡介：

篇9

[關(guān)鍵詞] 小生境遺傳算法 神經(jīng)網(wǎng)絡(luò) 股票 預(yù)測

一、引言

股票和股票市場對國家企業(yè)的經(jīng)濟發(fā)展起到了積極的作用，如可以為投資者開拓投資渠道，增強投資的流動性和靈活性等。但股票價格的形成機制是頗為復(fù)雜的，股票價格既受到多種因素，諸如:政治，經(jīng)濟，市場因素的影響，亦受技術(shù)和投資者行為因素的影響，個別因素的波動作用都可能會影響到股票價格的劇烈波動。因此，股票價格和各影響因素之間很難直接建立明確的函數(shù)關(guān)系表達式。針對這一情況，將可有效處理非線性問題的神經(jīng)網(wǎng)絡(luò)引入到股票價格的預(yù)測中來，但神經(jīng)網(wǎng)絡(luò)收斂慢,易陷入局部極小點，出現(xiàn)振蕩，魯棒性差。所以有的學(xué)者用遺傳算法(ga)來優(yōu)化神經(jīng)網(wǎng)絡(luò)，這種神經(jīng)網(wǎng)絡(luò)可能獲得個別的甚至局部的最優(yōu)解,即ga早熟現(xiàn)象。本文引進能較有效地保持種群多樣性的小生境遺傳算法(nga),采用nga優(yōu)化與用ga優(yōu)化的bp網(wǎng)絡(luò)權(quán)值進行對比,證實了nga的判別準確性和尋優(yōu)能力。

二、小生境遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)

1.bp神經(jīng)網(wǎng)絡(luò)

反向傳播(bp)算法又稱為誤差逆?zhèn)鞑バＵ椒?，它?974年p.werbos(哈佛大學(xué))提出的。133229.CoMbp算法用來訓(xùn)練多層前饋神經(jīng)網(wǎng)絡(luò),屬于監(jiān)督學(xué)習(xí)算法。bp網(wǎng)絡(luò)具有結(jié)構(gòu)清晰，易實現(xiàn)，計算功能強大等特點。因而是目前最常見，使用最廣泛的一種神經(jīng)網(wǎng)絡(luò)。但是在實際應(yīng)用中，傳統(tǒng)的bp算法存在以下問題:收斂速度慢;若加快收斂速度易產(chǎn)生振蕩；存在局部極小和平臺問題;泛化能力差;隱節(jié)點數(shù)和初始值的選取缺乏理論指導(dǎo);未考慮樣本選擇對系統(tǒng)學(xué)習(xí)的影響等。所以很多學(xué)者提出許多改進的方法，用小生境遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值的神經(jīng)網(wǎng)絡(luò)來預(yù)測股票價格。

2.小生境遺傳算法

小生境遺傳算法(iche genetical gorihm)的基本思想是:首先比較任意兩個個體間的距離與給定值的大小，若該距離小于給定值，則比較其適應(yīng)值大小。對適應(yīng)值較小的個體施加一個較強的懲罰，極大地降低其適應(yīng)值。也就是說，在距離l內(nèi)將只有一個優(yōu)良個體，從而既維護了群體的多樣性，又使得各個體之間保持一定的距離，并使得個體能夠在整個約束空間中分散開來。

3.神經(jīng)網(wǎng)絡(luò)連接權(quán)的優(yōu)化

用小生境遺傳算法可以優(yōu)化神經(jīng)網(wǎng)絡(luò)連接權(quán)，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，學(xué)習(xí)規(guī)則等，這里我們對神經(jīng)網(wǎng)絡(luò)的連接權(quán)進行優(yōu)化，具體步驟如下：

（1）隨機產(chǎn)生一組權(quán)值分布，采用某種編碼方案對該組中的每個權(quán)值(或閾值)進行編碼，進而構(gòu)造出一個碼串(每個碼串代表網(wǎng)絡(luò)的一種權(quán)值分布)，在網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)規(guī)則已確定的前提下,該碼串就對應(yīng)一個權(quán)值和閾值取特定值的一個神經(jīng)網(wǎng)絡(luò)。

（2)對所產(chǎn)生的神經(jīng)網(wǎng)絡(luò)計算它的誤差函數(shù)，從而確定其適應(yīng)度函數(shù)值，誤差越大,則適應(yīng)度越小。

（3)選擇若干適應(yīng)度函數(shù)值最大的個體,直接遺傳給下一代。

（4)利用交叉和變異等遺傳操作算子對當前一代群體進行處理，產(chǎn)生下一代群體。

（5)重復(fù)（2）（3）（4），使初始確定的一組權(quán)值分布得到不斷地進化,直到訓(xùn)練目標得到滿足為止。

這種由小生境遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法也可以稱做混和訓(xùn)練法。將基于小生境遺傳算法的遺傳進化方法和基于梯度下降的反傳訓(xùn)練相結(jié)合,這種訓(xùn)練方法吸取兩種方法的各自特點，所以收斂速度快。

三、股票價格預(yù)測仿真

根據(jù)經(jīng)驗選取輸入預(yù)測日前四天開盤價、收盤價歸一化后做為作為輸入量，輸出為第五天收盤價歸一化數(shù)值。所以，本文采用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為(8,5,1),即網(wǎng)絡(luò)的輸入層6個節(jié)點,隱含層9個節(jié)點,輸出層1個節(jié)點。本文選擇了“xdg 新梅（600732）”從2006年3月14日到2006年7月1日數(shù)據(jù)進行了仿真。利用matlab6.5編程，取70組訓(xùn)練樣本和30組測試樣本。如圖（1）表示用遺傳算法和小生境遺傳算法對神經(jīng)網(wǎng)絡(luò)的權(quán)值進行優(yōu)化時，誤差曲線變化;從圖中可以看出，小生境遺傳算法收斂速度要快;圖（2）表示股票預(yù)測值和實際值比較，從圖中可以看出，遺傳算法和小生境遺傳算法對神經(jīng)網(wǎng)絡(luò)的權(quán)值的模型進行股票價格的預(yù)測，都能預(yù)測出股票走向趨勢，但是，后者的預(yù)測精度顯然要比前者高。

四、結(jié)束語

股票市場的不確定因素太多，股票的價格更是多種因素影響的集合體，是典型的非線性動力學(xué)問題。股票價格的中長期準確預(yù)測很難。本文建立了用小生境遺傳算來優(yōu)化神經(jīng)網(wǎng)絡(luò)模型來預(yù)測股票價格，結(jié)果表明，這種方法比單用遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)收斂速度快，預(yù)測精度高。對于股票價格預(yù)測具有較好的應(yīng)用價值。

參考文獻:

[1]龍建成李小平:基于神經(jīng)網(wǎng)絡(luò)的股票市場趨勢預(yù)測[j].西安電子科技大學(xué)學(xué)報(自然科學(xué)版.2005.3（32）:460-463

[2]王波張鳳玲:神經(jīng)網(wǎng)絡(luò)與時間序列模型在股票預(yù)測中的比較[j].第27卷第6期武漢理工大學(xué)學(xué)報·信息與管理工程版.2005.9（27）:69-72

篇10

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；Adaboost算法；強預(yù)測器；迭代算法；稅收預(yù)測

中圖分類號： TP183

文獻標志碼：A

Tax forecasting based on Adaboost algorithm and BP neural network

LI Xiang*， ZHU Quan-yin

Faculty of Computer Engineering， Huaiyin Institute of Technology， Huai’an Jiangsu 223003， China

Abstract：

In view of the lower accuracy of traditional tax forecasting models， the authors put forward a method of combining the Adaboost algorithm with BP neural network to forecast revenue. Firstly， the method performed the pretreatment for the historical tax data and initialized the distribution weights of test data； secondly， it initialized the weights and thresholds of BP neural network， and used BP neural network as a weak predictor to train the tax data repeatedly and adjust the weights； finally， it made more weak predictors of BP neural network to form new strong predictors by Adaboost algorithm and forecasted. The authors also carried out simulation experiment for the tax data of China from 1990 to 2010. The results show that this method has reduced the relative value of mean error from 0.50% to 0.18% compared to the traditional BP network， has effectively reduced the effect when single BP gets trapped in local minima， and has improved the prediction accuracy of network.

英文關(guān)鍵詞　Key words：

neural network； Adaboost algorithm；strong predictor；iterative algorithm； tax forecasting

0 引言

稅收是實施財政政策的重要工具，也是聯(lián)系宏微觀經(jīng)濟的一種紐帶。作為國家宏觀調(diào)控體系的重要組成部分，稅收也是國家駕馭市場經(jīng)濟最主要、最有效、最常用的手段之一[1]。因此，稅收預(yù)測的科學(xué)性和準確性具有重要的研究價值。

稅收數(shù)據(jù)是一種動態(tài)、非線性的時間序列數(shù)據(jù)，受到政治、經(jīng)濟、文化等因素影響，稅收數(shù)據(jù)的預(yù)測精度主要取決于預(yù)測算法。國內(nèi)外學(xué)者當前對稅收預(yù)測的研究方法，主要集中于基于線性回歸方法、時間序列分析方法和神經(jīng)網(wǎng)絡(luò)預(yù)測方法。文獻[2]采用線性回歸方法對稅收進行預(yù)測，由于影響稅收預(yù)測的因素較多，且這些因素之間表現(xiàn)出較強的非線性特征，所以線性回歸模型預(yù)測的精度不高。文獻[3-4]中提出使用反向反饋傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡(luò)進行稅收預(yù)測，但該方法沒有克服傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)存在的缺陷，容易陷入局部極小值，算法收斂速度較慢。文獻[5-6]中提出使用Elman神經(jīng)網(wǎng)絡(luò)進行稅收預(yù)測，取得了比傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)更高的預(yù)測精度。但由于Elman神經(jīng)網(wǎng)路的學(xué)習(xí)過程與前饋神經(jīng)網(wǎng)絡(luò)類似，也會出現(xiàn)收斂速度慢和易收斂到局部極小的缺陷，導(dǎo)致預(yù)測結(jié)果不穩(wěn)定[7]。

本文針對上述問題，提出基于Adaboost算法和BP神經(jīng)網(wǎng)絡(luò)的稅收預(yù)測方法，并將該方法應(yīng)用于我國1990—2010年稅收數(shù)據(jù)仿真實驗，證明了本文方法的有效性。

1 BP神經(jīng)網(wǎng)絡(luò)與Adaboost算法

1.1 BP神經(jīng)網(wǎng)絡(luò)原理

BP網(wǎng)絡(luò)是典型的前饋神經(jīng)網(wǎng)絡(luò)，其權(quán)值訓(xùn)練中采用誤差逆向傳播的方式，具有非線性連續(xù)有理函數(shù)的逼近功能[8]。在信號前向傳遞過程中，輸入信號從輸入層進入，經(jīng)過隱含層處理，到達輸出層。每一層的神經(jīng)元狀態(tài)只影響下一層的神經(jīng)元狀態(tài)。判斷輸出層的結(jié)果是否為期望輸出，如果不是，則轉(zhuǎn)入反向傳播，然后根據(jù)預(yù)測誤差調(diào)整網(wǎng)絡(luò)權(quán)值和閾值，從而使BP神經(jīng)網(wǎng)絡(luò)預(yù)測輸出不斷逼近期望輸出[9]。由于結(jié)構(gòu)簡單，可調(diào)參數(shù)多，訓(xùn)練算法多，操控性好，BP 神經(jīng)網(wǎng)絡(luò)獲得了廣泛的實際應(yīng)用[10]。BP神經(jīng)網(wǎng)絡(luò)的拓撲結(jié)構(gòu)如圖1所示。