人工神經網絡的發(fā)展范文
時間:2024-04-02 11:39:25
導語:如何才能寫好一篇人工神經網絡的發(fā)展,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公務員之家整理的十篇范文,供你借鑒。
篇1
關鍵詞:灌溉 人工神經網絡 預測 糧食 發(fā)展需求 計算機
近年來國內外興起的人工神經網絡研究方法能對信息進行大規(guī)模并行處理;具有很強的魯棒性和容錯性;善于聯(lián)想、概括、類比和推理;而且具有很強的自學習能力,善于從大量統(tǒng)計資料中分析提取宏觀統(tǒng)計規(guī)律,很適合灌溉宏觀發(fā)展戰(zhàn)略的定量研究.因此,本文引入人工神經網絡原理,來建立全國糧食總產與影響因子間的定量關系模型.
1 模型的建立
在其它條件不變的情況下,糧食總產主要取決于播種面積、灌溉面積、農田成災面積、漬澇鹽堿地面積、糧食價格、良種覆蓋率、化肥使用量、科技貢獻率8個主要因素.為確定糧食總產與影響因子間的定量關系,根據人工神經網絡基本原理,設計相應的神經網絡:
網絡共分四層,一個輸入層,二個隱含層,一個輸出層.輸入層8個節(jié)點,輸出層1個節(jié)點.
令Qm,Hi,Wj,O分別為第1、2、3、4層的輸出;Ui,Vj,S分別為第2、3、4層的輸入;Aim,Bji,Cj分別為第1~2層,2~3層,和3~4層單元的連接權值;Xi,Yj,Z分別為第2、3、4層單元的偏置值;Di,Jj,G分別為第2、3、4層的誤差信號.
篇2
關鍵詞:人工神經網絡;教學實踐;教學方法;生物信息學
中圖分類號:G642.0 文獻標志碼:A 文章編號:1674-9324(2014)17-0208-03
人工神經網絡是在神經生理學、生物學、數(shù)學、計算機學等學科發(fā)展的基礎上提出的,模擬人類大腦的結構和思維方式處理、記憶信息的一門學科。具體來說,早在20世紀40年代,隨著醫(yī)學、生物學家們對人腦神經的結構、組成以及信息處理的工作原理的認識越來越充分,有學者提出以數(shù)學和物理方法對人腦神經網絡進行抽象,并建立簡化的模型,用以進行信息處理,這種應用類似于大腦神經突觸聯(lián)接的結構進行信息處理的數(shù)學模型,稱之為人工神經網絡ANN(Artificial Neural Network)[1]。
在人工神經網絡中,各種待處理的對象(數(shù)據、特征、字符、抽象的模式等等)都可用神經元處理單元表示。這些神經元主要可以分為輸入神經元、隱含神經元和輸出神經元三大類。其作用各不相同,作為輸入神經元的處理單元用來與外界產生連接,接收外界的信號輸入;隱含神經元處于中間層,為信息處理的不可見層;輸出神經元主要實現(xiàn)結果的輸出。神經元之間相互連接,連接的權重反映了各神經元之間的連接強度,神經元之間的連接關系中蘊含著信息的表示和處理。人工神經網絡主要是在不同程度、不同層次上模擬大腦處理信息的風格,具有非程序化、較強的適應性、自組織性、并行分布式等特點,其實現(xiàn)主要是通過網絡的變換和動力學行為,涉及數(shù)學、生物學、人工智能、計算機科學、非線性動力學等多個學科[1]。作為一門活躍的邊緣叉學科,在處理信息方面,相比于傳統(tǒng)人工智能方法具有非線性適應性,成功地應用于神經專家系統(tǒng)、模式識別、組合優(yōu)化、預測等多個領域,尤其在生物信息學領域得到了廣泛的應用。生物信息學是20世紀末發(fā)展起來的一極具發(fā)展?jié)摿Φ男滦蛯W科。人類的基因中蘊含著大量有用信息,利用神經網絡可以對這些海量的信息進行識別與分類,進而進行相關的生物信息學分析。如利用神經網絡分析疾病與基因序列的關系,基于神經網絡對蛋白質結構的預測,基因表達譜數(shù)據的分析,蛋白質互作位點的預測等等,都取得了很好的效果[2]。
因此,在生物信息相關專業(yè)的本科生中開設人工神經網絡課程尤為重要。經過多年的研究發(fā)展,已經提出上百種的人工神經網絡模型,這就需要教師針對不同的專業(yè)背景,不同層次的學生,講授不同模型的核心思想、推導過程、實際應用等等。本文主要根據人工神經網絡在生物信息學相關專業(yè)的教學實踐,從以下幾個方面進行探討。
一、引導式教學,激發(fā)學生的學習積極性
神經網絡作為一門偏于理論分析的學科,傳統(tǒng)的教學模式,即首先講解模型的起源,接下來介紹模型的核心思想,然后就是一連串的數(shù)學公式推導,面對滿黑板的公式,學生很難提起興趣去認真學習相應的模型。所以,如何激發(fā)起學生的學習積極性,讓學生重視這門課程,更好地掌握課程內容,掌握相關的模型理論基礎、核心思想,更好地服務于本專業(yè),是人工神經網絡教學者亟待解決的問題。
首先,在導課的時候要生動,以引起學生對將要學習的內容的好奇心,讓學生有興趣投入到課堂學習內容中去。布盧姆說過:“最大的學習動機莫過于學生對所學知識有求知的興趣?!敝挥性谶@種動機下的學習,才會提高自身的主動性與自覺性,達到提高教學質量的目的[3]。例如,在講解hopfield神經網絡的時候,通過舉例對蘋果、橘子的質地、形狀、重量等特征的描述,運用“0,1”進行量化描述,然后應用神經網絡就可以進行有效地分類;對于旅行商TSP問題,也可以通過hopfield神經網絡尋找到最優(yōu)路徑。那么,這些問題是如何解決的呢?就需要大家來一起揭開hopfield神經網絡的神秘面紗。其次,由于神經網絡涉及大量的數(shù)學公式與數(shù)學方法,學生往往會有畏懼的心理,這就需要教師幫學生澄清思想誤區(qū),現(xiàn)在很多用于數(shù)據分析與計算的軟件,如matlab工具箱、R軟件里面都有很成熟的人工神經網絡軟件包,所以,學生只需要理解其工作原理、核心思想,學會使用現(xiàn)成的人工神經網絡軟件包處理數(shù)據,在熟練應用程序包的基礎上,對相應的神經網絡模型進行優(yōu)化,改進,并且與其他的人工智能算法相結合,更好地為本專業(yè)服務。第三,在講授人工神經網絡理論內容的時候,要摒棄傳統(tǒng)的呆板式的推導過程,以往的神經網絡教學方法注重理論分析,通常是一連串的公式推導,公式中又涉及大量的符號,計算起來復雜又煩瑣,學生會覺得索然無趣,厭學情緒嚴重。在教學過程中,教師要精心設計,創(chuàng)設出特定的問題環(huán)境,將所學內容與本專業(yè)相結合起來,多講應用,啟發(fā)和誘導學生選取合適的神經網絡模型來解決本專業(yè)的實驗數(shù)據分析與處理等問題。
二、理論教學與實驗教學相結合
除了在理論課堂上將基本的理論知識傳輸給學生,教師還應該安排若干實驗教學內容,讓學生以實驗為主,將理論課上所學的知識運用到解決實際問題中來,理論聯(lián)系實際,主動操作思考,觀察,分析,討論,以培養(yǎng)學生解決問題的能力。一旦學生自己動手處理一些問題后,很自然地就會對人工神經網絡產生一種親切感,并能強烈激發(fā)起學生繼續(xù)探究下去的興趣。對于同一問題,可以讓學生選取不同的網絡模型,設置不同的參數(shù),甚至可以讓學生自己動手編寫相應的網絡模型程序,并且給予改進,根據得出的結果來評價模型在解決實際問題時的好壞,以及模型改進的效果。作為授課教師,需要不斷優(yōu)化實驗教學內容,在生物信息學專業(yè)開設人工神經網絡課程,實驗教學主要是針對生物信息專業(yè)的海量生物數(shù)據處理與分析的實際需要,培養(yǎng)學生綜合運用人工神經網絡方法和生物信息學知識,進行信息的分析與處理。除了在實驗課堂上給學生最大的自由發(fā)揮空間外,課后作業(yè)也盡量以開放式問題的形式給出,比如,可以讓學生選取相應的網絡模型處理本專業(yè)的一些實際問題,例如,數(shù)據的分類、聚類等等,其中,數(shù)據來源可以不同,類型也可自由選取,最后給出相應的模型參數(shù)設置、方法的改進、實驗結果,也可以安排學生自己查詢文獻進行學習,并安排學生作報告。這樣,學生可以在世界范圍內了解神經網絡的在本專業(yè)的應用情況,又能提高英語的讀寫能力,還能鍛煉學生做科研報告的能力。
三、加強師資隊伍建設以及其他基本條件的建設
由于生物信息學是一門新興的交叉學科[4],這就要求人工神經網絡的授課教師要熟練掌握生物信息相關專業(yè)的知識,教師的業(yè)務水平必須得到充分保證,才能給學生以全面透徹的指導。學院應該本著自主培養(yǎng)與重點引進的原則,優(yōu)化教師隊伍的專業(yè)結構和學歷結構,提高教師的自身修養(yǎng)。授課教師要將課堂的理論知識聯(lián)系實際生物問題進行講授,讓學生感受到人工神經網絡在本專業(yè)的應用,提高學生的學習效率,同時也需要閱讀大量的專業(yè)文獻,提高編程技巧和數(shù)據庫應用能力,讓自己成為一名合格的復合型教師。同時,人工神經網絡課程的實驗,高度依賴于計算機網絡等設備,因此,相關的軟硬件設施的建設也必不可少,由于,基因組測序技術的發(fā)展,目前生物信息學研究所用的數(shù)據都是海量的,神經網絡訓練起來所需時間太長,不能用普通的電腦完成,需要專門的服務器來處理,學校有關部門應在條件允許的情況下,配備機房,購買服務器,以及相關的軟件,為學生創(chuàng)造良好的環(huán)境,讓學生完成課程內容。
最后,人工神經網絡涉及數(shù)學、計算機、人工智能和神經學等專業(yè)知識,因此,需要授課教師加強與其他相關專業(yè)教師的交流與合作,并滲透到授課過程中去,讓學生在學習人工神經網絡網絡時能將各專業(yè)聯(lián)系起來,更好地解決生物信息學中的問題,要想成為一名合格的人工神經網絡課程教師,首先要成為一名復合型的教師,不僅要具備教學和科研能力,同時也要具備計算機、生物學、信息學等多學科的知識。
參考文獻:
[1]朱大奇,史慧.人工神經網絡及其應用[M].北京:科學出版社,2006.
[2]朱偉,史定華,王翼飛.人工神經網絡在蛋白質二級結構預測中的應用[J].自然雜志,2003,(3):167-171.
[3]趙俊,李曉紅.趣味教學法在預防醫(yī)學教學中的運用[J].現(xiàn)代醫(yī)藥衛(wèi)生,2005,21(15):2089-2090.
篇3
決策支持系統(tǒng)經過二十多年的發(fā)展,形成了如圖l所示公認的體系結構。它把模型并入信息系統(tǒng)軟件中,依靠管理信息系統(tǒng)和運籌學這兩個基礎逐步發(fā)展起來。它為解決非結構化決策問題提供了相應的有用信息,給各級管理決策人員的工作帶來了便利。從圖1可以看出決策支持系統(tǒng)體系結構可劃分為三級,即語言系統(tǒng)(LS)級、問題處理系統(tǒng)(PPS)級和知識系統(tǒng)fKS)級。其中問題處理系統(tǒng)級包括推理機系統(tǒng)(RS)、模型庫管理系統(tǒng)(MBMS)、知識庫管理系統(tǒng)(KBMS)及數(shù)據庫管理系統(tǒng)(DBMS)。知識系統(tǒng)級包括模型庫(MB)、知識庫(KB)及數(shù)據庫(DBo九十年代中期,興起了三個輔助決策技術:數(shù)據倉庫(DW)、聯(lián)機分析處理(0LAP)和數(shù)據挖掘(DM)。聯(lián)機分析處理是以客戶,服務器的方式完成多維數(shù)據分析。數(shù)據倉庫是根據決策主題的需要匯集大量的數(shù)據庫,通過綜合和分析得到輔助決策的信息。數(shù)據挖掘顧名思義,是為了獲得有用的數(shù)據,在大量的數(shù)據庫中進行篩選。人工智能技術建立一個智能的DSS人機界面,可進行圖、文、聲、像、形等多模式交互,人機交互此時變得更為自然和諧,人們能沉浸其中,進行合作式、目標向導式的交互方法。從目前情況來看,財務決策支持系統(tǒng)的研究還處于初級發(fā)展階段,財務數(shù)據的保密性、特殊性決定了財務決策不能全部公開化、透明化,但隨著中央及國務院相關部門財務預決算數(shù)據的公開,財務決策系統(tǒng)及其支持系統(tǒng)和過程也將隨之公開,這就要求決策者充分利用財務知識和決策支持系統(tǒng)的知識“聰明”決策、合理決策、科學決策、規(guī)范決策。
2財務管理神經網絡智能決策支持系統(tǒng)總體研究框架
2.1神經網絡運行機制神經網絡的著眼點是采納生物體中神經細胞網絡中某些可利用的部分,來彌補計算機的不足之處,而不是單單用物理的器件去完整地復制。第一,神經網絡中的鏈接的結構和鏈接權都可以通過學習而得到,具有十分強大的學習功能;第二,神經網絡所記憶的信息是一種分布式的儲存方式,大多儲存在神經元之間的權中;第三,神經網絡部分的或局部的神經元被破壞后,仍可以繼續(xù)進行其他活動,不影響全局的活動,因此說,神經網絡的這種特性被稱作容錯性;第四,神經網絡是由大量簡單的神經元組成的,每個神經元雖然結構簡單,但是它們組合到一起并行活動時,卻能爆發(fā)出較快較強的速度來。我們可以利用神經網絡的上述特點,將之應用于模式識別、自動控制、優(yōu)化計算和聯(lián)想記憶、軍事應用以及決策支持系統(tǒng)中。
2.2財務管理神經網絡集成智能財務DSS的必然性在企業(yè)經營管理、政府機構財務活動中,人們時常面臨著財務決策。人們往往需要根據有關的理論及經驗制定出一系列的衡量標準。這種評價是一個非常復雜的非結構化決策過程,一般都是由內行專家根據一定的專業(yè)理論憑經驗和直覺在收集大量不完全、不確定信息基礎上建立起多級指標體系。但在這種指標體系中,各種指標之間的關系很難明確,而且還受評價者的效用標準和主觀偏好所左右。因此,很難在指標體系和評價目標間建立起準確的定量或定性模型。因此,我們需要采用一種可處理不確定性、不完全性信息的評價方法以支持決策。自然,利用人工神經網絡構造系統(tǒng)模式來支持這類評價決策問題是目前財務管理智能決策支持系統(tǒng)的一種發(fā)展趨勢和必然趨勢圈。
2.3財務管理神經網絡集成智能DSS系統(tǒng)框架神經網絡智能決策支持系統(tǒng)主要以知識、數(shù)據和模型為主體,結合神經網絡進行推理與數(shù)據開采。圖2給出了神經網絡智能決策支持系統(tǒng)研究框架『2I。研究中有兩個重點,即神經網絡推理系統(tǒng)和神經網絡數(shù)據開采系統(tǒng)。
2.3.1神經網絡數(shù)據開采系統(tǒng)神經網絡數(shù)據開采時利用神經網絡技術協(xié)助從數(shù)據中抽取模式。數(shù)據開采有五項基本任務:相關分析、聚類、概念描述、偏差監(jiān)測、預測。常用的前饋式神經網絡,如BP網絡,可用于進行概念描述及預測。對向傳播(CounterPropagation,簡稱CP)神經網路可用來進行統(tǒng)計分析和聚類。CP網絡是美國神經計算專家RobertHecht—Nielsen提出的一種新型特征映射網絡,其網絡結構分輸入、競爭、輸出三層。該網絡吸取了無教師示教型網絡分類錄活、算法簡練的優(yōu)點,又采納了有教師示教型網絡分類精細、準確的好處,使兩者有機地結合起來。由競爭層至輸出層,網絡按基本競爭型網絡學習規(guī)則得到各輸出神經元的實際輸出值,并按有教師示教的誤差校正方法調整由競爭層至輸出層的鏈接權。經過這樣反復地學習,可以將任意輸入模式映射為輸出模式。
2.3.2財務管理神經網絡推理系統(tǒng)財務管理神經網絡推理系統(tǒng)主要利用神經網絡的并行處理機制來解決傳統(tǒng)推理方法中存在的“組合爆炸”、“無窮遞歸”,等問題。在神經網絡系統(tǒng)中,計算與存儲時完全合二為一的,即信息的存儲體現(xiàn)在神經元互連的分布上,并以大規(guī)模并行方式處理。流動的過程就是從部分信息找到全部信息的過程,這就是聯(lián)想記憶的基本原理。若視動力系統(tǒng)的穩(wěn)定吸引子為系統(tǒng)計算能量函數(shù)的極小點,系統(tǒng)最終會流向期望的最小點,計算也就在運動過程中悄悄地完成了。因而,可用雙向聯(lián)想記憶(BAM)網絡或CP網絡實現(xiàn)并行推理。CP網絡具有特殊的聯(lián)想推理映射功能。將輸入學習模式和期望輸出模式取為同一模式,且將之分為x和Y兩部分。網絡通過提供的樣本對進行充分的學習后,就可用來進行模式問的聯(lián)想推理。
3財務管理神經網絡智能DSS研究展望
當前世界上最熱門的研究課題,是模仿人類的思維方式來解決實際問題。專家系統(tǒng)和人工神經網絡是比較常用的技術,但由于自身的局限性,它們都側重于人類思維方式的某一方面。平時解決簡單的問題的時候還好,但真遇到解決復雜的問題的時候,它就顯得力不從心了,所以,這個時候我們可以將兩種技術結合起來解決,除了它們要自身不斷發(fā)展和完善外,還要注重兩者的協(xié)調配合,神經網絡DSS未來的發(fā)展趨勢就是依靠這兩種技術不斷結合,從而能幫助我們解決更多的實際問題。
3.1財務管理神經網絡支持專家系統(tǒng)常見的財務管理神經網絡支持專家系統(tǒng)主要包括幾個方面:知識維護、知識表示、知識獲取、推理等,我們針對各個步驟展開討論。
3.1.1知識維護。如果知識是通過人工神經網絡來獲取的,我們就可以同樣利用人工神經網絡,來讓維護工作變得更加方便快捷,維護可以通過人工神經網絡來自動完成,我們需要做的只是重新運行網絡模塊,或者重新訓練網絡模塊,又或是增加新的網絡模塊。
3.1.2推理。一般的專家系統(tǒng)只是求解專門性問題,應用的領域非常狹窄,同時由于控制策略不靈活,推理方法簡單,容易出現(xiàn)一些這樣或那樣的問題,推理效率低、速度慢。人-T-~$經網絡可以解決這一問題,從根本上提升工作效率,提高工作速度,它可以拓展知識空間,不只局限在狹窄的領域。
3.1.3知識表示。很多專家知識事實上很難用規(guī)則表示出來,但在現(xiàn)實工作中,我們大部分財務管理專家卻都采取這種方式,無論是直接的還是間接的。其它的知識表示方法也存在著同樣的問題。為了解決這一問題,我們可以采用人工神經網絡系統(tǒng)來將知識提供給專家系統(tǒng),這樣做就可以避免這一問題,當專家系統(tǒng)需要相應知識時,就不需要用規(guī)則來表示知識,直接調用人工神經網絡就可以了。
3.1.4知識獲取。人工神經網絡可以幫專家系統(tǒng)來獲取知識,知識獲取是通過人機對話的形式進行的。首先,專家系統(tǒng)向專家提出問題,人工神經網路則負責對這些信息進行收集、處理,在人工神經網絡的聯(lián)結權值中已經具有通用的知識,所以這一步驟會很方便,之后再產生相應的數(shù)據結果。接著,專家系統(tǒng)在對這些數(shù)據進行進一步的分析。在這一過程中,專家系統(tǒng)只運用很少的規(guī)則就可以獲得相關的知識,大大提高了工作效率。
3.2財務管理專家系統(tǒng)支持神經網絡財務管理專家主要通過三種方式來對神經網絡提供必要的支持:第一,提供相應的必要的解釋;第二,進行預處理:第三,聯(lián)合應用。
3.2.1解釋。作為專家系統(tǒng)的人工神經網絡,它做不到同其他專家系統(tǒng)那樣,具體詳細地跟蹤問題求解的過程,以獲得答案的原因,它只能依靠增加一個小型的專家來解決這一問題,以獲得答案的原因,這個專家系統(tǒng)可以反向推理,從結果到初始輸入,系統(tǒng)提供具體的解決方法。在這種模式中,經過訓練的人工神經網絡來解決問題。當用戶要求解釋的時候,就可以通過網絡輸入一個并行的專家系統(tǒng)。
篇4
關鍵詞:人工神經網絡;尖峰神經元模型
近年來,人們在計算機智能化領域上取得了很大的進步,但計算機領域還有很多問題無法解決,例如視覺、語言識別和計算機等技術,人們仍不能將計算機系統(tǒng)設計得像生物系統(tǒng)那樣靈活。因此,大批研究者轉移到仿生科學研究,希望由此找到新的技術,設計出新的智能計算機,其中人工神經網絡是其中一個比較熱門的領域。隨著這個領域的發(fā)展,一些團隊已經建立起一些創(chuàng)造性的、復雜的神經電路模型,并將其應用到一些項目中,也有研究團隊在致力研究人工神經網絡的軟件和硬件方案,希望能夠為智能計算機提供更高層次的理解能力。
人工神經網絡模型的并行特性使它與傳統(tǒng)的計算機模型相比具有更強的理能力,使它更有機會解決如手寫文字識別這類問題。長期以來,大多數(shù)研究者都是在CPU上使用模擬的方式進行神經網絡的計算,由于CPU工作模式和結構的限制,無法提供最佳的計算性能,因此本文尋求一種新的智能計算硬件平臺,在硅芯片上設計神經網絡電路。
一、神經網絡模型
人工神經網絡理論已發(fā)展了很多年,并日益趨于成熟,在各領域都得到了一定的應用。人工神經網絡的運算主要由計算的基本單位神經元進行,通過若干個神經元構成神經網絡以解決現(xiàn)實中的各種問題。
如圖1所示,一組神經元構成一個神經網絡系統(tǒng)。每一個神經元都有獨立的計算單元。神經元計算公式如下:yi(t)=■W■?著ij(t-tij) (1)
公式(1)中yi(t)表示神經元的輸出結果,i表示神經元序號,?著ij(t-tij)表示神經元輸入值,W■表示每個神經元的權值。
人工神經網絡的基本運算包括了乘法和加法運算。為了能夠在硬件上執(zhí)行神經網絡的理功能,必須為每個神經元設計獨立的加法器和乘法器,我們將其稱為加乘法運算單元(MAC),每個神經元都包含了一個MAC單元。
為了使系統(tǒng)能夠更好地模擬人類神經系統(tǒng)工作原理,發(fā)揮硬件的理能力,本文采用了Gerstner的尖峰神經元模型構建神經元理器的工作流程。在該模型中,每個神經元的膜電位在時間t時表示如下:
ui(t)=■■■W■?著ij(t-tij)+?濁i(t-tij) (2)
?著ij(t)=exp(-■)-exp(-■)*H(t-t■) (3)
公式(2)中,W■表示為第i神經元和第j神經元之間連接的權值,?著ij(t-tij)表示為神經元i能夠提供給神經元j的突觸后電位(PSP),而?濁i(t-tij)表示倔強函數(shù)。公式(3)表示突觸后電位(PSP)的計算方法,其中t■和t■為時間常數(shù),H(t-t■) 為Heaviside階梯函數(shù),t■為軸突傳輸延時系數(shù)。
二、神經元硬件設計
如圖2所示,神經網絡系統(tǒng)是由多個神經元構成,每個神經元是一個單獨的實體,神經元既相互獨立,又相互聯(lián)系,神經元根據所受到外界的刺激(輸入)和鄰居神經元對自己的影響,做出判斷與決策(輸出),并影響到周圍神經元的反應。為了能夠實現(xiàn)神經網絡功能,需要模擬神經元單位設計一個特殊的理器用于計算外界刺激而做出的反應,它包含了簡單的算數(shù)邏輯運算單元、寄存器和控制器,在本文中使用PN表示該理器。
圖3顯示了一個PN理單元的工作流程圖,每個PN理器包括了進行神經元計算必須的運算器和存儲器以及相關附屬器件。PN理單元的工作流程是:當外部有輸入數(shù)據通過總線進入PN理器時先存放在輸入事件存儲器;系統(tǒng)根據事件時間將數(shù)據輸入到突觸后電勢寄存器;同時輸入值被編號后分別放入公共連接存儲器;突觸后電勢PSP值與其他神經元的權值相乘后與原有膜電位值相加,相加結果更新膜電位存儲器值;同時結果與閾值相比較,如果大于閾值則將結果輸出到輸出存儲器中作為該神經元的輸出結果存放在輸出時間存儲器。
系統(tǒng)是由若干個神經元理器構成。如圖4所示,人工神經網絡系統(tǒng)由若干個神經元共同構成,圖5表示了人工神經網絡的硬件構成。每一個人工神經網絡都是由若干個神經元理單元構成,每個神經元理單元又是由邏輯運算器、存儲器和通信單元構成。將這些神經元理器構建在一塊電路板或者芯片上,同時理器與理器通過總線連接起來相互通信,共同完成神經網絡的運算。系統(tǒng)還為每一個神經元單位配置了一個PN理器,理器之間相互獨立,并行計算。當外部刺激(輸入)進入系統(tǒng)時,立刻被分配到各個PN理器并行計算神經元對刺激的響應(輸出),同時根據計算結果,調整神經元之間的權值系數(shù),并更新存儲其中的權值。由于PN理器是并行計算,相對于傳統(tǒng)計算機模擬運算,極大地提高了神經網絡的計算速度。
本文以Gerstner的尖峰神經元模型為基礎,設計了模擬神經元工作的PN理單元,并由若干個PN理單元構成模擬人類神經系統(tǒng)的人工神經網絡的硬件系統(tǒng)。相對于在傳統(tǒng)計算機上的操作,PN理單元的并行性使新系統(tǒng)有更強的理能力,有效地提高了神經網絡的計算速度,使神經網絡系統(tǒng)有更好的應用前景。
(作者單位:廣東肇慶科技職業(yè)技術學院)
參考文獻:
[1]Gerstner,W. & Kistler,W.M.Spiking neuron models:single neurons,populations,plasticity. Cambridge,UK:Cambridge University Press,2002.
[2]Mazad S. Zaveri. Dan Hammerstrom1. Performance/price estimates for cortex-scale hardware: A design space exploration,2011,(24).
[3]徐明華,甘強.脈沖神經網絡的振蕩與分割[J].生物物理學報,1997,(1).
篇5
摘要:隨著電力工業(yè)的發(fā)展,人工神經元網絡(ANN)在電力系統(tǒng)中獲得了廣泛的應用。本文概述了人工神經元網絡的特點、基本結構以及發(fā)展過程,并對ANN在電力系統(tǒng)中的具體應用做了詳細的話述。最后,對人工神經元網絡的發(fā)展趨勢和在電力系統(tǒng)中的應用前景進行了展望。
關鍵詞:人工神經元網絡(ANN) 電力系統(tǒng) 應用前景 展望
人工神經網絡,是一種模范動物神經網絡行為特征,進行分布式并行信息處理的算法數(shù)學模型。這種網絡依靠系統(tǒng)的復雜程度,通過調整內部大量節(jié)點之間相互連接的關系,從而達到處理信息的目的。人工神經網絡具有自學習和自適應的能力,可以通過預先提供的一批相互對應的輸入一輸出數(shù)據,分析掌握兩者之間潛在的規(guī)律,最終根據這些規(guī)律,用新的輸入數(shù)據來推算輸出結果。人工神經網絡具有四個基本特征:非線性、非局限性、非定性、非凸性。人工神經網絡理論,作為人工智能的一個最活躍的分支,其模擬人腦的工作方式,為解決復雜的非線性、不確定性、不確知性系統(tǒng)的問題開創(chuàng)了一個嶄新的途徑,因而在電力系統(tǒng)應用研究中受到了廣泛的關注。
1.ANN發(fā)展過程
1943年,心理學家W.S.McCulloch和數(shù)理邏輯學家W.Pitts建立了神經網絡和數(shù)學模型,稱為MP模型。他們通過MP模型提出了神經元的形式化數(shù)學描述和網絡結構方法,證明了單個神經元能執(zhí)行邏輯功能,從而開創(chuàng)了人工神經網絡研究的時代。60年代,人工神經網絡得到了進一步發(fā)展,更完善的神經網絡模型被提出,其中包括感知器和自適應線性元件等。1982年,美國加州工學院物理學家J.J.Hopfield提出了Hopfield神經網格模型,引入了“計算能量”概念,給出了網絡穩(wěn)定性判斷。1984年,他又提出了連續(xù)時間Hopfield神經網絡模型,為神經計算機的研究做了開拓性的工作,開創(chuàng)了神經網絡用于聯(lián)想記憶和優(yōu)化計算的新途徑,有力地推動了神經網絡的研究。人工神經網絡的研究受到了各個發(fā)達國家的重視,美國國會通過決議將1990年1月5日開始的十年定為“腦的十年”,國際研究組織號召它的成員國將“腦的十年”變?yōu)槿蛐袨椤?/p>
2.ANN的特點與結構
人工神經網絡的研究與發(fā)展及神經生理科學、數(shù)理科學、信息科和計算機科學等眾多領域,是一種新的信息處理理論。它所特有的信息處理機制,與傳統(tǒng)的數(shù)字計算機有著本質的不同。ANN網絡由大量模擬人腦的神經元互連組成,無獨立的用于存儲的信息空間,更沒有單一執(zhí)行指令的CPU,每個神經元的結構都十分簡單,信息處理與存儲合二為一,通過調整連接權值,由整體狀態(tài)來給出響應信息。ANN是一種非線性映射系統(tǒng),具有強大的模式識別能力,可以對任意復雜狀態(tài)或過程進行分類和識別。
3.ANN在電力系統(tǒng)中的應用
目前,ANN已用于負荷預測,警報處理,控制等方面,它已經從研究階段轉為實際應用。
3.1智能控制
在電力系統(tǒng)中利用ANN實現(xiàn)智能控制,就是利用其估計和聯(lián)想的能力,實現(xiàn)系統(tǒng)狀態(tài)與參數(shù)的識別和控制,這已在多種控制結構中如自校正控制、模型跟蹤控制、預測控制等控制中得到應用。Y M Park等采用2個BP網絡構成電力系統(tǒng)穩(wěn)定器(PSS)的模型,其中1個在系統(tǒng)功率擺動中估計發(fā)電機的輸出功率。另一個用于判斷并給出控制決策。范澍等應用4層BP網絡對發(fā)電機運行方式和系統(tǒng)干擾進行精確在線識別,并以此為基礎設計了一種最優(yōu)勵磁調節(jié)器模型,計算與仿真結果表明,這種調節(jié)器比固定點線性勵磁方式具有更強的穩(wěn)定性能和動態(tài)品質,在系統(tǒng)運行方式較大的變化范圍內都能提供很好的控制性能,在大小擾動下均表現(xiàn)出很好的阻尼特性和良好的電壓性能。袁宇春等提出了用ANN進行電力系統(tǒng)的實時切負荷控制,選用的是多輸入單輸出的單層前向神經網絡,選取185個樣例進行網絡訓練后,在西北電網模擬某線路故障顯示了較好的控制特性。
3.2優(yōu)化計算
由于ANN能夠建立任意非線性的模型,并適于解決時間序列預報問題,尤其是隨機平穩(wěn)過程的預報,因此電力系統(tǒng)短期負荷預報是其應用研究的一個重要方面,歐建平等以3個ANN構成負荷與天氣變化量的周、日、時3個預報分析系統(tǒng),氣象參數(shù)和預測周、日、時前某段歷史負荷參數(shù)作為網絡的訓練輸入參數(shù),各自產生獨立的預報,再綜合產生最終的預報。姜齊榮等則用ANN建立發(fā)電機、勵磁系統(tǒng)和調速系統(tǒng)的詳細模型,把這三部分的模型連接起來并與電力系統(tǒng)網絡接口,形成一個ANN模型與電力系統(tǒng)網絡混聯(lián)的系統(tǒng),這種混聯(lián)系統(tǒng)的暫態(tài)穩(wěn)定計算結果與用常規(guī)機理模型的計算結果幾乎相同。為實現(xiàn)ANN并行、快速、在線處理電力系統(tǒng)實時計算提供新途徑。
3.3故障診斷
要保證電力系統(tǒng)的安全運行和實現(xiàn)電力設備由定期檢修轉變?yōu)闋顟B(tài)檢修,如何準確地進行電力設備的故障診斷,一直是受關注的焦點之一。而這類故障的征兆錯綜復雜,往往呈現(xiàn)出非線性和不確定性,很難用某一確定的邏輯或算法進行識別。而這種識別恰好是ANN所擅長的。ANN在電機狀態(tài)監(jiān)測與診斷上也獲得了成功的應用。何雨儐等提出一種聯(lián)想記憶神經網絡,取零序電流、定子不對稱電流及其變化率等電測參數(shù)為故障征兆,通過網絡的聯(lián)想能力快速準確地進行電機早期故障的雙向診斷,能有效地處理各種模式并存的故障診斷問題。并且容錯性好,能有效抑制現(xiàn)場噪聲干擾,使診斷系統(tǒng)具有良好的魯棒性。電網故障診斷中,用全局逼近的BP算法完成故障的快速定位,便于控制人員及時處理故障。
3.4繼電保護
繼電保護是電力系統(tǒng)安全運行的重要保障之一,隨著電力系統(tǒng)的發(fā)展,常規(guī)的繼電保護技術已經不能完全適應需要。黨德玉提到一種基于小波變換和ANN的保護模型,其輸入特征量經過小波變換,也選用了3個三層的BP網絡用于判斷故障種類,故障性質和故障定位。故障種類和故障性質的判斷正確率可達100%,對線性短路故障的位置判斷正確率為94%,非線性故障(如經非線性過渡電阻接地)的判斷正確率為96%。張海峰等使用3層前向網絡構成變壓器保護模型,取變壓器2端的電流和其他故障特征量進行綜合判斷。經大量樣本訓練后,可準確判斷變壓器的勵磁涌流和各種故障。張津春等介紹了ANN構成的自適應自動重合閘模型,能較好地判別各種情況下瞬時性故障與永久性故障。
為了解決用電路方法進行巨量神經元連接無法實現(xiàn)的問題,采用光電集成技術制作的光神經元、光互連器件、光神經芯片也已出現(xiàn),并成功地應用于模式識別、聯(lián)想記憶等方面。此外,ANN在輸電容量限制條件下經濟調度、基于同步相量測量的電壓安全監(jiān)控、電廠控制、HVDC的電流控制器等方面也得到了研究與應用。
4.ANN在電力系統(tǒng)中的發(fā)展趨勢
ANN在電力系統(tǒng)中應用已做了大量的研究,一但是總體上來說仍停留在理論分析和仿真實驗上,因此必須加強理論研究與實際工程應用的結合,例如可在狀態(tài)檢修、在線監(jiān)測等電力系統(tǒng)有較迫切需求的領域中,尋找實際應用的突破口。近幾年興起的小波變換方法,由于其克服了傅里葉變換不能對信號進行局部化分析的缺點。同時具有很強的特征值提取功能,特別適用于故障信號的分析,經小波變換處理后的信號作為神經網絡的輸入,可使網絡大大提高抗干擾性并加速收斂。所以小波分析與ANN的結合將在電力系統(tǒng)控制、保護、故障診斷等方而發(fā)揮更大的作用。ANN與專家系統(tǒng)和模糊控制的綜合對電力系統(tǒng)這樣一個復雜的動態(tài)大系統(tǒng)來說,應用潛力更大。ANN的形象思維能力,專家系統(tǒng)的邏輯思維能力和模糊邏輯這三者的結合,可體現(xiàn)出各自的優(yōu)勢,互相彌補各自的不足。
人工神經網絡特有的非線性適應性信息處理能力,克服了傳統(tǒng)人工智能方法對于直覺,如模式、語音識別、非結構化信息處理方面的缺陷,使之在神經專家系統(tǒng)、模式識別、智能控制、組合優(yōu)化、預測等領域得到成功應用。人工神經網絡與其它傳統(tǒng)方法相結合,將推動人丁智能和信息處理技術不斷發(fā)展。近年來,人工神經網絡正向模擬人類認知的道路上更加深入發(fā)展,與模糊系統(tǒng)、遺傳算法、進化機制等結合,形成計算智能,成為人工智能的一個重要方向,將在實際應用中得到發(fā)展。將信息幾何應用于人工神經網絡的研究,為人工神經網絡的理論研究開辟了新的途徑。神經計算機的研究發(fā)展很快,已有產品進入市場。光電結合的神經計算機為人工神經網絡的發(fā)展提供了良好條件。
篇6
關鍵詞:BP人工神經網絡;RBF人工神經網絡;經濟增長預測
中圖分類號:TP183文獻標識碼:A文章編號:1009-3044(2011)10-2345-03
The Study of Forecast of Zhejiang Province's Economic Growth Using BP and RBF Artificial Neural Network
BAI Xue-bing
(Zhengjiang University of Technology, Hangzhou 310014, China)
Abstract: Based on existing studies of economic forecasting methods, the article studies the Zhejiang province'sEconomic Growth Forecastusing BP and RBF Artificial Neural Network.Thedata research shows Artificial Neural Network hasgood precision, but different Artificial Neural Network have different behavior, some have big error. Artificial Neural Network can provide good reference for the making policy of sector of economy.
Key words: BP artificial neural network; RBF artificial neural network; economic growth forecast
1 經濟預測概論
經濟預測是與未來有關的旨在減少不確定性對經濟活動影響的一種經濟分析。它是對將來經濟發(fā)展的科學認識活動。經濟預測不是靠經驗、憑直覺的預言或猜測,而是以科學的理論和方法、可靠的資料、精密的計算及對客觀規(guī)律性的認識所作出的分析和判斷。
2 人工神經網絡經濟預測技術
由于人工神經網絡具有大規(guī)模并行處理、容錯性、自適應和聯(lián)想功能強等特點,作為非線性智能預測方法的人工神經網絡預測方法成為國內外經濟預測研究的一個熱點。
人工神經網絡不斷應用于證券預測分析、企業(yè)經濟戰(zhàn)略預測、經濟理論創(chuàng)新、經濟預測預警等研究中,都得到了一定的效果。
3 BP與RBF神經網絡預測模型分析
3.1 經濟增長神經網絡設計模型
3.1.1 宏觀經濟預測指標
經濟增長率是判斷宏觀經濟運行狀況的一個主要指標。經濟增長率指的就是不變價國內生產總值增長率(簡稱國內生產總值增長率。因此,判斷宏觀經濟運行狀況要落腳到對國內生產總值的核算上。在本文中我們采用GDP的增長率來作為預測目標。
3.1.2 神經網絡設計模型經濟模型的設計
本論文采用兩種模型對經濟進行預測。
1) 第一種 GDP預測模型:第n年的一、二、三產業(yè)的增長率作為輸入,第n+1年GDP增長率作為輸出。
2) 第二種預測模型。第n-3、n-2、n-1、n年的經濟增長率作為輸入,第n-1、n、n+1年經濟增長率作為輸出。
這里還要說明兩個問題。第一我們用到的數(shù)據來自2009年 浙江省統(tǒng)計年鑒,它的網址是 。
3.1.3 神經網絡模型結構
設計經濟預測神經網絡模型前,首先需要確定神經網絡的結構,主要包括如下內容:網絡的層數(shù),每層的神經元數(shù)和激活函數(shù)等。采用的神經網絡結構如圖1。
3.2 使用BP在以浙江省過去的每年的GDP增長指數(shù)的基礎上進行BP神經網絡預測
3.2.1 學習樣本的選擇
本次實驗使用Matlab 軟件采用3層BP神經網絡建立浙江省經濟發(fā)展的的預測模型。輸入層節(jié)點數(shù)為n=4,輸出層節(jié)點m=3.而隱含層節(jié)點數(shù)的選擇是人工神經網絡最為關鍵的一步,它直接影響網絡隊復雜問題的映射能力,實驗中我們采用試湊法來確定最佳節(jié)點數(shù)?,F(xiàn)設置較少的隱節(jié)點訓練網絡,然后逐漸增加網絡節(jié)點數(shù),用同一樣本進行訓練,從中確定網絡誤差最小時對應的節(jié)點數(shù),隱層、輸出層神經元的轉移函數(shù),隱含層和輸出層轉移函數(shù)分別采用tansig和logsig,訓練函數(shù)選擇traindx。
3.2.2 數(shù)值歸一化處理
對于浙江省經濟增長序列Q=(Q1,Q2…,Qt)。設序列的最大值、最小值分別為Qmax、Qmin。對時間序列的值作歸一化處理。
令xi=(Qi-Qmin)/(Qmax-Qmin)
3.2.3 樣本數(shù)據訓練和數(shù)據預測
采用1978~2003年的數(shù)據樣本在MatLab7.0軟件中對輸入網絡進行訓練.隱層節(jié)點數(shù)先從4開始訓練,逐步增加到12時,當數(shù)值 為10時預測結果較好。允許誤差為0.001,訓練3217次達到訓練要求。
采用1978~2004年的數(shù)據作為第一組訓練數(shù)據,2005-年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP。采用1978~2005年的數(shù)據作為第一組訓練數(shù)據,2006年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP, 采用1978~2006年的數(shù)據作為第一組訓練數(shù)據,2007-年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP,依次類推,產生結果如表1所示。
3.2.4 數(shù)據分析
從2000-2004的擬合數(shù)據來看,相對誤差比較小,BP網絡對整個模擬數(shù)據的擬合程度還是比較好的,但是從2005-2009的預測數(shù)據來看預測數(shù)據的誤差還是比較大的,這也說明對未來的預測是很難的。各種不確定的因素在起作用。
3.3 三種產業(yè)增加率BP確定法預測GDP
3.3.1 樣本數(shù)據訓練
將1978-2004年數(shù)據對輸入網絡進行訓練。然后把需要預測的樣本2000-2004年的樣本數(shù)據輸入網絡,得到結果,然后用反歸一化公式獲得結果。在Matlab7.0中調用newff函數(shù),建立一個3個輸入節(jié)點、18個隱含層節(jié)點、一個輸出結點的BP神經網絡,隱含層和輸出層轉移函數(shù)分別采用tansig和logsig,訓練函數(shù)選擇traindx,允許誤差為0.001,訓練1748次達到訓練要求。
采用1978~2004年的數(shù)據作為第一組訓練數(shù)據,2005年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP。采用1978~2005年的數(shù)據作為第一組訓練數(shù)據,2006年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP, 采用1978~2006年的數(shù)據作為第一組訓練數(shù)據,2007年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP,依次類推,產生結果如表2所示。
3.3.2 數(shù)據分析
從預測數(shù)據來看預測數(shù)據的誤差盡管比上一種類型的數(shù)據要好,但是誤差還是比較大的,但是考慮到預測的能力 ,數(shù)據還是可以接受的 。但是數(shù)據誤差還是比較大的,這也說明對未來的預測是很難的,不是十分確定的,有些文章的數(shù)據精確度挺高的,但我想應該是不太可能的,也許有故意湊數(shù)據的嫌疑。如果預測一年的話,可以通過調整參數(shù)獲得近似結果,但是很多年就很困難。
3.4 使用RBF在以浙江省過去的每年的GDP增長指數(shù)的基礎上進行RBF神經網絡預測.
3.4.1 RBF 神經網絡模型設計
該種方式與第一種BP神經網絡預測方法類似, 以以前四年的GDP增長率作為輸入,后兩年加以預測的年作為輸出。輸入層節(jié)點數(shù)為n=4,輸出層節(jié)點m=3.而隱含層節(jié)點數(shù)的選擇是采用matlab的newrbe自動來設置.然后用同一樣本進行訓練。
3.4.2 樣本數(shù)據訓練和數(shù)據預測
1) 采用1978~2004年的數(shù)據作為第一組訓練數(shù)據,2005年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP。采用1978~2005年的數(shù)據作為第一組訓練數(shù)據,2006年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP,依次類推,產生結果如表3所示。這兒采用newrbe函數(shù),spread參數(shù)為0.25。這是因為通過測試采用0.25獲得的數(shù)據結果較好。
3.4.3 數(shù)據分析
從實驗數(shù)據看,RBF對整個模擬數(shù)據的曲線擬合程度是相當完美,但是從2005-2009的預測數(shù)據來看預測數(shù)據的誤差還是比較大的,這也說明RBF神經網絡盡管曲線的擬合程度比BP網絡好 ,但是從預測的能力來講,并不比BP網絡好,反而通過試驗顯得更差一些。這仍然表明對未來的預測是很難的。各種不確定的因素在起作用。神經網絡的預測也只能作為參考之用,不能對各種的突發(fā)事件進行預測。
3.5 使用RBF三種產業(yè)增加率確定法預測GDP
3.5.1 RBF神經網絡模型設計
該種方式與對應的BP神經網絡預測方法類似, 以一年的三種產業(yè)增長率作為輸入,后一年的GDP增長率預測作為輸出。本次實驗采用RBF神經網絡建立浙江省經濟發(fā)展的的預測模型。輸入層節(jié)點數(shù)為n=3,輸出層節(jié)點m=1.而隱含層節(jié)點數(shù)的選擇采用RBF自動的newrbe方法實現(xiàn)。
3.5.2 數(shù)據處理
1) 采用1978~2004年的數(shù)據作為第一組訓練數(shù)據,2005年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP。采用1978~2005年的數(shù)據作為第一組訓練數(shù)據,2006年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP, 采用1978~2006年的數(shù)據作為第一組訓練數(shù)據,2007-年數(shù)據作為仿真預測數(shù)據,通過神經網絡預測GDP,依次類推,產生結果如表4所示。
3.5.3 數(shù)據分析
但是從2005-2009的預測數(shù)據來看預測數(shù)據的誤差比上一組得RBF的誤差還要大,幾乎有點難以接受。這也說明RBF神經網絡盡管曲線的擬合程度比BP網絡好,但是從預測的能力來講,并不比BP網絡好,反而我通過試驗更差一些。2009年的數(shù)據變得極為不合理,從而導致數(shù)據的偏差性很高。,從測試數(shù)據可看出,但是由于經濟運行的復雜性,以及不可預知性,特別是由于2008的美國金融導致的世界范圍的經濟危機,導致經濟數(shù)據的不可靠性大大增加,歷史數(shù)據變得用處不太大。2009年的數(shù)據變得極為不合理,從而導致數(shù)據的偏差性很高。
4 總結與歸納
從我們的試驗來看,各種神經網絡的確可以對未來進行預測,但是精度多高卻有一些問題,從我們的試驗來看BP神經網絡的數(shù)據要比RBF神經網絡的數(shù)據要好,但是也只在一定范圍內 ,四種檢測方法,只有一種數(shù)據還略微能夠接受。神經網絡預測仍然需要不斷的完善。
參考文獻:
[1] 張德豐.Matlab神經網絡應用設計[M].北京:機械工業(yè)出版社,2009.
[2] 高雋.人工神經網絡原理及仿真實例[M].2版.北京:機械工業(yè)出版社,2007.
[3] 韓力群.人工神經網絡理論、設計與應用[M].2版.北京:化學工業(yè)出版社,2007.
篇7
關鍵詞 BP網絡;客車備件;需求預測
中圖分類號 F426 文獻標識碼 A 文章編號 1673-9671-(2012)102-0195-01
客車備件需求是售后服務的基礎和重要組成部分。產品備件準備的是否合理,不僅關系到售后服務的質量,而且也關系到企業(yè)的經營效率。然而,準確的備件預測是相當困難的。一方面,影響備件需求量的因素很多,例如產品的市場保有量、產品的地理分布及使用狀態(tài)、備件的生命周期、備件通用度等等。另一方面,需求預測具有很強的時效性和復雜性,各種因素的影響力隨環(huán)境變化而變化。
目前國際上采用多種方法進行需求預測的應用研究,如增量法、回歸法、季節(jié)指數(shù)法、時間序列法等。但在備件需求預測方面的實際效果卻不盡如人意。起源于二十世紀八十年代的人工神經網絡(ANN)屬于人工智能技術之一,突破了傳統(tǒng)技術的局限,在諸多領域取得了成功。近年來,ANN技術已經成為經濟預測、管理決策領域的研究熱點,并已經成功的運用在非線性領域以及識別、智能傳感器等工程領域。
但在汽車和客車備件需求預測領域,很少見到采用該方法進行研究的案例,因此,本文著重研究神經網絡在客車備件需求預測領域的應用。
1 人工神經網絡基本理論
1.1 人工神經網絡概述
人工神經網絡(Artificial Neural Network,簡稱ANN)的研究始于20世紀四十年代初期。經過半個多世紀的興衰,經歷了從興起到又到蕭條最終走向穩(wěn)步發(fā)展的艱難路途,如今人工神經網絡已經是一門比較成熟的學科了。特別是經過最近將近20年的發(fā)展,目前的人工神經網絡是一門融匯了神經學、信息學、計算機科學、工程學等為一體的邊緣交叉學科,是一種大規(guī)模、并行、復雜的非線性系統(tǒng)。人工神經網絡具有高度并行的處理機制,高度靈活的拓撲結構,以及強大的自組織、自學習、自適應能力和處理非線性問題的能力。因此,人工神經網絡在預測科學領域得到了高度重視。
至今為止,人工神經網絡技術的發(fā)展大致經歷了五個階段,其研究集中在三個方面:開發(fā)現(xiàn)有模型的應用,并在應用中根據實際運行情況對模型、算法加以改造,以提高網絡的訓練速度和運行的準確度;希望在理論上尋找新的突破,建立新的專用或通用的模型和算法;進一步對生物神經系統(tǒng)進行研究,不斷的豐富對人腦的認識。
人工神經網絡模擬人腦的功能,雖然只是低級近似,但區(qū)別于一般的人工智能和其他計算機智能程序,它表現(xiàn)出的許多特質與人類的智能相似。同人類的大腦類似,單個神經元功能很弱,但是當成千上萬的神經元組合起來所表現(xiàn)出的活動處理功能卻十分強大。
1.2 人工神經網絡模型
人工神經網絡是由大量的神經元按照層內連接、循環(huán)連接和層間連接等模式相互連接起來而構成的。將一個神經元的輸出送至另一個神經元作為輸入信號稱之為連接,每個連接通路對應一個連接權值,神經元的連接方式不同會生成具有不同特性的神經網絡。經過幾十年的探索,目前已經提出了上百種人工神經網絡結構,但大部分都是幾種典型網絡的組合和變形。
根據神經元的連接方式不同這一特點,可將神經網絡分為兩大類:分層網絡和相互連接型網絡。分層網絡的代表是BP網絡、RBF網絡和Hopfield網絡。
1.3 BP神經網絡
目前應用最為廣泛的神經網絡結構是多層前饋神經網絡。由于采用的網絡結構、傳遞函數(shù)和學習規(guī)則的不同,前饋網絡主要有感知神經網絡、BP網絡(Back Propagation Network)、RBF網絡等不同網絡模型。上述三種網絡各有其優(yōu)缺點,經對比得知,BP網絡相比其他網絡具有算學習精度高、運行速度很快、網絡具有一定的推廣能力和概括能力等多方面優(yōu)點。
因此,我們決定采用BP網絡作為客車備件需求預測的神經網絡模型。
2 基于BP網絡的客車備件需求預測設計
2.1 客車備件需求預測方法設計
2.1.1 模型輸入和輸出設計
本文選取對配件需求量影響程度大的三個因素即近期實際需求量(6個月的實際需求值)、季節(jié)性因素以及客車保有量作為網絡的輸入,分別將其量化后得到8個點作為神經網絡的輸入向量。顯而易見,目標向量Y就是某配件預測月當月的需求量。
2.1.2 數(shù)據歸一化
在本研究過程中,除了季節(jié)性因素值X7已經提前設置在0~1之間,其余各變量都應按照上式進行歸一化處理;在網絡訓練完畢進行測試時,還要將預測輸出結果進行反歸一化處理并與實際值進行比較來對網絡進行評價。
2.2 BP網絡結構設計
本研究選擇三層BP網絡即單隱層的BP網絡進行設計仿真。本文使用Kolmogorov定理和試湊法相結合的方法,經多次試驗和結果比較,選擇網絡誤差最小和訓練速度最快時對應的隱層節(jié)點個數(shù),最終確定隱層神經元個數(shù)為17。
針對本文研究的問題,按照BP網絡的一般設計原則,中間層神經元的傳遞函數(shù)設定為S型正切函數(shù)tansig()。由于網絡的輸出向量值已經被歸一化到區(qū)間[0,1]中,因此,輸出層神經元傳遞函數(shù)設定為 S型對數(shù)函數(shù)logsig()。
網絡的訓練算法對網絡收斂速度、泛化能力、網絡性能等有很大影響。經過對幾種改進的BP算法進行實驗對比,觀察各算法的收斂速度和網絡誤差,最終確定最適合本研究的訓練算法為“擬牛頓算法”。
2.3 預測實現(xiàn)和結果對比
本文選取某大型客車制造企業(yè)的售后備件進行研究,選取高頻需求備件中的兩種數(shù)據歸一化后作為樣本數(shù)據進行實驗。根據設計好的網絡結構方案進行網絡創(chuàng)建和訓練仿真。使用train()函數(shù)對兩種備件分別進行訓練。經過35次和44次訓練后,網絡目標誤差達到要求。
使用訓練好的模型開始對其余樣本數(shù)據進行預測,實際結果說明,網絡的預測誤差范圍在±7%之內,已達到客車領域備件需求預測預期目標。
在將網絡測試結果與實際值比較的同時,我們也將它與該企業(yè)目前采用的時序預測方法進行對比,結果說明利用神經網絡進行備件需求預測的效果明顯好于傳統(tǒng)方法。
參考文獻
[1]張立明.人工神經網絡的模型及其應用[J].復旦大學出版社,1993:5.
[2]丁杏娟.基于人工神經網絡的產品需求預測研究[J].上海交通大學碩士學位論文,2006:1.
[3]王萬森.人工智能原理及其應用[J].電子工業(yè)出版社,2000:27-51.
篇8
【摘要】 人工神經網絡由于其具有高度的自適應性、非線性、善于處理復雜關系的特點,在許多研究領域得到了廣泛應用,并取得了令人矚目的成就。對其目前在醫(yī)學研究領域中的應用做一簡單綜述。
【關鍵詞】 人工神經網絡; 應用
人工神經網絡(Artificial Neural Network,ANN)方法自從本世紀40年代被提出以來,許多從事人工智能、計算機科學、信息科學的科學家都在對它進行研究,已在軍事、醫(yī)療、航天、自動控制、金融等許多領域取得了成功的應用。目前出現(xiàn)了許多模仿動物和人的智能形式與功能的某個方面的神經網絡,例如,Grossberg提出的自適應共振理論(Adaptive Resonance Theory,ART),T-Kohenen的自組織特征映射網絡(Self-Organizing feature Map,SOM),徑向基函數(shù)網絡(Radial Basis Function,RBF),Hopfield網等。進入90年代以后,由于計算機技術和信息技術的發(fā)展,以及各種算法的不斷提出,神經網絡的研究逐漸深化,應用面也逐步擴大,本研究對常用的神經網絡方法及其在醫(yī)學領域中的應用做一簡單綜述。
1 自組織特征映射網絡(self-organizing feature map,SOM)在基因表達數(shù)據分析中的應用
1.1 方法介紹
腦神經學的研究表明,人腦中大量的神經元處于空間的不同區(qū)域,有著不同的功能,各自敏感著各自的輸入信息模式的不同特征。芬蘭赫爾辛基大學神經網絡專家T.Kohonen根據大腦神經系統(tǒng)的這一特性,于1981年提出了自組織特征映射網絡,它模擬人的大腦,利用競爭學習的方式進行網絡學習,具有很強的自組織、自適應學習能力,魯棒性和容錯能力,其理論及應用發(fā)展很快,目前已在信息處理、模式識別、圖像處理、語音識別、機器人控制、數(shù)據挖掘等方面都有成功應用的實例。
Kohonen網絡由輸入層和競爭層組成,網絡結構見圖1。輸入層由N個神經元組成,競爭層由M個輸出神經元組成,輸入層與競爭層各神經元之間實現(xiàn)全互連接,競爭層之間實行側向連接。設輸入向量為x=(x1,…,xd)T ,輸出神經元j對應的權重向量為wj=(wj1,…,wjd)T ,對每一輸出神經元計算輸入向量x 和權重向量wj 間的距離,據此利用競爭學習規(guī)則對權向量進行調節(jié)。在網絡的競爭層,各神經元競爭對輸入模式的響應機會,最后僅一個神經元成為勝利者,并對與獲勝神經元有關的各權重朝著更有利于它競爭的方向調整,這樣在每個獲勝神經元附近形成一個“聚類區(qū)”,學習的結果使聚類區(qū)內各神經元的權重向量保持與輸入向量逼近的趨勢,從而使具有相近特性的輸入向量聚集在一起,這種自組織聚類過程是系統(tǒng)自主、無教師示教的聚類方法,能將任意維輸入模式在輸出層映射成一維或二維離散圖形,并保持其拓撲結構不變。網絡通過對輸入模式的學習,網絡競爭層神經元相互競爭,自適應地形成對輸入模式的不同響應,模擬大腦信息處理的聚類功能、自組織、自學習功能,實現(xiàn)用低維目標空間的點去表示高維原始空間的點,其工作原理和聚類算法及改進方法參見相關文獻[1]。
1.2 應用
基因芯片技術的應用使得人們可以從基因水平探討疾病的病因及預后,而基因芯片產生的數(shù)據具有高維度(變量多)、樣本量小、高噪聲的特點,樣本量遠小于變量數(shù),如何從海量的數(shù)據中挖掘信息或知識成為重大課題。聚類分析是數(shù)據挖掘中的一類重要技術,傳統(tǒng)方法主要有系統(tǒng)聚類、k-means聚類等,但在處理復雜非線性關系及變量間的交互作用時效果較差,受異常值影響較大。近年來神經網絡技術法成為聚類領域的研究熱點,其中自組織特征映射網絡由于其良好的自適應性,其算法對基因表達數(shù)據的聚類有較高的穩(wěn)定性和智能性,尤其在處理基因表達中有缺失數(shù)據及原始空間到目標空間存在非線性映射結構時有較好的體現(xiàn),適用于復雜的多維數(shù)據的模式識別和特征分類等探索性分析,同時可實現(xiàn)聚類過程和結果的可視化[2]。目前Kohonen網絡已被成功用到許多基因表達數(shù)據的分析中,Jihua Huang等[3]設計6×6的網絡對酵母細胞周期數(shù)據進行分析,總正確率為67.7%;曹暉等[4]將其算法改進后用在酵母菌基因表達數(shù)據中,總正確率高達84.73%,有較高的聚類效能;鄧慶山[5]將該模型與K平均值聚類方法結合用于公開的結腸基因表達數(shù)據集和白血病基因表達數(shù)據集,聚類的準確率分別為94.12%和90.32%。目前Kohonen網絡在醫(yī)學領域中主要應用前景有:① 發(fā)現(xiàn)與疾病相關的新的未知基因,對目標基因進一步研究,提高診斷的正確率,并對藥物的開發(fā)研究提供重要的線索;② 對腫瘤組織的基因表達譜數(shù)據聚類,以期發(fā)現(xiàn)新的、未知的疾病亞型(腫瘤亞型),以便提出更加有針對性的治療方案,為從分子水平對疾病分型、診斷、預后等提供依據;③ 發(fā)現(xiàn)與已知基因有相似功能的基因,為推斷未知基因的可能功能提供線索。
2 BP神經網絡在醫(yī)學研究中的應用
2.1 BP神經網絡在疾病輔助診斷中的應用
2.1.1 方法介紹
BP神經網絡是目前應用最多的神經網絡,一般由一個輸入層(input layer)、一個輸出層(output layer)、一個或幾個中間層(隱層)組成。每一層可包含一個或多個神經元,其中每一層的每個神經元和前一層相連接,同一層之間沒有連接。輸入層神經元傳遞輸入信息到第一隱層或直接傳到輸出層,隱層的神經元對輸入層的信息加權求和,加一個常數(shù)后,經傳遞函數(shù)運算后傳到下一個隱層(或輸出層),常用的傳遞函數(shù)是logistic函數(shù),即Φh=1/(1+exp(-z)) ,輸出層神經元對前一層的輸入信息加權求和經傳遞函數(shù)Φ0 (線性或logistic函數(shù)或門限函數(shù))運算后輸出,BP神經網絡一般采用BP算法訓練網絡,關于BP算法及改進可參考相關文獻[1]。
人工神經網絡具有強大的非線性映射能力,含一個隱層的網絡可以實現(xiàn)從輸入到輸出間的任意非線性映射,是典型的非線性數(shù)學模型,建立BP神經網絡模型的一般步驟為:① BP網訓練集、校驗集、測試集的確定;② 輸入數(shù)據的預處理:使輸入變量的取值落在0到1的范圍內,如果是無序分類變量,以啞變量的形式賦值;③ 神經網絡模型的建立及訓練:學習率、傳遞函數(shù)、隱層數(shù)、隱單元數(shù)的選擇,注意防止過度擬合。一般使用靈敏度、特異度、陽性預測值、陰性預測值、ROC曲線對模型的預測性能進行評價。
2.1.2 應用
BP神經網絡已廣泛用于臨床輔助診斷中,白云靜等[6]用于中醫(yī)證候的非線性建模,建立了RA證侯BP網絡模型和DN證侯BP網絡模型,結果顯示平均診斷準確率分別為90.72%、92.21%,具有較高的診斷、預測能力。曹志峰[7]采用PROBEN1中的甲狀腺疾病數(shù)據庫用于甲狀腺疾?。卓骸⒓诇p、正常)的診斷,結果顯示訓練樣本的正確識別率為99.3% ,測試樣本的正確識別率為98.2%,提示對臨床診斷甲狀腺疾病提供有益的幫助;還有學者用于急性心肌梗塞、甲狀腺功能紊亂、乳腺癌、前列腺癌、宮頸癌、肺癌、卵巢癌、急性肺梗塞等的輔助診斷等[8]。
2.2 BP神經網絡在生存分析中的應用
2.2.1 方法介紹
傳統(tǒng)的生存分析方法有非參數(shù)、半參數(shù)、參數(shù)模型,參數(shù)模型主要有指數(shù)回歸模型、Weibull回歸模型,都要求對基線風險做一定的假設,但實際資料常常不符合條件,生存分析中應用最為廣泛的半參數(shù)模型:Cox比例風險模型,但它要求滿足比例風險的假定,在很多情況下也難以滿足?;谏窠浘W絡的生存分析模型可以克服這些困難,可以探測復雜的非線性效應,復雜的交互效應,模型中協(xié)變量的效應可以隨時間變化,對數(shù)據的分布不做要求。目前一些策略被用到神經網絡預測方法中分析含有刪失的生存數(shù)據,主要有Faraggi-Simon(1995)法、Liestol-Andersen-Andersen(1994) 法、改良uckley-James(1979)法等。
BP神經網絡建立生存分析模型常用的方法有[9]:連續(xù)時間模型(continuous time models)與離散時間模型(discrete time models)。常用的Faraggi和Simon[10]提出的連續(xù)時間模型擴展了Cox回歸模型,允許非線性函數(shù)代替通常的協(xié)變量的線性組合,這種方法既保持了Cox回歸模型的比例風險的特點,又提供了處理復雜非線性關系、交互作用能力的好方法。
離散時間模型常用的模型有:① 輸出層為單個結點:模型的輸出層只有一個神經元結點,是最簡單的神經網絡模型,生存時間被分成兩個區(qū)間,當研究者僅僅對某一時間點的預后感興趣時,例如預測癌癥患者的5年生存情況,如欲預測多個時間點,則需建立多個神經網絡模型(每個模型對應一個時間區(qū)間);② 輸出層為多個結點:生存時間被分成幾個離散的區(qū)間,估計某個時間區(qū)間事件發(fā)生的概率,Liestol法是常用的離散時間模型。還有研究者在建立多個時間區(qū)間模型時將時間也做為一個輸入變量,也有學者將神經網絡納入Bayes方法的研究框架。
一般采用靈敏度、特異度、一致性指數(shù)C(Concordance index)作為預測準確性的評價指標,神經網絡在生存分析中的應用主要在于[11]:個體患者預后的預測,研究預后因子的重要性,研究預后因子的相互作用,對于預測變量的影響力強弱及解釋性,還有待進一步探討。
2.2.2 應用
國外Ruth M.Ripley等[9]將7種不同的神經網絡生存分析模型(3種離散時間模型,4種連續(xù)時間模型)用于1335例乳腺癌患者復發(fā)概率的預測,并對其精確性、靈敏度、特異度等預測性能指標進行比較,結果證明神經網絡方法能成功用于生存分析問題,可以提取預后因子所蘊涵的最大可能的信息。Anny Xiang等[12]采用Monte Carlo模擬研究方法,在9種實驗條件下(不同的輸入結點、刪失比例、樣本含量等)對Faraggi-Simon法、Liestol-Andersen-Andersen法、改良Buckley-James法處理右刪失生存數(shù)據的性能與Cox回歸作比較,研究結果提示神經網絡方法可以作為分析右刪失數(shù)據的一個有效的方法。D.J.Groves[13]等將Cox回歸與神經網絡方法對兒童急性淋巴母細胞白血病的預后進行了比較,Lucila Ohno-Machado等[14]建立輸出層為4個結點的離散時間神經網絡模型做為AIDS預后研究的工具,并使用ROC曲線下面積、靈敏度、特異度、陽性預測值、陰性預測值對不同時間區(qū)間的預測性能做了評價。國內用于生存分析方面的研究還較少,黃德生[15]等利用BP神經網絡建立time-coded model和single-time point model用于肺鱗癌預后預測,賀佳[16]等把BP網絡用于預測肝癌患者術后無瘤生存期,也有學者對AIDS、惡性腫瘤的預后做了相關的研究。
2.3 BP神經網絡在其它方面的應用
近年來BP神經網絡在疾病篩查中的的應用引起學者的關注,例如在乳腺癌、宮頸癌、糖尿病的篩查都有成功的應用[17]。神經網絡在法醫(yī)學研究領域具有實用性和廣泛的應用前景,法醫(yī)學家將其用在死亡時間推斷、死因分析、個體識別和毒物分析等研究中[18]。在藥學研究中也有一定的應用,例如在定量藥物設計、藥物分析、藥動/藥效學研究中,都有成功的應用案例,相秉仁等[19]對其做了詳細的綜述。曹顯慶[20]等還將神經網絡用于ECG、EEG等信號的識別和處理、醫(yī)學圖像分析中,取得了較好的結果。
人工神經網絡是在研究生物神經網絡的基礎上建立的模型,迄今為止有代表性的網絡模型已達數(shù)10種,人工神經網絡不需要精確的數(shù)學模型,沒有任何對變量的假設要求,能通過模擬人的智能行為處理復雜的、不確定的、非線性問題。在醫(yī)學研究領域,變量間關系往往非常復雜,為了探測變量間的復雜模式,神經網絡正逐漸變成分析數(shù)據的流行工具。目前國際上已出現(xiàn)許多著名的神經網絡專業(yè)雜志:Neural Network,Neural Computation,IEEE Transaction on Neural Networks等,同時已有許多商業(yè)化的神經網絡開發(fā)軟件,如Matlab軟件, S-plus軟件,SNNS(Stuttgart Neural Network Simulator)等,高版本SAS系統(tǒng)中的Enterprise Miner應用模塊中也可以建立神經網絡模型,隨著計算機技術的進一步發(fā)展,人工神經網絡在醫(yī)學領域的應用前景也會更加廣闊。
【參考文獻】
1 余雪麗,主編.神經網絡與實例學習.中國鐵道出版社,1996.
2 白耀輝,陳明.利用自組織特征映射神經網絡進行可視化聚類.計算機仿真,2006,23(1):180~183.
3 Jinua Huang,Hiroshi Shimizu,Suteaki Shioya.Clustering gene expression pattern and extracting relationship in gene network based on artificial neural networks.Journal of bioscience and bioengineering,2003,96(5):421~428.
4 曹暉,席斌,米紅.一種新聚類算法在基因表達數(shù)據分析中的應用.計算機工程與應用,2007,43(18):234~238.
5 鄧慶山.聚類分析在基因表達數(shù)據上的應用研究.計算機工程與應用,2005,41(35):210~212.
6 白云靜,申洪波,孟慶剛,等.基于人工神經網絡的中醫(yī)證侯非線性建模研究.中國中醫(yī)藥信息雜志,2007,14(7):3~4.
7 曹志峰. BP 神經網絡在臨床診斷中的應用與探討.實用醫(yī)技雜志,2005,12(9):2656~2657.
8 William G Baxt. Application of artificial neural networks to clinical medicine. The Lancet,1995,346(8983):1135~1138.
9 Ruth M.Ripley,Adrian L.Harris,Lionel Tarassenko.Non-linear survival analysis using neural networks. Statistics in medicine,2004,23(5):825~842.
10 David Faraggi,Richard Simon.A neural network model for survival data. Statistics in medicine,1995,14(1):73~82.
11 高蔚,聶紹發(fā),施侶元,等.神經網絡在生存分析中的應用進展.中國衛(wèi)生統(tǒng)計,2006,23(4):358~360.
12 Anny Xiang,Pablo Lapuerta, Alex Ryutov.Comparison of the performance of neural network methods and Cox regression for censored survival data.Computational statistics & data analysis,2000,34(2):243~257.
13 D.J.Groves,S.W.Smye,S.E.Kinsey.A comparison of Cox regression and neural networks for risk stratification in case of acute lymphoblastic leukaemia in children.Neural computing & applications,1999,8(3):257~264.
14 Lucila Ohno-Machado.A comparison of cox proportional hazards and artificial neural network models for medicial prognosis.Comput Biol Med,1997,27(1):55~65.
15 黃德生,周寶森,劉延齡,等.BP人工神經網絡用于肺鱗癌預后預測.中國衛(wèi)生統(tǒng)計,2000,17(6):337~340.
16 賀佳,張智堅,賀憲民.肝癌術后無瘤生存期的人工神經網絡預測.數(shù)理統(tǒng)計與管理,2002,21(4):14~16.
17 黎衍云,李銳,張勝年.人工神經網絡及其在疾病篩查中的應用前景.環(huán)境與職業(yè)醫(yī)學,2006,23(1):71~73.
18 汪嵐,劉良.人工神經網絡的法醫(yī)學應用.中國法醫(yī)學雜志,2005,20(3):161~163.
篇9
摘要:旅游需求的預測預報研究一直是旅游學研究的一個重要課題。本文在對到訪澳門地區(qū)中國內地游客量分析的基礎上,運用人工神經網絡(ANN)的理論和方法,構建了ANN模型分析中的3層BP模型,以澳門近10年(1996-20__)入境來訪的中國內地旅游人數(shù)為例進行模型驗證,模擬結果表明,BP神經網絡預測的結果能夠高程度的吻合原始數(shù)據,在旅游市場預測中,BP神經網絡預測是一種有效的預測方法。一.問題的提出與分析近年來,對澳門地區(qū)的旅游業(yè)來說,中國內地旅客是旅游收入的主要來源。目前旅游業(yè)已成為澳門地區(qū)經濟發(fā)展特別是第二產業(yè)發(fā)展的支柱。建立科學的可操作的旅游預測模型是實現(xiàn)澳門地區(qū)旅游業(yè)持續(xù)健康穩(wěn)定發(fā)展的理論基石和前提。由于影響某地旅游人數(shù)的因素各異,還不存在普遍適用的神經網絡模型?;诖?,本文擬用3層BP神經網絡模型來仿真模擬分析和預測澳門地區(qū)旅游需求,以此為旅游需求預測提供一種新的方法。二.模型的假設與符號說明1.基本假設1)交通在旅游中通常不是重要的,為了研究的方便(主要是無法獲得交通數(shù)據),把交通這個影響忽略。2)假設澳門的接待能力都滿足需求。3)在本例旅游需求預測模型中,我們考慮的主要因素有:客源地的人口,客源地的總收入,客源地的消費水平,旅游目的地的生活水平。4)為了研究的方便,假定以上四因子之間相互獨立,本例旅游需求即為上述四因子的函數(shù),即y=f(GDI,POP,GDE,M-GP)。就用這四個因素作為人工神經網絡模型輸入層的神經元。2.符號說明T澳門內地游客量GDI中國內地國民總收入POP中國內地人口總數(shù)GDE中國內地國民消費水平M-GP澳門生產總值三.模型的建立與求解1.人工神經網絡模型理論原理
人工神經網絡(ArtificialNeuralNetwork)是由大量的、簡單元件(神經元)廣泛相互聯(lián)結而成的非線性的、動態(tài)的復雜網絡信息處理系統(tǒng),它是在現(xiàn)代神經學研究成果基礎上提出的,能模擬人腦的若干基本功能[1]。它具有并行分布的信息處理結構,可以通過“自學習”或“訓練”的方式完成某一特定的工作。它可以從積累的工作案例中學習知識,盡可能多地把各種定性或定量的因素作為變量加以輸入,從而建立各種影響因素與結論之間的高度非線性映射,采用自適應模式識別方法來完成預測工作[2]。人工神經網絡模型尤其是對處理內部規(guī)律不甚了解、不能用一組規(guī)則或方程進行描述的復雜的、開放的非線性系統(tǒng)顯得較為優(yōu)越。人工神經網絡模型一般由處理單元、激活狀態(tài)、單元輸出、連接模式、激活規(guī)則、學習規(guī)則等6個部分組成。一個多層神經網絡中包含有很多個信息處理單元,分布于不同的層次中。根據每項輸入和相應的權重獲取一個綜合信號,當信號超過閾值則激活神經元而產生輸出。各類影響因素和最終輸出結果之間可以假定存在一種映射,即輸出結果=F(影響因素)。為了尋求最佳的映射關系F,將訓練樣本集合和輸入、輸出轉化為一種非線性關系,通過對簡單非線性函數(shù)的復合,從而建立一個高度的非線性映射關系F,最終實現(xiàn)輸出值的最優(yōu)逼近[3]。在人工神經網絡的實際應用中,80~90的人工神經網絡是采用前饋反向傳播網絡(back-propagation-network,簡稱BP網絡)或它的變化形式。BP神經網絡(如圖一)是一種單項傳播的多層前向神經網絡,分為輸入層、隱含層和輸出層,層與層之間采用全連接方式,同一層單元之間不存在相互連接。它是前向網絡的核心部分,體現(xiàn)了人工神經網絡最精華的部分[4]。標準的BP網絡是根據W-H學習規(guī)則,采用梯度下降算法,對非線性可微函數(shù)進行權值訓練的多層網絡。圖一:BP神經網絡的每一層的權值通過學習來調節(jié),其基本處理單元為非線性輸入-輸出關系,選用S型作用函數(shù):其中:xj為該神經元第i個輸入;wij為前一層第i個神經元至該神經元j的連接權值,i=0時的權值為閾值。其計算步驟如下:(1)給定一組隨機的權值和閾值初始值及步長系數(shù)η與勢態(tài)因子α;(2)取學習樣本數(shù)據,根據學習樣本、權值及閥值計算輸出,并與學習期望輸出比較,當誤差滿足要求時結束訓練,否則將誤差向后逐層傳播,并修正各層連接權值,調整公式為:其中:k取j結點所在層的前一層所有結點。5)澳門內地旅客人數(shù)神經網絡模型的建立(一)BP網絡設計網絡設計是一個綜合性問題,它應滿足多種不同要求,例如,希望所涉及的網絡有較好的推理能力,易于硬件實現(xiàn),訓練速度快等,其中有較好的推理能力是最主要的。一般來說,推廣能力決定于3個主要因素,即問題本身的復雜程度、網絡結構以及樣本量大小。在一般情況下,旅游需求預測研究中樣本的數(shù)量是一定的,因此可歸結為在樣本量一定的情況下,如何選擇網絡規(guī)模的問題。在進行BP網絡預測模型設計中,我們主要考慮以下因素:網絡的層數(shù)、每層中的神經元個數(shù)、初始值的選擇、學習速率和期望誤差。i)網絡的層數(shù)已證明:具有偏差和至少一個S型隱含層加上一個線性輸出層的網絡,能夠逼近任何有理函數(shù)。所以,本文選擇一個3層的BP網絡。ii)每層中神經元的個數(shù)輸入層和輸出層神經元的個數(shù)根據解決具體問題的復雜程度而定。為了提高網絡訓練的精度,可以通過采用一個隱含層,再加上1到2個神經元以加快誤差的下降速度即可。因此,本文輸入層神經元個數(shù)選擇為4個,隱含層神經元個數(shù)分別選擇了9、12、15個,輸出層神經元個數(shù)選擇為1個。iii)初始值的選擇由于人工神經網絡是一個非線性系統(tǒng),初始值的選擇對于網絡學習是否達到局部最小、是否能夠收斂以及訓練時間的長短都有較大影響。在初始值的選擇上一般是使經過初始值加權后的每個神經元的輸出值都接近零,這樣可以保證每一個神經元的連接權值都能夠在它們的S型激活函數(shù)變化最大處進行調解。所以,初始值一般選擇在(-1,1)之間的隨機數(shù)。本文的初始值為默認值。iv)學習速率對于任何一個網絡都對應一個合適的學習速率。學習速率決定每一次循環(huán)訓練中所產生的權值的變化量。大的學習速率可以導致網絡的不穩(wěn)定,但是小的學習速率又會導致訓練時間延長,收斂速度較慢,不能保證網絡的誤差能最終趨于最小。綜合上述考慮,在學習速率的選擇上傾向于選擇較小的學習速率以保證網絡的穩(wěn)定性,本文選擇的學習速率為0.01。v)期望誤差值期望誤差值的確定也是通過網絡對不同誤差值分別進行訓練比較后確定的最適合值。所謂的最適合值是相對于所需要的隱含層的節(jié)點數(shù)來確定的,一個較小的誤差值的獲得需要增加隱含層的節(jié)點以及訓練時間。本文經過不斷測試,選擇0.0001為期望誤差值。(二)1.網絡訓練模式的選擇訓練網絡有兩類模式:逐變模式和批變模式。在逐變模式中,每一個輸入被作用于網絡后,權重和偏置量被更新一次。在批變模式中,所有的輸入被應用于網絡后,權重和偏置量才被更新 一次。使用批變模式不需要為每一層的權重和偏置量設定訓練函數(shù),而只需為整個網絡制定一個訓練函數(shù),使用起來相對方便,因此,本文在進行網絡訓練時采用批變模式。表格一:年度
澳門的內地游客量(T)(千人)中國內地國民總收入(GDI)(億元)中國內地人口數(shù)(POP)(萬人)中國內地居民消費水平(GDE)(元)澳門生產總值(M-GP)(億美元)1996604.270142.5122389278966.31997529.877653.1123626300266.71998816.883024.3124761315961.919991645.288189.0125786334659.220__2274.798000.5126743363261.020__3005.7108068.2127627386961.920__4240.4119095.7128453410668.220__5742.0135174.0129227441179.220__9529.7159586.71299884925103.320__10463183956.11307565439115.62.數(shù)據和模型的建立神經網絡模型要求數(shù)據具有:A、易獲得性B、可靠性C、可測度性。本項研究采用很可靠的官方發(fā)表的數(shù)據作為分析的數(shù)據源(見表1),主要來自于中國統(tǒng)計局網。用3層BP網絡模型對本例旅游需求進行模擬,根據BP網絡的映射原理,對于樣本集合X和輸出Y,可以假設存在一映射F。為了尋求F的最佳映射值,BP網絡模型將樣本集合的輸入、輸出轉化為非線性優(yōu)化,通過對簡單的非線性函數(shù)的復合,建立一個高度的非線性映射關系,實現(xiàn)F值的最優(yōu)逼近。對于本例旅游需求模型的模擬:其輸入層結點數(shù)(4個神經元):中國內地國民總收入(GDI)、中國內地人口總數(shù)(POP)、中國內地國民消費水平(GDE)、澳門生產總值(M-GP)。把澳門內地游客量(T)作為輸出結點。從而得出3層前饋反向傳播神經網絡模型。四.模型結果及分析1網絡訓練性能的檢查。不同個數(shù)的隱層單元組成的BP網絡訓練曲線如圖1,2,3所示。通過比較發(fā)現(xiàn),中間層神經元個數(shù)為9和12時,網絡的收斂速度比較快。2網絡預測性能的考查。在數(shù)據列表中選取1996年到20__年的數(shù)據作為網絡的測試數(shù)據。20__、20__年的(文秘站:)游客量檢驗誤差曲線如圖4。其仿真結果令人滿意,達到預期的效果。圖1圖2圖3圖4五.模型的應用與評價(優(yōu)缺點與改進)從上面的分析可以看出,3層BP神經網絡模型的仿真模擬效果是鄰人滿意的。可以看出,人工神經網絡的擬合精度比較高,主要是基于人工神經網絡抗干擾能力強,穩(wěn)定性好,能自動準確地找出各種輸入和輸出之間的線性或非線性關系,具有較強的模擬適應能力等特點。在本例對于澳門的內地游客量的旅游預測中BP神經網絡模型是一種有效的預測方法。這一研究方法為旅游學的定量預測研究提供了一種新的思路,也為工程實踐問題中的一些研究工作提供了一種非常好的指導方法。雖然BP網絡得到了廣泛應用,但其自身也存在一些缺陷和不足,主要包括幾個方面的問題。首先,由于學習速率是固定的,因此,網絡的收斂速度慢,需要較強的訓練時間。再次,網絡隱含層的層數(shù)和單元數(shù)的選擇尚無理論上的指導,一般是根據應驗或者通過反復試驗確定的。因此,網絡往往存在很大的冗余性,在一定上也增加了網絡學習的負擔。六.原題附帶問題簡析通過對本例旅游需求模型的分析,我們認為在利用數(shù)學建模的方法對旅游需求進行預測預報時,對于數(shù)據的采集和整理工作需要認真做好。對于數(shù)據的分析有助于我們尋求變量間的關系,以形成初步的想法。如何獲得數(shù)據以及如何獲得準確的數(shù)據對于我們研究實際問題具有相當重大的意義。收集數(shù)據并非多多益善,而是要弄清究竟需要哪些數(shù)據,剔除不必要的數(shù)據,從而減少冗余的工作。同時,需要什么形式的數(shù)據也是我們應該思考的一個問題,這與建立模型的目的和所選擇的模型的特點有關。[參考文獻][1]王士同,等.問題求解的人工智能:神經網絡方法[M].北京:氣象出版社,1995.[2]HillT,MarquezO’connorM,RemusW.ArtificialNeuralNetworkMedelsfor
ForecastingandDecisionMaking[J].InternationalJournalofForecasting,1993,
篇10
[關鍵詞]多目標決策;BP神經網絡;礦產資源;綜合開發(fā)利用評價
礦產資源綜合開發(fā)利用評價是一個典型的多目標決策問題,應用多目標決策的有關技術進行方案的排序選優(yōu),能較好地解決多方案的優(yōu)化問題。關鳳峻根據給出的多個綜合開發(fā)利用方案,采用的層次評價方法,建立評價體系并采用理想點法進行排序,選出最優(yōu)方案。宋光興等人改進了理想點法中權重的確定方式,利用熵技術法確定礦產資源綜合開發(fā)利用的評價指標的權重,并得出了排序選優(yōu)的最終結果。李學全等人提出了一種灰色關聯(lián)度線性加權和方法,是解決礦產資源綜合開發(fā)利用評價問題的一個有益的嘗試。周科平提出了一種新的多屬性決策法,有效解決了主觀確定的權重不精確的缺點。陳林、曹樹剛采用博弈論分析框架中混合策略情況下應用最優(yōu)化方法,尋求混合策略Nash均衡的最優(yōu)化點,作為多指標決策問題的優(yōu)選方案。
礦產資源綜合開發(fā)利用評價中權重的確定是一個關鍵,采用BP人工神經網絡技術構建的非線性評價模型對礦產資源的綜合利用水平進行評價,可避免人為確定各指標的權重帶來的主觀性。本文試采用BP人工神經網絡方法對礦產資源綜合開發(fā)利用各個方案做出評價,并把評價結果與其他方法作比較,以驗證方法的可靠性。
1數(shù)據來源以及研究方法
1.1數(shù)據來源
(1)數(shù)據來源于參考文獻三篇論文的舉例部分,某鐵金礦經研究設計得出9個方案。
(2)將數(shù)據進行歸一化處理,將每一列的數(shù)字xi代入歸一化公式x*i=[SX(]ximaxxi′[SX)]
即每一指標數(shù)據除以各自指標中的最大值,將數(shù)據劃歸在[0,1]范圍之內。
1.2研究方法
BP人工神經網絡簡介:人工神經網絡是將大量簡單的神經元廣泛連接而成,用以模擬人腦思維方式的復雜網絡系統(tǒng),具有自組織、自適應、自學習和容錯性等特點,被廣泛應用于模式識別、圖像處理、自適應控制等領域。由于礦產資源綜合利用水平評價系統(tǒng)是一個多層次、多因素的復雜系統(tǒng),采用BP人工神經網絡技術構建的非線性評價模型對礦產資源的綜合利用水平進行評價和識別可避免人為確定各指標的權重帶來的主觀性,提高評價結果的準確性。
2運用BP人工神經網絡對礦產資源綜合開發(fā)方案進行評價
運用matlab環(huán)境下的BP網絡模塊,我們將經濟發(fā)展水平分級指標作為樣本輸入,評價級別作為網絡輸出BP網絡通過不斷學習修改權重,找出評價指標與評價級別間的內在對應關系,利用此網絡模型進行經濟發(fā)展水平的綜合評價。
第一、評價指標體系的建立。以某銅鐵礦設計方案為例建立評價體系。參考其他人的研究成果及數(shù)據的可獲取性,選取5項指標,分別為鐵選礦回收率(%)、金選礦回收率(%)、產值利潤率(%)、成本利潤率(%)、噸礦利潤(元/噸)。
第二、網絡模型的構建。選取以上5項指標作輸入神經元,輸出神經元為銅鐵礦的綜合開發(fā)利用水平,構建神經網絡,采用等間距的線性內插方法,對已經歸一化了的數(shù)據進行等級劃分,構建人工神經網絡的訓練數(shù)據(見表1),并將銅鐵礦的綜合開發(fā)利用水平分為3級,3代表綜合開發(fā)利用水平高,2代表綜合開發(fā)利用水平中等,1代表綜合開發(fā)利用水平低。
據此構建5×1×1的神經網絡結構,其中隱含層神經元為3個,輸出層神經元1個。網絡設計的參數(shù)為:網絡初始值為[0,1]之間的隨機數(shù),基本學習速率0.1;網絡訓練的終止參數(shù)為:最大訓練批次為10000次,最大誤差為0.01。網絡訓練達標后,將表1中的原始數(shù)據歸一化后輸入網絡,得出銅鐵礦的綜合開發(fā)利用水平的BP估計值。
表2表明,方案8的綜合開發(fā)利用水平BP值最大,是諸方案中最優(yōu)的;方案7的綜合開發(fā)利用水平次之,為次優(yōu)方案;方案1的綜合開發(fā)利用水平BP值最小,是諸方案中最差的。
3與基于理想點法評價模型計算得到的結果相比較
3.1理想點法簡介
理想點法是屬于多屬性效用理論的多目標決策方法,它最基本的思想是依據“綜合效用值”進行方案排序選優(yōu)。其效用值的計算是用理想點法中的“距離值”的計算方法而得。通過選取各個目標中的最優(yōu)值構成一個多目標的理想方案(也稱為理想點),并以目標空間中,各方案與理想方案的距離值來度量各方案的優(yōu)劣。距離越小表示方案目標值越接近理想方案的目標點。這樣依距離值的大小來排列方案的優(yōu)劣順序,距離越小,方案越優(yōu)。
以下兩表格分別為基于層次評價方法與基于熵值法確定權重的理想點法得到的礦產資源綜合開發(fā)利用評價結果。
3.2各評價模型所得結果比較
將礦產資源綜合開發(fā)利用水平的BP值排序情況(表2)分別與基于層次方法和基于熵值法確定權重的理想點法(表3)得到的優(yōu)方案排序相比較。采用BP人工神經網絡計算得到的結果與采用熵值確定權重的理想點法得到的結果相同;BP值法計算的結果中最好的三個方案分別為方案8、方案7、方案9,與層次理想點法的結果相同,不同之處僅僅存在于方案1與方案2,方案5與方案6,他們的排名也十分接近。這充分說明采用BP人工神經網絡方法對礦產資源的綜合開發(fā)利用進行評價是可行的。此外,由于運用matlab軟件可以輕易地實現(xiàn)BP神經網絡運算,這種方法在處理大量數(shù)據方面還有著獨特的優(yōu)越性。