神經(jīng)網(wǎng)絡(luò)的前向傳播范文
時(shí)間:2023-10-31 17:58:54
導(dǎo)語:如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)的前向傳播,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
本文主要介紹了人工神經(jīng)網(wǎng)絡(luò)的概念,并對(duì)幾種具體的神經(jīng)網(wǎng)絡(luò)進(jìn)行介紹,從它們的提出時(shí)間、網(wǎng)絡(luò)結(jié)構(gòu)和適用范圍幾個(gè)方面來深入講解。
【關(guān)鍵詞】神經(jīng)網(wǎng)絡(luò) 感知器網(wǎng)絡(luò) 徑向基網(wǎng)絡(luò) 反饋神經(jīng)網(wǎng)絡(luò)
1 引言
人工神經(jīng)網(wǎng)絡(luò)是基于對(duì)人腦組織結(jié)構(gòu)、活動(dòng)機(jī)制的初步認(rèn)識(shí)提出的一種新型信息處理體系。它實(shí)際上是一個(gè)由大量簡(jiǎn)單元件相互連接而成的復(fù)雜網(wǎng)絡(luò),具有高度的非線性,能夠進(jìn)行復(fù)雜的邏輯操作和非線性關(guān)系實(shí)現(xiàn)的系統(tǒng),通過模仿腦神經(jīng)系統(tǒng)的組織結(jié)構(gòu)以及某些活動(dòng)機(jī)理,人工神經(jīng)網(wǎng)絡(luò)可呈現(xiàn)出人腦的許多特征,并具有人腦的一些基本功能,利用這一特性,可以設(shè)計(jì)處具有類似大腦某些功能的智能系統(tǒng)來處理各種信息,解決不同問題。下面對(duì)幾種具體的神經(jīng)網(wǎng)絡(luò)進(jìn)行介紹。
2 感知器網(wǎng)絡(luò)
感知器是由美國(guó)學(xué)者Rosenblatt在1957年首次提出的,感知器可謂是最早的人工神經(jīng)網(wǎng)絡(luò)。感知器具有分層結(jié)構(gòu),信息從輸入層進(jìn)入網(wǎng)絡(luò),逐層向前傳遞到輸出層。感知器是神經(jīng)網(wǎng)絡(luò)用來進(jìn)行模式識(shí)別的一種最簡(jiǎn)單模型,屬于前向神經(jīng)網(wǎng)絡(luò)類型。
2.1 單層感知器
單層感知器是指只有一層處理單元的感知器,它的結(jié)構(gòu)與功能都非常簡(jiǎn)單,通過讀網(wǎng)絡(luò)權(quán)值的訓(xùn)練,可以使感知器對(duì)一組輸入矢量的響應(yīng)達(dá)到元素為0或1的目標(biāo)輸出,從而實(shí)現(xiàn)對(duì)輸入矢量分類的目的,目前在解決實(shí)際問題時(shí)很少被采用,但由于它在神經(jīng)網(wǎng)絡(luò)研究中具有重要意義,是研究其他網(wǎng)絡(luò)的基礎(chǔ),而且較易學(xué)習(xí)和理解,適合于作為學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的起點(diǎn)。
2.2 多層感知器
多層感知器是對(duì)單層感知器的推廣,它能夠成功解決單層感知器所不能解決的非線性可分問題,在輸入層與輸出層之間引入隱層作為輸入模式的“內(nèi)部表示”,即可將單層感知器變成多層感知器。
3 線性神經(jīng)網(wǎng)絡(luò)
線性神經(jīng)網(wǎng)絡(luò)類似于感知器,但是線性
神經(jīng)網(wǎng)絡(luò)的激活函數(shù)是線性的,而不是硬限轉(zhuǎn)移函數(shù)。因此線性神經(jīng)網(wǎng)絡(luò)的輸出可以使任意值,而感知器的輸出不是0就是1。線性神經(jīng)網(wǎng)絡(luò)最早的典型代表就是在1963年由美國(guó)斯坦福大學(xué)教授Berhard Windrow提出的自適應(yīng)線性元件網(wǎng)絡(luò),它是一個(gè)由輸入層和輸出層構(gòu)成的單層前饋性網(wǎng)絡(luò)。自適應(yīng)線性神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法比感知器的學(xué)習(xí)算法的收斂速度和精度都有較大的提高,自適應(yīng)線性神經(jīng)網(wǎng)絡(luò)主要用于函數(shù)逼近、信號(hào)預(yù)測(cè)、系統(tǒng)辨識(shí)、模式識(shí)別和控制等領(lǐng)域。
4 BP神經(jīng)網(wǎng)絡(luò)
BP神經(jīng)網(wǎng)絡(luò)是1986年由以Rumelhart和McCelland為首的科學(xué)家小組提出的,是一種按誤差逆傳播算法訓(xùn)練的多層前饋網(wǎng)絡(luò),在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中,80%~90%的人工神經(jīng)網(wǎng)絡(luò)模型采用BP網(wǎng)絡(luò)或者它的變化形式,它也是前向網(wǎng)絡(luò)的核心部分,體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)最精華的部分,BP神經(jīng)網(wǎng)絡(luò)由信息的正向傳播和誤差的反向傳播兩個(gè)過程組成。輸入層各神經(jīng)元負(fù)責(zé)接收來自外界的輸入信息,并傳遞給中間層各神經(jīng)元;中間層是內(nèi)部信息處理層,負(fù)責(zé)信息變換,根據(jù)信息變化能力的需求,中間層可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu);最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息,經(jīng)過一步處理后完成一次學(xué)習(xí)的正向傳播處理過程,由輸出層向外界輸出信息處理結(jié)果。當(dāng)實(shí)際輸出與期望輸出不符時(shí),進(jìn)入誤差的反向傳播階段。誤差通過輸出層,按誤差梯度下降的方式修正各層權(quán)值,向隱層、輸入層逐層反傳。周而復(fù)始的信息正向傳播和誤差反向傳播過程,是各層權(quán)值不斷調(diào)整的過程,也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練過程,此過程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度,或者達(dá)到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。
BP網(wǎng)絡(luò)主要應(yīng)用于以下方面:
(1)函數(shù)逼近:用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個(gè)網(wǎng)絡(luò)逼近一個(gè)函數(shù)。
(2)模式識(shí)別:用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來。
(3)分類:對(duì)輸入矢量以所定義的合適方式進(jìn)行分類。
(4)數(shù)據(jù)壓縮:減少輸出矢量維數(shù)以便于傳輸或存儲(chǔ)。
5 反饋神經(jīng)網(wǎng)絡(luò)
美國(guó)加州理工學(xué)院物理學(xué)家J.J.Hopfield教授于1982年發(fā)表了對(duì)神經(jīng)網(wǎng)絡(luò)發(fā)展頗具影響的論文,提出一種單層反饋神經(jīng)網(wǎng)絡(luò),后來人們將這種反饋網(wǎng)絡(luò)稱作Hopfield網(wǎng)。在多輸入/多輸出的動(dòng)態(tài)系統(tǒng)中,控制對(duì)象特性復(fù)雜,傳統(tǒng)方法難以描述復(fù)雜的系統(tǒng)。為控制對(duì)象建立模型可以減少直接進(jìn)行實(shí)驗(yàn)帶來的負(fù)面影響,所以模型顯得尤為重要。但是,前饋神經(jīng)網(wǎng)絡(luò)從結(jié)構(gòu)上說屬于一種靜態(tài)網(wǎng)絡(luò),其輸入、輸出向量之間是簡(jiǎn)單的非線性函數(shù)映射關(guān)系。實(shí)際應(yīng)用中系統(tǒng)過程大多是動(dòng)態(tài)的,前饋神經(jīng)網(wǎng)絡(luò)辨識(shí)就暴露出明顯的不足,用前饋神經(jīng)網(wǎng)絡(luò)只是非線性對(duì)應(yīng)網(wǎng)絡(luò),無反饋記憶環(huán)節(jié),因此,利用反饋神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)特性就可以克服前饋神經(jīng)網(wǎng)絡(luò)的缺點(diǎn),使神經(jīng)網(wǎng)絡(luò)更加接近系統(tǒng)的實(shí)際過程。
Hopfield神經(jīng)網(wǎng)絡(luò)的應(yīng)用:
(1)在數(shù)字識(shí)別方面。
(2)高??蒲心芰υu(píng)價(jià)。
(3)應(yīng)用于聯(lián)想記憶的MATLAB程序。
6 徑向基神經(jīng)網(wǎng)絡(luò)
徑向基RBF網(wǎng)絡(luò)是一個(gè)3層的網(wǎng)絡(luò),除了輸入、輸出層之間外僅有一個(gè)隱層。隱層中的轉(zhuǎn)換函數(shù)是局部響應(yīng)的高斯函數(shù),而其他前向網(wǎng)絡(luò),轉(zhuǎn)換函數(shù)一般都是全局響應(yīng)函數(shù)。由于這樣的差異,要實(shí)現(xiàn)同樣的功能,RBF需要更多的神經(jīng)元,這就是RBF網(wǎng)絡(luò)不能取代標(biāo)準(zhǔn)前向型絡(luò)的原因。但是RBF網(wǎng)絡(luò)的訓(xùn)練時(shí)間更短,它對(duì)函數(shù)的逼近時(shí)最優(yōu)的,可以以任意精度逼近任意連續(xù)函數(shù)。隱層中的神經(jīng)元越多,逼近越精確。
徑向基網(wǎng)絡(luò)的應(yīng)用:
(1)用于曲線擬合的RBF網(wǎng)絡(luò)。
(2)徑向基網(wǎng)絡(luò)實(shí)現(xiàn)非線性函數(shù)回歸。
7 自組織神經(jīng)網(wǎng)絡(luò)
自組織競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)是一種無教師監(jiān)督學(xué)習(xí),具有自組織功能的神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)通過自身的訓(xùn)練。能自動(dòng)對(duì)輸入模式進(jìn)行分類,一般由輸入層和競(jìng)爭(zhēng)層夠曾。兩層之間各神經(jīng)元實(shí)現(xiàn)雙向連接,而且網(wǎng)絡(luò)沒有隱含層。有時(shí)競(jìng)爭(zhēng)層之間還存在著橫向連接。
常用自組織網(wǎng)絡(luò)有一下幾種:
(1)自組織特征映射網(wǎng)絡(luò)。
(2)學(xué)習(xí)矢量量化網(wǎng)絡(luò)。
(3)自適應(yīng)共振理論模型。
(4)對(duì)偶傳播網(wǎng)絡(luò)。
參考文獻(xiàn)
[1]韓力群.人工神經(jīng)網(wǎng)絡(luò)教程[M].北京:北京郵電大學(xué)出版社,2006.
[2]周品.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)與應(yīng)用[M].北京:清華大學(xué)出版社,2013.
作者簡(jiǎn)介
孔令文(1989-),男,黑龍江省齊齊哈爾市人。現(xiàn)為西南林業(yè)大學(xué)機(jī)械與交通學(xué)院在讀研究生。研究方向?yàn)橛?jì)算機(jī)仿真。
篇2
關(guān)鍵詞:發(fā)電燃料;供應(yīng)預(yù)測(cè);BP神經(jīng)網(wǎng)絡(luò);預(yù)測(cè)方法
中圖分類號(hào):TM 762 文獻(xiàn)標(biāo)示碼:A
0 引言
發(fā)電燃料的供應(yīng)受到能源政策、供需形勢(shì)、資源分布、供應(yīng)價(jià)格、交通運(yùn)輸、市場(chǎng)博弈等多種復(fù)雜因素的影響,長(zhǎng)期以來缺乏合理有效的供應(yīng)預(yù)測(cè)方法和技術(shù)手段,尤其是廠網(wǎng)分離后鮮見相關(guān)的研究工作。
文獻(xiàn)1《遼寧火電廠燃料管理信息系統(tǒng)的開發(fā)與研制》開發(fā)和研制了覆蓋遼寧全體直屬電廠燃料公司并同東電局進(jìn)行廣域網(wǎng)數(shù)據(jù)交換,同時(shí)能進(jìn)行審核管理和業(yè)務(wù)信息方便傳輸?shù)娜剂暇C合管理信息系統(tǒng)。
文獻(xiàn)2《電力系統(tǒng)燃料MIS系統(tǒng)開發(fā)研究》探討了燃料管理信息系統(tǒng)的組成、功能、結(jié)構(gòu)及開發(fā)應(yīng)用,為綜述性理論研究。
以上文獻(xiàn)均未對(duì)發(fā)電燃料供應(yīng)提供較有效的預(yù)測(cè)方法。本文提出一種基于BP神經(jīng)網(wǎng)絡(luò)的發(fā)電燃料供應(yīng)量預(yù)測(cè)方法,利用神經(jīng)網(wǎng)絡(luò)原理,通過數(shù)據(jù)收集、數(shù)據(jù)修正和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)選擇建立起基于BP神經(jīng)網(wǎng)絡(luò)的發(fā)電燃料供應(yīng)預(yù)測(cè)模型。通過MATLAB實(shí)際仿真,證明該預(yù)測(cè)方法預(yù)測(cè)較準(zhǔn)確,并具有靈活的適應(yīng)性。
基金項(xiàng)目:中國(guó)南方電網(wǎng)有限責(zé)任公司科技項(xiàng)目(K-ZD2013-005)
1 預(yù)測(cè)方法
按預(yù)測(cè)方法的性質(zhì)不同,預(yù)測(cè)可分為定性預(yù)測(cè)和定量預(yù)測(cè)。常用的定性預(yù)測(cè)方法有主觀概率法、調(diào)查預(yù)測(cè)法、德爾菲法、類比法、相關(guān)因素分析法等。定量方法又可以分為因果分析法和時(shí)間序列分析法等,因果分析法也叫結(jié)構(gòu)關(guān)系分析法。它是通過分析變化的原因,找出原因與結(jié)果之間的聯(lián)系方式,建立預(yù)測(cè)模型,并據(jù)此預(yù)測(cè)未來的發(fā)展變化趨勢(shì)及可能水平。時(shí)間序列分析法也叫歷史延伸法。它是以歷史的時(shí)間序列數(shù)據(jù)為基礎(chǔ),運(yùn)用一定的數(shù)學(xué)方法尋找數(shù)據(jù)變動(dòng)規(guī)律向外延伸,預(yù)測(cè)未來的發(fā)展變化趨勢(shì)。由于時(shí)間序列模型無法引入對(duì)負(fù)荷影響的其它變量,所以,單純應(yīng)用時(shí)間序列模型進(jìn)行供應(yīng)預(yù)測(cè)精度難以提高。
運(yùn)用人工神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行預(yù)測(cè),其優(yōu)點(diǎn)是可以模仿人腦的智能化處理過程,對(duì)大量非結(jié)構(gòu)性、非精確性規(guī)律具有自適應(yīng)功能,具有信息記憶、自主學(xué)習(xí)、知識(shí)推理和優(yōu)化計(jì)算的特點(diǎn),特別是其自學(xué)習(xí)和自適應(yīng)功能是常規(guī)算法和專家系統(tǒng)所不具備的,因此,預(yù)測(cè)是人工神經(jīng)網(wǎng)絡(luò)的最有潛力的應(yīng)用領(lǐng)域之一,有非常廣泛的前途。
2 BP神經(jīng)網(wǎng)絡(luò)模型
2.1 人工神經(jīng)網(wǎng)絡(luò)概述
人工神經(jīng)網(wǎng)絡(luò)是由神經(jīng)元以一定的拓?fù)浣Y(jié)構(gòu)和連接關(guān)系組成的信息表現(xiàn)、儲(chǔ)存和變換系統(tǒng),是模仿人腦結(jié)構(gòu)的一種信息系統(tǒng),可較好地模擬人的形象思維能力。它是對(duì)自然界中生物體神經(jīng)系統(tǒng)進(jìn)行抽象和改造,并模擬生物體神經(jīng)系統(tǒng)功能的產(chǎn)物。神經(jīng)網(wǎng)絡(luò)的重要特點(diǎn)是具有記憶和學(xué)習(xí)能力,經(jīng)過一定訓(xùn)練之后,能夠?qū)o定的輸入做出相應(yīng)處理。
人工神經(jīng)網(wǎng)絡(luò)適用于處理實(shí)際中不確定性、精確性不高等引起的系統(tǒng)難以控制的問題,映射輸入輸出關(guān)系。人工神經(jīng)網(wǎng)絡(luò)優(yōu)于傳統(tǒng)方法在于:
1)實(shí)現(xiàn)了非線性關(guān)系的隱式表達(dá),不需要建立復(fù)雜系統(tǒng)的顯示關(guān)系式;
2)容錯(cuò)性強(qiáng),可以處理信息不完全的預(yù)測(cè)問題,而信息不完全的情況在實(shí)際中經(jīng)常遇到;
3)由于神經(jīng)網(wǎng)絡(luò)具有一致逼進(jìn)效果,訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)在樣本上輸出期望值,在非樣本點(diǎn)上表現(xiàn)出網(wǎng)絡(luò)的聯(lián)想記憶功能;
4)由于大規(guī)模并行機(jī)制,故預(yù)測(cè)速度快;
5)動(dòng)態(tài)自適應(yīng)能力強(qiáng),可適應(yīng)外界新的學(xué)習(xí)樣木,使網(wǎng)絡(luò)知識(shí)不斷更新。
圖1是一個(gè)人工神經(jīng)元的典型結(jié)構(gòu)圖。
圖1 神經(jīng)元典型結(jié)構(gòu)圖
它相當(dāng)于一個(gè)多輸入單輸出的非線性閾值器件。,表示該神經(jīng)元的輸入向量;為權(quán)值向量;θ為神經(jīng)元的閾值,如果神經(jīng)元輸入向量加權(quán)和大于0,則神經(jīng)元被激活;f表示神經(jīng)元的輸入輸出關(guān)系函數(shù),即傳輸函數(shù)。因此,神經(jīng)元的輸出可以表示為:
其中傳輸函數(shù)是神經(jīng)元以及網(wǎng)絡(luò)的核心。網(wǎng)絡(luò)解決問題的能力與功效除了與網(wǎng)絡(luò)結(jié)構(gòu)有關(guān),在很大程度上取決于網(wǎng)絡(luò)所采用的傳輸函數(shù)。
幾種常見的傳輸函數(shù)如圖2所示:
(1)為閾值型,將任意輸入轉(zhuǎn)化為0或1輸出,其輸入/輸出關(guān)系為:
(2)為線性型,其輸入/輸出關(guān)系為:
(3)、(4)為S型,它將任意輸入值壓縮到(0,1)的范圍內(nèi),此類傳遞函數(shù)常用對(duì)數(shù)(logsig)或雙曲正切(tansig)等一類S形狀的曲線來表示,如對(duì)數(shù)S型傳遞函數(shù)的關(guān)系為:
而雙曲正切S型曲線的輸入/輸出函數(shù)關(guān)系是:
(1) (2)
(3) (4)
圖2 常見的傳遞函數(shù)圖形
2.2 BP神經(jīng)網(wǎng)絡(luò)概述
神經(jīng)網(wǎng)絡(luò)的魅力在于它超強(qiáng)的映射能力,單層感知器可實(shí)現(xiàn)性分類,多層前向網(wǎng)絡(luò)則可以逼近任何非線性函數(shù)。可以將BP網(wǎng)絡(luò)視為從輸入到輸出的高度非線性映射,而有關(guān)定理證明BP神經(jīng)網(wǎng)絡(luò)通過對(duì)簡(jiǎn)單的非線性函數(shù)進(jìn)行數(shù)次復(fù)合,可以近似任何復(fù)雜的函數(shù)。
在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中,80%-90%的人工神經(jīng)網(wǎng)絡(luò)模型是采用BP網(wǎng)絡(luò)和它的變化形式,它也是前向網(wǎng)絡(luò)的核心,體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)最精華的部分。在人們掌握反向傳播網(wǎng)絡(luò)的設(shè)計(jì)之前,感知器和自適應(yīng)線性元件都只能適用于對(duì)單層網(wǎng)絡(luò)模型的訓(xùn)練,只是后來才得到進(jìn)一步拓展。
BP神經(jīng)網(wǎng)絡(luò)主要應(yīng)用有:
(1)函數(shù)逼近:用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個(gè)網(wǎng)絡(luò)逼近一個(gè)函數(shù)。
(2)模式識(shí)別:用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來。
(3)分類:把輸入矢量以所定義的合適方式進(jìn)行分類。
(4)數(shù)據(jù)壓縮:減少輸出矢量維數(shù)以便于傳輸或存儲(chǔ)。
2.3 誤差反向傳播算法原理
BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò),名字源于網(wǎng)絡(luò)權(quán)值的調(diào)整規(guī)則,采用的是誤差反向傳播算法(Error Back-Propagation Training Algorithm)即BP算法。BP神經(jīng)網(wǎng)絡(luò)是單向傳播的多層前向神經(jīng)網(wǎng)絡(luò)。除輸入輸出節(jié)點(diǎn)之外,有一層或多層的隱藏節(jié)點(diǎn),同層節(jié)點(diǎn)之間無任何連接。典型的BP網(wǎng)絡(luò)是三層前饋階層網(wǎng)絡(luò),即:輸入層、隱含層(中間層)和輸出層,各層之間實(shí)行全連接。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示:
圖3 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖
BP網(wǎng)絡(luò)學(xué)習(xí)過程包括誤差正向傳播和反向傳播兩個(gè)過程。在正向傳播過程中,輸入樣本從輸入層傳入,經(jīng)各隱含逐層處理后,傳向輸出層,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。若輸出層的實(shí)際輸出與期望的輸出不符,則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差的某種形式通過隱含層向輸入層逐層反傳,并將誤差分?jǐn)偨o各層的所有單元,從而獲得各層單元的誤差信號(hào),此誤差信號(hào)即作為修正各神經(jīng)元之間權(quán)值的依據(jù)。這種信號(hào)正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程,是周而復(fù)始地進(jìn)行的。權(quán)值不斷調(diào)整的過程,也就是網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程。此過程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減小到可接受的程度,或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。
BP神經(jīng)元與其他神經(jīng)元類似,不同的是,由于BP神經(jīng)元的傳遞函數(shù)必須是處處可微的,它不能采用二值型{0,1}或符號(hào)函數(shù){-1,1},所以其傳遞函數(shù)為非線性函數(shù),最常用的函數(shù)S型函數(shù),有時(shí)也采用線性函數(shù)。本文采用S型(Sigmoid)函數(shù)作為激發(fā)函數(shù):
式中,為網(wǎng)絡(luò)單元的狀態(tài):
則單元輸出為:
其中,為單元的閥值。在這種激發(fā)函數(shù)下,有:
故對(duì)輸出層單元:
對(duì)隱層單元:
權(quán)值調(diào)節(jié)為:
在實(shí)際學(xué)習(xí)過程中,學(xué)習(xí)速率對(duì)學(xué)習(xí)過程的影響很大。是按梯度搜索的步長(zhǎng)。越大,權(quán)值的變化越劇烈。實(shí)際應(yīng)用中,通常是以不導(dǎo)致振蕩的前提下取盡量大的值。為了使學(xué)習(xí)速度足夠快而不易產(chǎn)生振蕩,往往在規(guī)則中再加一個(gè)“勢(shì)態(tài)項(xiàng)”,即:
式中,是一個(gè)常數(shù),它決定過去權(quán)重的變化對(duì)目前權(quán)值變化的影響程度。
圖4為BP算法流程圖。
圖4 BP算法流程圖
3 發(fā)電燃料供應(yīng)預(yù)測(cè)BP神經(jīng)網(wǎng)絡(luò)模型建立
3.1 數(shù)據(jù)的收集與整理
發(fā)電燃料供應(yīng)是一個(gè)龐大的系統(tǒng),其中的數(shù)據(jù)資料紛繁復(fù)雜。在進(jìn)行模型的搭建之前,需要進(jìn)行歷史資料的整理,提取出所需的數(shù)據(jù)。本模型中,選取與燃料供應(yīng)有關(guān)的數(shù)據(jù)作為影響因素,如電廠發(fā)電量、能源政策、能源供需形勢(shì)、交通運(yùn)輸狀況、燃料價(jià)格和機(jī)組能耗等。
3.2 數(shù)據(jù)的修正
如果在數(shù)據(jù)采集與傳輸時(shí)受到一定干擾,就會(huì)出現(xiàn)資料出錯(cuò)或數(shù)據(jù)丟失的情況,此時(shí)都會(huì)產(chǎn)生影響預(yù)測(cè)效果的壞數(shù)據(jù),這些壞數(shù)據(jù)將會(huì)掩蓋實(shí)際模型的規(guī)律,直接影響模型的效果與精度。據(jù)此,需對(duì)樣本數(shù)據(jù)進(jìn)行預(yù)處理,以確保在建模和預(yù)測(cè)過程中所運(yùn)用的歷史數(shù)據(jù)具有真實(shí)性、正確性和同規(guī)律性。一般樣本數(shù)據(jù)預(yù)處理方法主要有經(jīng)驗(yàn)修正法、曲線置換法、插值法、20%修正法、數(shù)據(jù)橫向縱向?qū)Ρ确ā⑿〔ǚ治鋈ピ敕ǖ?。?duì)于簡(jiǎn)單問題,采用數(shù)據(jù)的橫向縱向?qū)Ρ燃纯蓪?shí)現(xiàn)壞數(shù)據(jù)的剔除。
3.3 BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)選擇
理論證明,3層前向式神經(jīng)網(wǎng)絡(luò)能夠以任意精度實(shí)現(xiàn)任意函數(shù),所以,本模型中采用3層前向網(wǎng)絡(luò)。同時(shí),當(dāng)有N個(gè)影響時(shí), 3層BP神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點(diǎn)數(shù)為N個(gè),隱含層節(jié)點(diǎn)數(shù)一般為2N ~ 4N,最佳取值可根據(jù)實(shí)際問題試湊得,輸出層為1個(gè)節(jié)點(diǎn), 因此可以取其平均結(jié)構(gòu)為N - 3N - 1型, 輸入層激發(fā)函數(shù)為線性函數(shù), 中間層和輸出層的激發(fā)函數(shù)為S型函數(shù)。
3.4 BP神經(jīng)網(wǎng)絡(luò)模型建立
對(duì)于實(shí)際的燃料供應(yīng)模型,數(shù)據(jù)的選擇要有針對(duì)性,結(jié)構(gòu)要合適,這在預(yù)測(cè)過程中是重中之重。為便于模型選擇、結(jié)果對(duì)比,可同時(shí)采用幾種不同的數(shù)學(xué)模型進(jìn)行預(yù)測(cè)。在完成對(duì)恰當(dāng)?shù)念A(yù)測(cè)模型的選擇后,利用提取自歷史資料的訓(xùn)練數(shù)據(jù)對(duì)建立好的預(yù)測(cè)數(shù)學(xué)模型進(jìn)行參數(shù)訓(xùn)練。當(dāng)模型的參數(shù)訓(xùn)練好以后,即可利用此模型進(jìn)行預(yù)測(cè)。
具體操作步驟如下:
(1)對(duì)訓(xùn)練樣本與預(yù)測(cè)樣本進(jìn)行歸一化預(yù)處理,公式表示如式(1)。
(1)
其中表示經(jīng)過歸一化后的值,表示實(shí)際值,,分別是訓(xùn)練集中數(shù)據(jù)的最大值和最小值,k表示輸入向量的維數(shù),i表示有作用因素的個(gè)數(shù)。
(2)對(duì)預(yù)測(cè)的數(shù)據(jù)樣本進(jìn)行提取,并分別列出訓(xùn)練與測(cè)試的樣本集合。
(3)對(duì)BP神經(jīng)網(wǎng)絡(luò)的輸入層、隱含層、輸出層的節(jié)點(diǎn)進(jìn)行定義,對(duì)網(wǎng)絡(luò)的權(quán)重、閾值進(jìn)行初始賦值。
(4)利用訓(xùn)練樣本對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,建立符合實(shí)際問題的模型。
(5)利用事先預(yù)備的測(cè)試樣本對(duì)訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測(cè)試,若效果不佳,則重新訓(xùn)練,若效果好則繼續(xù)下一步。
(6)利用預(yù)測(cè)樣本及訓(xùn)練好的模型進(jìn)行預(yù)測(cè)。
具體流程圖如圖5所示:
圖5 模型建立流程圖
4 基于BP神經(jīng)網(wǎng)絡(luò)模型的發(fā)電燃料供應(yīng)預(yù)測(cè)
(1)樣本數(shù)據(jù)的選擇
以各類影響耗煤的因素作為輸入 。
(2)進(jìn)行歸一化處理
避免量綱對(duì)模型的影響。同時(shí),降低數(shù)據(jù)的數(shù)量級(jí),可以提高BP網(wǎng)絡(luò)的訓(xùn)練的速度,避免飽和。
(3)確定BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)
3層BP神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點(diǎn)為1個(gè)(可根據(jù)實(shí)際情況調(diào)整),對(duì)應(yīng)于輸入樣本,隱含層節(jié)點(diǎn)為15,輸出層節(jié)點(diǎn)為1,對(duì)應(yīng)于輸出樣本。網(wǎng)絡(luò)初始連接權(quán)及神經(jīng)元初始閾值采用隨機(jī)賦值方式。神經(jīng)元的激發(fā)函數(shù)為S函數(shù),最大迭代次數(shù)為400,學(xué)習(xí)步長(zhǎng)為0.001,學(xué)習(xí)誤差為0.00001。
(4)利用訓(xùn)練樣本進(jìn)行網(wǎng)絡(luò)的訓(xùn)練
(5)利用測(cè)試樣本進(jìn)行模型的測(cè)試
人為選定5%相對(duì)誤差為模型訓(xùn)練好壞的判別標(biāo)準(zhǔn)。若測(cè)試樣本的測(cè)試結(jié)果的相對(duì)誤差在5%以內(nèi),則進(jìn)行下一步,否則重新訓(xùn)練。
(6)利用預(yù)測(cè)樣本和已訓(xùn)練好的模型進(jìn)行預(yù)測(cè)
南方電網(wǎng)全網(wǎng)發(fā)電燃料供應(yīng)量預(yù)測(cè)結(jié)果值與實(shí)際值的對(duì)比如圖6所示:
圖6 南網(wǎng)全網(wǎng)發(fā)電燃料供應(yīng)預(yù)測(cè)值與實(shí)際值對(duì)比圖
5 結(jié)論
隨著廠網(wǎng)分離的實(shí)施,電網(wǎng)公司和電力調(diào)度機(jī)構(gòu)對(duì)發(fā)電燃料供應(yīng)的掌握嚴(yán)重不足,已經(jīng)不能滿足電力供應(yīng)工作的要求,尤其是在來水偏枯、電力供應(yīng)緊張的時(shí)期,發(fā)電燃料供應(yīng)的預(yù)測(cè)對(duì)緩解電力供需矛盾、有序做好發(fā)用電管理起著舉足輕重的作用,因此,迫切需要開展發(fā)電燃料供應(yīng)影響因素及預(yù)測(cè)方法的研究工作。
本文在收集、掌握發(fā)電燃料供應(yīng)來源、價(jià)格、運(yùn)輸?shù)惹闆r的基礎(chǔ)上,基于BP神經(jīng)網(wǎng)絡(luò)研究建立發(fā)電燃料供應(yīng)量的預(yù)測(cè)模型和預(yù)測(cè)方法。通過MATLAB仿真預(yù)測(cè),對(duì)預(yù)測(cè)結(jié)果值和實(shí)際值進(jìn)行了對(duì)標(biāo)分析,證明該預(yù)測(cè)方法預(yù)測(cè)較準(zhǔn)確,并具有靈活的適應(yīng)性。本文的研究有利于提升發(fā)電燃料的管理水平和掌控力度,為合理有序做好電力供應(yīng)工作提供有力支持。
參考文獻(xiàn):
[1]孫長(zhǎng)青.基于OSGI的發(fā)電集團(tuán)燃料管控系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D].導(dǎo)師:陳有青.中山大學(xué),2011.
[2]史新梅,裴珍.遼寧火電廠燃料管理信息系統(tǒng)的開發(fā)與研制[J].安徽工業(yè)大學(xué)學(xué)報(bào),2001,(04):359-362+366.
[3]付民慶.基于J2EE架構(gòu)燃料管理信息系統(tǒng)的研究與實(shí)現(xiàn)[D].導(dǎo)師:申曉留.華北電力大學(xué)(北京),2008.
[4]魏學(xué)軍.DF電廠燃料管理信息系統(tǒng)的研究與應(yīng)用[D].導(dǎo)師:胡立德;戴鶴.重慶大學(xué),2008.
[5]孫文君.發(fā)電企業(yè)燃料自動(dòng)監(jiān)管系統(tǒng)設(shè)計(jì)及應(yīng)用[D].導(dǎo)師:張慶超;關(guān)萬祥.天津大學(xué),2010.
篇3
【關(guān)鍵字】混沌時(shí)間序列;BP神經(jīng)網(wǎng)絡(luò);負(fù)荷預(yù)測(cè)
引言
短期負(fù)荷預(yù)測(cè)工作是電力系統(tǒng)運(yùn)行計(jì)劃的一個(gè)重要組成部分,是電力系統(tǒng)分析系統(tǒng)安全、安排生產(chǎn)計(jì)劃、進(jìn)行實(shí)時(shí)調(diào)度的重要參考依據(jù)之一,其預(yù)測(cè)精度直接影響著電力系統(tǒng)的經(jīng)濟(jì)效益。
1 電力負(fù)荷的混沌特性分析
1.1重構(gòu)相空間
電力系統(tǒng)負(fù)荷數(shù)據(jù)是按照固定的時(shí)間間隔取樣而得到的離散時(shí)間序列。對(duì)于這樣的時(shí)間序列,Pakark和Takens等人提出了重構(gòu)相空間的思想,該理論的基本思想:系統(tǒng)中全部分量的變化都是由與之相互作用著的其它分量的變化所決定的,所以全部分量的隱含信息就包含在與其相關(guān)聯(lián)的其它分量里。
假設(shè)負(fù)荷序列為:,將該序列嵌入到m維相空間中,會(huì)得到m維相空間下的相點(diǎn)如下:
(1)
式中,為延遲時(shí)間,表示由N個(gè)X點(diǎn)構(gòu)成m維的相空間的點(diǎn)數(shù)為n。這樣就將單變量時(shí)間序列嵌入到了m維空間。
1.2延遲時(shí)間和嵌入維數(shù)m的確定
延遲時(shí)間和嵌入維數(shù)m的選取非常重要。的選取既不能太小也不能太大,其意義在于不僅要保持相空間軌跡的連續(xù)性,又要讓參加系統(tǒng)重構(gòu)的相點(diǎn)盡可能的不相關(guān)。
延遲時(shí)間選取的方法有很多種,自相關(guān)函數(shù)法是選取延遲時(shí)間的最主要的方法。對(duì)于時(shí)間序列,N是序列的長(zhǎng)度,自相關(guān)函數(shù)為:
(2)
當(dāng)自相關(guān)函數(shù)出現(xiàn)到第一個(gè)極小值時(shí),所得到的即為所求的最佳延遲時(shí)間,以某市2011年1-3月份的負(fù)荷數(shù)據(jù)作為歷史負(fù)荷數(shù)據(jù),計(jì)算得延遲時(shí)間。
計(jì)算嵌入維數(shù)的一個(gè)非常簡(jiǎn)單易行的方法是G-P算法。首先定義嵌入時(shí)間序列的關(guān)聯(lián)積分函數(shù)為:
是一個(gè)累積式的分布函數(shù),當(dāng)取某個(gè)定值之后,表示相空間中全部吸引子兩點(diǎn)之間的距離小于的概率。在一定范圍內(nèi),吸引子的關(guān)聯(lián)維數(shù)d與累積分布函數(shù)會(huì)滿足對(duì)數(shù)線性關(guān)系,即:
(3)
以某市2011年1-3月份的負(fù)荷數(shù)據(jù)作為歷史負(fù)荷數(shù)據(jù),做出其關(guān)聯(lián)維數(shù)d隨m值的變化曲線,如圖1所示。
由上圖可知:當(dāng)嵌入維數(shù)m=8時(shí),吸引子維數(shù)d=3.419,并且此時(shí)吸引子維數(shù)d在一定誤差范圍內(nèi)保持不變,所以,選擇此時(shí)的空間維數(shù)為重構(gòu)相空間的最佳嵌入維數(shù),即m=8。
2 BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和算法
2.1 BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)
任意復(fù)雜的映射問題都可以用BP神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn),BP網(wǎng)絡(luò)是沒有反饋的前向網(wǎng)絡(luò)。前向網(wǎng)絡(luò)是多層映射網(wǎng)絡(luò),每一層中的神經(jīng)元都是只接受來自前一層神經(jīng)元的信號(hào),信號(hào)是單向傳播的。所以BP網(wǎng)絡(luò)也被稱作單向傳播的多層前向網(wǎng)絡(luò)。結(jié)構(gòu)圖如圖2所示:
BP網(wǎng)絡(luò)除輸入輸出節(jié)點(diǎn)外,可以有一層或者多層隱含層節(jié)點(diǎn),同層節(jié)點(diǎn)間沒有任何耦合。輸入信號(hào)從輸入層節(jié)點(diǎn),依次傳過各隱含層節(jié)點(diǎn),然后傳到輸出節(jié)點(diǎn),每一層節(jié)點(diǎn)的輸出只影響下一層節(jié)點(diǎn)的輸出[1]。
圖3是單個(gè)神經(jīng)元的結(jié)構(gòu)圖,它是一個(gè)多輸入、單輸出的非線性元件,其輸入輸出關(guān)系可以描述為:
(4)
(5)
其中,i為前一層神經(jīng)元,j為后一層神經(jīng)元,k為前一層神經(jīng)元的個(gè)數(shù),I和O分別為神經(jīng)元的輸入和輸出。
神經(jīng)元的結(jié)構(gòu)非常簡(jiǎn)單,是神經(jīng)網(wǎng)絡(luò)最基本的工作單元,所以它的處理能力也比較單一。但是大量這種結(jié)構(gòu)簡(jiǎn)單、功能單一的神經(jīng)元所組成的神經(jīng)元網(wǎng)絡(luò)卻有許多非常優(yōu)越的特性。神經(jīng)元網(wǎng)絡(luò)對(duì)信息的處理是由很多的神經(jīng)元共同完成的,是一種集合的功能。大規(guī)模并行互連、非線性處理、互連結(jié)構(gòu)的可變性等固有結(jié)構(gòu)特性決定了神經(jīng)網(wǎng)絡(luò)信息處理的快速性和強(qiáng)大功能[2]。
2.2 BP神經(jīng)網(wǎng)絡(luò)算法
神經(jīng)網(wǎng)絡(luò)中各神經(jīng)元之間的連接權(quán)值決定了神經(jīng)網(wǎng)絡(luò)卓越的信息處理能力。神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)功能才可以模擬人腦的信息處理能力。調(diào)整各神經(jīng)元之間的連接權(quán)值就是學(xué)習(xí)的本質(zhì),不同的學(xué)習(xí)算法有不同的調(diào)整連接權(quán)值的方法[3]。
人們己經(jīng)提出了多種神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則,基本的有以下四種: .Hebbian學(xué)習(xí)規(guī)則、學(xué)習(xí)規(guī)則、概率式學(xué)習(xí)規(guī)則、競(jìng)爭(zhēng)式學(xué)習(xí)規(guī)則[4]。
BP學(xué)習(xí)算法是學(xué)習(xí)規(guī)則的推廣和發(fā)展。學(xué)習(xí)規(guī)則的實(shí)質(zhì)是利用梯度最速下降算法,使權(quán)值沿誤差函數(shù)的負(fù)梯度方向改變。
數(shù)據(jù)前向傳播和誤差后向傳播是BP網(wǎng)絡(luò)的兩個(gè)主要過程。數(shù)據(jù)前向傳播完成的是:當(dāng)網(wǎng)絡(luò)的輸入給定時(shí),它由輸入層單元送到隱含層單元,經(jīng)隱含層單元逐層處理后再傳到輸出層單元,由輸出層單元處理后生成一個(gè)輸出。誤差后向傳播是:如果實(shí)際輸出響應(yīng)和期望輸出響應(yīng)的誤差不滿足精度要求,就將誤差值沿連接通路逐層向前傳輸并修正各層的連接權(quán)值[5]。
3 建立預(yù)測(cè)模型
由前面可知,對(duì)于時(shí)間序列,N是序列的長(zhǎng)度。則將此時(shí)間序列重構(gòu)相空間為:,n為重構(gòu)相空間中相點(diǎn)的個(gè)數(shù),。由前面的介紹可以得到:
(6)
運(yùn)用BP神經(jīng)網(wǎng)絡(luò)來擬合重構(gòu)函數(shù),最佳延遲時(shí)間和最佳嵌入維數(shù)m分別采用前面自相關(guān)函數(shù)法和G-P算法得到的計(jì)算結(jié)果,即最佳延遲時(shí)間,最佳嵌入維數(shù)m=8。首先設(shè)參考相點(diǎn)為,,之后從n個(gè)相點(diǎn)中根據(jù)空間歐式距離選擇出距離參考相點(diǎn)最近的k個(gè)相點(diǎn)為:。
其中,空間歐式距離的計(jì)算公式如下式:
(7)
這k個(gè)相點(diǎn)的數(shù)據(jù)作為訓(xùn)練樣本的輸入,它們各自對(duì)應(yīng)的作為目標(biāo)樣本,就構(gòu)成了訓(xùn)練樣本集:
(8)
訓(xùn)練樣本和目標(biāo)樣本共同構(gòu)成了訓(xùn)練樣本集,這樣就可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)了。至此,建立了基于混沌時(shí)間序列和BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型。訓(xùn)練完樣本之后,把參考相點(diǎn)作為神經(jīng)網(wǎng)絡(luò)的測(cè)試樣本,則輸出數(shù)據(jù)就是神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果。
4 算例分析
以某市2011年1-3月份的負(fù)荷數(shù)據(jù)作為歷史負(fù)荷數(shù)據(jù),利用建立的基于混沌時(shí)間序列和BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型,對(duì)該市2011年4月1日的電力負(fù)荷進(jìn)行預(yù)測(cè)。表1列出了具體的預(yù)測(cè)結(jié)果以及相對(duì)誤差。
從表1可以看出最小誤差為0.32%,最大誤差為2.67%,誤差在0-1%的點(diǎn)有33.3%,誤差在1%-2%的點(diǎn)有41.7%,誤差在2%-3%的點(diǎn)有25%,沒有大于3%的點(diǎn),平均相對(duì)誤差為1.44%。
5 結(jié)論
以上預(yù)測(cè)結(jié)果表明:利用基于混沌時(shí)間序列和BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型進(jìn)行短期電力負(fù)荷預(yù)測(cè)取得了精度很高的預(yù)測(cè)結(jié)果。證明了該預(yù)測(cè)方法的有效性和預(yù)測(cè)精度的可靠性。而且該方法可以不考慮風(fēng)力、濕度、溫度等因素的影響,僅僅利用電力系統(tǒng)的歷史負(fù)荷數(shù)據(jù)就可以得到令人滿意的預(yù)測(cè)結(jié)果。但是,由于該模型的算例分析所使用的負(fù)荷數(shù)據(jù)是大型電網(wǎng)數(shù)據(jù),對(duì)于小型電網(wǎng)的實(shí)用性還需作進(jìn)一步的探討和驗(yàn)證。
參考文獻(xiàn):
[1]H. Chen and X. Yao, Regularized negative Correlation learning for neural network ensembles[J].IEEE Trans.Neural Networks, vol. 20, no. 12, pp. 1962–1979, 2009.
[2]S.J.Kiartzis,A.G.Bakirtzis,V.Petridis. Short Term Load Forecasting Using Neural networks[J].Electric Power Systems Research.1995,33(1): 1-6.
[3]趙福成,基于人工神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測(cè)[D]. 華北電力大學(xué)碩士學(xué)位論文,2001.
篇4
旅游市場(chǎng)趨勢(shì)預(yù)測(cè)是旅游業(yè)發(fā)展戰(zhàn)略和旅游規(guī)劃與開發(fā)工作的重要基礎(chǔ)依據(jù),一直是旅游市場(chǎng)研究中最重要的內(nèi)容之一。根據(jù)市場(chǎng)趨勢(shì)預(yù)測(cè)的結(jié)果,旅游相關(guān)部門才可以制定合理的旅游規(guī)劃,進(jìn)行旅游資源的優(yōu)化配置。旅游市場(chǎng)趨勢(shì)預(yù)測(cè)是在對(duì)影響市場(chǎng)的諸因素進(jìn)行系統(tǒng)調(diào)查和研究的基礎(chǔ)上,運(yùn)用科學(xué)的方法,對(duì)未來旅游市場(chǎng)的發(fā)展趨勢(shì)以及有關(guān)的各種因素的變化,進(jìn)行分析、預(yù)見、估計(jì)和判斷。
近年來,旅游研究者對(duì)旅游市場(chǎng)趨勢(shì)預(yù)測(cè)的方法進(jìn)行了探索。目前主要有時(shí)間序列法、回歸分析法、指數(shù)預(yù)測(cè)法、人工神經(jīng)網(wǎng)絡(luò)法。由于旅游市場(chǎng)的變化受到諸多因素的影響,導(dǎo)致旅游市場(chǎng)的趨勢(shì)預(yù)測(cè)難度較大,但我們對(duì)預(yù)測(cè)精度的要求卻越來越高。
本文是基于人工神經(jīng)網(wǎng)絡(luò)方法,提出使用遺傳算法對(duì)人工神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,探索更精確、更適用于旅游市場(chǎng)預(yù)測(cè)現(xiàn)實(shí)狀況的預(yù)測(cè)方法。
1 方法概述
人工神經(jīng)網(wǎng)絡(luò)是近年來的熱點(diǎn)研究領(lǐng)域,是人類智能研究的重要組成部分,已經(jīng)成為神經(jīng)科學(xué)、計(jì)算機(jī)科學(xué)、認(rèn)知科學(xué)、數(shù)學(xué)和物理學(xué)等多學(xué)科關(guān)注的熱點(diǎn)。其應(yīng)用領(lǐng)域包括:分類、預(yù)測(cè)、模式識(shí)別、信號(hào)處理和圖像處理等,并繼續(xù)向其他領(lǐng)域延伸。
1.1 BP神經(jīng)網(wǎng)絡(luò)
BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)的主要特點(diǎn)是信號(hào)前向傳遞,誤差反向傳播。在前向傳遞中,輸入信號(hào)從輸入層經(jīng)隱含層逐層處理,直至輸出層。每一層的神經(jīng)狀態(tài)只影響下一層神經(jīng)元狀態(tài)。如果輸出層得不到期望輸出,則轉(zhuǎn)入反向傳播,根據(jù)預(yù)測(cè)誤差調(diào)整網(wǎng)絡(luò)權(quán)值和閾值,從而使BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出不斷逼近期望輸出。
圖中,X1,X2,…,Xn是BP神經(jīng)網(wǎng)絡(luò)的輸入值,Y1,Y2,…,Ym是BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)值,wij和wjk為BP神經(jīng)網(wǎng)絡(luò)權(quán)值。從圖可以看出,BP神經(jīng)網(wǎng)絡(luò)可以看成一個(gè)非線性函數(shù),網(wǎng)絡(luò)輸入值和預(yù)測(cè)值分別為該函數(shù)的自變量和因變量。當(dāng)輸入節(jié)點(diǎn)數(shù)為n,輸出節(jié)點(diǎn)數(shù)為m時(shí),BP神經(jīng)網(wǎng)絡(luò)就表達(dá)了從n個(gè)自變量到m個(gè)因變量的函數(shù)映射關(guān)系。
1.2 遺傳算法
遺傳算法(Genetic Algorithms)是1962年由美國(guó)Michigan大學(xué)Holland教授提出的模擬自然界遺傳機(jī)制和重托進(jìn)貨論而成的一種并行隨機(jī)搜索最優(yōu)化方法。它把自然界“優(yōu)勝劣汰,適者生存”的生物進(jìn)化原理引入優(yōu)化參數(shù)形成的編碼串聯(lián)群體中,按照所選擇的適應(yīng)度函數(shù)并通過遺傳中的選擇、交叉和變異對(duì)個(gè)體進(jìn)行篩選,使適應(yīng)度值好的個(gè)體被保留,適應(yīng)度差的個(gè)體被淘汰,新的群體既繼承了上一代的信息,又優(yōu)于上一代。這樣反復(fù)循環(huán),直至滿足條件。
1.3 遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的流程
遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)分為BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定、遺傳算法優(yōu)化和BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)3個(gè)部分。其中,BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定部分根據(jù)按擬合函數(shù)輸入輸出參數(shù)個(gè)數(shù)確定BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),進(jìn)而確定遺傳算法個(gè)體的長(zhǎng)度。遺傳算法優(yōu)化使用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值,種群中的每個(gè)個(gè)體都包含了一個(gè)網(wǎng)絡(luò)所有權(quán)值和閾值,個(gè)體通過適應(yīng)度函數(shù)計(jì)算個(gè)體適應(yīng)度。遺傳算法通過選擇、交叉和變異操作找到最優(yōu)適應(yīng)度值對(duì)應(yīng)個(gè)體。BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)用遺傳算法得到最優(yōu)個(gè)體對(duì)網(wǎng)絡(luò)初始權(quán)值和閾值賦值,網(wǎng)絡(luò)經(jīng)訓(xùn)練后預(yù)測(cè)函數(shù)輸出。
遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)是用遺傳算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值,使優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)能夠更好地預(yù)測(cè)函數(shù)輸出。遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的要素包括種群初始化、適應(yīng)度函數(shù)、選擇操作、交叉操作和變異操作。
1)種群初始化
個(gè)體編碼方法為實(shí)數(shù)編碼,每個(gè)個(gè)體均為一個(gè)實(shí)數(shù)串,由輸入層與隱含層連接權(quán)值、隱含層閾值、隱含層與輸出層連接權(quán)值以及輸出層閾值4部分組成。個(gè)體包含了神經(jīng)網(wǎng)絡(luò)全部權(quán)值和閾值,在網(wǎng)絡(luò)結(jié)構(gòu)已知的情況下,就可以構(gòu)成一個(gè)結(jié)構(gòu)、權(quán)值、閾值確定的神經(jīng)網(wǎng)絡(luò)。
2)適應(yīng)度函數(shù)
2 實(shí)證分析
旅游客流量與當(dāng)?shù)芈糜斡布败浖O(shè)施建設(shè)、各種交通設(shè)備的完善程度有著密切的關(guān)系。一個(gè)旅游地的交通設(shè)施完善程度決定了該景區(qū)的可進(jìn)入性以及客源地到旅游地的時(shí)間距離,直接影響該景區(qū)游客量。此外,景區(qū)建設(shè)情況及旅游接待設(shè)施的建設(shè)情況決定著景區(qū)的吸引力。需要指出的是,由于信息傳達(dá)的特性,游客數(shù)量對(duì)景區(qū)旅游相關(guān)條件改善的反應(yīng)具有延遲性的特點(diǎn)。本文中,采用2000 年以來北京旅客周轉(zhuǎn)量、人均GDP、全國(guó)交通、A級(jí)及以上景區(qū)個(gè)數(shù)、北京公共交通運(yùn)營(yíng)線路長(zhǎng)度、北京市基礎(chǔ)投資,預(yù)測(cè)北京市旅游人數(shù)。
通過查詢中國(guó)國(guó)家統(tǒng)計(jì)局及北京市統(tǒng)計(jì)局相關(guān)資料,得到全國(guó)人均GDP、全國(guó)交通、北京市旅客周轉(zhuǎn)量、北京市A級(jí)及以上景區(qū)個(gè)數(shù)、北京市公共交通運(yùn)營(yíng)線路長(zhǎng)度、北京市基礎(chǔ)投資數(shù)據(jù),如表1所示。
根據(jù)遺傳算法和BP 神經(jīng)網(wǎng)絡(luò)理論,在MATLAB 軟件中編程實(shí)現(xiàn)基于遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)。預(yù)測(cè)誤差及真實(shí)值與預(yù)測(cè)值對(duì)比如圖2、圖3所示。
3 模型的評(píng)價(jià)
篇5
關(guān)鍵詞: BP神經(jīng)網(wǎng)絡(luò);價(jià)格預(yù)測(cè);歸一化處理
期貨市場(chǎng)是一個(gè)不穩(wěn)定的、非線性動(dòng)態(tài)變化的復(fù)雜系統(tǒng)。市場(chǎng)上期貨合約價(jià)格的變動(dòng)受金融、經(jīng)濟(jì)、政治及投資者心理等眾多因素的影響,其過程具有非線性、混沌性、長(zhǎng)期記憶性等特點(diǎn)。傳統(tǒng)的經(jīng)濟(jì)模型大部分是線性模型,具有一定的局限性.而人工神經(jīng)網(wǎng)絡(luò)則能很好地解決這個(gè)問題。
一、BP神經(jīng)網(wǎng)絡(luò)原理與過程
BP神經(jīng)網(wǎng)絡(luò)(反向傳播網(wǎng)絡(luò)Back Propagation)是一種多層前饋型神經(jīng)網(wǎng)絡(luò),其神經(jīng)元的激活函數(shù)是sigmoid函數(shù),一般為log sigmoid 函數(shù)和tan sigoid 函數(shù),函數(shù)的圖形是S 型的,其值域是為0到1的連續(xù)區(qū)間。它是嚴(yán)格遞增函數(shù),在線性和非線之間有著較好的平衡性。
1.數(shù)據(jù)歸一化處理
數(shù)據(jù)歸一化方法是神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)前對(duì)數(shù)據(jù)常做的一種處理方法。數(shù)據(jù)歸一化處理把所有數(shù)據(jù)都使其落在[0,1]或[-1,1]之間,其目的是取消各維數(shù)據(jù)間數(shù)量級(jí)差別。避免因?yàn)檩斎胼敵鰯?shù)據(jù)數(shù)量級(jí)差別較大而造成網(wǎng)絡(luò)預(yù)測(cè)誤差較大。數(shù)據(jù)歸一化的方法主要有以下兩種。
(1)平均數(shù)方差法,其公式如下:
2.BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程
BP網(wǎng)絡(luò)的學(xué)習(xí)過程由信號(hào)的正向傳播和誤差的反向傳播兩個(gè)過程組成。其基本原理是:網(wǎng)絡(luò)先根據(jù)輸出層的誤差來調(diào)整輸出層和隱含層的權(quán)值和閾值,再將部分誤差分配置隱含層,然后根據(jù)誤差來調(diào)整隱含層和輸入層之間的權(quán)值和閾值,并不斷地重復(fù)上述過程,直到網(wǎng)絡(luò)的輸出與目標(biāo)之間的誤差趨于最小,達(dá)到規(guī)定的要求。
一般地,BP網(wǎng)絡(luò)的學(xué)習(xí)算法描述為如下步驟。
(1)初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù),如設(shè)置網(wǎng)絡(luò)初始權(quán)矩陣,給出學(xué)習(xí)速率和神經(jīng)元激活函數(shù)等。
(2)提供訓(xùn)練模式,訓(xùn)練網(wǎng)絡(luò),直到滿足學(xué)習(xí)要求。
(3)前向傳播過程:對(duì)給定訓(xùn)練模式輸入,計(jì)算網(wǎng)絡(luò)的輸出模式,并與期望模式比較,若有誤差,若執(zhí)行步驟(4),否則,返回步驟(2)。
(4)反向傳播過程:計(jì)算同一層單元的誤差,修正權(quán)值和閾值,返回步驟(2)。
二、玉米期貨價(jià)格預(yù)測(cè)分析
美國(guó)是世界上玉米生產(chǎn)大國(guó)和消費(fèi)大國(guó),良好的現(xiàn)貨基礎(chǔ)為美國(guó)玉米期貨市場(chǎng)的發(fā)展提供了優(yōu)越條件。其中,以CBOT為代表的美國(guó)玉米期貨市場(chǎng)同現(xiàn)貨市場(chǎng)有效接軌,不僅在美國(guó)內(nèi)玉米生產(chǎn)流通領(lǐng)域發(fā)揮了重要作用,而且在世界玉米市場(chǎng)上也影響巨大。
發(fā)現(xiàn)價(jià)格作為期貨市場(chǎng)的基本功能之一,CBOT作為全球最大的玉米期貨交易市場(chǎng),其玉米期貨價(jià)格的國(guó)際影響力是非常巨大的。目前,在國(guó)際玉米市場(chǎng)上,玉米貿(mào)易價(jià)格的形成和交易活動(dòng)是以CBOT的玉米期貨價(jià)格為中心展開的,該價(jià)格是國(guó)際玉米貿(mào)易中簽約雙方需要考慮的最重要的依據(jù)之一。美國(guó)已經(jīng)通過芝加哥玉米期貨市場(chǎng)取得國(guó)際玉米貿(mào)易的定價(jià)權(quán),在國(guó)際玉米市場(chǎng)中發(fā)揮著主導(dǎo)作用,并且能夠?qū)Ρ緡?guó)和其他國(guó)家玉米產(chǎn)業(yè)的發(fā)展產(chǎn)生深刻影響。
本文研究所采取的樣本來自WIND資訊金融終端,以2008年07月-2015年10月的CBOT的玉米期貨為研究對(duì)象。共計(jì)100組樣本數(shù)據(jù),將其中92組數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)。8組作為分析樣本。本文從影響全球玉米的供需平衡的角度出發(fā),從期初庫存、產(chǎn)量、進(jìn)口、飼料消費(fèi)、國(guó)內(nèi)消費(fèi)總計(jì)、出口、期末庫存、總供給、貿(mào)易量共九個(gè)因素進(jìn)行分析研究,對(duì)玉米期貨的價(jià)格進(jìn)行預(yù)測(cè)。利用MATLAB軟件訓(xùn)練生成BP神經(jīng)網(wǎng)絡(luò)并進(jìn)行預(yù)測(cè),將隱含層神經(jīng)元設(shè)為20個(gè),訓(xùn)練次數(shù)為100次,訓(xùn)練精度為0.00005。最后得到結(jié)果見表1。
從表1中可以看出,通過BP神經(jīng)網(wǎng)絡(luò)計(jì)算得出的預(yù)測(cè)值與實(shí)際值絕對(duì)誤差相對(duì)較小,這說明通過BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型產(chǎn)生的預(yù)測(cè)結(jié)果的精確度較高。具有較強(qiáng)的實(shí)用性。但是由于玉米期貨除了受到供需因素的影響外,同時(shí)還受金融、經(jīng)濟(jì)、政治及投資者心理等眾多因素的影響。所以本文的結(jié)果還帶有一定的局限性。若把上述因素考慮進(jìn)去,其精確度可能進(jìn)一步提高。
三、結(jié)語
本文采用BP神經(jīng)網(wǎng)絡(luò)對(duì)美國(guó)玉米期貨的價(jià)格進(jìn)行了研究。使用了多因素BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型,對(duì)玉米期貨的價(jià)格進(jìn)行預(yù)測(cè),得到了擬合度在較高的預(yù)測(cè)值。這說明BP神經(jīng)網(wǎng)絡(luò)方法可以對(duì)玉米期貨價(jià)格走勢(shì)進(jìn)行有效預(yù)測(cè)。通過預(yù)測(cè),可以對(duì)投資者的投資行為進(jìn)行指導(dǎo),從而達(dá)到規(guī)避風(fēng)險(xiǎn)而獲取較好的經(jīng)濟(jì)利益。
參考文獻(xiàn):
篇6
關(guān)鍵詞:物流;神經(jīng)網(wǎng)絡(luò);Matlab;預(yù)測(cè);多種模型
中圖分類號(hào):U294.1 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):2095-1302(2016)01-00-02
0 引 言
現(xiàn)如今物流業(yè)的快速發(fā)展對(duì)人們的生活與產(chǎn)能經(jīng)濟(jì)都產(chǎn)生了重要影響,而整個(gè)物流鏈中的關(guān)鍵就是貨運(yùn)環(huán)節(jié)。影響貨物運(yùn)輸?shù)囊蛩乇容^復(fù)雜,包括相關(guān)體制、交通條件、城市環(huán)境、產(chǎn)業(yè)布局等,這些因素在數(shù)學(xué)模型上是非線性且不確定的,于是給預(yù)測(cè)造成了較大困難。為了做好庫存控制、信息管理的工作,在貨物運(yùn)輸前對(duì)貨運(yùn)量進(jìn)行預(yù)測(cè)是非常有必要的。
1 神經(jīng)網(wǎng)絡(luò)模型及其特點(diǎn)
1.1 系統(tǒng)概述
本文研究的預(yù)測(cè)模型是基于貨運(yùn)預(yù)測(cè)系統(tǒng)的,該系統(tǒng)的主要功能是將項(xiàng)目輸入的數(shù)據(jù)確定為預(yù)測(cè)目標(biāo),并根據(jù)具體要求與有關(guān)資料動(dòng)態(tài)分析出可執(zhí)行計(jì)劃,將預(yù)測(cè)結(jié)果保存到數(shù)據(jù)庫備份。貨運(yùn)預(yù)測(cè)系統(tǒng)的具體結(jié)構(gòu)包括初始數(shù)據(jù)模塊、預(yù)測(cè)方法選擇、結(jié)果處理模塊、系統(tǒng)輔助管理及數(shù)據(jù)庫模塊等。系統(tǒng)結(jié)構(gòu)圖如圖1所示。
圖1 貨運(yùn)預(yù)測(cè)系統(tǒng)結(jié)構(gòu)圖
1.2 模型特點(diǎn)
神經(jīng)網(wǎng)絡(luò)分為單層前向網(wǎng)絡(luò)(LMS學(xué)習(xí)算法)、多層前向網(wǎng)絡(luò)(BP學(xué)習(xí)算法)、改進(jìn)型神經(jīng)網(wǎng)絡(luò)等,其中BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣泛的模型之一,模型拓?fù)浣Y(jié)構(gòu)如圖2所示。
圖2 含有兩個(gè)隱層的BP網(wǎng)絡(luò)結(jié)構(gòu)
多層前向網(wǎng)絡(luò)是單層感知器的推廣,解決了非線性可分問題,其由輸入層、隱含層和輸出層組成,其中隱含層可以為一層或多層。輸入層中每個(gè)源節(jié)點(diǎn)作為激勵(lì)單元,組成了下一層的輸入信號(hào),而該層的輸出信號(hào)又成為后層的輸入,以此類推。多層感知器中每個(gè)神經(jīng)元的激勵(lì)函數(shù)是可微的Sigmoid函數(shù),見式(1)所示:
(1)
式中ui是第i個(gè)神經(jīng)元的輸入信號(hào),vi是該神經(jīng)元的輸出信號(hào)。
BP學(xué)習(xí)過程具有工作信號(hào)正向傳播、誤差信號(hào)反向傳播的特點(diǎn)。對(duì)于圖2,設(shè)輸入層任意一個(gè)輸入信號(hào)用m表示,第一層、第二層、輸出層任意神經(jīng)元分別用i,j,p表示。按誤差反向傳播方向,從輸出節(jié)點(diǎn)到隱含層的修正權(quán)值公式見式(2):
(2)
按Delta學(xué)習(xí)規(guī)則求得:
Δwjp(n)=ηδp(n)vj(n) (3)
其中,η是學(xué)習(xí)步長(zhǎng), vj(n) 可由信號(hào)的正向傳播過程求得。
該系統(tǒng)的訓(xùn)練目標(biāo)是總的平均誤差能量Eav達(dá)到最小,。其中,ekp為網(wǎng)絡(luò)輸入第k個(gè)訓(xùn)練樣本時(shí)輸出神經(jīng)元p的誤差,N為訓(xùn)練樣本的個(gè)數(shù)。
2 預(yù)測(cè)實(shí)例及結(jié)果分析
2.1 問題描述
貨站是物流的一種重要形式,被認(rèn)為是物流中心,包含著物資信息、資金流動(dòng)等管理,這里取若干年的某貨站數(shù)據(jù)進(jìn)行預(yù)測(cè)并與實(shí)際結(jié)果對(duì)比,貨運(yùn)量走勢(shì)如圖3所示。
圖3 近十年某貨站物流量走勢(shì)圖
圖中曲線很明顯不適合做直線擬合,我們可運(yùn)用指數(shù)平滑法、神經(jīng)網(wǎng)絡(luò)等進(jìn)行外推預(yù)測(cè)。對(duì)于指數(shù)平滑法,歷史數(shù)據(jù)影響程度逐漸減小,隨著數(shù)據(jù)遠(yuǎn)離權(quán)數(shù)收斂趨近零,因此適用于短期預(yù)測(cè);對(duì)于灰色模型,十分依賴于歷史數(shù)據(jù),其精度受原始數(shù)據(jù)的影響較大。本預(yù)測(cè)系統(tǒng)會(huì)根據(jù)輸入數(shù)據(jù)的各項(xiàng)因子最終選擇最合適的算法模型。下面就神經(jīng)網(wǎng)絡(luò)的一般預(yù)測(cè)步驟進(jìn)行說明。
2.2 預(yù)測(cè)步驟
一般來說,BP算法的預(yù)測(cè)步驟如下:
(1)樣本預(yù)處理。由于數(shù)據(jù)的評(píng)價(jià)標(biāo)準(zhǔn)或量綱不一樣,所以需要對(duì)樣本作歸一化處理??刹扇O差變換(xn-xmin)/(xmax-xmin)進(jìn)行處理;
(2)樣本分組。每組前m個(gè)值作為輸入,后一個(gè)作為輸出期望值;
(3)網(wǎng)絡(luò)訓(xùn)練。使訓(xùn)練后的網(wǎng)絡(luò)自適應(yīng)樣本數(shù)據(jù)的特征,網(wǎng)絡(luò)訓(xùn)練狀態(tài)如圖4所示;
圖4 網(wǎng)絡(luò)訓(xùn)練狀態(tài)
(4)得到預(yù)測(cè)值后??赏ㄟ^對(duì)2001至2010年數(shù)據(jù)的網(wǎng)絡(luò)訓(xùn)練,得到2011年的輸出預(yù)測(cè)值。Matlab中仿真程序如下:
x=[105129.1 113918.7 121421.3 122757.9 122690.2 135560.5 159988.1 172152 210655.0 238749.2];
r=max(x)-min(x);
for n=1:length(x)
y(n)=[x(n)-min(x)]/r;
end
p=[y(length(x)-4) y(length(x)-3) y(length(x)-2) y(length(x)-1)]’;
L=length(p);
R1=zeros(1,L);
R2=ones(1,L);
R=[R1;R2]’;
t=y(length(x));
input=[y(length(x)-3) y(length(x)-2) y(length(x)-1) y(length(x))]’;
net=newff(R,[4,5,1],{‘logsig’,’logsig’,’purelin’},’trainlm’);
net.trainParam.show=20;
net.trainParam.lr=0.01;
net.trainParam.epochs=100; net.trainParam.goal=1.0e-030; net=train(net,p,t);
out=sim(net,input);
out=out*r+min(x);
(5)反歸一化處理。由于第一步對(duì)樣本進(jìn)行歸一化處理,則需要把結(jié)果還原,才能得到有效的預(yù)測(cè)值。
2.3 結(jié)果分析
最后得到2011年貨運(yùn)量預(yù)測(cè)值為259 137(噸)[實(shí)際值262 551(噸)],與指數(shù)平滑法的271 740(噸)相比誤差由3.5%降為-1.3%。需要指出的是,增加隱含層的數(shù)目可以更加逼近非線性曲線提高映射能力,但多于某個(gè)值,會(huì)使整體預(yù)測(cè)性能降低。
3 結(jié) 語
貨運(yùn)預(yù)測(cè)影響因素的不確定性直接給預(yù)測(cè)系統(tǒng)的研究帶來困難,人工神經(jīng)網(wǎng)絡(luò)模仿自人的大腦,具備自適應(yīng)算法特性,擁有運(yùn)算、推理、識(shí)別及控制等能力,若能將其很好地運(yùn)用在貨運(yùn)預(yù)測(cè)方面,則能為物流業(yè)提供更大意義的幫助。
參考文獻(xiàn)
[1] Simon Haykin.神經(jīng)網(wǎng)絡(luò)原理[M].葉世偉,史忠植,譯.北京:機(jī)械工業(yè)出版社,2004.
[2]孫明璽.預(yù)測(cè)與評(píng)價(jià)[M].杭州:浙江教育出版社,2000.
[3]李采蓉.新的組合模型及在港口客流量預(yù)測(cè)上的應(yīng)用[J].遼寧大學(xué)學(xué)報(bào),2000,27(4):309-311.
[4]云俊,王少梅.物流系統(tǒng)的多目標(biāo)預(yù)測(cè)[J].武漢理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2001,14(3):243-245.
[5]駱溫平.物流與供應(yīng)鏈管理[M].北京:電子工業(yè)出版社,2002.
[6](美)Tom M.Mitchell.機(jī)器學(xué)習(xí)[M].曾華軍,譯.北京:機(jī)械工業(yè)出版社,2008.
[7](美)Martin T Hagan,Howard B.Demuth.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[M].戴葵,等,譯.北京:機(jī)械工業(yè)出版社,2005.
[8]黨耀國(guó),劉思峰,王正新.灰色預(yù)測(cè)與決策模型研究[M].北京:科學(xué)出版社,2009.
篇7
關(guān)鍵詞:火災(zāi)探測(cè) 模糊神經(jīng)網(wǎng)絡(luò) 智能 Matlab
根據(jù)燃燒對(duì)象,火災(zāi)分為A,B,C,D四種。A類火災(zāi)為固體可燃物引發(fā)的火災(zāi),亦是最常見的燃燒對(duì)象;B類火災(zāi)為液體可燃物火災(zāi);C類火災(zāi)為氣體可燃物火災(zāi);D類火災(zāi)為可燃金屬火災(zāi)?;馂?zāi)發(fā)生后蔓延速度極快,燃燒產(chǎn)生大量CO2,CO1等大量氣體及煙霧,并伴隨光、熱,損失將不可估計(jì)。對(duì)待火災(zāi),我們應(yīng)采取“防消結(jié)合,預(yù)防為主”?;馂?zāi)探測(cè)技術(shù)的應(yīng)用便擔(dān)任著前鋒的作用,有效的提高探測(cè)器的靈敏度成為一個(gè)重大課題。本為將采用智能型報(bào)警系統(tǒng),做早期發(fā)現(xiàn)和通報(bào)火災(zāi),研究模糊神經(jīng)網(wǎng)絡(luò)的應(yīng)用。
1.火災(zāi)探測(cè)系統(tǒng)
探測(cè)器是自定報(bào)警系統(tǒng)中的最重要部分。隨著火災(zāi)的發(fā)生,火災(zāi)初期可燃物燃燒產(chǎn)生大量煙霧(S)和CO2,CO1等大量氣體(G),火災(zāi)達(dá)到全火焰時(shí)溫度(T)急劇上升,并伴隨著光(L)和熱(H)。因此在圖書館設(shè)感溫探測(cè)器,感煙探測(cè)器,氣體探測(cè)器及感光探測(cè)器。由于感煙探測(cè)器動(dòng)作較早,可探測(cè)到70%以上的火災(zāi),因此使用較為普遍。
2.模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)
2.1 模糊神經(jīng)網(wǎng)絡(luò)的應(yīng)用
模糊神經(jīng)網(wǎng)絡(luò)(Fuzzy Neural Network,簡(jiǎn)稱FNN)是全部或部分采用模糊神經(jīng)元所構(gòu)成的一種可處理模糊信息的神經(jīng)網(wǎng)絡(luò)系統(tǒng),也是現(xiàn)代熱門研究是技術(shù),是模糊控制與神經(jīng)網(wǎng)絡(luò)控制的有機(jī)結(jié)合,博采眾長(zhǎng),以長(zhǎng)補(bǔ)拙[1]。其特點(diǎn)是利用模糊邏輯較強(qiáng)的結(jié)構(gòu)性知識(shí)表達(dá)能力和神經(jīng)網(wǎng)絡(luò)強(qiáng)大的自學(xué)能力與定量數(shù)據(jù)的直接處理能力,在溫度、煙霧、氣體、光等信號(hào)處理上,提高火災(zāi)探測(cè)的準(zhǔn)確度、加快火情識(shí)別速度,使火災(zāi)報(bào)警信號(hào)處理更具邏輯性、可靠性,直接指導(dǎo)消防控制室的操作和應(yīng)用,在火災(zāi)報(bào)警系統(tǒng)中發(fā)揮良好的作用。
2.2 模糊控制規(guī)則設(shè)計(jì)[2-3]
模糊控制規(guī)則可根據(jù)火災(zāi)發(fā)生可能性大小分為不可能即NP,可能性小即PS,一定發(fā)生即PB三種。隱層的溫度隸屬度生成函數(shù)采用三角函數(shù):
( x - a)/( b - a) a < x < b
μ(x) =
( x - c)/ ( b - c) b < x < c
圖1 隸屬度函數(shù)
2.3神經(jīng)網(wǎng)絡(luò)模型
本文給出一個(gè)3層前饋網(wǎng)絡(luò)結(jié)構(gòu),如圖2所示。設(shè)輸入信號(hào)為s:煙霧;g:CO2氣體;t:溫度;l:光;輸入信號(hào)為第一層,含3個(gè)神經(jīng)元;第二層為模糊層,設(shè)為9個(gè)節(jié)點(diǎn),第三層為輸出層,有3個(gè)節(jié)點(diǎn),表示無火、火小和火災(zāi)發(fā)生。
圖2 BP前饋網(wǎng)絡(luò)模型
3.算法及Matlab 網(wǎng)絡(luò)仿真
3.1 算法
本文采用反向傳播算法,學(xué)習(xí)訓(xùn)練過程由正向信號(hào)傳輸和反向誤差傳播組成。當(dāng)正向傳輸?shù)膶?shí)際輸出與期望輸出不符合時(shí),轉(zhuǎn)入誤差反向傳播。
輸出誤差逐層反向傳播到隱層再到輸入層。誤差分給各層所有節(jié)點(diǎn)單元,獲得各層單元的誤差信號(hào),且將該信號(hào)作為修正各單元權(quán)值的根據(jù)。通過不斷的調(diào)整權(quán)值,訓(xùn)練到誤差符合要求為止。
因此可知,設(shè)輸入向量為X;隱層輸出向量為Y;輸出層輸出向量為O;期望輸出向量為T;輸出層至隱層的權(quán)值矩陣為V;隱層至輸入層權(quán)值為W。隱層,輸出層的轉(zhuǎn)換函數(shù)分別采用雙曲正切S型函數(shù)tansig和S型對(duì)數(shù)函數(shù)logsig。
定義網(wǎng)絡(luò)的輸出誤差函數(shù)為均方誤差函數(shù)
E=1/2(T-O)2.
將輸出誤差函數(shù)展開到隱層,在展開到輸入層,并通過調(diào)節(jié)權(quán)值和閾值改變誤差E,從而減小誤差。即:
對(duì)于輸出層,設(shè)Y,δ0為輸出層的誤差信號(hào),則輸出層的權(quán)值調(diào)整V=η(δ0YT) T;
對(duì)于輸入層,設(shè)X,δy為隱含層的誤差信號(hào),則隱含層的權(quán)值調(diào)整為W=η(δyXT) T, η為學(xué)習(xí)率,在0~1間取值,這里取值0.1。
具體算法步驟:①初始化,對(duì)所有權(quán)值賦予任意小量,并對(duì)閾值設(shè)定初值;②給定訓(xùn)練數(shù)據(jù)集,即提供向量X和期望輸出Y;③計(jì)算實(shí)際輸出y;④調(diào)整權(quán)值,按誤差方向傳播方向,從輸出接點(diǎn)返回到隱層修正權(quán)值;⑤返回第②步重復(fù)計(jì)算,直至誤差滿足要求為止[4]。
3.2 Matlab 網(wǎng)絡(luò)仿真
模糊規(guī)則層設(shè)9個(gè)節(jié)點(diǎn),輸出層有3個(gè)節(jié)點(diǎn)。用新浪天氣給出的鄭州市2012年8月1日到8月4日的天氣,歸一化處理:溫度/100℃,加上天氣特征值(0代表晴天,0.5代表陰天,1代表雨天),有4組數(shù)據(jù)。并將8月4日天氣數(shù)據(jù)作為導(dǎo)師信號(hào)。打開Matlab的編輯,輸入newff()創(chuàng)建前向BP網(wǎng)絡(luò),使用神經(jīng)元上的傳遞函數(shù)tansig()及tansig(),建立一個(gè)訓(xùn)練函數(shù)使用梯度下降法的訓(xùn)練函數(shù)trainlm()的BP網(wǎng)絡(luò)[5]。誤差訓(xùn)練下降曲線如圖3:
4.結(jié)語
在1000次訓(xùn)練后,輸出的均方誤差非常小, MSE=1.04678e-013/0,此時(shí)的網(wǎng)絡(luò)輸出應(yīng)該是非常精確的。這說明將模糊神經(jīng)網(wǎng)絡(luò)理論應(yīng)用在火災(zāi)報(bào)警系統(tǒng)中,有效地提高系統(tǒng)精度和減少誤報(bào)率,并且充分發(fā)揮了它的自學(xué)習(xí)、自適應(yīng)能力,使系統(tǒng)的靈敏度提高,同時(shí)又提高了系統(tǒng)的智能化程度。
參考文獻(xiàn):
篇8
【關(guān)鍵詞】介損值;BP算法;人工神經(jīng)網(wǎng)絡(luò)
1.引言
當(dāng)前的電容型電氣設(shè)備絕緣在線監(jiān)測(cè)與診斷還停留在一個(gè)簡(jiǎn)單處理數(shù)據(jù)的層次上,如果能夠結(jié)合先進(jìn)的數(shù)學(xué)工具進(jìn)行分析,將有助于提高監(jiān)測(cè)與診斷的應(yīng)用水平。模糊數(shù)學(xué)、專家系統(tǒng)、神經(jīng)網(wǎng)絡(luò)、灰關(guān)聯(lián)分析等理論在電氣設(shè)備的絕緣監(jiān)測(cè)與診斷方面已經(jīng)有了廣泛的應(yīng)用,并提供較完備的知識(shí)與信息,提高了絕緣監(jiān)測(cè)與診斷的準(zhǔn)確性。
大量停電試驗(yàn)和專門試驗(yàn)的介損值結(jié)果統(tǒng)計(jì)分析表明,介損值會(huì)對(duì)溫度的變化較為敏感,環(huán)境的濕度對(duì)介損值也會(huì)有影響。在分析了各種因素影響介損值的基礎(chǔ)上,文獻(xiàn)[6]提出了基于人工神經(jīng)網(wǎng)絡(luò)的電容型電氣設(shè)備的絕緣狀況的預(yù)測(cè)方法。人工神經(jīng)網(wǎng)絡(luò)方法能夠根據(jù)大量的故障機(jī)理研究以及經(jīng)驗(yàn)性的直覺知識(shí)歸納出典型樣本,通過對(duì)神經(jīng)網(wǎng)絡(luò)內(nèi)部的競(jìng)爭(zhēng)達(dá)到問題的求解,從本質(zhì)上模擬專家的直覺。在此基礎(chǔ)上本文提出了基于人工神經(jīng)網(wǎng)絡(luò)的電容型電氣設(shè)備的介損值的預(yù)測(cè)方法,以BP神經(jīng)網(wǎng)絡(luò)作為主要的研究方法。BP網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果的準(zhǔn)確與否取決于學(xué)習(xí)樣本的優(yōu)劣,本文根據(jù)實(shí)際情況選取了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本并進(jìn)行了仿真,結(jié)果表明該預(yù)測(cè)方法的誤差滿足工程誤差的要求,基于人工神經(jīng)網(wǎng)絡(luò)的介質(zhì)損耗值的預(yù)測(cè)方法是可行的、正確的和有效的。
2.基于BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法的確定
人工神經(jīng)網(wǎng)絡(luò)的模型有數(shù)十種,可分為三大類:前向網(wǎng)絡(luò)、反饋網(wǎng)絡(luò)和自適應(yīng)網(wǎng)絡(luò)。但在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中,絕大部分的神經(jīng)網(wǎng)絡(luò)模型都采用BP網(wǎng)絡(luò)及其變化形式。BP(Back Propagation)網(wǎng)絡(luò)是一種多層前饋型神經(jīng)網(wǎng)絡(luò),其神經(jīng)元的傳遞函數(shù)是S型函數(shù),輸出量為0到1之間的連續(xù)量,它可以實(shí)現(xiàn)從輸入到輸出的任意非線性映射。BP神經(jīng)網(wǎng)絡(luò)的主要優(yōu)點(diǎn):
(1)BP神經(jīng)網(wǎng)絡(luò)具有分布式信息存儲(chǔ)能力;
(2)BP神經(jīng)網(wǎng)絡(luò)的容錯(cuò)性和大規(guī)模并行處理能力;
(3)BP神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織和自適應(yīng)能力;
(4)BP神經(jīng)網(wǎng)絡(luò)是大量神經(jīng)元的集體行為,表現(xiàn)出一般復(fù)雜非線性系統(tǒng)的特性;
(5)BP神經(jīng)網(wǎng)絡(luò)可以處理一些環(huán)境信息十分復(fù)雜、知識(shí)背景不清楚和推理規(guī)則不明確的問題。
基于以上優(yōu)點(diǎn),本文選用BP神經(jīng)網(wǎng)絡(luò)作為主要研究方法。
3.BP算法基本思想和網(wǎng)絡(luò)的基本結(jié)構(gòu)
BP神經(jīng)網(wǎng)絡(luò)是一個(gè)多層前饋神經(jīng)網(wǎng)絡(luò),包括了輸入層、隱層和輸出層。這種網(wǎng)絡(luò)在輸入層和輸出層之間至少有一個(gè)隱含層,每一個(gè)神經(jīng)元結(jié)點(diǎn)都與其后一層的結(jié)點(diǎn)相連接,但是沒有后層結(jié)點(diǎn)向前層結(jié)點(diǎn)的反饋連接。BP網(wǎng)絡(luò)具有結(jié)構(gòu)簡(jiǎn)單、可靠性強(qiáng)的優(yōu)點(diǎn),能夠滿足工業(yè)應(yīng)用的需要,而且有關(guān)網(wǎng)絡(luò)的機(jī)理和算法的研究都很豐富,是眾多網(wǎng)絡(luò)中最為成熟,應(yīng)用最為廣泛的一種,是復(fù)雜系統(tǒng)建模的優(yōu)秀工具。
BP算法的基本思想:當(dāng)一對(duì)學(xué)習(xí)樣本提供給網(wǎng)絡(luò)后,神經(jīng)元的激活值從輸入層經(jīng)隱層向輸出層傳播,在輸出層的各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來,按照減少目標(biāo)輸出與實(shí)際誤差的方向,從輸出層經(jīng)過各隱層逐層修正各連接權(quán)值,最后回到輸出層,這種算法為“誤差逆?zhèn)鞑ニ惴ā薄kS著這種誤差逆的傳播修正不斷進(jìn)行,網(wǎng)絡(luò)對(duì)輸入模式響應(yīng)的正確率也不斷升高。
三層前饋網(wǎng)絡(luò)中,輸入向量為X=(x1,x2, ……,xi,……,xn)T;隱層輸出向量為Y=(y1,y2,……,yj,……,ym);輸出層輸出向量為O=(o1,o2,……,ok,……,ol)T;期望輸出向量為d=(d1,d2,……,dk,……,dl)T。輸入層到隱層之間的權(quán)值矩陣用V表示,V=(v1,v2,……,vj,vm),其中列向量Vj為隱層第j個(gè)神經(jīng)元對(duì)應(yīng)的權(quán)向量;隱層到輸出層之間的權(quán)值矩陣用W表示,W=(W1,W2,……,Wk,……,Wl),其中列向量Wk為輸出層第k個(gè)神經(jīng)元對(duì)應(yīng)的權(quán)向量。如圖3-1所示。
對(duì)輸出層,有
Ok=f(netk) k=1,2,…,l (1)
netk= k=1,2,…,l (2)
對(duì)于隱層,有
yj=f(netj) j=1,2,…,m (3)
netj= j=1,2,…,m (4)
以上兩式中,轉(zhuǎn)移函數(shù)f(x)均為單極性(或雙極性)sigmoid函數(shù),f(x)具有連續(xù)、可導(dǎo)的特點(diǎn)。式(3.1)到式(3.4)共同構(gòu)成了三層前饋網(wǎng)的數(shù)學(xué)模型。
圖1 三層BP網(wǎng)絡(luò)
三層前饋網(wǎng)絡(luò)的BP學(xué)習(xí)算法權(quán)值調(diào)整計(jì)算公式為:
(5)
(6)
其中:
(7)
對(duì)于一般多層前饋網(wǎng),設(shè)共有h個(gè)隱層,按前向順序各隱層節(jié)點(diǎn)數(shù)分別記為m1,m2,…,mh,各隱層輸出分別記為y1,y2,…,yh,各層權(quán)值矩陣分別記為W1,W2,…,Wh,Wh+1,則各層權(quán)值調(diào)整計(jì)算公式為:
輸出層:
j=0,1,…,mh;k=1,2,… (8)
第h隱層:
i=0,1,…,mh-1;j=1,2,…,mh (9)
按以上規(guī)律逐層類推.則第一隱層權(quán)值調(diào)整計(jì)算公式:
p=0,1,…,n;j=1,2,…,m1 (10)
容易看出,BP學(xué)習(xí)算法中,各層權(quán)值調(diào)整公式形式上都是一樣的,均由3個(gè)因素決定,即:學(xué)習(xí)率η、本層輸出的誤差信號(hào)δ以及本層輸入信號(hào)Y(或X)。
4.基于MATLAB的BP神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)
4.1 網(wǎng)絡(luò)的輸入層和輸出層設(shè)計(jì)
大量停電試驗(yàn)和專門試驗(yàn)的介損結(jié)果統(tǒng)計(jì)分析表明,電容型設(shè)備的介質(zhì)損耗值的大小與環(huán)境等外界因素之間有著密切的關(guān)系?;诖?,本文提出了基于環(huán)境等外界因素影響分析電容型設(shè)備絕緣狀況的BP神經(jīng)網(wǎng)絡(luò)模型,其示意圖如圖2所示。
圖2 神經(jīng)網(wǎng)絡(luò)模型示意圖
為了更好的體現(xiàn)輸入和輸出變量的相應(yīng)關(guān)系,輸入層神經(jīng)元應(yīng)盡可能多采集與輸出量相關(guān)性大的信息。本文以某一時(shí)刻設(shè)備的電壓、電流、電容、環(huán)境溫度、濕度和介質(zhì)損耗值所為網(wǎng)絡(luò)的輸入?yún)?shù),所以網(wǎng)絡(luò)輸入層的神經(jīng)元有6個(gè)。輸出層只有一個(gè)即預(yù)測(cè)時(shí)刻的介質(zhì)損耗值,則輸出層只有一個(gè)神經(jīng)元。
為了統(tǒng)一量綱和防止因凈輸入的絕對(duì)值過大而使神經(jīng)元輸出飽和,繼而使權(quán)值調(diào)整進(jìn)入誤差曲面的平坦區(qū)。BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本在輸入網(wǎng)絡(luò)之前要進(jìn)行必要的歸一化,也就是通過變換處理將網(wǎng)絡(luò)的輸入、輸出數(shù)據(jù)限制在[0,1]或[-l,1]區(qū)間內(nèi)。歸一化方法有很多種形式,本文采用如下公式來進(jìn)行樣本數(shù)據(jù)的歸一化:
令P為網(wǎng)絡(luò)的輸入向量,t為網(wǎng)絡(luò)的目標(biāo)向量,p_test、t_test為網(wǎng)絡(luò)的測(cè)試樣本向量,利用MATLAB歸一化的代碼為:
歸一化后的輸入向量P
for i=1:6
P(i,:)=(p(i,:)-min(p(i,:)))/(max (p(i,:))-min(p(i,:)));
end
歸一化后的輸入向量A
for i=1
T(i,:)=(t(i,:)-min(t(i,:)))/(max(t(i,:))-min(t(i,:)));
end
測(cè)試樣本向量p_test和t-test的歸一化同輸入向量p和目標(biāo)向量t的歸一化,歸一化后的向量為P_test和T_test。
4.2 隱層神經(jīng)元數(shù)的選擇
在設(shè)計(jì)多層前饋網(wǎng)時(shí),一般先考慮設(shè)一個(gè)隱層.當(dāng)一個(gè)隱層的隱節(jié)點(diǎn)數(shù)很多仍不能改善網(wǎng)絡(luò)性能時(shí),才考慮再增加一個(gè)隱層。由于本系統(tǒng)是一個(gè)比較小型的網(wǎng)絡(luò),且各結(jié)點(diǎn)采用S型函數(shù)進(jìn)行處理,故采用單隱層。
隱層的神經(jīng)元數(shù)目選擇是一個(gè)非常復(fù)雜的問題,往往需要根據(jù)設(shè)計(jì)者的經(jīng)驗(yàn)和多次試驗(yàn)來確定。隱單元的數(shù)目與問題的要求、輸入/輸出單元的數(shù)目都有直接的聯(lián)系。隱單元數(shù)目太多和會(huì)導(dǎo)致學(xué)習(xí)的時(shí)間過長(zhǎng)、誤差不一定最佳,也會(huì)導(dǎo)致容錯(cuò)性差、不能識(shí)別以前沒有看到的樣本。選擇最佳隱單元數(shù)的參考公式:
(1)
其中,k為樣本數(shù),n1為隱單元數(shù),n為輸入單元數(shù)。
(2)
其中,m為輸出神經(jīng)元數(shù),n為輸入神經(jīng)元數(shù),a為[1,10]之間的常數(shù)。
(3)
其中,n為輸入單元數(shù)。
由于單隱層BP網(wǎng)絡(luò)的非線性映射能力比較強(qiáng),本文采用了單隱層的神經(jīng)網(wǎng)絡(luò),而中間層神經(jīng)元個(gè)數(shù)需通過實(shí)驗(yàn)來確定,輸入層神經(jīng)元個(gè)數(shù)有6個(gè),中間層神經(jīng)元的個(gè)數(shù)選擇3個(gè)值,分別為13、15和20,并分別檢查網(wǎng)絡(luò)性能。通過實(shí)際的迭代訓(xùn)練,設(shè)置多種不同的隱節(jié)點(diǎn)情況,用同一樣本集進(jìn)行訓(xùn)練,比較迭代訓(xùn)練實(shí)驗(yàn)的結(jié)果,從中確定網(wǎng)絡(luò)誤差最小時(shí)對(duì)應(yīng)的神經(jīng)元個(gè)數(shù)。
MATLAB代碼為:
隱層單元個(gè)數(shù)向量
a=[13 15 20];
for i=1:3
net=newff(threshold,[a(i),1],{‘tansig’, ‘logsig’},‘traindx’);
net.trainparam.epochs=1000;
net.trainparam.goal=0.01;
init函數(shù)用于將網(wǎng)絡(luò)初始化
net=init(net);
net=train(net,P,T);
Y(i,:)=sim(net,P_test);
end
figure;
繪制誤差曲線
中間神經(jīng)元個(gè)數(shù)為13
polt(1:6,Y(1,:)-T_test);
hold on;
中間神經(jīng)元個(gè)數(shù)為15
polt(1:6,Y(2,:)-T_test);
hold on;
中間神經(jīng)元個(gè)數(shù)為20
polt(1:6,Y(3,:)-T_test);
hold off;
通過3種情況下的誤差比較發(fā)現(xiàn),中間層神經(jīng)元個(gè)數(shù)為13、20時(shí)網(wǎng)絡(luò)的誤差比較大,當(dāng)隱層節(jié)點(diǎn)數(shù)為15時(shí),網(wǎng)絡(luò)誤差較小,收斂速度較快能得到最理想的輸出,網(wǎng)絡(luò)的預(yù)測(cè)性能最好。
通過上述分析,可以確定本文設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為6-15-1,網(wǎng)絡(luò)中間層的神經(jīng)元傳遞函數(shù),采用S型正切函數(shù)tansig,輸出層神經(jīng)元傳遞函數(shù)采用S型對(duì)數(shù)函數(shù)logsig。這是因?yàn)楹瘮?shù)的輸出位于區(qū)間[0,1]中,正好滿足網(wǎng)絡(luò)輸出的要求。
圖3 預(yù)測(cè)誤差對(duì)比曲線
本文所要解決的問題是根據(jù)環(huán)境等外界因素對(duì)設(shè)備的絕緣狀況進(jìn)行預(yù)測(cè),對(duì)網(wǎng)絡(luò)的訓(xùn)練速度和穩(wěn)定性有較高的要求,因此選擇traingdx函數(shù)作為訓(xùn)練函數(shù),該函數(shù)結(jié)合了動(dòng)量梯度下降算法和自適應(yīng)學(xué)習(xí)速率梯度下降算法。
該算法的基本過程為:首先計(jì)算出網(wǎng)絡(luò)的輸出誤差,然后在每次訓(xùn)練結(jié)束之后,利用此時(shí)的學(xué)習(xí)率計(jì)算出網(wǎng)絡(luò)的權(quán)值和閾值,并且計(jì)算出網(wǎng)絡(luò)此時(shí)的輸出誤差。如果此時(shí)的輸出誤差與前一時(shí)刻的輸出誤差的比值大于預(yù)先定義的參數(shù)max_perf_inc,那么就減小學(xué)習(xí)率(通過乘以系數(shù)lr_dec來實(shí)現(xiàn)),反之,就增加學(xué)習(xí)率(通過乘以系數(shù)lr_inc來實(shí)現(xiàn))。再重新計(jì)算網(wǎng)絡(luò)的權(quán)值和閾值以及輸出誤差,直到前后輸出誤差的比值小于參數(shù)max_perf_inc為止。
4.3 網(wǎng)絡(luò)學(xué)習(xí)速率和動(dòng)量系數(shù)的選擇
學(xué)習(xí)速率大小的選擇,直接影響訓(xùn)練時(shí)間,當(dāng)學(xué)習(xí)速率的選擇不當(dāng),特別在嚴(yán)重時(shí),將導(dǎo)致網(wǎng)絡(luò)完全不能訓(xùn)練,這是因?yàn)?986年Rumelhart等人在證明BP訓(xùn)練算法收斂中,假設(shè)了無限小的權(quán)重調(diào)節(jié)速率。實(shí)際上這是不可能的,因?yàn)檫@表示需要無限的訓(xùn)練時(shí)間,所以,實(shí)際上必須選一個(gè)有限的學(xué)習(xí)速率大小,即η的值取0.01到1。一般來說要根據(jù)實(shí)驗(yàn)或經(jīng)驗(yàn)來確定,還沒有一個(gè)理論指導(dǎo)。若η選得太小,收斂可能很慢:若η選得太大,可能出現(xiàn)麻痹現(xiàn)象。為了避免這種現(xiàn)象,通常會(huì)選擇減少η,但又會(huì)增加網(wǎng)絡(luò)的訓(xùn)練時(shí)間。動(dòng)量項(xiàng)可以加快BP算法的學(xué)習(xí)速度,但選項(xiàng)的時(shí)候應(yīng)當(dāng)注意避免學(xué)習(xí)時(shí)產(chǎn)生振蕩。
因此,本文在確定網(wǎng)絡(luò)的學(xué)習(xí)速率和動(dòng)量系數(shù)的時(shí)候,采用不同的值的組合,利用55組訓(xùn)練數(shù)據(jù)進(jìn)行了若干次網(wǎng)絡(luò)的迭代訓(xùn)練。本文根據(jù)比較結(jié)果確定學(xué)習(xí)速率為0.1,動(dòng)量系數(shù)為0.7作為網(wǎng)絡(luò)訓(xùn)練時(shí)的參數(shù)。
5.基于BP神經(jīng)網(wǎng)絡(luò)介損值的預(yù)測(cè)應(yīng)用
本文所建立的BP網(wǎng)絡(luò)是基于MATLAB中的GUI建立。圖形用戶界面GUI (Graphical User Interfaces)是神經(jīng)網(wǎng)絡(luò)的工具箱提供的人機(jī)交互界面,它引導(dǎo)工程人員一步步的建立和訓(xùn)練網(wǎng)絡(luò),避免了代碼的編寫過程。借助圖形用戶界面GUI,可比直接利用工具箱函數(shù)更快捷和方便的完成神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)與分析。
利用BP神經(jīng)網(wǎng)絡(luò)理論和經(jīng)過以上訓(xùn)練得到的網(wǎng)絡(luò)參數(shù),利用Matlab軟件提供的GUI構(gòu)造出了基于環(huán)境等外界因素影響分析設(shè)備絕緣狀況的BP神經(jīng)網(wǎng)絡(luò)模型。表1列出了本文研究中建立的BP網(wǎng)絡(luò)的各個(gè)參數(shù)和函數(shù)。
網(wǎng)絡(luò)所用的訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)均出自于某110KV變電站主變套管的在線監(jiān)測(cè)的數(shù)據(jù)],本文采用其中的55組典型數(shù)據(jù),其中50組數(shù)據(jù)用于網(wǎng)絡(luò)訓(xùn)練(訓(xùn)練次數(shù)為1000次,訓(xùn)練目標(biāo)為0.01),5組數(shù)據(jù)用于仿真預(yù)測(cè),利用仿真函數(shù)獲得網(wǎng)絡(luò)的輸出,網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果及誤差見表2,可見預(yù)測(cè)值與實(shí)際監(jiān)測(cè)值之間的誤差非常小,能滿足實(shí)際要求。
表1 基于BP神經(jīng)網(wǎng)絡(luò)的電容型設(shè)備絕緣診斷模型參數(shù)
名稱 參數(shù)
輸入層節(jié)點(diǎn)數(shù) 6
隱含層節(jié)點(diǎn)數(shù) 15
輸出層節(jié)點(diǎn)數(shù) 1
訓(xùn)練函數(shù) traingdx
學(xué)習(xí)函數(shù) learngdm
學(xué)習(xí)速率 0.1
動(dòng)量系數(shù) 0.7
表2 外界環(huán)境相同時(shí)介損值的實(shí)際值與預(yù)測(cè)值的對(duì)比
序號(hào) 電壓 電流 電容 溫度 濕度 實(shí) 際
介損值 預(yù) 測(cè)
介損值 誤差
1 119 7.047 326.479 18 50 0.003906 0.004025 0.000119
2 119 7.057 327.545 17 52 0.000440 0.004386 0.000014
3 118 7.022 328.078 17 55 0.003946 0.004108 0.000162
4 119 7.059 327.035 16 55 0.004471 0.004512 0.000041
5 119 7.069 327.406 17 59 0.003249 0.003178 0.000071
6.結(jié)束語
本章通過對(duì)BP網(wǎng)絡(luò)模型和學(xué)習(xí)算法的研究,深入分析了BP網(wǎng)絡(luò)在函數(shù)預(yù)測(cè)方面的優(yōu)點(diǎn),確定了用BP網(wǎng)絡(luò)來實(shí)現(xiàn)對(duì)容性設(shè)備介質(zhì)損耗值的預(yù)測(cè),得到的結(jié)論如下:
(1)通過對(duì)BP網(wǎng)絡(luò)結(jié)構(gòu)的研究,將三層前向神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行了改進(jìn),適應(yīng)了本文對(duì)介質(zhì)損耗值的預(yù)測(cè)要求。
(2)BP網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果的準(zhǔn)確與否取決于學(xué)習(xí)樣本的優(yōu)劣,本文根據(jù)實(shí)際情況選取了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本并進(jìn)行了仿真,結(jié)果表明該預(yù)測(cè)方法的誤差滿足工程誤差的要求,及基于人工神經(jīng)網(wǎng)絡(luò)的介質(zhì)損耗值的預(yù)測(cè)方法是可行的、正確的和有效的。
(3)數(shù)據(jù)預(yù)測(cè)具有一定的精度,但是還存在誤差,需選擇相關(guān)大的、較合理的輸入向量,還可以對(duì)網(wǎng)絡(luò)的結(jié)構(gòu)和算法選擇方面進(jìn)行改進(jìn),選擇更合適的訓(xùn)練函數(shù)使其收斂速度更快,誤差更小。
參考文獻(xiàn)
[1]張寒,文習(xí)山,丁輝.用人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)基于泄漏電流、氣象因素的絕緣子等值附鹽密度預(yù)測(cè)[J].高壓電器,2003,39(6):31-35.
[2]韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計(jì)及應(yīng)用[M].北京:化學(xué)工業(yè)出版社,2002.
[3]閆志忠.BP神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)及其應(yīng)用研究[D].長(zhǎng)春:吉林大學(xué),2003.
[4]聞新.MATLAB神經(jīng)網(wǎng)絡(luò)仿真與應(yīng)用[M].北京:科學(xué)出版社,2000.
[5]許東,吳崢.基于MATLAB6.X的系統(tǒng)分析與設(shè)計(jì)-神經(jīng)網(wǎng)絡(luò)(第二版)[M].西安:西安電子科技大學(xué)出版社,2002.
[6]叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用[M].合肥:中國(guó)科技大學(xué)出版社,1998
篇9
關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò)、圖像分割、特征提取
Abstract: the image recognition process including the image preprocessing, feature extraction, image understanding and analysis. Which BP artificial neural network in the image segmentation using better; In the feature extraction phase BP neural network is also very good find application, and obtain the better feature extraction results; In the image understanding and the analysis phase using neural network classifier design, can get accurate classification results.
Keywords: BP neural network, image segmentation, feature extraction
中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):
引言
BP人工神經(jīng)網(wǎng)絡(luò)算法是現(xiàn)今應(yīng)用較為廣泛的多層前向反饋式神經(jīng)網(wǎng)絡(luò)算法,BP人工神經(jīng)網(wǎng)絡(luò)有較好的容錯(cuò)能力、魯棒性、并行協(xié)同處理能力和自適應(yīng)能力,受到了國(guó)內(nèi)外眾多領(lǐng)域?qū)W者的關(guān)注。由于神經(jīng)網(wǎng)絡(luò)高效率的集體計(jì)算能力和較強(qiáng)的魯棒性,它在圖像分割方面的應(yīng)用已經(jīng)很廣泛,Jain和Karu采用了多通道濾波與前向神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法實(shí)現(xiàn)圖像紋理分割算法。神經(jīng)網(wǎng)絡(luò)算法在特征提取階段,壓縮特征數(shù)量,以提高分類速度和精度。在圖像識(shí)別領(lǐng)域中神經(jīng)網(wǎng)絡(luò)作為分類器的研究也得到了很大的進(jìn)展,尤其是其學(xué)習(xí)能力和容錯(cuò)性對(duì)于模式識(shí)別是非常有利的,在一定程度上提高了訓(xùn)練速度和識(shí)別率。Le Cun等人提出了多層特征選擇(Multilayer Selection Procedure)方法用于字符識(shí)別,每一層神經(jīng)網(wǎng)絡(luò)處理較低層次的特征,獲取該層特征信息并傳給上一層。
BP神經(jīng)網(wǎng)絡(luò)的基本原理
人工神經(jīng)網(wǎng)絡(luò)的研究起源于對(duì)生物神經(jīng)系統(tǒng)的研究,它將若干處理單元(即神經(jīng)元)通過一定的互連模型連結(jié)成一個(gè)網(wǎng)絡(luò),這個(gè)網(wǎng)絡(luò)通過一定的機(jī)制可以模仿人的神經(jīng)系統(tǒng)的動(dòng)作過程,以達(dá)到識(shí)別分類的目的。人工神經(jīng)網(wǎng)絡(luò)區(qū)別于其他識(shí)別方法的最大特點(diǎn)是它對(duì)待識(shí)別的對(duì)象不要求有太多的分析與了解,具有一定的智能化處理的特點(diǎn)。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程實(shí)際上就是不斷地調(diào)整權(quán)值和閾值的過程。根據(jù)有無訓(xùn)練樣本的指導(dǎo)可以將神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式分為兩種:監(jiān)督學(xué)習(xí)方式和非監(jiān)督學(xué)習(xí)方式,也稱為有導(dǎo)師指導(dǎo)學(xué)習(xí)方式和無導(dǎo)師指導(dǎo)學(xué)習(xí)方式。監(jiān)督學(xué)習(xí)方式,是在給定固定的輸入輸出樣本集的情況下,由網(wǎng)絡(luò)根據(jù)一定的學(xué)習(xí)規(guī)則進(jìn)行訓(xùn)練學(xué)習(xí),每一次學(xué)習(xí)完成后,通過對(duì)比實(shí)際的輸出和期望的輸出,以此決定網(wǎng)絡(luò)是否需要再學(xué)習(xí),如果還沒有達(dá)到期望的誤差,則將實(shí)際誤差反饋到網(wǎng)絡(luò),進(jìn)行權(quán)值和閾值的調(diào)整,使實(shí)際的誤差隨著學(xué)習(xí)的反復(fù)進(jìn)行而逐步減小,直至達(dá)到所要求的性能指標(biāo)為止。非監(jiān)督學(xué)習(xí)方式,是在沒有外界的指導(dǎo)下進(jìn)行的學(xué)習(xí)方式,在學(xué)習(xí)過程中,調(diào)整網(wǎng)絡(luò)的權(quán)重不受外來教師的影響,但在網(wǎng)絡(luò)內(nèi)部會(huì)對(duì)其性能進(jìn)行自適應(yīng)調(diào)節(jié)。
BP神經(jīng)網(wǎng)絡(luò)分類器的設(shè)計(jì)
BP神經(jīng)網(wǎng)絡(luò)是基于誤差反向傳播算法(Back Propagation Algorithm,BPA)的多層前向神經(jīng)網(wǎng)絡(luò),由輸入層、輸出層、一個(gè)或多個(gè)隱含層所組成。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定之后,通過對(duì)輸出和輸入樣本集進(jìn)行訓(xùn)練,反復(fù)修正網(wǎng)絡(luò)的權(quán)值和閾值,達(dá)到學(xué)習(xí)訓(xùn)練的期望誤差,以使網(wǎng)絡(luò)能夠?qū)崿F(xiàn)給定的輸入輸出映射關(guān)系。BP人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程分為兩個(gè)階段,第一階段是輸入己知的學(xué)習(xí)樣本數(shù)據(jù),給定網(wǎng)絡(luò)的結(jié)構(gòu)和初始連接權(quán)值和閾值,從輸入層逐層向后計(jì)算各神經(jīng)元的輸出;第二階段是對(duì)權(quán)值和閾值進(jìn)行修改,即根據(jù)網(wǎng)絡(luò)誤差從最后一層向前反饋計(jì)算各層權(quán)值和閾值的增減量,來逐層修正各層權(quán)值和閾值。以上正反兩個(gè)階段反復(fù)交替,直到網(wǎng)絡(luò)收斂。具體實(shí)現(xiàn)步驟如下:
(1) 網(wǎng)絡(luò)的初始化:首先對(duì)輸入的學(xué)習(xí)訓(xùn)練樣本進(jìn)行歸一化處理,對(duì)權(quán)值矩陣W和閾值向量賦初值,將網(wǎng)絡(luò)計(jì)數(shù)器和訓(xùn)練次數(shù)計(jì)數(shù)器置為1,網(wǎng)絡(luò)誤差置為0。
(2) 輸入訓(xùn)練樣本,計(jì)算輸入層,隱含層以及輸出層的實(shí)際輸出。
(3) 計(jì)算網(wǎng)絡(luò)輸出誤差。將實(shí)際的輸出和期望的輸出值進(jìn)行對(duì)比,采用均方根誤差指標(biāo)作為網(wǎng)絡(luò)的誤差性能函數(shù)。
(4) 若誤差還沒達(dá)到期望標(biāo)準(zhǔn),則根據(jù)誤差信號(hào),逐層調(diào)整權(quán)值矩陣和閾值向量。
(5) 若最終調(diào)整之后的網(wǎng)絡(luò)輸出達(dá)到了誤差范圍之內(nèi),則進(jìn)行下一組訓(xùn)練樣本繼續(xù)訓(xùn)練網(wǎng)絡(luò)。
(6) 若全部的訓(xùn)練樣本訓(xùn)練完畢,并且達(dá)到了期望的誤差,則訓(xùn)練結(jié)束,輸出最終的網(wǎng)絡(luò)聯(lián)接權(quán)值和閾值。
BP神經(jīng)網(wǎng)絡(luò)可以逼近任意連續(xù)函數(shù),具有很強(qiáng)的非線性映射能力,而且BP神經(jīng)網(wǎng)絡(luò)中間層數(shù)、各層神經(jīng)元數(shù)及網(wǎng)絡(luò)學(xué)習(xí)速率等參數(shù)均可以根據(jù)具體情況設(shè)定,靈活性較強(qiáng),所以BP神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域中廣泛應(yīng)用。一般來說,神經(jīng)網(wǎng)絡(luò)方法應(yīng)同傳統(tǒng)的人工智能方法相聯(lián)系的。神經(jīng)網(wǎng)絡(luò)本身結(jié)構(gòu)及性能上的特點(diǎn)使其對(duì)問題的處理更富有彈性,更加穩(wěn)健。神經(jīng)網(wǎng)絡(luò)的基本特點(diǎn)是采用自下而上的設(shè)計(jì)思路,使其容易確定具體的目標(biāo)分割或識(shí)別算法,在增加了不確定因素的同時(shí)也產(chǎn)生了網(wǎng)絡(luò)最優(yōu)化的問題,這就是所謂的偽狀態(tài)(pseudo-trap)。盡管在實(shí)踐中并非所有的偽狀態(tài)對(duì)應(yīng)完全失敗的結(jié)果,但是畢竟這不符合對(duì)之完美的或者說合理的期望。人工智能則一般采用自上而下的方法,偏重于邏輯推理建立系統(tǒng)模型。因此將神經(jīng)網(wǎng)絡(luò)同人工智能結(jié)合起來,相當(dāng)于賦予神經(jīng)網(wǎng)絡(luò)高層指導(dǎo)的知識(shí)及邏輯推理的能力,具有潛在的優(yōu)勢(shì)。
輸入層中間層 輸出層
圖1 BP人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練
4.1 BP神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)
BP神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)主要包括兩方面內(nèi)容:一是神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定,特別是隱含層層數(shù)及隱含層單元數(shù)目的確定;二是高精度收斂問題,隱含層和隱含層單元數(shù)過多,將導(dǎo)致訓(xùn)練時(shí)間過長(zhǎng)并出現(xiàn)過度擬和的問題,隱含層單元數(shù)過少又導(dǎo)致網(wǎng)絡(luò)收斂速度慢甚至不收斂,達(dá)不到誤差精度要求。在確定隱含層層數(shù)以及隱含層單元數(shù)目時(shí),沒有一個(gè)嚴(yán)格的理論依據(jù)指導(dǎo),需要根據(jù)特定的問題,結(jié)合經(jīng)驗(yàn)公式確定大致范圍來進(jìn)行逐步試算比較得到。
4.2 數(shù)據(jù)預(yù)處理
為了加快網(wǎng)絡(luò)的訓(xùn)練速度,通常在網(wǎng)絡(luò)訓(xùn)練前進(jìn)行神經(jīng)網(wǎng)絡(luò)輸入和輸出數(shù)據(jù)預(yù)處理,即將每組數(shù)據(jù)都?xì)w一化變?yōu)閇-1,1]之間的數(shù)值的處理過程。
4.3 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練
%當(dāng)前輸入層權(quán)值和閾值
inputWeights=net.IW{1,1}
inputbias=net.b{1}
%當(dāng)前網(wǎng)絡(luò)層權(quán)值和閾值
layerWeights=net.LW{2,1}
layerbias=net.b{2}
%設(shè)置訓(xùn)練參數(shù)
net.trainParam.show = 1000;%限時(shí)訓(xùn)練迭代過程
net.trainParam.lr = 0.1; %學(xué)習(xí)率,缺省為0.01
net.trainParam.epochs = 100000; %最大訓(xùn)練次數(shù),缺省為100
net.trainParam.goal = 0.001; %訓(xùn)練要求精度,缺省為0
[net,tr]=train(net,P,T);%調(diào)用 TRAINGDM 算法訓(xùn)練 BP 網(wǎng)絡(luò)
A = sim(net,P) %對(duì) BP 網(wǎng)絡(luò)進(jìn)行仿真
E = T - A;%計(jì)算仿真誤差
MSE=mse(E)
結(jié)束語
BP網(wǎng)絡(luò)因?yàn)榫哂休^強(qiáng)的學(xué)習(xí)性、自適應(yīng)型和容錯(cuò)性,在很多領(lǐng)域均已經(jīng)大量運(yùn)用。本文將BP人工神經(jīng)網(wǎng)絡(luò)運(yùn)用于圖像的識(shí)別,探索人工神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別領(lǐng)域中的重要的現(xiàn)實(shí)意義。研究表明,BP人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像識(shí)別在一定程度上提高了識(shí)別的效率和準(zhǔn)確率。但是,BP神經(jīng)網(wǎng)絡(luò)算法還存在以下幾點(diǎn)不足之處:(1)權(quán)的調(diào)整方法存在局限性,容易陷入局部最優(yōu);(2)網(wǎng)絡(luò)的結(jié)構(gòu)需要提前指定或者在訓(xùn)練過程中不斷的修正;(3)過分依賴學(xué)習(xí)樣本,由于學(xué)習(xí)樣本是有限的或者學(xué)習(xí)樣本質(zhì)量不高,那么會(huì)導(dǎo)致訓(xùn)練達(dá)不到效果;(4)對(duì)于規(guī)模較大的模式映射問題,存在收斂速度慢、容易陷入局部極小點(diǎn)、判斷不準(zhǔn)確等缺陷??傊?,如何解決以上問題,如何進(jìn)一步提高識(shí)別精度,擴(kuò)大識(shí)別范圍,使之更具有更好的工程實(shí)用性,是有待進(jìn)一步研究的內(nèi)容。
參考文獻(xiàn):
[1] WE Blanz,S L Gish.A Connectionist Classifier Architecture Applied to Image Segmentation.Proc.10th ICPR,1990,272-277.
[2] Y Le Cun,L D Jackel,B Boser,J S Denker,H P Graf,I Guyon,D Henderson,R E Howard,and W Hubbard,Handwriten Digit Recognition:Applications of Neural Network Chips and Automatic Learning,IEEE Comm.Magazine.Nov.1989.
[3] A K Jain and K Karu,Automatic Filter Design for Texture Discrimination,Proc.12th Int’l Conf.NeuralNetworks,Orlando,Oct.1994,454-458.
[4] 邊肇其,張學(xué)工.模式識(shí)別(第二版)[M].清華大學(xué)出版社,北京.1999,12.
[5] 陳書海,傅錄祥.實(shí)用數(shù)字圖像處理[M].科學(xué)出版社,北京.2005.
[6] 萬來毅,陳建勛.基于BP神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別研究[J].武漢科技大學(xué)學(xué)報(bào)(自然科學(xué)版).2006,6.
[7] 叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用(第2版)[M].北京:中國(guó)科學(xué)技術(shù)出版社,2003.
[8] 王娟,慈林林等.特征方法綜述[J].計(jì)算機(jī)工程與科學(xué).2005.27(12).68-71.
[9] 賈花萍.基于神經(jīng)網(wǎng)絡(luò)的特征選擇與提取方法研究[J].網(wǎng)絡(luò)安全.2008,7.33-35.
[10] 龔聲榮,劉純平等編著.?dāng)?shù)字圖像處理與分析[M].清華大學(xué)出版社,北京.2006.7.
篇10
【關(guān)鍵詞】圖像分割;細(xì)胞特征;人工神經(jīng)網(wǎng)絡(luò)
據(jù)統(tǒng)計(jì),在各種癌癥中,子宮頸癌對(duì)婦女的威脅僅次于乳腺癌。全世界每年因子宮頸癌死亡的人數(shù)為30萬,確診和發(fā)現(xiàn)早期癥狀者各為45萬。雖然確診病人的年齡一般都在35歲以上,但存在這種疾病誘因的婦女卻往往遠(yuǎn)在這一年齡以下。如果及時(shí)得到診斷,早期子宮頸癌是可以治愈的。因此借助于現(xiàn)代先進(jìn)的計(jì)算機(jī)技術(shù)結(jié)合病理專家的實(shí)踐經(jīng)驗(yàn),開發(fā)出計(jì)算機(jī)輔助細(xì)胞學(xué)診斷系統(tǒng),才是解決這一問題的關(guān)鍵所在。
本文從圖像識(shí)別領(lǐng)域出發(fā),應(yīng)用人工神經(jīng)網(wǎng)絡(luò)模型對(duì)子宮頸癌細(xì)胞圖像診斷進(jìn)行探索。首先,對(duì)獲取的子宮頸癌圖像進(jìn)行灰度轉(zhuǎn)換。由原來的24位彩色圖像轉(zhuǎn)化為灰度圖像。在對(duì)灰度圖像進(jìn)行分割,主要采取基于門限閾值化的分割方法。分別對(duì)細(xì)胞,細(xì)胞核進(jìn)行了分割。分割后轉(zhuǎn)化成為二值圖像,采用八向鏈碼算法對(duì)包括周長(zhǎng),面積似圓度,矩形度,核漿比等15個(gè)主要形態(tài)學(xué)參數(shù)進(jìn)行測(cè)量。在取得了大量的數(shù)據(jù)樣本后進(jìn)行人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。
人工神經(jīng)網(wǎng)絡(luò)是在對(duì)人腦神經(jīng)網(wǎng)絡(luò)的基本認(rèn)識(shí)的基礎(chǔ)上,從信息處理的角度對(duì)人腦神經(jīng)網(wǎng)絡(luò)進(jìn)行抽象,用數(shù)理方法建立起來的某種簡(jiǎn)化模型[1]。通過模仿腦神經(jīng)系統(tǒng)的組織結(jié)構(gòu)以及某些活動(dòng)機(jī)理,人工神經(jīng)網(wǎng)絡(luò)可以呈現(xiàn)出人腦的許多特征,并具有人腦的一些基本功能[2]。1988年,Rinehart等人提出了用于前向神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的誤差逆?zhèn)鞑ニ惴ǎ˙ack propagation,簡(jiǎn)稱BP算法),成功解決了多層網(wǎng)絡(luò)中隱含層神經(jīng)元連接權(quán)值的學(xué)習(xí)問題[3]。BP算法是由教師指導(dǎo)的,適合于多層神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練,是建立在梯度下降算法基礎(chǔ)上的。主要思想是把學(xué)習(xí)過程分為兩個(gè)階段:第一階段(信號(hào)正向傳播過程),輸入信號(hào)通過輸入層經(jīng)隱含層逐層處理并計(jì)算每個(gè)節(jié)點(diǎn)的實(shí)際輸出值;第二階段(誤差修正反向傳播過程),若在輸出層未得到期望的輸出值,則逐層遞歸地計(jì)算實(shí)際輸出與期望輸出之間的誤差,并已據(jù)此誤差來修正權(quán)值。在學(xué)習(xí)過程中,對(duì)于每一個(gè)輸入樣本逐次修正權(quán)值向量,若有n個(gè)樣本,那么一次學(xué)習(xí)過程中修正n次權(quán)值。
但是BP算法也存在一定的缺陷,如多解問題、學(xué)習(xí)算法的收斂速度慢以及網(wǎng)絡(luò)的隱含節(jié)點(diǎn)個(gè)數(shù)的選取尚缺少統(tǒng)一而完整的理論指導(dǎo)。為了優(yōu)化BP算法,我們采用加入動(dòng)向量的方法對(duì)BP算法進(jìn)行改進(jìn)?;贐P算法的神經(jīng)網(wǎng)絡(luò),在學(xué)習(xí)過程中,需要不斷地改變權(quán)值,而權(quán)值是和權(quán)值誤差導(dǎo)數(shù)成正比的。通常梯度下降方法的學(xué)習(xí)速率是一個(gè)常數(shù),學(xué)習(xí)速率越大,權(quán)值的改變?cè)酱蟆K砸粩嗟匦薷膶W(xué)習(xí)速率,使它包含有一個(gè)動(dòng)向量,在每次加權(quán)調(diào)節(jié)量上加上一項(xiàng)正比例與前次加權(quán)變化量的值(即本次權(quán)值的修改表達(dá)式中引入前次的權(quán)值修改量)。設(shè)計(jì)模型時(shí),人工神經(jīng)網(wǎng)絡(luò)的輸入輸出變量是兩個(gè)重要的參數(shù)。輸入變量的選擇有兩個(gè)基本原則:其一必須選擇對(duì)輸出影響大并且能夠檢測(cè)或提取的變量,其二要求各個(gè)輸入變量之間互不相關(guān)或相關(guān)性很小。我們將細(xì)胞的形態(tài)學(xué)特征值作為人工神經(jīng)網(wǎng)絡(luò)的輸入變量。輸出變量代表系統(tǒng)要實(shí)現(xiàn)的功能目標(biāo),這里以TBS分類法為依據(jù),確定了人工神經(jīng)網(wǎng)絡(luò)的三個(gè)輸出變量NORMAL(正常細(xì)胞),LSIL(低度鱗狀上皮內(nèi)病變),HSIL(高度鱗狀上皮內(nèi)病變)[4]。在人工神經(jīng)網(wǎng)絡(luò)的輸入、輸出確定后,就可以得到網(wǎng)絡(luò)的結(jié)構(gòu)圖,從而對(duì)測(cè)得的細(xì)胞特征值進(jìn)行分類。
本文中所設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)分類器,輸入層15個(gè)節(jié)點(diǎn)、隱含層30個(gè)節(jié)點(diǎn)、輸出層2個(gè)節(jié)點(diǎn)。細(xì)胞樣本共161例,使用87例細(xì)胞樣本數(shù)據(jù)對(duì)人工神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行訓(xùn)練。當(dāng)誤差小于規(guī)定值后,再用剩余的74例數(shù)據(jù)樣本對(duì)人工神經(jīng)網(wǎng)絡(luò)進(jìn)行測(cè)試。主要采取的算法是增加動(dòng)量的BP算法。經(jīng)實(shí)驗(yàn),應(yīng)用人工神經(jīng)網(wǎng)絡(luò)模型識(shí)別每張圖片每個(gè)細(xì)胞,選出128個(gè)最有可能的異常細(xì)胞圖。通過大量實(shí)驗(yàn)對(duì)比訓(xùn)練樣本識(shí)別率最高達(dá)96.6%,測(cè)試樣本識(shí)別率最高達(dá)87.8%,總體樣本識(shí)別率最高達(dá)92.5%。
由實(shí)驗(yàn)可以看出增加動(dòng)量的BP算法(BP標(biāo)準(zhǔn)算法)的學(xué)習(xí)次數(shù)適中,分類基本準(zhǔn)確。增加學(xué)習(xí)速率可以加快收斂的速度,但同時(shí)也看到由于學(xué)習(xí)速率過大,而導(dǎo)致系統(tǒng)的不穩(wěn)定,引起震蕩。所以在增加學(xué)習(xí)不長(zhǎng)的同時(shí),動(dòng)向量不能夠過大,否則會(huì)引起震蕩,影響分類的準(zhǔn)確率。使用增加動(dòng)量的BP算法對(duì)子宮頸癌細(xì)胞的識(shí)別效果比較理想,這在醫(yī)學(xué)研究以及臨床診斷方面具有一定的現(xiàn)實(shí)意義及比較廣闊的應(yīng)用背景。
參考文獻(xiàn)
[1]何苗.徑向基人工神經(jīng)網(wǎng)絡(luò)在宮頸細(xì)胞圖像識(shí)別中的應(yīng)用[J].中國(guó)醫(yī)科大學(xué)學(xué)報(bào),2006,35(1).
[2]刑仁杰.計(jì)算機(jī)圖像處理[M].浙江:浙江大學(xué)出版社,1990:32-67.
[3]時(shí)淑舫.計(jì)算機(jī)輔助細(xì)胞檢測(cè)方法在宮頸細(xì)胞學(xué)檢查中的應(yīng)用價(jià)值[J].臨床和實(shí)驗(yàn)醫(yī)學(xué)雜志,2003,2(2).
熱門標(biāo)簽
神經(jīng)內(nèi)科論文 神經(jīng)外科 神經(jīng)網(wǎng)絡(luò)論文 神經(jīng)內(nèi)科 神經(jīng)科護(hù)理室 神經(jīng) 神經(jīng)科學(xué) 神經(jīng)元 神經(jīng)病學(xué) 神經(jīng)疾病 心理培訓(xùn) 人文科學(xué)概論
相關(guān)文章
1神經(jīng)網(wǎng)絡(luò)在工程造價(jià)中的運(yùn)用
4教學(xué)法在神經(jīng)內(nèi)科護(hù)理教學(xué)的應(yīng)用
相關(guān)期刊
-
中國(guó)神經(jīng)腫瘤
主管:中山大學(xué)腫瘤防治中心;中國(guó)抗癌協(xié)會(huì)神經(jīng)腫瘤專業(yè)委員會(huì)
級(jí)別:部級(jí)期刊
影響因子:--
-
現(xiàn)代神經(jīng)疾病
主管:中華人民共和國(guó)國(guó)家衛(wèi)生
級(jí)別:北大期刊
影響因子:1.69
-
中國(guó)神經(jīng)免疫學(xué)和神經(jīng)病...
主管:中華人民共和國(guó)國(guó)家衛(wèi)生健康委員會(huì)
級(jí)別:統(tǒng)計(jì)源期刊
影響因子:1.5
-
國(guó)際神經(jīng)病學(xué)神經(jīng)外科學(xué)
主管:中華人民共和國(guó)教育部
級(jí)別:統(tǒng)計(jì)源期刊
影響因子:1.43