神經(jīng)網(wǎng)絡與智能信息處理分析論文

時間:2022-11-04 02:11:00

導語:神經(jīng)網(wǎng)絡與智能信息處理分析論文一文來源于網(wǎng)友上傳,不代表本站觀點,若需要原創(chuàng)文章可咨詢客服老師,歡迎參考。

神經(jīng)網(wǎng)絡與智能信息處理分析論文

關鍵詞:

80年代初,在美國、日本、接著在我國國內(nèi)都掀起了一股研究神經(jīng)網(wǎng)絡理論和神經(jīng)計算機的熱潮,并將神經(jīng)網(wǎng)絡原理應用于圖象處理、模式識別、語音綜合及機器人控制等領域。近年來,美國等先進國家又相繼投入巨額資金,制定出強化研究計劃,開展對腦功能和新型智能計算機的研究。

人腦是自生命誕生以來,生物經(jīng)過數(shù)十億年漫長歲月進化的結果,是具有高度智能的復雜系統(tǒng),它不必采用繁復的數(shù)字計算和邏輯運算,卻能靈活處理各種復雜的,不精確的和模糊的信息,善于理解語言、圖象并具有直覺感知等功能。

人腦的信息處理機制極其復雜,從結構上看它是包含有140億神經(jīng)細胞的大規(guī)模網(wǎng)絡。單個神經(jīng)細胞的工作速度并不高(毫秒級),但它通過超并行處理使得整個系統(tǒng)實現(xiàn)處理的高速性和信息表現(xiàn)的多樣性。

因此,從信息處理的角度對人腦進行研究,并由此研制出一種象人腦一樣能夠“思維”的智能計算機和智能信息處理方法,一直是人工智能追求的目標。

神經(jīng)網(wǎng)絡就是通過對人腦的基本單元---神經(jīng)元的建模和聯(lián)結,來探索模擬人腦神經(jīng)系統(tǒng)功能的模型,并研制一種具有學習、聯(lián)想、記憶和模式識別等智能信息處理功能的人工系統(tǒng)。本文介紹神經(jīng)網(wǎng)絡的特點以及近年來有關神經(jīng)網(wǎng)絡與混沌理論、模糊計算和遺傳算法等相結合的混合神經(jīng)網(wǎng)絡研究的動態(tài)。

一.神經(jīng)網(wǎng)絡和聯(lián)結主義

回顧認知科學的發(fā)展,有所謂符號主義和聯(lián)結主義兩大流派。符號主義從宏觀層次上,撇開人腦的內(nèi)部結構和機制,僅從人腦外在表現(xiàn)出來的智能現(xiàn)象出發(fā)進行研究。例如,將記憶、判斷、推理、學習等心理活動總結成規(guī)律、甚至編制成規(guī)則,然后用計算機進行模擬,使計算機表現(xiàn)出各種智能。

符號主義認為,認識的基本元素是符號,認知過程是對符號表示的運算。人類的語言,文字的思維均可用符號來描述,而且思維過程只不過是這些符號的存儲、變換和輸入、輸出而已。以這種方法實現(xiàn)的系統(tǒng)具有串行、線性、準確、簡潔、易于表達的特點,體現(xiàn)了邏輯思維的基本特性。七十年代的專家系統(tǒng)和八十年代日本的第五代計算機研究計劃就是其主要代表。

聯(lián)接主義則與其不同,其特點是從微觀出發(fā)。聯(lián)接主義認為符號是不存在的,認知的基本元素就是神經(jīng)細胞(神經(jīng)元),認知過程是大量神經(jīng)元的聯(lián)接,以及這種聯(lián)接所引起的神經(jīng)元的不同興奮狀態(tài)和系統(tǒng)所表現(xiàn)出的總體行為。八十年代再度興起的神經(jīng)網(wǎng)絡和神經(jīng)計算機就是這種聯(lián)接主義的代表。

神經(jīng)網(wǎng)絡的主要特征是:大規(guī)模的并行處理和分布式的信息存儲,良好的自適應、自組織性,以及很強的學習功能、聯(lián)想功能和容錯功能。與當今的馮.諾依曼式計算機相比,更加接近人腦的信息處理模式。主要表現(xiàn)如下:

☆神經(jīng)網(wǎng)絡能夠處理連續(xù)的模擬信號。例如連續(xù)灰度變化的圖象信號。

☆能夠處理混沌的、不完全的、模糊的信息。

☆傳統(tǒng)的計算機能給出精確的解答,神經(jīng)網(wǎng)絡給出的是次最優(yōu)的逼近解答。

☆神經(jīng)網(wǎng)絡并行分布工作,各組成部分同時參與運算,單個神經(jīng)元的動作速度不高,但總體的處理速度極快。

☆神經(jīng)網(wǎng)絡信息存儲分布于全網(wǎng)絡各個權重變換之中,某些單元障礙并不影響信息的完整,具有魯棒性。

☆傳統(tǒng)計算機要求有準確的輸入條件,才能給出精確解。神經(jīng)網(wǎng)絡只要求部分條件,甚至對于包含有部分錯誤的輸入,也能得出較好的解答,具有容錯性。

☆神經(jīng)網(wǎng)絡在處理自然語言理解、圖象模式識別、景物理解、不完整信息的處理、智能機器人控制等方面有優(yōu)勢。

符號主義和聯(lián)接主義兩者各有特色,學術界目前有一種看法:認為基于符號主義得傳統(tǒng)人工智能和基于聯(lián)接主義得神經(jīng)網(wǎng)絡是分別描述人腦左、右半腦的功能,反映了人類智能的兩重性:精確處理和非精確處理,分別面向認識的理性和感性兩個方面,兩者的關系應該是互補而非互相代替。理想的智能系統(tǒng)及其表現(xiàn)的智能行為應是兩者相互結合的結果。

接下去的問題是,符號AI和聯(lián)接AI具體如何結合,兩者在智能系統(tǒng)中相互關系如何?分別扮演什么角色?目前這方面發(fā)表的文獻很多,大致有如下幾種類型:

1.松耦合模型:符號機制的專家系統(tǒng)與聯(lián)接機制的神經(jīng)網(wǎng)絡通過一個中間媒介(例如數(shù)據(jù)文件)進行通訊。

2.緊耦合模型:與松耦合模型相比較,其通訊不是通過外部數(shù)據(jù)進行,而是直接通過內(nèi)部數(shù)據(jù)完成,具有較高的效率。其主要類型有嵌入式系統(tǒng)和黑板結構等。

3.轉(zhuǎn)換模型:將專家系統(tǒng)的知識轉(zhuǎn)換成神經(jīng)網(wǎng)絡,或把神經(jīng)網(wǎng)絡轉(zhuǎn)換成專家系統(tǒng)的知識,轉(zhuǎn)換前的系統(tǒng)稱為源系統(tǒng),轉(zhuǎn)換后的系統(tǒng)稱為目標系統(tǒng),由一種機制轉(zhuǎn)成另一種機制。如果源系統(tǒng)是專家系統(tǒng),目標系統(tǒng)是神經(jīng)網(wǎng)絡,則可獲得學習能力及自適應性;反之,可獲得單步推理能力、解釋能力及知識的顯式表示。當然,轉(zhuǎn)換需要在兩種的機制之間,確定結構上的一致性,目前主要問題是還沒有一種完備而精確的轉(zhuǎn)換方法實現(xiàn)兩者的轉(zhuǎn)換。有待進一步研究。

4.綜合模型:綜合模型共享數(shù)據(jù)結構和知識表示,這時聯(lián)接機制和符號機制不再分開,兩者相互結合成為一個整體,既具有符號機制的邏輯功能,又有聯(lián)接機制的自適應和容錯性的優(yōu)點和特點。例如聯(lián)接主義的專家系統(tǒng)等。

近年來神經(jīng)網(wǎng)絡研究的另一個趨勢,是將它與模糊邏輯、混沌理論、遺傳進化算法等相結合,即所謂“混合神經(jīng)網(wǎng)絡”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法,人們希望通過她們之間的相互結合,能夠獲得具有有柔性信息處理功能的系統(tǒng)。下面分別介紹。

二.混沌理論與智能信息處理

混沌理論是對貌似無序而實際有序,表面上看來是雜亂無章的現(xiàn)象中,找出其規(guī)律,并予以處理的一門學科。早在七十年代,美國和歐洲的一些物理學家、生物學家、數(shù)學家就致力于尋求在許許多多不同種類的不規(guī)則性之間的聯(lián)系。生物學家發(fā)現(xiàn)在人類的心臟中有混沌現(xiàn)象存在,血管在顯微鏡下交叉纏繞,其中也有驚人的有序性。在生物腦神經(jīng)系統(tǒng)中從微觀的神經(jīng)膜電位到宏觀的腦電波,都可以觀察到混沌的性態(tài),證明混沌也是神經(jīng)系統(tǒng)的正常特性。

九十年代開始,則更進一步將混沌和神經(jīng)網(wǎng)絡結合起來,提出多種混沌神經(jīng)網(wǎng)絡模型,并探索應用混沌理論的各種信息處理方法。例如,在神經(jīng)元模型中,引入神經(jīng)膜的不應性,研究神經(jīng)元模型的混沌響應,研究在神經(jīng)網(wǎng)絡的方程中,不應性項的定標參數(shù),不定性時間衰減常數(shù)等參數(shù)的性質(zhì),以及這些參數(shù)于神經(jīng)網(wǎng)絡混沌響應的關系,并確定混沌---神經(jīng)網(wǎng)絡模型具有混沌解的參數(shù)空間。經(jīng)過試驗,由這種混沌神經(jīng)網(wǎng)絡模型所繪出的輸出圖形和腦電圖極為相似。

現(xiàn)代腦科學把人腦的工作過程看成為復雜的多層次的混沌動力學系統(tǒng)。腦功能的物理基礎是混沌性質(zhì)的過程,腦的工作包含有混沌的性質(zhì)。通過混沌動力學,研究、分析腦模型的信息處理能力,可進一步探索動態(tài)聯(lián)想記憶、動態(tài)學習并應用到模式識別等工程領域。例如:

☆對混沌的隨機不規(guī)則現(xiàn)象,可利用混沌理論進行非線性預測和決策。

☆對被噪聲所掩蓋的微弱信號,如果噪聲是一種混沌現(xiàn)象,則可通過非線性辨識,有效進行濾波。

☆利用混沌現(xiàn)象對初始值的敏銳依賴性,構成模式識別系統(tǒng)。

☆研究基于混沌---神經(jīng)網(wǎng)絡自適應存儲檢索算法。該算法主要包括三個步驟,即:特征提取、自適應學習和檢索。

模式特征提取采用從簡單的吸引子到混沌的層次分支結構來描述,這種分支結構有可能通過少數(shù)幾個系統(tǒng)參數(shù)的變化來加以控制,使復雜問題簡單化。自適應學習采用神經(jīng)網(wǎng)絡的誤差反傳學習法。檢索過程是通過一個具有穩(wěn)定吸引子的動力學系統(tǒng)來完成,即利用輸入的初始條件與某個吸引子(輸出)之間的存在直接對應關系的方法進行檢索。利用這種方法可應用于模式識別。例如黑白圖象的人臉識別。

三.模糊集理論與模糊工程

八十年代以來在模糊集理論和應用方面,也有很大進展。1983年美國西海岸AI研究所發(fā)表了稱為REVEAL的模糊輔助決策系統(tǒng)并投入市場,1986年美國將模糊邏輯導入OPS---5,并研究成功模糊專家系統(tǒng)外殼FLOPS,1987年英國發(fā)表采用模糊PROLOG的智能系統(tǒng)FRIL等。除此通用工具的研制以外,各國還開發(fā)一系列用于專用目的的智能信息處理系統(tǒng)并實際應用于智能控制、模式識別、醫(yī)療診斷、故障檢測等方面。

模糊集理論和神經(jīng)網(wǎng)絡雖然都屬于仿效生物體信息處理機制以獲得柔性信息處理功能的理論,但兩者所用的研究方法卻大不相同,神經(jīng)網(wǎng)絡著眼于腦的微觀網(wǎng)絡結構,通過學習、自組織化和非線性動力學理論形成的并行分析方法,可處理無法語言化的模式信息。而模糊集理論則著眼于可用語言和概念作為代表的腦的宏觀功能,按照人為引入的隸屬度函數(shù),邏輯的處理包含有模糊性的語言信息。

神經(jīng)網(wǎng)絡和模糊集理論目標相近而方法各異。因此如果兩者相互結合,必能達到取長補短的作用。將模糊和神經(jīng)網(wǎng)絡相結合的研究,約在15年前便已在神經(jīng)網(wǎng)絡領域開始,為了描述神經(jīng)細胞模型,開始采用模糊語言,把模糊集合及其運算用于神經(jīng)元模型和描述神經(jīng)網(wǎng)絡系統(tǒng)。目前,有關模糊---神經(jīng)網(wǎng)絡模型的研究大體上可分為兩類:一類是以神經(jīng)網(wǎng)絡為主,結合模糊集理論。例如,將神經(jīng)網(wǎng)絡參數(shù)模糊化,采用模糊集合進行模糊運算。另一類以模糊集、模糊邏輯為主,結合神經(jīng)網(wǎng)絡方法,利用神經(jīng)網(wǎng)絡的自組織特性,達到柔性信息處理的目的。

與神經(jīng)網(wǎng)絡相比,模糊集理論和模糊計算是更接近實用化的理論,特別近年來美國和日本的各大公司都紛紛推出各種模糊芯片,研制了型號繁多的模糊推理板,并實際應用于智能控制等各個應用領域,建立“模糊工程”這樣一個新領域。日本更首先在模糊家電方面打開市場,帶有模糊控制,甚至標以神經(jīng)---模糊智能控制的洗衣機、電冰箱、空調(diào)器、攝象機等已成為新一代家電的時髦產(chǎn)品。我國目前市場上也有許多洗衣機,例如榮事達洗衣機就是采用模糊神經(jīng)網(wǎng)絡智能控制方式的洗衣機。

四.遺傳算法

遺傳算法(GeneticAlgorithm:GA)是模擬生物的進化現(xiàn)象(自然、淘汰、交叉、突然變異)的一種概率搜索和最優(yōu)化方法。是模擬自然淘汰和遺傳現(xiàn)象的工程模型。

GA的歷史可追溯到1960年,明確提出遺傳算法的是1975年美國Michigan大學的Holland博士,他根據(jù)生物進化過程的適應現(xiàn)象,提出如下的GA模型方案:

1.將多個生物的染色體(Chromosmoe)組成的符號集合,按文字進行編碼,稱為個體。

2.定義評價函數(shù),表示個體對外部環(huán)境的適應性。其數(shù)值大的個體表示對外部環(huán)境的適應性高,它的生存(子孫的延續(xù))的概率也高。

3.每個個體由多個“部分”組合而成,每個部分隨機進行交叉及突然變異等變化,并由此產(chǎn)生子孫(遺傳現(xiàn)象)。

4.個體的集合通過遺傳,由選擇淘汰產(chǎn)生下一代。

遺傳算法提出之后,很快得到人工智能、計算機、生物學等領域科學家的高度重視,并在各方面廣泛應用。1989年美國Goldberg博士發(fā)表一本專著:“GeneticAlgorithmsinSearch,OptimizationandMachineLearning”。出版后產(chǎn)生較大影響,該書對GA的數(shù)學基礎理論,GA的基本定理、數(shù)理分析以及在搜索法、最優(yōu)化、機器學習等GA應用方面進行了深入淺出的介紹,并附有Pascal模擬程序。

1985年7月在美國召開第一屆“遺傳算法國際會議”(ICGA)。以后每隔兩年召開一次。近年來,遺傳算法發(fā)展很快,并廣泛應用于信息技術的各個領域,例如:

智能控制:機器人控制。機器人路徑規(guī)劃。

工程設計:微電子芯片的布局、布線;通信網(wǎng)絡設計、濾波器設計、噴氣發(fā)動機設計。

圖象處理:圖象恢復、圖象識別、特征抽取。

調(diào)度規(guī)劃:生產(chǎn)規(guī)劃、調(diào)度問題、并行機任務分配。

優(yōu)化理論:TSP問題、背包問題、圖劃分問題。

人工生命:生命的遺傳進化以及自增殖、自適應;免疫系統(tǒng)、生態(tài)系統(tǒng)等方面的研究。

神經(jīng)網(wǎng)絡、模糊集理論和以遺傳算法為代表的進化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標相近而方法各異;將它們相互結合,必能達到取長補短、各顯優(yōu)勢的效果。例如,遺傳算法與神經(jīng)網(wǎng)絡和模糊計算相結合方面就有:

☆神經(jīng)網(wǎng)絡連續(xù)權的進化。

傳統(tǒng)神經(jīng)網(wǎng)絡如BP網(wǎng)絡是通過學習,并按一定規(guī)則來改變數(shù)值分布。這種方法有訓練時間過長和容易陷入局部優(yōu)化的問題。采用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡可以克服這個缺點。

☆神經(jīng)網(wǎng)絡結構的進化。

目前神經(jīng)網(wǎng)絡結構的設計全靠設計者的經(jīng)驗,由人事先確定,還沒有一種系統(tǒng)的方法來確定網(wǎng)絡結構,采用遺傳算法可用來優(yōu)化神經(jīng)網(wǎng)絡結構。

☆神經(jīng)網(wǎng)絡學習規(guī)則的進化。

采用遺傳算法可使神經(jīng)網(wǎng)絡的學習過程能夠適應不同問題和環(huán)境的要求。

☆基于遺傳算法的模糊推理規(guī)則的優(yōu)化,以及隸屬度函數(shù)的自適應調(diào)整也都取得很好效果。