資源描述：
《THE RESEARCH PROGRESS AND PROSPECTS OF CHAOTIC NEURAL NETWORKS》由會員上傳分享，免費在線閱讀，更多相關內(nèi)容在學術論文-天天文庫。
1、第26卷第5期信息與控制Vol.26,No.51997年10月InformationandControlOct.,1997混沌神經(jīng)網(wǎng)絡研究進展與展望董軍胡上序(浙江大學杭州310027)摘要概述了混沌動力學的特性,回顧了近年來混沌神經(jīng)元模型及混沌神經(jīng)網(wǎng)絡的研究進展,在此基礎上,介紹了兩種混沌神經(jīng)網(wǎng)絡模型,分析了其構成和特點.已有研究結果表明,混沌神經(jīng)網(wǎng)絡在聯(lián)想記憶和組合優(yōu)化等方面有著比現(xiàn)有網(wǎng)絡更好的性能.最后,指出了混沌神經(jīng)網(wǎng)絡的應用與研究方向.關鍵詞混沌,人工神經(jīng)元,混沌神經(jīng)網(wǎng)絡,聯(lián)想記憶,組合優(yōu)化1引言在過去的十年里,人工神經(jīng)元網(wǎng)絡的研究與應用是
2、計算機與人工智能、認知科學、神經(jīng)生理學、非線性動力學等相關專業(yè)的熱點.它吸引了為數(shù)眾多的科技工作者,提出或用及的網(wǎng)絡類型有百種,涉及模式識別、決策優(yōu)化、聯(lián)想記憶、自適應控制和計算機視覺等等難以勝數(shù)的方面,有關神經(jīng)網(wǎng)絡算法、性能及應用的論文大量出現(xiàn).然而,由于目前人類對真實神經(jīng)系統(tǒng)只了解非常有限的一部分,對于自身腦結構及其活動機理的認識還十分膚淺,當今的神經(jīng)網(wǎng)絡模型實際上是極為簡略和粗糙,并且是帶有某種“先驗”的.譬如,Boltzmann機引入隨機擾動來避免局部最小,有其卓越之處,然而缺乏必要的腦生理學基礎.毫無疑問,人工神經(jīng)元網(wǎng)絡的完善與發(fā)展有待于神經(jīng)
3、生理學、神經(jīng)解剖學的研究給出更加詳細的信息和證據(jù).[1,2]近年來,人們發(fā)現(xiàn),腦中存在著混沌現(xiàn)象,混沌理論可用來理解腦中某些不規(guī)則的活[3]動,從而,混沌動力學為人們研究神經(jīng)網(wǎng)絡提供了新的契機,用神經(jīng)網(wǎng)絡研究或產(chǎn)生混沌以及構造混沌神經(jīng)網(wǎng)絡成為擺在人們面前的又一新課題.因為從生理本質(zhì)角度出發(fā)(這里并不是單純提倡純粹意義上的生理模擬,因為人類認識自然和社會的規(guī)律并非是一種“照抄照搬”的過程,只是應該有客觀的依據(jù)和明確的目的)是研究神經(jīng)網(wǎng)絡的根本手段.為此,本文對當今混沌神經(jīng)網(wǎng)絡的研究作一簡要回顧,疏漏之處在所難免,懇望指正.2混沌動力學簡介神經(jīng)網(wǎng)絡是高度非
4、線性動力學系統(tǒng).動力學系統(tǒng)一般可定義為由確定的微分方程或差分方程描述的一個系統(tǒng)在時間軸上的狀態(tài)演變,若刻劃系統(tǒng)的函數(shù)對自變量的依賴關系高于一[4]次,則此動力學系統(tǒng)為非線性動力學系統(tǒng).動力學系統(tǒng)中的吸引子(Attractor)是一個十分重要的概念,當某一時刻系統(tǒng)狀態(tài)確定后,其后的狀態(tài)將按動力學方程轉移,靠近某一穩(wěn)定狀態(tài),這樣的狀態(tài)便是吸引子.吸引子有許多種,包括點吸引子,周期吸引子,奇異吸引子(混沌是其典型例子).通常,神經(jīng)網(wǎng)絡有多個吸引子,吸引子對應的初值集合叫做吸引域.神經(jīng)網(wǎng)絡研究[5]的關鍵是吸引域.嚴格說來,混沌現(xiàn)象是不含外加隨機因素的完全確定
5、性的系統(tǒng)所表現(xiàn)出的內(nèi)秉隨機行1996-06-21收稿5期董軍等:混沌神經(jīng)網(wǎng)絡研究進展與展望361[6]為.是界于規(guī)則和隨機之間的一種行為.對于混沌性質(zhì)的判別,從數(shù)學上講至今沒有統(tǒng)一的定義,比較常用的有Li-Yorke,Devaney,Marotto意義下的混沌3種.在實際上為了刻劃混沌[7,8]動力學性質(zhì)往往用到Lyapunov指數(shù)和熵.設離散動力系統(tǒng)(X,f),初值為x0,生成軌道為{xn},n∈Z.考慮沿x0的某個切線方向上的無窮小擾動y0,則y0隨時間的演化服從于yn+1=Df(xn)yn(1)顯然y0/y0給出了在x0處所引起擾動方向,而
6、yn/y0表示擾動是放大或縮小.由(1)式得yn=Dfn(x0)y0(2)其中Dfn(x0)=Df(xn-1)Df(xn-2)?Df(x0).這樣就可定義在初值x0下,沿著y0/y0方向的Lyapunov指數(shù)為11nLE(x0,u0)=limln(yn/y0)=limln(Df(x0)u0)(3)n→∞nn→∞n其中u0=y0/y0.正的Lyapunov指數(shù)表征存在混沌行為.1963年Lorenz在分析氣侯數(shù)據(jù)時發(fā)現(xiàn):初值十分接近的兩條曲線的最終結果會相差很大,從而獲得了混沌的第一個例子;1975年Li-Yorke的論文“周
7、期三意味著混沌”使“混沌”一詞首次出現(xiàn)在科技文獻中.混沌可由簡單的確定性規(guī)則產(chǎn)生,其運動狀態(tài)可容易地由控制參數(shù)改變,并可使初值的微小差別加以擴大,表面上的非周期背后隱藏著有序性,混沌表明了長期預測是不可能的.混沌的研究始于數(shù)學和物理,現(xiàn)已擴及工程、信息和社會科學領域.目前,混沌的應用可分為綜合混沌(SyntheticChaos)和分析混沌(AnalyticChaos)兩方[9]面.前者利用人工產(chǎn)生的混沌從混沌動力學系統(tǒng)中獲得可能的功能,如人工神經(jīng)網(wǎng)絡的聯(lián)想記憶,逃離局部最小,機器人的路徑規(guī)劃等,它們都利用了簡單的確定性規(guī)則;后者分析由復雜的人工和自然系
8、統(tǒng)中獲得的混沌信號并尋找隱藏的確定性規(guī)則,如時間序列數(shù)據(jù)的非線性確定性預測,系統(tǒng)的診斷和控制等
