資源描述：
《從Shannon信息論到認(rèn)知信息論》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、第32卷第8期哈爾濱工程大學(xué)學(xué)報(bào)Vol．32№．82011年8月JournalofHarbinEngineeringUniversityAug．2011doi:10．3969/j．issn．1006-7043．2011．08．018從Shannon信息論到認(rèn)知信息論盧侃(哈爾濱工程大學(xué)信息與通信工程學(xué)院，黑龍江哈爾濱150001)摘要:人類認(rèn)知屬于特定的信息活動，應(yīng)該有其相應(yīng)的數(shù)學(xué)理論．以Shannon信息論的熵理論為基礎(chǔ)，探討了認(rèn)知的數(shù)學(xué)原理，指出認(rèn)知活動其實(shí)就是從龐大的感知輸入信號之中，以一次次減熵的數(shù)學(xué)運(yùn)算獲得外界事物的存在信息和其屬性信息．并且還在事物性態(tài)的相互約束中，以減熵運(yùn)
2、算總結(jié)出事物間的規(guī)律信息．至于事物的狀態(tài)信息，可以通過規(guī)律知識加以預(yù)測，并在當(dāng)前適時(shí)的觀察中，從象信息參數(shù)的變異里檢測到．關(guān)鍵詞:認(rèn)知;減熵;象信息;物信息;規(guī)律知識信息中圖分類號:G201文獻(xiàn)標(biāo)識碼:A文章編號:1006-7043(2011)08-1063-05FromShannon'sinformationtheorytocognitiveinformationtheoryLUKan(CollegeofInformationandCommunicationEngineering，HarbinEngineeringUniversity，Harbin150001，China)Abstr
3、act:Humancognitionisakindofinformationactivity，soitmusthaverelevantmathematicaltheoriesofitsown．BasedontheentropytheoryofShannon＇sinformationtheory，thefundamentalmathematicalprincipleofcogni-tionwasdiscussed．Itwaspointedoutthatcognitionisaseriesofdecreasesinentropythroughwhichtheobjectin-formati
4、onandinformationofregularitiesareobtainedfromenormousinputperceptionsignals．Asforthestateofin-formation，itcanbepartlydeterminedbypredictionandpartlydetectedinrealobservationofthevariationsinap-pearanceinformation．Keywords:cognition;decreaseinentropy;appearanceinformation;objectinformation;inform
5、ationofregularity［1-2］Shannon信息論主要是通信的信息理論．但所理．提出的"信息就是不確定性的消除"這一基本論點(diǎn)，人類認(rèn)知活動其實(shí)也是一種信息加工的活動．不僅適用于描述通信的過程，也適用于描述認(rèn)知的原則上說，也是可以用嚴(yán)格的數(shù)學(xué)運(yùn)算來加以描述．過程．因?yàn)?，人類每次認(rèn)知的結(jié)果，都是對于外界事即類似于Shannon的"通信的數(shù)學(xué)理論"，應(yīng)該也有物信息的不確定性的減少或完全消除．透沏地說，通一種"認(rèn)知的數(shù)學(xué)理論"．一旦這個(gè)理論建立，認(rèn)知信也屬于一種間接的認(rèn)知，即將一些人的認(rèn)知傳給信息的活動就有了嚴(yán)格的數(shù)學(xué)模型．將這個(gè)模型實(shí)另一些人使之認(rèn)知而已．用化以后，一個(gè)可以做復(fù)
6、雜運(yùn)算的電子計(jì)算機(jī)就可Shannon信息論的精髓在于將通信的內(nèi)容抽象以實(shí)現(xiàn)認(rèn)知的運(yùn)算，從而出現(xiàn)真正的模擬人類認(rèn)知［3］為信息，賦予信息以數(shù)學(xué)的形式，將通信過程中的信的電子大腦．息加工變?yōu)閲?yán)格的數(shù)學(xué)運(yùn)算．如果一個(gè)信源的實(shí)際1認(rèn)知信息加工的原材料、產(chǎn)品和加信息熵小于其占用的編碼空間，那么，就可以對信源參數(shù)做一種編碼壓縮的數(shù)學(xué)變換，使新編碼所占用工的數(shù)學(xué)實(shí)質(zhì)的空間可以壓縮到接近甚至等于原始信源的信息1．1認(rèn)知信息加工的原材料熵．這樣，就可以用較少的信道容量完成通信而不丟人在感知外界時(shí)，感覺器官要輸入大量的物理失信息．如信道中有干擾，則增加相應(yīng)的監(jiān)督碼量來或化學(xué)刺激(通常稱為信號)．這些信號因
7、不同感官糾錯(cuò)而保證信息的無損傳輸．最后在接收端，還要做而有質(zhì)的不同;而相同感官輸入的同質(zhì)信號又因空一種譯碼的數(shù)學(xué)反變換以完整地恢復(fù)原始信號．這間和時(shí)間的離散采樣而有序位的不同，它們組成有就是Shannon的信源編碼和信道編碼的基本數(shù)學(xué)原標(biāo)的數(shù)據(jù)集合．?dāng)?shù)據(jù)集合的標(biāo)號提供感官的性質(zhì)、感知的位置和時(shí)間、感知的方向等信息;數(shù)據(jù)集合中的收稿日期:2010-10-19．序號則提供對同質(zhì)信號所做的離散空間和離散時(shí)間基金項(xiàng)目:國家自然科學(xué)基金資助項(xiàng)目(5037
