信息論與編碼 第一章 緒論

《信息論與編碼 第一章 緒論》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、信息論與編碼課程信息教材及主要參考書：①《信息論基礎(chǔ)教程》第二版李梅,李亦農(nóng)北京郵電大學(xué)出版社，2008年10月②《信息論---基礎(chǔ)理論與應(yīng)用》，傅祖蕓電子工業(yè)出版社，2001年8月考核：平時成績20％（作業(yè)、考勤、實驗）期末考試80％（閉卷）答疑：實踐性教學(xué)內(nèi)容、要求及學(xué)時分配實驗一：信道容量的迭代算法2學(xué)時實驗二：Huffman編碼2學(xué)時實驗三：通信系統(tǒng)仿真4學(xué)時（備選題目：LZW壓縮編碼）國外參考教材T.M.Cover,FundamentalofInformationTheory?最為流行的英文教材，為Stanford、MIT等學(xué)校的研究生課程選用?數(shù)學(xué)推導(dǎo)適中，強

2、調(diào)概念，作為參考教材R.G.Gallager,InformationTheoryandReliableCommunication?數(shù)學(xué)推導(dǎo)較為艱深?作為提高教材第一章：緒論一、什么是信息二、通信系統(tǒng)模型三、信息論的研究內(nèi)容四、信息論的形成和發(fā)展第一章：緒論一、什么是信息二、通信系統(tǒng)模型三、信息論的研究內(nèi)容四、信息論的形成和發(fā)展1.概述2.信息的通俗概念3.信息的狹義概念（香農(nóng)信息）4.信息的廣義概念組成客觀世界的三大基本要素：物質(zhì)能量信息沒有物質(zhì)什么都不存在，沒有能量什么都不會發(fā)生，沒有信息什么都沒有意義。——美國學(xué)者歐廷格研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型第一章：

3、緒論1.概述2.信息的通俗概念信息的通俗概念：消息就是信息。用文字、符號、數(shù)據(jù)、語言、音符、圖片、圖像等能夠被人們感覺器官所感知的形式，把客觀物質(zhì)運動和主觀思維活動的狀態(tài)表達出來，就稱為消息。研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型第一章：緒論消息中包含信息，消息是信息的載體。2.信息的通俗概念（續(xù)1）信號是表示消息的物理量，包括電信號、光信號等。信號中攜帶著消息，信號是消息的載體。信息信號消息研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型第一章：緒論3.信息的狹義概念（香農(nóng)信息）第一章：緒論研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型香農(nóng)信息：信息是對事物運動狀態(tài)或存在方式的不確

4、定性的描述。通信的基本問題是在一點(信宿）精確或近似恢復(fù)另一點（信源）所選擇的消息。————香農(nóng)通信的過程就是消除不確定性的過程。3.信息的狹義概念（香農(nóng)信息）（續(xù)1）第一章：緒論例1：甲袋紅、白球各50個，乙袋紅、白、藍、黑球各25個。比較從甲袋中取出一個球是紅球的事件和從乙袋中取出一個球是紅球的事件發(fā)生的難易程度，也就是事件發(fā)生的不確定性。研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型3.信息的狹義概念（香農(nóng)信息）（續(xù)2）第一章：緒論例2：北京地區(qū)十月份可能出現(xiàn)的天氣包括：晴、陰、雨、雪。比較天氣預(yù)報為“晴”和天氣預(yù)報為“雪”，給人們帶來的信息量。研究內(nèi)容形成和發(fā)展什么是信

5、息通信系統(tǒng)模型結(jié)論：不確定性的大小與事件發(fā)生的概率有關(guān)。3.信息的狹義概念（香農(nóng)信息）（續(xù)3）第一章：緒論研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型不確定性的大小與事件發(fā)生的概率有關(guān)因此，信息量可以表示為概率的函數(shù)。不確定性是概率的函數(shù)3.信息的狹義概念（香農(nóng)信息）（續(xù)4）信息與概率的關(guān)系：事件發(fā)生的概率越大，該事件包含的信息量越小；如果一個事件發(fā)生的概率為1，那么它包含的信息量為0；兩個相互獨立事件所提供的信息量應(yīng)等于它們各自提供的信息量之和。第一章：緒論研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型3.信息的狹義概念（香農(nóng)信息）（續(xù)5）某個消息的不確定性（含有的信息量）可以表

6、示為：第一章：緒論研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型信源的平均不確定性：3.信息的狹義概念（香農(nóng)信息）（續(xù)6）第一章：緒論香農(nóng)信息的優(yōu)點：有明確的數(shù)學(xué)表達式，定量化與人們直觀理解的信息含義一致不考慮收信者主觀感受的不同，認為同一消息對任何收信者，所得信息量相同。研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型3.信息的狹義概念（香農(nóng)信息）（續(xù)7）第一章：緒論香農(nóng)信息的局限：沒有考慮收信者的主觀特性和主觀意義研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型4.信息的廣義概念研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型信息是認識主體（人、生物、機器）所感受的和表達的事物運動的狀態(tài)和運動狀態(tài)

7、變化的方式。語法信息語義信息語用信息第一章：緒論第一章：緒論一、什么是信息二、通信系統(tǒng)模型三、信息論的研究內(nèi)容四、信息論的形成和發(fā)展1.通信系統(tǒng)模型2.提高通信系統(tǒng)的性能指標的措施1.通信系統(tǒng)模型研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型第一章：緒論圖1通信系統(tǒng)模型1.通信系統(tǒng)模型（續(xù)1）信源編碼器信道譯碼器信宿第一章：緒論研究內(nèi)容形成和發(fā)展什么是信息通信系統(tǒng)模型1）信源研究內(nèi)容：信源發(fā)出的消息的統(tǒng)計特性離散信源、連續(xù)信源、波形信源有記憶信源和無記憶信源平穩(wěn)信源和非平穩(wěn)信源信源產(chǎn)生信息的速率熵率第一章：緒論研究內(nèi)容形成和發(fā)展什么