資源描述：
《《信道與信道容量z》PPT課件》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。
1、第五章：信道與信道容量本章節(jié)達(dá)到的目的了解信息論研究信道的目的、內(nèi)容了解信道的基本分類并掌握信道的基本描述方法掌握信道容量/信道容量代價(jià)函數(shù)的概念，以及與互信息、信道輸入概率分布、信道轉(zhuǎn)移函數(shù)的關(guān)系能夠計(jì)算簡(jiǎn)單信道的信道容量/信道容量代價(jià)函數(shù)（對(duì)稱離散信道、無(wú)記憶加性高斯噪聲信道）了解信道容量/容量代價(jià)函數(shù)在研究通信系統(tǒng)中的作用理解香農(nóng)第一定理又稱無(wú)噪信道編碼的物理意義進(jìn)一步從信息論的角度理解香農(nóng)公式及其用途概念問(wèn)題熵?熵率?無(wú)失真信源編碼定理中的作用互信息?信道容量?信道編碼定理中的作用回顧－互信息函數(shù)的性質(zhì)1互信息與信道輸入概率分布的關(guān)系性質(zhì)1：I(X
2、;Y)是信道輸入概率分布p(x)的上凸函數(shù).信道回顧－互信息函數(shù)的性質(zhì)2互信息與信道轉(zhuǎn)移概率分布的關(guān)系性質(zhì)2：I(X;Y)是信道轉(zhuǎn)移概率分布p(y/x)的下凹函數(shù).信道1信道2信道回顧－互信息函數(shù)的性質(zhì)3互信息與信道輸入符號(hào)相關(guān)性的關(guān)系性質(zhì)3:信道的輸入是離散無(wú)記憶的,即：則：回顧－互信息函數(shù)的性質(zhì)4互信息與信道輸入符號(hào)相關(guān)性的關(guān)系性質(zhì)4:信道是離散無(wú)記憶的,即：則：回顧－互信息函數(shù)的性質(zhì)5性質(zhì)3、性質(zhì)4的推論：信道的輸入和信道本身都是離散無(wú)記憶的信息論對(duì)信道研究的內(nèi)容信道的建模：用恰當(dāng)?shù)妮斎?輸出兩個(gè)隨機(jī)過(guò)程來(lái)描述信道容量不同條件下充分利用信道容量的各種
3、辦法什么是信道？信道的作用研究信道的目的§5.1:概述－1§5.1:概述－2什么是信道？信道是傳送信息的載體——信號(hào)所通過(guò)的通道。信息是抽象的，信道則是具體的。比如：二人對(duì)話，二人間的空氣就是信道；打電話，電話線就是信道；看電視，聽(tīng)收音機(jī)，收、發(fā)間的空間就是信道?！?.1:概述－3信道的作用在信息系統(tǒng)中信道主要用于傳輸與存儲(chǔ)信息，而在通信系統(tǒng)中則主要用于傳輸。信道傳輸信息的速率：與物理信道本身的特性、載荷信息的信號(hào)形式和信源輸出信號(hào)的統(tǒng)計(jì)特性有關(guān)。信道容量研究?jī)?nèi)容：在什么條件下，通過(guò)信道的信息量最大?！?.1:概述－4研究信道的目的實(shí)現(xiàn)信息傳輸?shù)挠行院涂?/p>
4、靠性有效性：充分利用信道容量，使傳輸?shù)男畔⒘勘M可能大可靠性：通過(guò)信道編碼降低誤碼率結(jié)合通信系統(tǒng)研究信道，主要是為了描述、度量、分析不同類型信道，計(jì)算其容量，即極限傳輸能力，并分析其特性。通信技術(shù)研究－－信號(hào)在信道中傳輸?shù)倪^(guò)程所遵循的物理規(guī)律，即傳輸特性信息論研究－－信息的傳輸問(wèn)題（假定傳輸特性已知）§5.2:信道的分類與描述信道分類信道描述§5.2:信道分類與描述－1信道分類從工程物理背景——傳輸媒介類型；從數(shù)學(xué)描述方式——信號(hào)與干擾描述方式；從信道本身的參數(shù)類型——恒參與變參；從用戶類型——單用戶與多用戶；§5.2:信道分類與描述－2§5.2:信道分類與
5、描述－3§5.2:信道分類與描述－4信道劃分是人為的，比如信源干擾編碼譯碼信宿傳輸媒介其中：為狹義的傳輸型信道，研究調(diào)制解調(diào)理論或模擬通信時(shí)常引用它，為連續(xù)信道；為廣義的傳輸型信道，研究數(shù)字通信、編碼解碼時(shí)常引用它，為離散信道；為半離散半連續(xù)的傳輸型信道§5.2:信道分類與描述－5§5.2:信道分類與描述－6信道描述信道可以引用三組變量來(lái)描述：信道輸入概率空間：信道輸出概率空間：信道概率轉(zhuǎn)移矩陣：即：它可簡(jiǎn)化為：§5.2:信道分類與描述－7其中：而§5.2:信道分類與描述－8當(dāng)K=1時(shí)，退化為單個(gè)消息（符號(hào)）信道；進(jìn)一步當(dāng)n=m=2時(shí)，退化為二進(jìn)制單個(gè)消息
6、信道。若它滿足對(duì)稱性，即構(gòu)成最常用的二進(jìn)制單消息對(duì)稱信道BSC：且：輸入輸出§5.3:離散無(wú)記憶信道及其信道容量離散無(wú)記憶信道及其信道容量一般離散無(wú)記憶信道容量的計(jì)算離散無(wú)記憶信道的信道容量定理對(duì)稱的離散無(wú)記憶信道容量的計(jì)算香農(nóng)第一定理的物理意義§5.3:離散無(wú)記憶信道及其信道容量-1離散消息序列信道信道中的記憶現(xiàn)象來(lái)源于物理信道中的慣性，如電纜信道中的電感電容、無(wú)線信道中電波傳布的衰落現(xiàn)象等?！?.3:離散無(wú)記憶信道及其信道容量-2信道的任務(wù)盡可能有效且可靠地傳輸信源的信息離散通信信道X={x1,x2,…,xr}信息流信息流通過(guò)特定信道（信道容量和噪聲特
7、性已定）傳輸可靠性?信道噪聲信道容量?傳輸有效性§5.3:離散無(wú)記憶信道及其信道容量-3H(X)H(Y)H(Y
8、X)H(X
9、Y)I(X;Y)SourceentropyReceivedinformation噪聲熵信道疑義度（損失熵）TransmittedpartofinformationH(X/Y)—信道疑義度/損失熵。Y關(guān)于X的后驗(yàn)不確定度。表示收到變量Y后，對(duì)隨機(jī)變量X仍然存在的不確定度。代表了在信道中損失的信息。H(X)—X的先驗(yàn)不確定度/無(wú)條件熵。I(X;Y)—收到Y(jié)前、后關(guān)于X的不確定度減少的量。從Y獲得的關(guān)于X的平均信息量。H(Y/X)—噪聲熵。
10、表示發(fā)出隨機(jī)變量X后，對(duì)隨機(jī)變量Y仍然存在的平均不確定度。如果信道
