資源描述：
《《信道模型信道容量》PPT課件》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第3章 信道容量3.1信道的數(shù)學(xué)模型和分類3.2單符號(hào)離散信道的信道容量3.2.1信道容量的定義3.2.2幾種特殊離散信道的信道容量3.2.3離散信道容量的一般計(jì)算方法3.3多符號(hào)離散信道3.4多用戶信道3.5連續(xù)信道3.6信道編碼定理13.1信道的數(shù)學(xué)模型和分類信道是信息傳輸?shù)拿浇榛蛲ǖ馈Ｐ诺揽梢钥闯墒且粋€(gè)變換器，它將輸入事件X變換成輸出事件Y。X與Y之間是統(tǒng)計(jì)依賴關(guān)系。信道的數(shù)學(xué)模型：{XP(y/x)Y}信道XY干擾2信道的分類１－按時(shí)間特性根據(jù)輸入輸出事件的時(shí)間特性和集合的特點(diǎn)：離散信道：輸入離散，輸出離散連續(xù)信道：輸入連續(xù)，輸出連續(xù)
2、半連續(xù)信道：輸入和輸出一個(gè)離散一個(gè)連續(xù)時(shí)間離散的連續(xù)信道：輸入和輸出分別為有限個(gè)或可數(shù)無限個(gè)取自連續(xù)集的序列3信道的分類２－按輸入輸出個(gè)數(shù)根據(jù)信道的輸入和輸出個(gè)數(shù)：兩端信道（兩用戶信道）：輸入和輸出均只有一個(gè)事件集；多端信道（多用戶信道）：輸入和輸出中至少有一個(gè)具有兩個(gè)或兩個(gè)以上的事件集。4信道的分類３－按信道接入根據(jù)信道接入的不同：多元接入信道：多個(gè)不同信源的信息經(jīng)編碼后送入統(tǒng)一信道傳輸，接收端譯碼后再送給不同的信宿。如在衛(wèi)星通信系統(tǒng)中的應(yīng)用。廣播信道：單一輸入，多個(gè)輸出。5信道的分類４－按統(tǒng)計(jì)特性根據(jù)信道的統(tǒng)計(jì)特性：恒參信道：統(tǒng)計(jì)特性不
3、隨時(shí)間變化；隨參信道：統(tǒng)計(jì)特性隨時(shí)間變化。6信道的分類５－按記憶特性根據(jù)信道的記憶特性無記憶信道：信道輸出僅與當(dāng)前的輸入有關(guān)；有記憶信道：信道輸出不僅與當(dāng)前輸入有關(guān)，還與過去的輸入有關(guān)。7平均互信息定義：原始信源熵與信道疑義度之差稱為平均互信息含義：接收到輸出符號(hào)集Y以后，平均每個(gè)符號(hào)獲得的關(guān)于X的信息量。8平均互信息量等于X，Y的熵與它們的聯(lián)合熵之差，即I(X;Y)=H(X)+H(Y)—H(X,Y)平均互信息量總大于或等于0，即I(X;Y)=I(Y;X)≥0X與X的平均互信息量等于X的熵，即I(X;X)=H(X)對于固定的信源分布，平均互
4、信息量I(X;Y)是信道傳遞概率p(y/x)的下凸函數(shù)。對于固定的信道，平均互信息I(X;Y)是輸入信源的概率分布p(x)的上凸函數(shù)。平均互信息量9例3.2.3分析二元對稱信道考慮二元信道10例3.2.3固定二元對稱信道的平均互信息二元對稱信道的平均互信息為：定理：當(dāng)信道固定，即p為一個(gè)固定常數(shù)時(shí)，可得出I(X;Y)是信源分布w的上凸函數(shù)，如下圖所示（固定二元對稱信道的平均互信息）11例3.2.3固定二元對稱信道的平均互信息圖示曲線表明，對于固定的信道，輸入符號(hào)集X的概率分布不同時(shí)，在接收端平均每個(gè)符號(hào)所獲得的信息量就不同。當(dāng)輸入符號(hào)為等概
5、率分布時(shí)，即平均互信息量I(X;Y)為最大值，這時(shí)，接收每個(gè)符號(hào)所獲得的信息量最大。該定理是研究信道容量的基礎(chǔ)。12例3.2.3固定二元對稱信道的平均互信息圖示曲線表明，對于固定的信道，輸入符號(hào)集X的概率分布不同時(shí)，在接收端平均每個(gè)符號(hào)所獲得的信息量就不同。當(dāng)輸入符號(hào)為等概率分布時(shí)，即平均互信息量I(X;Y)為最大值，這時(shí)，接收每個(gè)符號(hào)所獲得的信息量最大。該定理是研究信道容量的基礎(chǔ)。13例3.2.3固定信源分布時(shí)的平均互信息二元對稱信道的平均互信息為定理：當(dāng)固定信源的概率分布w時(shí)，則平均互信息I(X;Y)是信道特性p的下凸函數(shù)，如下圖所示：
6、14例3.2.3固定信源分布時(shí)的平均互信息從上圖可知，當(dāng)二元信源固定后，改變信道特性p可獲得不同的平均互信息I(X;Y)。當(dāng)p=1/2時(shí)，I(X;Y)=0，即在信道輸出端獲得的信息最小，這意味著信源的信息全部損失在信道中，這是一種最差的信道，其噪聲最大。該定理是信息率失真論的基礎(chǔ)。15第3章 信道容量3.1信道的數(shù)學(xué)模型和分類3.2單符號(hào)離散信道的信道容量3.2.1信道容量的定義3.2.2幾種特殊離散信道的信道容量3.2.3離散信道容量的一般計(jì)算方法3.3多符號(hào)離散信道3.4多用戶信道3.5連續(xù)信道3.6信道編碼定理16信道容量的定義定義：
7、信道容量為平均互信息的最大值其單位是比特/符號(hào)或奈特/符號(hào)。平均互信息I(X;Y)是輸入變量X概率分布p(x)的上凸函數(shù)。對于一個(gè)固定的信道，總存在一種信源概率分布，使傳輸每一個(gè)符號(hào)平均獲得的信息量，即平均互信息I(X;Y)最大，而相應(yīng)的概率分布p(x)稱為最佳輸入分布。17信道容量的概念信道容量C僅與信道的統(tǒng)計(jì)特性有關(guān)，與信源分布無關(guān)。I(X;Y)的值是由信道傳遞概率決定的。信道傳遞概率矩陣描述了信道的統(tǒng)計(jì)特性平均互信息I(X;Y)在數(shù)值計(jì)算上表現(xiàn)為輸入分布p(x)的上凸函數(shù)，所以存在一個(gè)使某一特定信道的信息量達(dá)到極大值信道容量C的信源。
8、信道容量表征信道傳送信息的最大能力。實(shí)際中信道傳送的信息量必須小于信道容量，否則在傳送過程中將會(huì)出現(xiàn)錯(cuò)誤。18信息傳輸率R與信息傳輸速率RtR定義為：信道中平均每個(gè)符號(hào)所能傳送的
