資源描述:
《單符號離散信道的信道容量》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第3章信道容量2021/7/251本章主要內(nèi)容3.1信道的數(shù)學(xué)模型與分類3.2單符號離散信道的信道容量3.3多符號離散信道的信道容量3.4連續(xù)信道及其容量3.6信道編碼定理2021/7/2523.2單符號離散信道單符號離散信道的信道模型設(shè)輸入端信源符號集合為:輸出端信宿符號集合為:信道轉(zhuǎn)移概率為:令信道模型如圖所示Def:輸入輸出都取值于離散符號集合,且都用一個符號表示一條消息的信道。單符號離散信道的數(shù)學(xué)模型2021/7/253單符號離散信道的信道統(tǒng)計特性用轉(zhuǎn)移概率矩陣表示:信道容量:傳輸信息不失真的條件下的最大平均信息量或最大信
2、息速率Rmax信道上傳輸?shù)淖畲笃骄畔⒘浚篊=I(X;Y)maxbit/符號信道上傳輸?shù)淖畲笮畔⑺俾剩篟max信道統(tǒng)計特性2021/7/254信道容量的計算其中:t:傳輸一個符號需要的時間所以當(dāng)信道特性p(yj/xi)確定以后,信道的容量只和信源概率分布p(xi)有關(guān)。bit/符號s/符號2021/7/255幾種特殊離散信道的容量具有一一對應(yīng)關(guān)系的無噪信道:輸出集合和輸入集合的每個符號一一對應(yīng)(n=m),見圖3.3(a)。信道轉(zhuǎn)移概率矩陣為單位陣。因為輸入輸出一一對應(yīng):所以此時信道容量:C=I(X;Y)max=H(X)max=H(
3、Y)max=log2nbit/符號1112021/7/256幾種特殊離散信道的容量具有擴(kuò)展性能的無噪信道:一對多(n<m)見圖3.3(b),給定一個輸出,必能找到對應(yīng)的唯一輸入,即信道疑義度H(X/Y)=0。信道轉(zhuǎn)移概率矩陣:每列有且只有一個非零元素。C=I(X;Y)max=[H(X)-H(X/Y)]max由于H(X/Y)=0=H(X)max所以=H(X)max=log2nbit/符號時間n:行數(shù)2021/7/257幾種特殊離散信道的容量具有歸并性能的無噪信道:多對一(n>m),見圖3.3(c),給定一個輸入,必能找到對應(yīng)的唯一輸
4、出,即噪聲熵H(Y/X)=0。信道轉(zhuǎn)移概率矩陣:每行有且只有一個非零元素。C=I(X;Y)max=[H(Y)-H(Y/X)]max由于H(Y/X)=0所以=H(Y)max=log2mbit/符號時間m:列數(shù)2021/7/258對稱離散無記憶信道的信道容量對稱離散無記憶信道DMC(DiscreteMemorylessChannel):矩陣的每一行都是同一集合Q=(q1,q2,…,qm)中各元素的不同排列,每一列都是關(guān)于同一集合P=(p1,p2,…,pn)中各元素的不同排列,則稱為對稱信道。不是對稱信道每行的元素都取自同一集合Q={1
5、/6,1/6,1/3,1/3}每列的元素也都取自同一集合P={1/6,1/3}對稱信道對稱信道2021/7/259定理:對于對稱DMC,有H(Y
6、X)=Hmi證明:信道轉(zhuǎn)移概率矩陣任意一行的熵對稱:則H(Y/X)=Hmi=H(1/2,1/3,1/6)2021/7/2510對稱DMC信道的容量公式:C=I(X;Y)max=[H(Y)-H(Y
7、X)]max=[H(Y)-Hmi]max=H(Y)max-H(q1,q2,…,qm)設(shè)信源為單符號消息,符號數(shù)為n,等概分布,通過一個對稱的DMC信道,則信宿也等概分布(設(shè)符號數(shù)為m),此時信道
8、容量為:對稱DMC信道的信道容量2021/7/2511證明:若信源等概分布時,若通過對稱信道,則得到的信宿也等概分布:2021/7/2512例:求P1的信道容量。解:對稱DMC,所以2021/7/2513強(qiáng)對稱離散信道的信道容量強(qiáng)對稱離散信道def:易看出,該信道是一個特殊的對稱信道。求該信道的信道容量。易知轉(zhuǎn)移概率矩陣為:…2021/7/2514解:因為是對稱DMC信道,所以若取n=2,則則均勻信道變成BSC信道,則其容量為2021/7/2515準(zhǔn)對稱DMC的信道容量準(zhǔn)對稱DMC(關(guān)于行對稱或者關(guān)于列對稱)二元對稱刪除信道或分析
9、信道轉(zhuǎn)移矩陣p,兩行三列,說明信道有兩個輸入消息(設(shè)為),三個輸出消息(設(shè)為)2021/7/2516準(zhǔn)對稱DMC的信道容量例:已知,求此二元對稱刪除矩陣的信道容量C。解需求H(Y)Y的概率分布2021/7/2517說明準(zhǔn)對稱信道達(dá)到容量(極值)時,信源等概分布2021/7/2518令上題,則,叫做二元純刪除信道,信道轉(zhuǎn)移分布圖為:說明:輸入符號都以ε1的錯誤概率傳至收端,錯判為符號E2021/7/2519準(zhǔn)對稱DMC信道容量的求解步驟歸納求解準(zhǔn)對稱DMC信道容量的步驟:1、將轉(zhuǎn)移概率矩陣劃分成若干個互不相交的子集2、令信源等概分布
10、3、其中:n為信源符號個數(shù),即信道轉(zhuǎn)移矩陣的行數(shù)Hmi:轉(zhuǎn)移概率矩陣第i行的熵Nk:第k個子矩陣行元素之和Mk:第k個子矩陣列元素之和注:若準(zhǔn)對稱信道是關(guān)于列對稱,可以先進(jìn)行轉(zhuǎn)置,使其變成關(guān)于行對稱2021/7/2520例:求轉(zhuǎn)移概率為圖示P的信道