資源描述：
《信息論與編碼理論1(A卷答案)》由會員上傳分享，免費在線閱讀，更多相關內容在教育資源-天天文庫。
1、2012-2013(2)信息論與編碼理論1A卷答案一、單項選擇題（每題3分，總計15分）1．當?shù)诪閑時，平均互信息的單位為（C）。A奈特B哈特C奈特/符號D哈特/符號2．下列量當交換位置時（C）沒有對稱性。ABCD3．下列（A）陳述是錯誤的。A算術編碼不需要知道信源的分布BLZ編碼不需要知道信源的分布C游程編碼不需要知道信源的分布DKY編碼不需要知道信源的分布4．下列數(shù)組中（A）不滿足兩個字母上的Kraft不等式。A(1，2，1)B(2,2)C(1,2,3)D（3，3，3）5．下列譯碼法則中（A）一定是錯誤概率最小
2、的。A最大后驗概率譯碼準則B最大似然譯碼準則C最小距離譯碼準則D最大先驗概率譯碼準則二、填空題（每空2分，總計12分）1．若某離散信道轉移概率矩陣為，則其信道容量為比特/符號。2．若一個信道的輸入熵為比特/符號，輸出熵為比特/符號，比特/符號，則__3.4比特/符號__，疑義度為1.2比特/符號_。3．平均互信息對信源概率分布是上凸函數(shù)，對信道的狀態(tài)轉移概率分布是下凸函數(shù)。4．對信源任一個元唯一可譯碼的平均碼長必大于等于。三、計算題（73分）1）（15分）設隨機變量的聯(lián)合概率分布如下：01010，為模2加。分別求。
3、解:的分布率為第7頁共5頁01則比特/符號……………………………………………………………………..3分的分布率為01則=0.811比特/符號.…………………………………………………..……..6分01010=,==0,====0.688比特/符號.……………..10分01=,=1=,=0第7頁共5頁則===0.2075比特/符號.…………………..15分2）（22分）若離散無記憶信源的概率分布為①分別構造二元，三元Huffman編碼（要求碼長方差最小，但不需求出），Shannon編碼，F(xiàn)ano編碼，Shannon-
4、Fano-Elias編碼。②并求①中二元Huffman編碼的編碼效率。（只列出式子即可）解:對信源按概率從大到小排序,,建立碼樹則有二元Huffman編碼:……………….4分要進行三元Huffman編碼,則需要添加一個空信源,成為,建立碼樹則有三元Huffman編碼:,………….8分Shannon編碼如下:信源碼長累加概率碼字200020.40140.7101140.8110050.91110050.9511110……………………………………………………………………………….12分第7頁共5頁Fano編碼如下:信源
5、概率第1次分組第2次分組第3次分組第4次分組第5次分組碼字0.4000.310100.1101100.11011100.0510111100.05111111……………………………………………………………………………….16分Shannon-Fano-Elias編碼信源概率二元碼字0.10.10.0550.00001000010.050.150.12560.0010000010000.050.20.17560.0010110010110.40.60.430.0110110.10.70.6550.1010011010
6、00.31.00.8530.110110…………………………………………………………………………………………………….….20分二元Huffman編碼的平均碼長為==2.2,…….21分編碼效率為……………………………………...22分3）（14分）若二元信源，，，對1101011進行算術編碼。解：,碼長利用,,第7頁共5頁=====0.48419189453125=(0.0111101).編碼為0111110.4）（22分）對輸入流0100100100111分別用LZ-77，LZ-78，LZW和KY算法進行編碼,
7、并對LZW編碼進行解碼。解：LZ-77編碼：(0,0,0),(0,0,1),(2,1,0),(3,3,1),(3,3,1),(1,1,eof).………………………………………….…...4分LZ-78編碼：將輸入流序列分段為0，1，00，10，01，001，11，則有字典段號短語10213004105016001711碼字為(0,0),(0,1),(1,0),(2,0),(1,1),(3,1),(2,1)………………………………………….…...9分LZW編碼：初始字典碼字12詞條01新詞條輸出碼345001100
8、0NYYY121第7頁共5頁67891001000110001111YYYYY354322,eof編碼為初始字典和數(shù)列1，2，1，3，5，4，3，2，2,eof.…………………………………….…...13分解碼：收到初始字典和數(shù)列1，2，1，3，5，4，3，2，2,eof.后重構字典和輸出流如下：1)輸入1，輸出0，由于下一個輸入為2，則存01為新詞條3，2
