資源描述：
《信息論與編碼理論1B卷答案.doc》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、廣州大學(xué)2015-2016學(xué)年第1學(xué)期考試B卷答案課程信息論與編碼理論1考試形式（閉卷，考試）學(xué)院系專業(yè)班級(jí)學(xué)號(hào)姓名 __題次一二三四五六七八九十總分評(píng)卷人分?jǐn)?shù)151471100評(píng)分一、單項(xiàng)選擇題（每題3分，總計(jì)15分）1．當(dāng)?shù)诪?時(shí)，自信息的單位為（B）。A奈特B比特C奈特/符號(hào)D比特/符號(hào)2．下列量當(dāng)交換位置時(shí)（C）沒(méi)有對(duì)稱性。ABCD3下列性質(zhì)不是離散集的熵性質(zhì)的是（C）A對(duì)稱性B非負(fù)性C不確定性D可加性4．下列數(shù)組中（A）不滿足兩個(gè)字母上的Kraft不等式。A(1，1，1)B(2,2)C(1,2,3)D（3，3，3）
2、5．異字頭碼中平均碼長(zhǎng)最短的稱為最佳碼，下列編碼方法不能得到最佳碼的是（D）AShannon-Fano編碼BHuffman編碼C算術(shù)編碼DLZ編碼二、填空題（每空2分，總計(jì)14分）1．若二元離散無(wú)記憶中，，則當(dāng)給出比特的信源序列，其中有個(gè)，則其自信息為比特，整個(gè)序列的熵為比特/符號(hào).2．若一個(gè)信道的輸入熵為比特/符號(hào)，輸出熵為比特/符號(hào)，比特/符號(hào)，則2.9比特/符號(hào)，散布度為0.8比特/符號(hào)。3．平均互信息對(duì)信源概率分布是上凸函數(shù)，對(duì)信道的狀態(tài)轉(zhuǎn)移概率分布是下凸函數(shù)。4．在二元LZ編碼中，若信源有個(gè)，某段信源序列共有個(gè)字典，則碼
3、長(zhǎng)。三、計(jì)算題（71分）1）（15分）設(shè)隨機(jī)變量的聯(lián)合概率分布如下：01010。分別求。解:的分布率為01則比特/符號(hào).……………………………………………………………………..3分的分布率為01則比特/符號(hào).…………………………………………………..……..6分01010=,==0,===比特/符號(hào).……………..10分01=1,=0=0,=1則=0比特/符號(hào)..…………………………………………………………………………..15分2）（22分）若離散無(wú)記憶信源的概率分布為①分別構(gòu)造二元，三元Huffman編碼（要求碼長(zhǎng)方差最小，但不
4、需求出），Shannon編碼，F(xiàn)ano編碼，Shannon-Fano-Elias編碼。②并求①中二元Huffman編碼的編碼效率。（只列出式子即可）解:對(duì)信源按概率從大到小排序,,建立碼樹(shù)則有二元Huffman編碼:………………………………………………...…….4分要進(jìn)行三元Huffman編碼,則需要添加一個(gè)空信源,成為,建立碼樹(shù)則有三元Huffman編碼:……………………….8分Shannon編碼如下:信源碼長(zhǎng)累加概率碼字200020.40130.710140.91110…………………………………………………………………………
5、…….12分①Fano編碼如下:信源概率第1次分組第2次分組第3次分組碼字0.4000.310100.1101100.11111……………………………………………………………………………….16分②Shannon-Fano-Elias編碼信源概率二元碼字0.10.10.0550.00001000010.20.30.240.00010000010.30.60.4530.0110110.410.830.110110………………………………………………………………………………………….….20分③二元Huffman編碼的平均碼長(zhǎng)為==1
6、.9…….21分④編碼效率為…………………………...22分3）（12分）若二元信源，，，對(duì)10011進(jìn)行算術(shù)編碼。解：,碼長(zhǎng)……….……………………...4分利用,,…………………………..…...6分……………………………….…...8分=…………………………….……….....10分=0.541015625=(0.100010).編碼為100010.……….……….….....12分4）（22分）對(duì)輸入流1101110分別用LZ-77，LZ-78，LZW和KY算法進(jìn)行編碼,并對(duì)LZW編碼進(jìn)行解碼。解：LZ-77編碼：(0,0
7、,1),(1,1,0),(2,1,0),(3,2,1),(4,1,eof).………………………………………….…...4分LZ-78編碼：將輸入流序列分段為1，10，11，10，則有字典段號(hào)短語(yǔ)11210311410碼字為(0,1),(1,0),(1,1),(1,0)………………………………………….…...9分LZW編碼：初始字典碼字12詞條01新詞條輸出碼3456111100111110NYYYYN22134,eof編碼為初始字典和數(shù)列2，2，1，3，4,eof.…………………………………….…...13分解碼：收到初始字典和
8、數(shù)列2，2，1，3，4,eof后重構(gòu)字典和輸出流如下：1)輸入2，輸出1，由于下一個(gè)輸入為2，則存11為新詞條3，2)輸入2，輸出1，由于下一個(gè)輸入為1，則存10為新詞條4，3)輸入1，輸出0，由于下一個(gè)輸入為3，則存01為新詞條5，1)輸入3，輸
