《信息論與編碼》課后習(xí)題答案.docx

《《信息論與編碼》課后習(xí)題答案.docx》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、1、在認(rèn)識(shí)論層次上研究信息的時(shí)候，必須同時(shí)考慮到形式、含義和效用三個(gè)方面的因素。2、1948年，美國(guó)數(shù)學(xué)家香農(nóng)發(fā)表了題為“通信的數(shù)學(xué)理論”的長(zhǎng)篇論文，從而創(chuàng)立了信息論。3、按照信息的性質(zhì)，可以把信息分成語(yǔ)法信息、語(yǔ)義信息和語(yǔ)用信息。4、按照信息的地位，可以把信息分成客觀(guān)信息和主觀(guān)信息。5、人們研究信息論的目的是為了高效、可靠、安全地交換和利用各種各樣的信息。6、信息的可度量性是建立信息論的基礎(chǔ)。7、統(tǒng)計(jì)度量是信息度量最常用的方法。8、熵是香農(nóng)信息論最基本最重要的概念。9、事物的不確定度是用時(shí)間統(tǒng)計(jì)發(fā)生概率的對(duì)數(shù)來(lái)描述的。10、單符號(hào)離散信源一般用隨機(jī)變量描述，而多符號(hào)離散信源一般

2、用隨機(jī)矢量描述。11、一個(gè)隨機(jī)事件發(fā)生某一結(jié)果后所帶來(lái)的信息量稱(chēng)為自信息量，定義為其發(fā)生概率對(duì)數(shù)的負(fù)值。12、自信息量的單位一般有比特、奈特和哈特。13、必然事件的自信息是0。14、不可能事件的自信息量是∞。15、兩個(gè)相互獨(dú)立的隨機(jī)變量的聯(lián)合自信息量等于兩個(gè)自信息量之和。16、數(shù)據(jù)處理定理：當(dāng)消息經(jīng)過(guò)多級(jí)處理后，隨著處理器數(shù)目的增多，輸入消息與輸出消息之間的平均互信息量趨于變小。17、離散平穩(wěn)無(wú)記憶信源X的N次擴(kuò)展信源的熵等于離散信源X的熵的N倍。18、離散平穩(wěn)有記憶信源的極限熵，。19、對(duì)于n元m階馬爾可夫信源，其狀態(tài)空間共有nm個(gè)不同的狀態(tài)。20、一維連續(xù)隨即變量X在[a，b

3、]區(qū)間內(nèi)均勻分布時(shí)，其信源熵為log2（b-a）。21、平均功率為P的高斯分布的連續(xù)信源，其信源熵，Hc（X）=。22、對(duì)于限峰值功率的N維連續(xù)信源，當(dāng)概率密度均勻分布時(shí)連續(xù)信源熵具有最大值。23、對(duì)于限平均功率的一維連續(xù)信源，當(dāng)概率密度高斯分布時(shí)，信源熵有最大值。24、對(duì)于均值為0，平均功率受限的連續(xù)信源，信源的冗余度決定于平均功率的限定值P和信源的熵功率之比。25、若一離散無(wú)記憶信源的信源熵H（X）等于2.5，對(duì)信源進(jìn)行等長(zhǎng)的無(wú)失真二進(jìn)制編碼，則編碼長(zhǎng)度至少為3。26、m元長(zhǎng)度為ki，i=1，2，···n的異前置碼存在的充要條件是：。27、若把擲骰子的結(jié)果作為一離散信源，則其

4、信源熵為log26。28、同時(shí)擲兩個(gè)正常的骰子，各面呈現(xiàn)的概率都為1/6，則“3和5同時(shí)出現(xiàn)”這件事的自信息量是log218（1+2log23）。29、若一維隨即變量X的取值區(qū)間是[0，∞]，其概率密度函數(shù)為，其中：，m是X的數(shù)學(xué)期望，則X的信源熵。30、一副充分洗亂的撲克牌（52張），從中任意抽取1張，然后放回，若把這一過(guò)程看作離散無(wú)記憶信源，則其信源熵為。31、根據(jù)輸入輸出信號(hào)的特點(diǎn)，可將信道分成離散信道、連續(xù)信道、半離散或半連續(xù)信道。32、信道的輸出僅與信道當(dāng)前輸入有關(guān)，而與過(guò)去輸入無(wú)關(guān)的信道稱(chēng)為無(wú)記憶信道。33、具有一一對(duì)應(yīng)關(guān)系的無(wú)噪信道的信道容量C=log2n。34、強(qiáng)

5、對(duì)稱(chēng)信道的信道容量C=log2n-Hni。35、對(duì)稱(chēng)信道的信道容量C=log2m-Hmi。36、對(duì)于離散無(wú)記憶信道和信源的N次擴(kuò)展，其信道容量CN=NC。37、對(duì)于N個(gè)對(duì)立并聯(lián)信道，其信道容量CN=。38、多用戶(hù)信道的信道容量用多維空間的一個(gè)區(qū)域的界限來(lái)表示。39、多用戶(hù)信道可以分成幾種最基本的類(lèi)型：多址接入信道、廣播信道和相關(guān)信源信道。40、廣播信道是只有一個(gè)輸入端和多個(gè)輸出端的信道。41、當(dāng)信道的噪聲對(duì)輸入的干擾作用表現(xiàn)為噪聲和輸入的線(xiàn)性疊加時(shí)，此信道稱(chēng)為加性連續(xù)信道。42、高斯加性信道的信道容量C=。43、信道編碼定理是一個(gè)理想編碼的存在性定理，即：信道無(wú)失真?zhèn)鬟f信息的條件

6、是信息率小于信道容量。44、信道矩陣代表的信道的信道容量C=1。45、信道矩陣代表的信道的信道容量C=1。46、高斯加性噪聲信道中，信道帶寬3kHz，信噪比為7，則該信道的最大信息傳輸速率Ct=9kHz。47、對(duì)于具有歸并性能的無(wú)燥信道，達(dá)到信道容量的條件是p（yj）=1/m）。48、信道矩陣代表的信道，若每分鐘可以傳遞6*105個(gè)符號(hào)，則該信道的最大信息傳輸速率Ct=10kHz。49、信息率失真理論是量化、數(shù)模轉(zhuǎn)換、頻帶壓縮和數(shù)據(jù)壓縮的理論基礎(chǔ)。50、求解率失真函數(shù)的問(wèn)題，即：在給定失真度的情況下，求信息率的極小值。51、信源的消息通過(guò)信道傳輸后的誤差或失真越大，信宿收到消息后

7、對(duì)信源存在的不確定性就越大，獲得的信息量就越小。52、信源的消息通過(guò)信道傳輸后的誤差或失真越大道傳輸消息所需的信息率也越小。53、單符號(hào)的失真度或失真函數(shù)d（xi，yj）表示信源發(fā)出一個(gè)符號(hào)xi，信宿再現(xiàn)yj所引起的誤差或失真。54、漢明失真函數(shù)d（xi，yj）=。55、平方誤差失真函數(shù)d（xi，yj）=（yj-xi）2。56、平均失真度定義為失真函數(shù)的數(shù)學(xué)期望，即d（xi，yj）在X和Y的聯(lián)合概率空間P（XY）中的統(tǒng)計(jì)平均值。57、如果信源和失真度一定，則平均失真度是信道統(tǒng)計(jì)特