資源描述：
《信息論與編碼-曹雪虹-課后習(xí)題答案》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、《信息論與編碼》-曹雪虹-課后習(xí)題答案第二章2.1一個(gè)馬爾可夫信源有3個(gè)符號，轉(zhuǎn)移概率為：，，，，，，，，，畫出狀態(tài)圖并求出各符號穩(wěn)態(tài)概率。解：狀態(tài)圖如下狀態(tài)轉(zhuǎn)移矩陣為：設(shè)狀態(tài)u1，u2，u3穩(wěn)定后的概率分別為W1，W2、W3由得計(jì)算可得2.2由符號集{0，1}組成的二階馬爾可夫鏈，其轉(zhuǎn)移概率為：=0.8，=0.2，=0.2，=0.8，=0.5，=0.5，=0.5，=0.5。畫出狀態(tài)圖，并計(jì)算各狀態(tài)的穩(wěn)態(tài)概率。解：于是可以列出轉(zhuǎn)移概率矩陣：狀態(tài)圖為：設(shè)各狀態(tài)00，01，10，11的穩(wěn)態(tài)分布概率為W1,W2,W3,W4有得計(jì)算得到2.3同時(shí)擲出兩個(gè)正常的
2、骰子，也就是各面呈現(xiàn)的概率都為1/6，求：(1)“3和5同時(shí)出現(xiàn)”這事件的自信息；(2)“兩個(gè)1同時(shí)出現(xiàn)”這事件的自信息；(3)兩個(gè)點(diǎn)數(shù)的各種組合（無序）對的熵和平均信息量；(4)兩個(gè)點(diǎn)數(shù)之和（即2,3,…,12構(gòu)成的子集）的熵；(5)兩個(gè)點(diǎn)數(shù)中至少有一個(gè)是1的自信息量。解：(1)(2)(3)兩個(gè)點(diǎn)數(shù)的排列如下：111213141516212223242526313233343536414243444546515253545556616263646566共有21種組合：其中11，22，33，44，55，66的概率是其他15個(gè)組合的概率是(4)參考上面的
3、兩個(gè)點(diǎn)數(shù)的排列，可以得出兩個(gè)點(diǎn)數(shù)求和的概率分布如下：(5)2-42.5居住某地區(qū)的女孩子有25%是大學(xué)生，在女大學(xué)生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占總數(shù)的一半。假如我們得知“身高160厘米以上的某女孩是大學(xué)生”的消息，問獲得多少信息量？解：設(shè)隨機(jī)變量X代表女孩子學(xué)歷Xx1（是大學(xué)生）x2（不是大學(xué)生）P(X)0.250.75設(shè)隨機(jī)變量Y代表女孩子身高Yy1（身高>160cm）y2（身高<160cm）P(Y)0.50.5已知：在女大學(xué)生中有75%是身高160厘米以上的即：求：身高160厘米以上的某女孩是大學(xué)生的信息量即：
4、2.6擲兩顆骰子，當(dāng)其向上的面的小圓點(diǎn)之和是3時(shí)，該消息包含的信息量是多少？當(dāng)小圓點(diǎn)之和是7時(shí)，該消息所包含的信息量又是多少？解：1）因圓點(diǎn)之和為3的概率該消息自信息量2）因圓點(diǎn)之和為7的概率該消息自信息量2.7設(shè)有一離散無記憶信源，其概率空間為（1）求每個(gè)符號的自信息量（2）信源發(fā)出一消息符號序列為{202120130213001203210110321010021032011223210}，求該序列的自信息量和平均每個(gè)符號攜帶的信息量解：同理可以求得因?yàn)樾旁礋o記憶，所以此消息序列的信息量就等于該序列中各個(gè)符號的信息量之和就有：平均每個(gè)符號攜帶的信息
5、量為bit/符號2.8試問四進(jìn)制、八進(jìn)制脈沖所含信息量是二進(jìn)制脈沖的多少倍？解：四進(jìn)制脈沖可以表示4個(gè)不同的消息，例如：{0,1,2,3}八進(jìn)制脈沖可以表示8個(gè)不同的消息，例如：{0,1,2,3,4,5,6,7}二進(jìn)制脈沖可以表示2個(gè)不同的消息，例如：{0,1}假設(shè)每個(gè)消息的發(fā)出都是等概率的，則：四進(jìn)制脈沖的平均信息量八進(jìn)制脈沖的平均信息量二進(jìn)制脈沖的平均信息量所以：四進(jìn)制、八進(jìn)制脈沖所含信息量分別是二進(jìn)制脈沖信息量的2倍和3倍。2-9“－”用三個(gè)脈沖“●”用一個(gè)脈沖(1)I(●)=I(－)＝(2)H=2-10(2)P(黑/黑)=P(白/黑)=H(Y/
6、黑)=(3)P(黑/白)=P(白/白)=H(Y/白)=(4)P(黑)=P(白)=H(Y)=2.11有一個(gè)可以旋轉(zhuǎn)的圓盤，盤面上被均勻的分成38份，用1，…，38的數(shù)字標(biāo)示，其中有兩份涂綠色，18份涂紅色，18份涂黑色，圓盤停轉(zhuǎn)后，盤面上的指針指向某一數(shù)字和顏色。（1）如果僅對顏色感興趣，則計(jì)算平均不確定度（2）如果僅對顏色和數(shù)字感興趣，則計(jì)算平均不確定度（3）如果顏色已知時(shí)，則計(jì)算條件熵解：令X表示指針指向某一數(shù)字，則X={1,2,……….,38}Y表示指針指向某一種顏色，則Y={l綠色，紅色，黑色}Y是X的函數(shù)，由題意可知（1）bit/符號（2）bi
7、t/符號（3）bit/符號2.12兩個(gè)實(shí)驗(yàn)X和Y，X={x1x2x3},Y={y1y2y3},l聯(lián)合概率為（1）如果有人告訴你X和Y的實(shí)驗(yàn)結(jié)果，你得到的平均信息量是多少？（2）如果有人告訴你Y的實(shí)驗(yàn)結(jié)果，你得到的平均信息量是多少？（3）在已知Y實(shí)驗(yàn)結(jié)果的情況下，告訴你X的實(shí)驗(yàn)結(jié)果，你得到的平均信息量是多少？解：聯(lián)合概率為YXy1y2y3x17/241/240x21/241/41/24x301/247/24=2.3bit/符號X概率分布Xx1x2x3P8/248/248/24bit/符號Y概率分布是=0.72bit/符號Yy1y2y3P8/248/248
8、/242.13有兩個(gè)二元隨機(jī)變量X和Y，它們的聯(lián)合概率為YXx1=0x2=1y1=01/83/
