資源描述：
《信息論與編碼-曹雪虹-課后習(xí)題-答案》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、《信息論與編碼》-曹雪虹-課后習(xí)題答案第二章2.1一個馬爾可夫信源有3個符號，轉(zhuǎn)移概率為：，，，，，，，，，畫出狀態(tài)圖并求出各符號穩(wěn)態(tài)概率。解：狀態(tài)圖如下狀態(tài)轉(zhuǎn)移矩陣為：設(shè)狀態(tài)u1，u2，u3穩(wěn)定后的概率分別為W1，W2、W3由得計算可得資料2.2由符號集{0，1}組成的二階馬爾可夫鏈，其轉(zhuǎn)移概率為：=0.8，=0.2，=0.2，=0.8，=0.5，=0.5，=0.5，=0.5。畫出狀態(tài)圖，并計算各狀態(tài)的穩(wěn)態(tài)概率。解：于是可以列出轉(zhuǎn)移概率矩陣：狀態(tài)圖為：設(shè)各狀態(tài)00，01，10，11的穩(wěn)態(tài)分布概率為W1,W2,W3,W4有得計算得到資料2.3同時擲出兩個正
2、常的骰子，也就是各面呈現(xiàn)的概率都為1/6，求：(1)“3和5同時出現(xiàn)”這事件的自信息；(2)“兩個1同時出現(xiàn)”這事件的自信息；(3)兩個點數(shù)的各種組合（無序）對的熵和平均信息量；(4)兩個點數(shù)之和（即2,3,…,12構(gòu)成的子集）的熵；(5)兩個點數(shù)中至少有一個是1的自信息量。解：(1)(2)(3)兩個點數(shù)的排列如下：111213141516212223242526313233343536資料414243444546515253545556616263646566共有21種組合：其中11，22，33，44，55，66的概率是其他15個組合的概率是(4)參考上
3、面的兩個點數(shù)的排列，可以得出兩個點數(shù)求和的概率分布如下：(5)2-4資料2.5居住某地區(qū)的女孩子有25%是大學(xué)生，在女大學(xué)生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占總數(shù)的一半。假如我們得知“身高160厘米以上的某女孩是大學(xué)生”的消息，問獲得多少信息量？解：設(shè)隨機變量X代表女孩子學(xué)歷Xx1（是大學(xué)生）x2（不是大學(xué)生）P(X)0.250.75設(shè)隨機變量Y代表女孩子身高Yy1（身高>160cm）y2（身高<160cm）P(Y)0.50.5資料已知：在女大學(xué)生中有75%是身高160厘米以上的即：求：身高160厘米以上的某女孩是大學(xué)生的信
4、息量即：2.6擲兩顆骰子，當(dāng)其向上的面的小圓點之和是3時，該消息包含的信息量是多少？當(dāng)小圓點之和是7時，該消息所包含的信息量又是多少？解：1）因圓點之和為3的概率該消息自信息量2）因圓點之和為7的概率該消息自信息量2.7設(shè)有一離散無記憶信源，其概率空間為（1）求每個符號的自信息量（2）信源發(fā)出一消息符號序列為{202120130資料213001203210110321010021032011223210}，求該序列的自信息量和平均每個符號攜帶的信息量解：同理可以求得因為信源無記憶，所以此消息序列的信息量就等于該序列中各個符號的信息量之和就有：平均每個符號攜
5、帶的信息量為bit/符號2.8試問四進制、八進制脈沖所含信息量是二進制脈沖的多少倍？解：四進制脈沖可以表示4個不同的消息，例如：{0,1,2,3}八進制脈沖可以表示8個不同的消息，例如：{0,1,2,3,4,5,6,7}二進制脈沖可以表示2個不同的消息，例如：{0,1}假設(shè)每個消息的發(fā)出都是等概率的，則：四進制脈沖的平均信息量八進制脈沖的平均信息量二進制脈沖的平均信息量資料所以：四進制、八進制脈沖所含信息量分別是二進制脈沖信息量的2倍和3倍。2-9“－”用三個脈沖“●”用一個脈沖(1)I(●)=I(－)＝(2)H=2-10(2)P(黑/黑)=P(白/黑)=
6、H(Y/黑)=(3)P(黑/白)=P(白/白)=H(Y/白)=(4)P(黑)=P(白)=H(Y)=2.11有一個可以旋轉(zhuǎn)的圓盤，盤面上被均勻的分成38份，用1，…，38的數(shù)字標(biāo)示，其中有兩份涂綠色，18份涂紅色，18份涂黑色，圓盤停轉(zhuǎn)后，盤面上的指針指向某一數(shù)字和顏色。（1）如果僅對顏色感興趣，則計算平均不確定度（2）如果僅對顏色和數(shù)字感興趣，則計算平均不確定度資料（3）如果顏色已知時，則計算條件熵解：令X表示指針指向某一數(shù)字，則X={1,2,……….,38}Y表示指針指向某一種顏色，則Y={l綠色，紅色，黑色}Y是X的函數(shù)，由題意可知（1）bit/符號（
7、2）bit/符號（3）bit/符號2.12兩個實驗X和Y，X={x1x2x3},Y={y1y2y3},l聯(lián)合概率為（1）如果有人告訴你X和Y的實驗結(jié)果，你得到的平均信息量是多少？（2）如果有人告訴你Y的實驗結(jié)果，你得到的平均信息量是多少？（3）在已知Y實驗結(jié)果的情況下，告訴你X的實驗結(jié)果，你得到的平均信息量是多少？解：聯(lián)合概率為y1y2y3資料YXx17/241/240x21/241/41/24x301/247/24=2.3bit/符號X概率分布Xx1x2x3P8/248/248/24bit/符號Y概率分布是=0.72bit/符號Yy1y2y3P8/248
8、/248/242.13有兩個二元隨機變量X和Y，它們的聯(lián)合概率為Y
