資源描述:
《信息論與編碼課后作業(yè)答案》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。
1、2.4設(shè)離散無(wú)記憶信源,其發(fā)出的信息為(202120130213001203210110321010021032011223210),求(1)此消息的自信息量是多少?(2)此消息中平均每符號(hào)攜帶的信息量是多少?解:(1)此消息總共有14個(gè)0、13個(gè)1、12個(gè)2、6個(gè)3,因此此消息發(fā)出的概率是:此消息的信息量是:(2)此消息中平均每符號(hào)攜帶的信息量是:2.10對(duì)某城市進(jìn)行交通忙閑的調(diào)查,并把天氣分成晴雨兩種狀態(tài),氣溫分成冷暖兩個(gè)狀態(tài),調(diào)查結(jié)果得聯(lián)合出現(xiàn)的相對(duì)頻度如下:若把這些頻度看作概率測(cè)度,求:(1)忙閑的無(wú)條件熵;(2)天氣狀態(tài)和氣溫狀態(tài)已知時(shí)忙閑的條件熵;(3)從
2、天氣狀態(tài)和氣溫狀態(tài)獲得的關(guān)于忙閑的信息。解:(1)根據(jù)忙閑的頻率,得到忙閑的概率分布如下:(2)設(shè)忙閑為隨機(jī)變量X,天氣狀態(tài)為隨機(jī)變量Y,氣溫狀態(tài)為隨機(jī)變量Z(3)2.11有兩個(gè)二元隨機(jī)變量X和Y,它們的聯(lián)合概率為YXx1=0x2=1y1=01/83/8y2=13/81/8并定義另一隨機(jī)變量Z=XY(一般乘積),試計(jì)算:(1)H(X),H(Y),H(Z),H(XZ),H(YZ)和H(XYZ);(2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ)和H(Z/XY);(3)I(X;Y),I(X;Z),I(Y
3、;Z),I(X;Y/Z),I(Y;Z/X)和I(X;Z/Y)。解:(1)Z=XY的概率分布如下:(2)(3)2.13設(shè)有一個(gè)信源,它產(chǎn)生0,1序列的信息。它在任意時(shí)間而且不論以前發(fā)生過(guò)什么符號(hào),均按P(0)=0.4,P(1)=0.6的概率發(fā)出符號(hào)。(1)試問(wèn)這個(gè)信源是否是平穩(wěn)的?(2)試計(jì)算H(X2),H(X3/X1X2)及H∞;(3)試計(jì)算H(X4)并寫出X4信源中可能有的所有符號(hào)。解:(1)這個(gè)信源是平穩(wěn)無(wú)記憶信源。因?yàn)橛羞@些詞語(yǔ):“它在任意時(shí)間而且不論以前發(fā)生過(guò)什么符號(hào)……”(2)(3)2.16一階馬爾可夫信源的狀態(tài)圖如下圖所示。信源X的符號(hào)集為{0,1,2}。
4、(1)求平穩(wěn)后信源的概率分布;(2)求信源的熵H∞。解:(1)(2)