資源描述：
《信息論與編碼習題答案new》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、2.1信息速率是指平均每秒傳輸?shù)男畔⒘奎c和劃出現(xiàn)的信息量分別為，一秒鐘點和劃出現(xiàn)的次數(shù)平均為一秒鐘點和劃分別出現(xiàn)的次數(shù)平均為那么根據(jù)兩者出現(xiàn)的次數(shù)，可以計算一秒鐘其信息量平均為2.3解：(a)骰子A和B，擲出7點有以下6種可能：A=1,B=6;A=2,B=5;A=3,B=4;A=4,B=3;A=5,B=2;A=6,B=1概率為6/36=1/6，所以信息量-log(1/6)=1+log3≈2.58bit(b)骰子A和B，擲出12點只有1種可能：A=6,B=6概率為1/36，所以信息量-log(1/
2、36)=2+log9≈5.17bit2.5解：出現(xiàn)各點數(shù)的概率和信息量：1點：1/21，log21≈4.39bit；2點：2/21，log21-1≈3.39bit；3點：1/7，log7≈2.81bit；4點：4/21，log21-2≈2.39bit；5點：5/21，log（21/5）≈2.07bit；6點：2/7，log(7/2)≈1.81bit平均信息量：(1/21)×4.39+(2/21)×3.39+(1/7)×2.81+(4/21)×2.39+(5/21)×2.07+(2/7)×1.81
3、≈2.4bit2.7解：X=1:考生被錄??；X=0:考生未被錄??；Y=1:考生來自本市；Y=0:考生來自外地；Z=1:考生學過英語；Z=0：考生未學過英語P(X=1)=1/4,P(X=0)=3/4;P(Y=1/X=1)=1/2；P(Y=1/X=0)=1/10；P(Z=1/Y=1)=1,P(Z=1/X=0,Y=0)=0.4,P(Z=1/X=1,Y=0)=0.4,P(Z=1/Y=0)=0.4(a)P(X=0,Y=1)=P(Y=1/X=0)P(X=0)=0.075,P(X=1,Y=1)=P(Y=1/X
4、=1)P(X=1)=0.125P(Y=1)=P(X=0,Y=1)+P(X=1,Y=1)=0.2P(X=0/Y=1)=P(X=0,Y=1)/P(Y=1)=0.375,P(X=1/Y=1)=P(X=1,Y=1)/P(Y=1)=0.625I(X?;Y=1)===0.375log(0.375/0.75)+0.625log(0.625/0.25)=(5/8)log5-1≈0.45bit(b)由于P(Z=1/Y=1)=1,所以P（Y=1，Z=1/X=1）=P（Y=1/X=1）=0.5P（Y=1，Z=1/X=
5、0）=P（Y=1/X=0）=0.1那么P（Z=1/X=1）=P（Z=1,Y=1/X=1）+P（Z=1,Y=0/X=1）=0.5+P（Z=1/Y=0，X=1）P（Y=0/X=1）=0.5+0.5*0.4=0.7P(Z=1/X=0)=P（Z=1,Y=1/X=0）+P（Z=1,Y=0/X=0）=0.1+P(Z=1/Y=0，X=0)P(Y=0/X=0)=0.1+0.9*0.4=0.46P（Z=1,X=1）=P（Z=1/X=1）*P(X=1)=0.7*0.25=0.175P（Z=1,X=0）=P（Z=1/
6、X=0）*P(X=0)=0.46*0.75=0.345P(Z=1)=P(Z=1,X=1)+P(Z=1,X=0)=0.52P(X=0/Z=1)=0.345/0.52=69/104P(X=1/Z=1)=35/104I(X?;Z=1)===(69/104)log(23/26)+(35/104)log(35/26)≈0.027bit(c)H（X）=0.25*log(1/0.25)+0.75*log(1/0.75)=2-(3/4)log3=0.811bitH(Y/X)=-P(X=1,Y=1)logP(Y=
7、1/X=1)-P(X=1,Y=0)logP(Y=0/X=1)-P(X=0,Y=1)logP(Y=1/X=0)-P(X=0,Y=0)logP(Y=0/X=0)=-0.125*log0.5-0.125*log0.5-0.075*log0.1-0.675*log0.9=1/4+(3/40)log10-(27/40)log(9/10)≈0.603bitH(XY)=H(X)+H(Y/X)=9/4+(3/4)log10-(21/10)log3=1.414bitP(X=0,Y=0,Z=0)=P(Z=0/X=0
8、,Y=0)*P(X=0,Y=0)=(1-0.4)*(0.75-0.075)=0.405P(X=0,Y=0,Z=1)=P(Z=1/X=0,Y=0)*P(X=0,Y=0)=0.4*0.675=0.27P(X=1,Y=0,Z=1)=P(Z=1/X=1,Y=0)*P(X=1,Y=0)=0.4*(0.25-0.125)=0.05P(X=1,Y=0,Z=0)=P(Z=0/X=1,Y=0)*P(X=1,Y=0)=0.6*0.125=0.075P(X=1,Y=1,Z=1)=P(X=1,Z=1)-P(X=1,Y=
