信息論與編碼實驗報告

《信息論與編碼實驗報告》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、中南大學(xué)信息論編碼實驗報告題目信息論編碼學(xué)生姓名湯思遠(yuǎn)指導(dǎo)教師張祖平學(xué)院信息院學(xué)號090912052專業(yè)班級電子1班完成時間14/12/5實驗一關(guān)于信源熵的實驗一、實驗?zāi)康?.掌握離散信源熵的原理和計算方法。2.熟悉matlab軟件的基本操作，練習(xí)使用matlab求解信源的信息熵。3.自學(xué)圖像熵的相關(guān)概念，并應(yīng)用所學(xué)知識，使用matlab或其他開發(fā)工具求解圖像熵。4.掌握Excel的繪圖功能，使用Excel繪制散點圖、直方圖。二、實驗原理1.離散信源相關(guān)的基本概念、原理和計算公式產(chǎn)生離散信息的信源稱為離散信源。離散信源只能產(chǎn)生有限種符號。隨機事件的自信息量I

2、（xi）為其對應(yīng)的隨機變量xi出現(xiàn)概率對數(shù)的負(fù)值。即：I（xi）=-log2p(xi)隨機事件X的平均不確定度（信源熵）H（X）為離散隨機變量xi出現(xiàn)概率的數(shù)學(xué)期望，即：2.信源的信息熵設(shè)信源符號集X={a1，a2，…，ar}，每個符號發(fā)生的概率分別為p(a1)=p1，p(a2)=p2，…，p(ar)，即信源的概率空間為，則該信源的信源熵為：H(X)=-p(a1)logp(a1)–p(a2)logp(a2)–…–p(ar)logp(ar)1.信道的數(shù)學(xué)模型與相關(guān)熵的計算?單符號離散無噪聲無損信道的信道容量2.MATLAB二維繪圖用matlab中的命令plot

3、(x,y)就可以自動繪制出二維圖來。例1-2，在matlab上繪制余弦曲線圖，y=cosx，其中0≤x≤2p。>>x=0:0.1:2*pi；%生成橫坐標(biāo)向量，使其為0，0.1，0.2，…，6.2>>y=cos(x)；%計算余弦向量>>plot(x,y)%繪制圖形3.MATLAB求解離散信源熵求解信息熵過程：1)輸入一個離散信源，并檢查該信源是否是完備集。2)根據(jù)H(X)公式，求出離散信源的熵。1.圖像熵的相關(guān)知識圖像熵是一種特征的統(tǒng)計形式，它反映了圖像中平均信息量的多少。圖像的一維熵表示圖像中灰度分布的聚集特征所包含的信息量，令Pi表示圖像中灰度值為i的像素

4、所占的比例，則定義灰度圖像的一元灰度熵為：圖像熵計算過程：1)輸入一幅圖像，并將其轉(zhuǎn)換成灰度圖像。2)統(tǒng)計出圖像中每個灰度階象素概率。3)計算出一幅圖像的一維熵。2.Excel的繪圖功能比如：用Excel或制作二元熵函數(shù)曲線。具體步驟如下：1）啟動Excel應(yīng)用程序。2）準(zhǔn)備一組數(shù)據(jù)p。在Excel的一個工作表的A列（或其它列）輸入一組p，取步長為0.01，從0至100產(chǎn)生101個p（利用Excel填充功能）。3）使用Excel的計算功能，在B列中用二元熵函數(shù)計算公式，求得A列中各數(shù)值對應(yīng)的二元熵值。比如：在單元格B2中輸入公式：=-A2*LOG(A2,2)

5、-(1-A2)*LOG(1-A2,2)。4）使用Excel的圖表向?qū)?，圖表類型選“XY散點圖”，子圖表類型選“無數(shù)據(jù)點平滑散點圖”，繪制二元熵函數(shù)散點圖。三、實驗內(nèi)容1、使用matlab軟件繪制信源熵函數(shù)曲線。輸入不少于6個符號的信源及其概率(可以界面交互式輸入,也可以以數(shù)據(jù)文件直接輸入)；判斷是否符合完備概率空間，如否則提示重新輸入，如是則計算每個符號的自信量與信源熵（可以直接在界面上顯示，也可以存儲為一個數(shù)據(jù)文件）；將自信量用線連接，信源熵表示一條直線，即最終圖上將顯示2條線，分別用不同的顏色與標(biāo)簽標(biāo)識其自信量或信源熵。1）實驗代碼：x=[1:6]x1=

6、[1,1,1,1,1,1]%為了能順利將H作為直線打印，將H乘上一個序列后打印，不然無法畫出p=[0.10.10.10.20.20.3]ifsum(p)==1I=-log2(p)H=sum(-p.*log2(p));H1=x1*H;plot(x,H1,x,I,'r')elsedisp('信源空間概率和不為一，請檢查并重錄');endfigure期間難點：如何將Hx做成序列打印成線，如果只是簡單的plot（x,H）無法得出圖像2）實驗結(jié)果：2、使用matlab軟件求解離散單符號信源的熵與信道相關(guān)熵。在信源空間的基礎(chǔ)上，再輸入轉(zhuǎn)移概率矩陣(可以界面交互式輸入,也

7、可以以數(shù)據(jù)文件直接輸入,Y空間不少于5個符號)，判斷是否符合概率空間特點(每一行等于1)，如否則提示重新輸入，如是則計算H(Y)，I(X；Y)，H（X/Y），H（Y/X），H(XY)及考慮此種信道的容量計算公式及其計算結(jié)果。將H（X）,H(Y)，I(X；Y)，H（X/Y），H（Y/X），H(XY)用柱狀圖表示出來。1）實驗代碼：Py1x=[1,0,0,0,0,0;0,1,0,0,0,0;0,0,0.5,0.5,0,0;0,0,0,0.5,0.5,0;0,0,0,0,0.5,0.5;0,0,0,0,0,1;]%輸入條件概率矩陣y=[0,0,0,0,0,0]Px

8、y=ones(6,6);建立聯(lián)合概率矩陣fork=1