基于多元正態(tài)概率模型貝葉斯決策理論淺析

《基于多元正態(tài)概率模型貝葉斯決策理論淺析》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫。

1、基于多元正態(tài)概率模型貝葉斯決策理論淺析摘要：在模式識別中，貝葉斯決策理論以其分類錯誤發(fā)生概率最小的特點得到了廣泛應(yīng)用。本文根據(jù)原始的貝葉斯公式，分兩種情況推導(dǎo)了基于多元正態(tài)概率模型的貝葉斯判別函數(shù)及其決策面，并通過實驗驗證和分析了所推導(dǎo)的結(jié)論。關(guān)鍵詞：貝葉斯決策；多元正態(tài)概率模型；決策面1貝葉斯決策理論概述模式識別是通過對待識別模式的多種觀察或測量，將觀測數(shù)據(jù)構(gòu)成其特征向量，作為輸入，然后按照某一種判決法則來進(jìn)行分類的。然而客觀實際是十分復(fù)雜的，許多現(xiàn)象在觀察與測量時都具有某種不確定性和隨機(jī)性，如衛(wèi)星遙感影像

2、。由于這種不確定性，各個類別之間呈現(xiàn)混淆、混沌的表象，給分類帶來了困難。這時，需要采取統(tǒng)計的方法，對模式的統(tǒng)計特性進(jìn)行觀測，并采用統(tǒng)計判別的分類器，分析歸屬概率的大小，按照某種方法進(jìn)行分類。貝葉斯決策理論和方法就是在分類錯誤發(fā)生概率最小的前提下進(jìn)行分類的一種統(tǒng)計模式識別的基本方法。在實際工作中常常討論正態(tài)分布模式。由于很多隨機(jī)變量都具有正態(tài)分布或近似正態(tài)分布，而正態(tài)分布概率模型在數(shù)學(xué)上實現(xiàn)也比較方便，所以以正態(tài)分布的概率密度函數(shù)作為分類器設(shè)計的依據(jù)，并按照正態(tài)分布概率模型抽取樣本集和進(jìn)行樣本分析是可行的。2多

3、元正態(tài)概率模型的貝葉斯判別函數(shù)與決策面由最小錯誤率貝葉斯判別函數(shù)取對數(shù)形式，得當(dāng)x的類概率密度函數(shù)服從多元正態(tài)概率模型時,x的類概率密度函數(shù)為：p(x

4、wi)=1/[(2“)n/2

5、Ei11/2]exp{-1/2(x-ui)TZi-1(x-ui)}式(2)代入式(1),有式⑶式(3)即為多元正態(tài)概率模型的貝葉斯判別函數(shù)，其決策面方程應(yīng)是，即式⑷2.1協(xié)方差矩陣相等當(dāng)各類協(xié)方差矩陣相等時，從幾何上看，相當(dāng)于各類樣本集中于以該類均值點為中心的同樣大小和形狀的超橢球內(nèi)。這時，為了對x進(jìn)行分類，只要計算出x到每類的均

6、值點的馬氏距離平方，最后把X歸于距離最小的類別。這種情況下的貝葉斯判別函數(shù)是一個線性判別函數(shù)，二維情況的決策面是一條直線。2.2協(xié)方差矩陣不相等當(dāng)各類協(xié)方差矩陣不相等時這時,對于某一模式X計算判別函數(shù)的值,最后把X歸于判別函數(shù)最大的類別。這種情況下的貝葉斯判別函數(shù)是一個非線性判別函數(shù),二維情況的決策面是曲線。3實驗與分析3.1實驗數(shù)據(jù)有訓(xùn)練集資料矩陣表1所示，現(xiàn)已知樣本總數(shù)29、每類樣本數(shù)N1=N2=N3=3.維數(shù)n=2、類別數(shù)M=3。試在直角坐標(biāo)系中分別繪出以下兩種情況的分界線。三類協(xié)方差相等；三類協(xié)方差不

7、等。3.2程序運(yùn)行結(jié)果與分析3.2.1協(xié)方差相等時的分界線3.2.2協(xié)方差不等時的分界線程序的基本思想就是對坐標(biāo)系范圍內(nèi)的所有點進(jìn)行遍歷,依次代入判別函數(shù)。當(dāng)某一點代入判別函數(shù)后，任意兩個判別函數(shù)的差值足夠小時，認(rèn)為該點就是這兩類的分界線,并把這個點畫出來。可以看出，在二維情況下，當(dāng)協(xié)方差相等時，三個類別的決策面為三條直線；而當(dāng)協(xié)方差不等時，三個類別的決策面為曲線，從而從實驗方面驗證了理論推斷。在實現(xiàn)的過程中還應(yīng)給馬氏距離R設(shè)定閾值，屏蔽掉不合理的R值,如超出坐標(biāo)范圍等。參考文獻(xiàn)：[1]舒寧，馬洪超，孫和利.

8、模式識別的理論與方法[M].武漢：武漢大學(xué)出版社,2004.[2]邊肇祺，張學(xué)工.模式識別（第二版）[M].北京：清華大學(xué)出版社,2000.作者簡歷：樊超，女，生于1988年，遼寧撫順人?，F(xiàn)就讀于武漢大學(xué)遙感信息工程學(xué)院，精通鋼琴、架子鼓、吉他等樂器,專業(yè)成績優(yōu)異，曾獲武漢大學(xué)新生獎學(xué)金以及歷年獎學(xué)金，全國大學(xué)生英語競賽三等獎。勤于研究，目前正協(xié)助老師做網(wǎng)絡(luò)GIS相關(guān)研究工作。