資源描述:
《第6章統(tǒng)計(jì)決策與貝葉斯推斷ppt課件.ppt》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。
1、第6章統(tǒng)計(jì)決策與貝葉斯推斷理學(xué)院應(yīng)用數(shù)學(xué)系戴芳在數(shù)理統(tǒng)計(jì)學(xué)中存在兩大學(xué)派:經(jīng)典學(xué)派、頻率學(xué)派或抽樣學(xué)派貝葉斯學(xué)派:貝葉斯統(tǒng)計(jì),其核心是貝葉斯推斷統(tǒng)計(jì)學(xué)家瓦爾德(A.Wald)把關(guān)于假設(shè)檢驗(yàn)和參數(shù)估計(jì)的經(jīng)典統(tǒng)計(jì)理論加以概括,將不確定意義下的決策科學(xué)也包括在統(tǒng)計(jì)學(xué)范圍之內(nèi),于1939年創(chuàng)立了統(tǒng)計(jì)決策理論,該理論彌補(bǔ)了過去統(tǒng)計(jì)理論的缺陷。統(tǒng)計(jì)決策的顯著特點(diǎn)是:統(tǒng)計(jì)決策建立在統(tǒng)計(jì)分析和統(tǒng)計(jì)預(yù)測(cè)的基礎(chǔ)上,是一種定量決策。統(tǒng)計(jì)決策是在不確定情況下,應(yīng)用概率來進(jìn)行決策的計(jì)算和分析,是一種概率決策。6.1統(tǒng)計(jì)決
2、策決策問題的三個(gè)基本要素狀態(tài)集行動(dòng)集行動(dòng)空間損失函數(shù)依統(tǒng)計(jì)決策論的觀點(diǎn),對(duì)決策有用的信息先驗(yàn)信息樣本信息決策問題的分類無數(shù)據(jù)(無樣本信息)決策問題統(tǒng)計(jì)決策問題貝葉斯決策問題一、基本概念1、損失函數(shù)描述當(dāng)未知量處于狀態(tài)而采取行動(dòng)時(shí)所引起的損失,記為線性損失函數(shù)一、基本概念2、決策函數(shù)由樣本空間到行動(dòng)空間的可測(cè)映射稱為決策函數(shù)。3、風(fēng)險(xiǎn)函數(shù)稱為決策函數(shù)的風(fēng)險(xiǎn)函數(shù)。設(shè)是一個(gè)決策函數(shù),則損失函數(shù)關(guān)于樣本分布的數(shù)學(xué)期望平均損失愈小,決策函數(shù)愈好。風(fēng)險(xiǎn)函數(shù)描述在未知量處于狀態(tài)而采取決策時(shí)所蒙受的平均損失。二
3、、常用的決策準(zhǔn)則1、一致最優(yōu)決策準(zhǔn)則則稱為決策函數(shù)類的一致最小風(fēng)險(xiǎn)決策函數(shù),或稱為一致最優(yōu)決策函數(shù)。定義設(shè)表示定義在樣本空間上取值于行動(dòng)空間的某一決策函數(shù)類,若存在一個(gè)決策函數(shù),使得對(duì)任意,都有2、最小最大(Minimax)決策準(zhǔn)則則稱為該統(tǒng)計(jì)決策問題的最小最大決策函數(shù),相應(yīng)的風(fēng)險(xiǎn)稱為最小最大風(fēng)險(xiǎn)。定義對(duì)于一個(gè)統(tǒng)計(jì)決策問題,設(shè)表示定義在樣本空間上取值于行動(dòng)空間的某一決策函數(shù)類。若有決策函數(shù),使得3、貝葉斯決策準(zhǔn)則?先驗(yàn)信息與先驗(yàn)分布無論是在統(tǒng)計(jì)決策問題還是在統(tǒng)計(jì)推斷問題中總會(huì)包含未知量。為了對(duì)作
4、統(tǒng)計(jì)決策或者作統(tǒng)計(jì)推斷,樣本信息是必不可少的,因?yàn)樗淖钚滦畔?。除此之外,一些非樣本信息也可用于統(tǒng)計(jì)決策和統(tǒng)計(jì)推斷。這些非樣本信息主要來源于經(jīng)驗(yàn)或歷史資料。由于此類經(jīng)驗(yàn)或歷史資料大多存在于(獲取樣本的)試驗(yàn)之前,故稱這些非樣本信息為先驗(yàn)信息。統(tǒng)計(jì)學(xué)中有兩個(gè)主要學(xué)派:經(jīng)典(頻率)學(xué)派與貝葉斯學(xué)派。經(jīng)典學(xué)派認(rèn)為是未知參數(shù);貝葉斯學(xué)派認(rèn)為是隨機(jī)變量,應(yīng)該用一個(gè)概率分布去描述的未知狀況。這個(gè)概率分布在抽樣之前就已存在,它是關(guān)于的先驗(yàn)信息的概率陳述。這個(gè)概率分布就稱為先驗(yàn)分布,用來表示。?貝葉斯公式與
5、后驗(yàn)分布稱為的后驗(yàn)分布。?先驗(yàn)風(fēng)險(xiǎn)準(zhǔn)則與后驗(yàn)風(fēng)險(xiǎn)準(zhǔn)則定義1:在給定的統(tǒng)計(jì)決策問題中,設(shè)為決策函數(shù)的風(fēng)險(xiǎn)函數(shù),為的先驗(yàn)分布,則平均風(fēng)險(xiǎn)稱為決策的貝葉斯風(fēng)險(xiǎn)。若在決策函數(shù)類中存在,使得則稱為決策函數(shù)類在貝葉斯(先驗(yàn))風(fēng)險(xiǎn)準(zhǔn)則下的最優(yōu)決策函數(shù),簡(jiǎn)稱貝葉斯決策函數(shù)或貝葉斯解。定義2:在給定的統(tǒng)計(jì)決策問題中,設(shè)為決策函數(shù)的損失函數(shù),為的后驗(yàn)分布,則條件期望風(fēng)險(xiǎn)稱為決策函數(shù)的貝葉斯后驗(yàn)風(fēng)險(xiǎn)。若在決策函數(shù)類中存在,使得則稱為決策函數(shù)類在貝葉斯后驗(yàn)風(fēng)險(xiǎn)準(zhǔn)則下的最優(yōu)決策函數(shù),或稱其為貝葉斯后驗(yàn)型決策函數(shù)。例6.1
6、一位收藏家擬收購(gòu)一幅名畫,這幅畫標(biāo)價(jià)為5000元。若這幅畫是真品,則值10000元;若是贗品,則一文不值。此外,買下一幅假畫或者沒有買下一幅真畫都會(huì)損害這位收藏家的名譽(yù),其收益情況如下表采取的行動(dòng)畫的狀態(tài)買不買真品+5000-3000贗品-60000現(xiàn)在,這位收藏家需要決定是買還是不買這幅畫?(1)如果收藏家有以下三種決策可供選擇::以概率0.5買下這幅畫;:請(qǐng)一位鑒賞家進(jìn)行鑒定(已知該鑒賞家以概率0.95識(shí)別一幅真畫,以概率0.7識(shí)別一幅假畫),如果鑒賞家鑒定為真品就買下這幅畫;:肯定不買那么
7、,什么是這位收藏家的最小最大決策?(2)如果根據(jù)賣畫者以往的資料得知,發(fā)生的概率為0.75,發(fā)生的概率為0.25,那么這位收藏家是否應(yīng)買下這幅畫呢?(3)在(2)的條件下,這位收藏家為穩(wěn)妥起見,聘請(qǐng)一位鑒賞家做鑒定。已知鑒賞家以概率0.95識(shí)別一幅真畫,以概率0.7識(shí)別一幅假畫。如果鑒賞家說這幅畫是真品,那么這位收藏家是否應(yīng)買下這幅畫呢?這是一個(gè)決策問題,狀態(tài)集,為真品,為贗品,行動(dòng)集表示“買”,表示“不買”,損失函數(shù)用矩陣可表示為統(tǒng)計(jì)決策中所說的損失可以理解為“該賺到而沒有賺到的錢”,“不該虧
8、而虧損的錢”或者“不該支付而支付的錢”。采用收益函數(shù)時(shí),損失函數(shù)時(shí),損失函數(shù)采用支付函數(shù)解:(1)對(duì),對(duì),對(duì),計(jì)算結(jié)果表明,收藏家的最小最大決策為,即如果鑒賞家鑒定為真品就買下這幅畫,這一決策的最小最大風(fēng)險(xiǎn)為1800元。根據(jù)先驗(yàn)分布,可分別算出行動(dòng),的平均損失,亦即,行動(dòng),的平均風(fēng)險(xiǎn),因?yàn)檫@是無數(shù)據(jù)決策問題,所以對(duì)比上述結(jié)果可知,采取行動(dòng)為上策,即,收藏家應(yīng)該買下這幅畫。(2)由題意知,的先驗(yàn)分布為:(3)引入隨機(jī)變量由題意知:的先驗(yàn)分布為,由貝葉斯公式可得的后驗(yàn)分布這樣樣本空間,行動(dòng)空間,所以