極大似然估計(jì)法【最新資料】

《極大似然估計(jì)法【最新資料】》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、《概率論與數(shù)理統(tǒng)計(jì)》典型教案教學(xué)內(nèi)容：極大似然估計(jì)法教學(xué)目的：通過(guò)本節(jié)內(nèi)容的教學(xué)，使學(xué)生：1、明確極大似然估計(jì)法是在總體分布類(lèi)型已知的情況下的一種常用的參數(shù)估計(jì)方法；2、理解極大似然思想；3、掌握求極大似然估計(jì)值的一般步驟，會(huì)求常見(jiàn)分布參數(shù)的極大似然估計(jì)值．教學(xué)重點(diǎn)：1、對(duì)極大似然思想闡述；2、極大似然估計(jì)值的求解．教學(xué)難點(diǎn)：對(duì)不能通過(guò)求導(dǎo)方法獲得極大似然估計(jì)的值的確定．教學(xué)時(shí)數(shù)：２學(xué)時(shí)．教學(xué)過(guò)程：引例：某位同學(xué)與一位獵人一起外出打獵，一只野兔從前方竄過(guò)．只聽(tīng)一聲槍響，野兔應(yīng)聲到下，如果要你推測(cè)，這一發(fā)命

2、中的子彈是誰(shuí)打的？你就會(huì)想，只發(fā)一槍便打中，由于獵人命中的概率一般大于這位同學(xué)命中的概率，看來(lái)這一槍是獵人射中的．這個(gè)例子所作的推斷就體現(xiàn)了極大似然法的基本思想．一、極大似然思想一般地說(shuō)，事件與參數(shù)有關(guān)，取值不同，則也不同．若發(fā)生了，則認(rèn)為此時(shí)的值就是的估計(jì)值．這就是極大似然思想．看一例子：例１、設(shè)袋中裝有許多黑、白球，不同顏色球的數(shù)量比為3:1，試設(shè)計(jì)一種方法，估計(jì)任取一球?yàn)楹谇虻母怕剩治觯阂字闹禑o(wú)非是1/4或3/4．為估計(jì)的值，現(xiàn)從袋中有放回地任取3只球，用表示其中的黑球數(shù)，則．按極大似然估計(jì)思想

3、，對(duì)的取值進(jìn)行估計(jì)．解：對(duì)的不同取值，取的概率可列表如下:53０１２３故根據(jù)極大似然思想即知：．在上面的例子中，是分布中的參數(shù)，它只能取兩個(gè)值：1/4或3/4，需要通過(guò)抽樣來(lái)決定分布中參數(shù)究竟是1/4還是3/4．在給定了樣本觀測(cè)值后去計(jì)算該樣本出現(xiàn)的概率，這一概率依賴(lài)于的值，為此需要用1/4、3/4分別去計(jì)算此概率，在相對(duì)比較之下，哪個(gè)概率大，則就最象那個(gè)．二、似然函數(shù)與極大似然估計(jì)1、離散分布場(chǎng)合：設(shè)總體是離散型隨機(jī)變量，其概率函數(shù)為，其中是未知參數(shù)．設(shè)為取自總體的樣本．的聯(lián)合概率函數(shù)為，這里，是常量，

4、是變量．若我們已知樣本取的值是，則事件發(fā)生的概率為．這一概率隨的值而變化．從直觀上來(lái)看，既然樣本值出現(xiàn)了，它們出現(xiàn)的概率相對(duì)來(lái)說(shuō)應(yīng)比較大，應(yīng)使取比較大的值．換句話(huà)說(shuō)，應(yīng)使樣本值的出現(xiàn)具有最大的概率．將上式看作的函數(shù)，并用表示，就有：53（１）稱(chēng)為似然函數(shù)．極大似然估計(jì)法就是在參數(shù)的可能取值范圍內(nèi)，選取使達(dá)到最大的參數(shù)值，作為參數(shù)的估計(jì)值．即取，使（２）因此，求總體參數(shù)的極大似然估計(jì)值的問(wèn)題就是求似然函數(shù)的最大值問(wèn)題．這可通過(guò)解下面的方程（３）來(lái)解決．因?yàn)槭堑脑龊瘮?shù)，所以與在的同一值處取得最大值．我們稱(chēng)為對(duì)

5、數(shù)似然函數(shù)．因此，常將方程（３）寫(xiě)成：（４）方程（４）稱(chēng)為似然方程．解方程（３）或（４）得到的就是參數(shù)的極大似然估計(jì)值．如果方程（４）有唯一解，又能驗(yàn)證它是一個(gè)極大值點(diǎn)，則它必是所求的極大似然估計(jì)值．有時(shí)，直接用（４）式行不通，這時(shí)必須回到原始定義（２）進(jìn)行求解．２、連續(xù)分布場(chǎng)合：設(shè)總體是連續(xù)離散型隨機(jī)變量，其概率密度函數(shù)為，若取得樣本觀察值為，則因?yàn)殡S機(jī)點(diǎn)取值為時(shí)聯(lián)合密度函數(shù)值為．所以，按極大似然法，應(yīng)選擇的值使此概率達(dá)到最大．我們?nèi)∷迫缓瘮?shù)為，再按前述方法求參數(shù)的極大似然估計(jì)值．三、求極大似然估計(jì)的方

6、法531、可通過(guò)求導(dǎo)獲得極大似然估計(jì)：當(dāng)函數(shù)關(guān)于參數(shù)可導(dǎo)時(shí)，?？赏ㄟ^(guò)求導(dǎo)方法來(lái)獲得似然函數(shù)極大值對(duì)應(yīng)的參數(shù)值．例２、設(shè)某工序生產(chǎn)的產(chǎn)品的不合格率為，抽個(gè)產(chǎn)品作檢驗(yàn)，發(fā)現(xiàn)有個(gè)不合格，試求的極大似然估計(jì)．分析：設(shè)是抽查一個(gè)產(chǎn)品時(shí)的不合格品個(gè)數(shù)，則服從參數(shù)為的二點(diǎn)分布．抽查個(gè)產(chǎn)品，則得樣本，其觀察值為，假如樣本有個(gè)不合格，即表示中有個(gè)取值為１，個(gè)取值為０．按離散分布場(chǎng)合方法，求的極大似然估計(jì)．解：（１）寫(xiě)出似然函數(shù)：（２）對(duì)取對(duì)數(shù)，得對(duì)數(shù)似然函數(shù)：（３）由于對(duì)的導(dǎo)數(shù)存在，故將對(duì)求導(dǎo)，令其為０，得似然方程：（４）

7、解似然方程得：（５）經(jīng)驗(yàn)證，在時(shí)，，這表明可使似然函數(shù)達(dá)到最大53（６）上述過(guò)程對(duì)任一樣本觀測(cè)值都成立，故用樣本代替觀察值便得的極大似然估計(jì)為：將觀察值代入，可得的極大似然估計(jì)值為：，其中．若總體的分布中含有多個(gè)未知參數(shù)時(shí)，似然函數(shù)是這些參數(shù)的多元函數(shù)．代替方程（３），我們有方程組，由這個(gè)方程組解得分別是參數(shù)的極大似然估計(jì)值．例３、設(shè)某機(jī)床加工的軸的直徑與圖紙規(guī)定的中心尺寸的偏差服從，其中未知．為估計(jì)，從中隨機(jī)抽取根軸，測(cè)得其偏差為．試求的極大似然估計(jì)．分析：顯然，該問(wèn)題是求解含有多個(gè)（兩個(gè)）未知參數(shù)的極

8、大似然估計(jì)問(wèn)題．通過(guò)建立關(guān)于未知參數(shù)的似然方程組，從而進(jìn)行求解．解：（１）寫(xiě)出似然函數(shù)：（２）寫(xiě)出對(duì)數(shù)似然函數(shù)：（３）將分別對(duì)53求偏導(dǎo)，并令它們都為０，得似然方程組為：（４）解似然方程組得：，（５）經(jīng)驗(yàn)證使達(dá)到極大，（６）上述過(guò)程對(duì)一切樣本觀察值成立，故用樣本代替觀察值，便得的極大似然估計(jì)分別為：，．２、不可通過(guò)求導(dǎo)方法獲得極大似然估計(jì)：當(dāng)似然函數(shù)的非零區(qū)域與未知參數(shù)有關(guān)時(shí)，通常無(wú)法通過(guò)解似然方程來(lái)獲得參數(shù)的極大似然估計(jì)，這