資源描述：
《極大似然估計(jì)法的探究》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、極大似然估計(jì)法的探究邵雨晴(伊犁師范學(xué)院數(shù)學(xué)與統(tǒng)計(jì)學(xué)院新疆伊寧835000)摘要：極大似然估計(jì)是參數(shù)估計(jì)的一種常用方法，木文主要探討了極大似然估計(jì)法的原理及其四種方法、步驟和性質(zhì)，并舉例說(shuō)明了這些方法在解決實(shí)際問(wèn)題中的應(yīng)用.關(guān)鍵詞：極大似然估計(jì)；參數(shù)估計(jì)；似然函數(shù)中圖分類號(hào)：()212文獻(xiàn)標(biāo)識(shí)碼：A引言由于極大似然估計(jì)法的漸近最優(yōu)性，它已成為參數(shù)估計(jì)的一種常用方法，在眾多領(lǐng)域得到廣泛的應(yīng)用，例如語(yǔ)音處理、圖像處理模型識(shí)別等.它是建立在極大似然原理基礎(chǔ)上的一個(gè)統(tǒng)計(jì)方法，并且所得到的極大似然估計(jì)具有良好的性質(zhì)：相合性、存在性、不變性等.用微
2、分法求參數(shù)的極大似然估計(jì)并不是唯一的方法，以下又以例題的方式給出另外三種求極大似然估計(jì)的方法.二、預(yù)備知識(shí)2.1理論基礎(chǔ)2.1.1極大似然估計(jì)的背景極大似然估計(jì)最早是由高斯(C.F.Gauss)提出的，后來(lái)為費(fèi)希爾(R.A.Fisher)在1912年的文章［7］屮重新提出，并且證明了這個(gè)方法的一些性質(zhì).極大似然估計(jì)這一名稱也是費(fèi)希爾給的.極大似然估計(jì)原理的直觀想法是：一個(gè)隨機(jī)試驗(yàn)如若有若干個(gè)可能的結(jié)果A,B，C，...，在一次試驗(yàn)中，結(jié)果A出現(xiàn)，則一般認(rèn)為試驗(yàn)條件對(duì)A出現(xiàn)有利，也即A出現(xiàn)的概率很大.先看一個(gè)簡(jiǎn)單的例子，某位同學(xué)與一位獵人
3、一起外出打獵，一只野兔從前方竄過(guò).只聽(tīng)一聲槍響，野兔應(yīng)聲到下，如果要你推測(cè)，這一發(fā)命中的子彈是誰(shuí)打的？你就會(huì)想，只發(fā)一槍便打中，由于獵人命中的概率一般大于這位同學(xué)命中的概率，看來(lái)這一槍是獵人射中的.這個(gè)例子所作的推斷就體現(xiàn)了極大似然法的基本思想.2.1.2極大似然估計(jì)法的基本原理隨機(jī)試驗(yàn)￡有《個(gè)可能結(jié)果々，牟，…，人，現(xiàn)在進(jìn)行一次試驗(yàn)，結(jié)果為發(fā)生了，在一次試驗(yàn)中，概率越大越有可能發(fā)生，人們自然認(rèn)為事件在這n個(gè)可能結(jié)果中出現(xiàn)的概率八A,.)最大.將這種想法用于參數(shù)估計(jì)，設(shè)…，么為取自具有概率函數(shù)的：和叫的母體f的一個(gè)子樣.子樣…，么的聯(lián)合
4、概率密度函數(shù)在$取己知觀測(cè)值七，/=1,20^2時(shí)的值??/(?)是沒(méi)的函數(shù).我們用￡(沒(méi))=￡(沒(méi);《￥1，％2，."，',)表示，稱為這個(gè)子樣的似然函數(shù).于是=￡(^;xpx2,---,xw)=/(xWU2;60…的(1)下面分別就離散型母體和連續(xù)型母體情形做具體討論.(1)離散型母體的情形：如果€是離散型母體，給出觀測(cè)到、&，…,弋的概率.因此，可以把L(/9;w…，x?)看成為觀測(cè)到％,，％2，…，x?時(shí)出現(xiàn)什么樣的<9的可能性的一個(gè)測(cè)度.所以我們只耍尋找觀測(cè)值xpa，…，的函數(shù)6=，…，x?),以6代沒(méi)使八[(伏A，x2,…，
5、xj=supi(沒(méi);xpa:2,…，)(2)6te0成立.滿足(2)式的我^…人廣就是最可能產(chǎn)生久么…人的參數(shù)權(quán)的值.我們稱永W..,x，,)為參數(shù)沒(méi)的極大似然估計(jì)值，其相應(yīng)的統(tǒng)計(jì)量我$，么…義)為參數(shù)沒(méi)的極大似然估計(jì)量.(2)連續(xù)型總體的情形：如果f是連續(xù)型，/(xWeG)表示密度函數(shù).于是子樣H??忒落入點(diǎn)(久%2，…，')的鄰域內(nèi)的概率為fj/(%#)△+，同樣是沒(méi)的函數(shù)，既然(ww)再一次抽樣中出現(xiàn)，當(dāng)然可以認(rèn)為子樣，…，么落在(xpx2，…，%,,)的鄰域內(nèi)的概率達(dá)到最大.所以我們只要找出使達(dá)到最大的權(quán)的值我^&，由于Ar,
6、是不依賴于權(quán)的增量，我們也只需求i使得/=1達(dá)到極大的我便可得到極大似然估計(jì).綜上所述知，連續(xù)型母體的參數(shù)的極大似然估計(jì)同樣可以用(1)與(2)兩式表示.由于lnx是x的單調(diào)增函數(shù)，使八InL(6^;xpx2<-s^)=supIn(3)典?成立的6也使(2)成立.所以有時(shí)我們只耍從(3)中去求6就可以了.定義：若對(duì)任意給定的樣本值X,，x2，…，％,,，存在，…，)，使￡(6)=maxL(0)，6則稱，…，x?)為沒(méi)的最大似然估計(jì)值.稱相應(yīng)的統(tǒng)計(jì)量我W，…，為沒(méi)的最大似然估計(jì)量.他們統(tǒng)稱為0的最大似然估計(jì).2.1.2多元正態(tài)分布極大似
7、然估計(jì)考慮p元正態(tài)總體X□Nz,(/z,Z),設(shè)；^=%，????/(/=1，…，/t)為/?元正態(tài)總體X的簡(jiǎn)單隨機(jī)樣本，此時(shí)觀測(cè)數(shù)據(jù)陣為：x=A11蠡參參…???K.)???…x”p4)是一個(gè)隨機(jī)陣.以不用最大似然估計(jì)法求參數(shù)//，2的最大似然估計(jì).把隨機(jī)數(shù)據(jù)陣X按行拉直后形成的M維長(zhǎng)向量Wc(JT)的聯(lián)合密度函數(shù)看成未知參數(shù)的函數(shù)，并稱為樣本％(7//=1，…，zi)的似然函數(shù)，記為L(zhǎng)(//，Z):"1r1L(^X)=JJ(2;r)/,/2
8、Ei/2exP~2(x(o一A)2_l()—A)(2兀)'1/7/2Z?TexP—zl?又
9、⑴—蘆)(2兀Yp/2以2exp_;[tr((x(/)-//OG)_//))(2^rZ2sn/2exp[-2^tr(z"1(x
