資源描述：
《參數模型與貝葉斯方法》由會員上傳分享，免費在線閱讀，更多相關內容在教育資源-天天文庫。
1、參數模型與貝葉斯方法1.極大似然與廣義線性模型2.非線性回歸模型3.貝葉斯推斷4.壓縮估計方法和貝葉斯方法在投資中的應用1.極大似然與廣義線性模型1.1計算MLE的數值方法似然函數對求最大時，需要限制為半正定，使用Cholesky分解1.2廣義線性模型正態(tài)分布族Poisson分布族logistic模型probit模型廣義線性模型的似然函數及迭代再加權最小二乘Newton-Raphson迭代式2.非線性回歸模型部分線性模型可轉化為線性的模型2.1高斯-牛頓算法計算最小點，選取作為初值，在第j個迭代步中，得到用上式來近似，最初的非線性模型可以由下面的線性回歸模型來近似上式中θ的O
2、LS估計值的顯示表示為矩陣求逆步長因子收斂性準則1參數增量相對與參數值足夠小2足夠小3幾乎正交于在處的切平面這個準則的要求為下式足夠小Levenberg-Marquardt修正2.2統(tǒng)計推斷令表示非線性回歸模型中的估計，用表示的真值，我們假設X非隨機，那么由下式在假設下，其中我們得到2.3實現和實例應用非線性最小二乘估計來估計Hull-White利率模型中收益率的波動率其中期限為τ(年)的收益率的方差由下式給出其中κ和σ是模型的參數3貝葉斯推斷3.1先驗分布和后驗分布在給出貝葉斯公式的密度函數形式之前，先介紹以下貝葉斯學派的一些具體思想或者叫著基本假設：假設Ⅰ隨機變量X有一個
3、密度函數p(x;θ)，其中θ是一個參數，不同的θ對應不同的密度函數，故從貝葉斯觀點看，p(x;θ)是在給定θ后的一個條件密度函數，因此記為p(x│θ)更恰當一些。這個條件密度能提供我們的有關的θ信息就是總體信息。假設Ⅱ當給定θ后，從總體p(x│θ)中隨機抽取一個樣本X1，…，Xn，該樣本中含有θ的有關信息。這種信息就是樣本信息。假設Ⅲ從貝葉斯觀點來看，未知參數θ是一個隨機變量。而描述這個隨機變量的分布可從先驗信息中歸納出來，這個分布稱為先驗分布，其密度函數用π(θ)表示。（1）先驗分布定義1將總體中的未知參數θ∈Θ看成一取值于Θ的隨機變量，它有一概率分布，記為π(θ)，稱為參
4、數θ的先驗分布。（2）后驗分布在貝葉斯統(tǒng)計學中，把以上的三種信息歸納起來的最好形式是在總體分布基礎上獲得的樣本X1，…，Xn，和參數的聯合密度函數：在這個聯合密度函數中，當樣本給定之后，未知的僅是參數θ了，我們關心的是樣本給定后，θ的條件密度函數，依據密度的計算公式，容易獲得這個條件密度函數：這就是貝葉斯公式的密度函數形式，其中稱為θ的后驗密度函數，或后驗分布。3.2貝葉斯方法貝葉斯方法是在給定數據下最小化基于θ的后驗分布的某個函數。統(tǒng)計決策問題，必須具備幾個要素：1參數空間以及一個分布族2從分布抽取的樣本數據，其中θ表示參數真值，稱作“樣本空間”3決策空間包含所有可供選擇的
5、行為4損失函數表示當真值θ為參數值，選擇行為ɑ導致的損失風險函數貝葉斯風險貝葉斯準則，即最小化貝葉斯風險：那么上式可以寫成3.3多元正態(tài)均值和協(xié)方差陣的貝葉斯估計令為多維正態(tài)分布的n個獨立同分布的觀測。用表示樣本均值向量。∑已知時μ的貝葉斯估計假設μ的先驗分布為，后驗分布是一個正態(tài)分布，均值為協(xié)方差陣為逆轉Wishart分布進一步有的貝葉斯估計使用下面的分布作為的先驗分布：上式也是一個共軛分布族，因為給定X分量下，的后驗分布為μ和∑的貝葉斯估計，即其后驗均值為和3.4高斯回歸模型中的貝葉斯估計令，我們可以假設的先驗分布為那么給定（X，Y）下，的后驗分布也有相同形式：因此，β的
6、貝葉斯估計仍然是，的貝葉斯估計為3.5經驗貝葉斯估計和壓縮估計4壓縮估計和貝葉斯估計在投資中的應用4.1代入估計有效前沿下μ和∑的壓縮估計4.2另一種貝葉斯方法
