求解非負(fù)約束優(yōu)化問(wèn)題的可行l(wèi)s共軛梯度法

《求解非負(fù)約束優(yōu)化問(wèn)題的可行l(wèi)s共軛梯度法》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。

1、求解非負(fù)約束優(yōu)化問(wèn)題的可行LS共軛梯度法摘要：結(jié)合子空間思想和LiuStorey（LS）共軛梯度法，提出了求解大規(guī)模非負(fù)約束優(yōu)化問(wèn)題的可行共軛梯度算法，并分析了算法在Armijo型線性搜索下的全局收斂性.數(shù)值實(shí)例表明該算法是有效的.關(guān)鍵詞：非負(fù)約束優(yōu)化；子空間；共軛梯度法；全局收斂性中圖分類號(hào)：O221.2文獻(xiàn)標(biāo)識(shí)碼：A非負(fù)約束優(yōu)化問(wèn)題廣泛存在于許多學(xué)科及工程應(yīng)用領(lǐng)域中，如：非線性回歸分析、金融投資、大地測(cè)量、衛(wèi)星導(dǎo)航等，并且有關(guān)的數(shù)據(jù)處理是非常龐大的，呈現(xiàn)的問(wèn)題通常是大規(guī)模的.因此，研究求解這些

2、問(wèn)題的高效算法具有重要的現(xiàn)實(shí)意義.非負(fù)約束優(yōu)化問(wèn)題的一般形式這里l和u是Rn中的有界向量.許多研究集中于求解大規(guī)模有界約束問(wèn)題（3），人們提出了如譜梯度投影法、有限記憶擬牛頓法和共軛梯度法等有效算法＼[1，4，6＼].盡管問(wèn)題（1）可以看作問(wèn)題（3）的特殊情形，但不知這些方法能否經(jīng)過(guò)適當(dāng)?shù)男薷谋挥脕?lái)求解非負(fù)約束問(wèn)題.眾所周知，共軛梯度法及其修正形式是求解大規(guī)模無(wú)約束問(wèn)題minf（x），x∈Rn的有效方法＼[2，7-8＼].因此，5人們?cè)O(shè)想用共軛梯度法的思想求解約束問(wèn)題.文獻(xiàn)＼[6＼]研究了用共軛梯

3、度的思想求解有界約束問(wèn)題（3），通過(guò)求解一個(gè)約束子問(wèn)題來(lái)計(jì)算搜索方向，作者證明了在Wolfe型線性搜索下所提出的方法是收斂的.然而已有研究表明在該研究上存在許多的困難[5].在本文中，我們研究用共軛梯度型方法求解非負(fù)約束問(wèn)題（1）.結(jié)合已有求解有界約束問(wèn)題的子空間思想[4]和求解無(wú)約束問(wèn)題的LiuStorey（LS）共軛梯度法[3]，提出了一個(gè)求解問(wèn)題（1）的可行LS共軛梯度法，與文獻(xiàn)＼[6＼]的方法比較，本文提出的方法的優(yōu)點(diǎn)是無(wú)需求解子問(wèn)題，并且在Armijo搜索下具有全局收斂性，節(jié)省大量計(jì)算.

4、湖南大學(xué)學(xué)報(bào)（自然科學(xué)版）2014年第7期劉陶文等：求解非負(fù)約束優(yōu)化問(wèn)題的可行LS共軛梯度法證由KKT條件（2）以及（10）即可驗(yàn)證定理結(jié)論成立.證畢引理1和定理1表明，當(dāng)dk=0時(shí)，xk必定是問(wèn)題（1）的一個(gè)KKT點(diǎn)，而當(dāng)dk≠0時(shí)，必有g(shù)Tkdk0.設(shè)觀測(cè)向量為L(zhǎng)∈R3，則有相應(yīng)的誤差方程：L+V=（

5、AP

6、，

7、BP

8、，

9、CP

10、）T，其中V為觀察噪聲向量.設(shè)A，B，C3個(gè)邊觀測(cè)的一次觀測(cè)值分別為500.04，502.52，714.13.5試估計(jì)P點(diǎn)的位移（x，y，-z）.當(dāng)P點(diǎn)有位移（x，y，

11、-z）時(shí)，觀測(cè)向量L的誤差方程為：L+V=

12、AP

13、

14、BP

15、

16、CP

17、=現(xiàn)在用可行LS共軛梯度法來(lái)求解問(wèn)題（16）.在算法1中，取初始點(diǎn)（x0，y0，z0）=（1，1，1）以及常數(shù)ρ=0.5，σ=0.001，ε=0.01.算法1在7次迭代后求得P點(diǎn)位移估計(jì)（，，）=（0.0220，0，-0.0531），顯然這一估計(jì)比文獻(xiàn)＼[9＼]中的線性最小二乘估計(jì)（0.0246，0，-0.0640）更接近于實(shí)際的位移（0.004，0.02，-0.005），而且可以依據(jù)需要增加迭代次數(shù)提高精度.參考文獻(xiàn)[1]BIRG

18、INEG，MARTINEZJM，RAYDANM.Nonmonotonespectralprojectiongradientmethodsonconvexsets＼[J＼].SIAMJournalonOptimization，2000，10（1）：1196-1211.＼[2＼]DAIY，YUANY.Nonlinearconjugategradientmethods＼[M＼].Shanghai：ShanghaiScienceandTechnologyPublisher，2000.＼[3＼]LIUY，S

19、TOREYC.EfficientgeneratedconjugategradientalgorithmsPart1：Theory＼[J＼].JournalofOptimizationTheoryand5Applications，1991，69（1）：129-137.＼[4＼]NIQ，YUANY.AsubspacelimitedmemoryquasiNewtonalgorithmforlargescalenonlinearboundconstrainedoptimization＼[J＼].Mathe

20、maticsofComputation，1997，66（220）：1509-1520.＼[5＼]NOCEDALJ.Conjugategradientmethodsandnonlinearoptimization，In：LinearandnonlinearconjugategradientRelatedmethod＼[M＼].Philadelphia，SIAMPress，1996，9-23.＼[6＼]PYTLAKR.Anefficientalgorithmforlargescalen