求解非負(fù)約束優(yōu)化問題的可行l(wèi)s共軛梯度法

《求解非負(fù)約束優(yōu)化問題的可行l(wèi)s共軛梯度法》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。

1、求解非負(fù)約束優(yōu)化問題的可行LS共軛梯度法摘要：結(jié)合子空間思想和LiuStorey（LS）共軛梯度法，提出了求解大規(guī)模非負(fù)約束優(yōu)化問題的可行共軛梯度算法，并分析了算法在Armijo型線性搜索下的全局收斂性.數(shù)值實例表明該算法是有效的.關(guān)鍵詞：非負(fù)約束優(yōu)化；子空間；共軛梯度法；全局收斂性中圖分類號：O221.2文獻標(biāo)識碼：A非負(fù)約束優(yōu)化問題廣泛存在于許多學(xué)科及工程應(yīng)用領(lǐng)域中，如：非線性回歸分析、金融投資、大地測量、衛(wèi)星導(dǎo)航等，并且有關(guān)的數(shù)據(jù)處理是非常龐大的，呈現(xiàn)的問題通常是大規(guī)模的.因此，研究求解這些

2、問題的高效算法具有重要的現(xiàn)實意義.非負(fù)約束優(yōu)化問題的一般形式這里l和u是Rn中的有界向量.許多研究集中于求解大規(guī)模有界約束問題（3），人們提出了如譜梯度投影法、有限記憶擬牛頓法和共軛梯度法等有效算法＼[1，4，6＼].盡管問題（1）可以看作問題（3）的特殊情形，但不知這些方法能否經(jīng)過適當(dāng)?shù)男薷谋挥脕砬蠼夥秦?fù)約束問題.眾所周知，共軛梯度法及其修正形式是求解大規(guī)模無約束問題minf（x），x∈Rn的有效方法＼[2，7-8＼].因此，5人們設(shè)想用共軛梯度法的思想求解約束問題.文獻＼[6＼]研究了用共軛梯

3、度的思想求解有界約束問題（3），通過求解一個約束子問題來計算搜索方向，作者證明了在Wolfe型線性搜索下所提出的方法是收斂的.然而已有研究表明在該研究上存在許多的困難[5].在本文中，我們研究用共軛梯度型方法求解非負(fù)約束問題（1）.結(jié)合已有求解有界約束問題的子空間思想[4]和求解無約束問題的LiuStorey（LS）共軛梯度法[3]，提出了一個求解問題（1）的可行LS共軛梯度法，與文獻＼[6＼]的方法比較，本文提出的方法的優(yōu)點是無需求解子問題，并且在Armijo搜索下具有全局收斂性，節(jié)省大量計算.

4、湖南大學(xué)學(xué)報（自然科學(xué)版）2014年第7期劉陶文等：求解非負(fù)約束優(yōu)化問題的可行LS共軛梯度法證由KKT條件（2）以及（10）即可驗證定理結(jié)論成立.證畢引理1和定理1表明，當(dāng)dk=0時，xk必定是問題（1）的一個KKT點，而當(dāng)dk≠0時，必有g(shù)Tkdk0.設(shè)觀測向量為L∈R3，則有相應(yīng)的誤差方程：L+V=（

5、AP

6、，

7、BP

8、，

9、CP

10、）T，其中V為觀察噪聲向量.設(shè)A，B，C3個邊觀測的一次觀測值分別為500.04，502.52，714.13.5試估計P點的位移（x，y，-z）.當(dāng)P點有位移（x，y，

11、-z）時，觀測向量L的誤差方程為：L+V=

12、AP

13、

14、BP

15、

16、CP

17、=現(xiàn)在用可行LS共軛梯度法來求解問題（16）.在算法1中，取初始點（x0，y0，z0）=（1，1，1）以及常數(shù)ρ=0.5，σ=0.001，ε=0.01.算法1在7次迭代后求得P點位移估計（，，）=（0.0220，0，-0.0531），顯然這一估計比文獻＼[9＼]中的線性最小二乘估計（0.0246，0，-0.0640）更接近于實際的位移（0.004，0.02，-0.005），而且可以依據(jù)需要增加迭代次數(shù)提高精度.參考文獻[1]BIRG

18、INEG，MARTINEZJM，RAYDANM.Nonmonotonespectralprojectiongradientmethodsonconvexsets＼[J＼].SIAMJournalonOptimization，2000，10（1）：1196-1211.＼[2＼]DAIY，YUANY.Nonlinearconjugategradientmethods＼[M＼].Shanghai：ShanghaiScienceandTechnologyPublisher，2000.＼[3＼]LIUY，S

19、TOREYC.EfficientgeneratedconjugategradientalgorithmsPart1：Theory＼[J＼].JournalofOptimizationTheoryand5Applications，1991，69（1）：129-137.＼[4＼]NIQ，YUANY.AsubspacelimitedmemoryquasiNewtonalgorithmforlargescalenonlinearboundconstrainedoptimization＼[J＼].Mathe

20、maticsofComputation，1997，66（220）：1509-1520.＼[5＼]NOCEDALJ.Conjugategradientmethodsandnonlinearoptimization，In：LinearandnonlinearconjugategradientRelatedmethod＼[M＼].Philadelphia，SIAMPress，1996，9-23.＼[6＼]PYTLAKR.Anefficientalgorithmforlargescalen