最速下降法-最優(yōu)化方法ppt課件.pptx

《最速下降法-最優(yōu)化方法ppt課件.pptx》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、最速下降法3.1.2.最速下降法原理最速下降法算法最速下降法性質(zhì)與評價主要內(nèi)容1.最速下降法原理用來求解無約束多元函數(shù)的一種迭代算法,是其他許多算法的基礎(chǔ)。意義：特點(diǎn)：簡單，直觀，適應(yīng)性強(qiáng)基本格式：其中Pk=-▽f(Xk),即搜索方向取為出發(fā)點(diǎn)的最速下降方向。minf(X),X∈En問題：由于最速下降方向的下降趨勢只是局部性質(zhì)，只能保證Xk的一個鄰域沿此方向下降。步長太長，可能會使目標(biāo)函數(shù)值上升；步長太短，會使目標(biāo)函數(shù)下降速度放慢。最優(yōu)步長？沿用最速下降方向進(jìn)行一位搜索，即求解如下一位搜索問題。設(shè)是一維搜索的最優(yōu)解，則取2.最速下降法算法設(shè)是可微函數(shù)，精度要求為，為初始點(diǎn)。

2、(1)計(jì)算梯度,k=0；(2)；(3)求解·設(shè)是一維搜索的最優(yōu)解；(4)；(5)若滿足終止準(zhǔn)則(通常取為)，令，輸出，計(jì)算終止；否則，k=k+1，轉(zhuǎn)(2)。開始輸入輸出X停止YN最速下降法流程圖例3.18用最速下降法求解無約束優(yōu)化問題：初始點(diǎn),迭代終止準(zhǔn)則為。解：（1）,,,t>0應(yīng)用一維搜索技術(shù)，可解得的極小點(diǎn)為t0=0.2所以（2）,,應(yīng)用一維搜索技術(shù)，可解得的極小點(diǎn)為t1=1所以（3）,,應(yīng)用一維搜索技術(shù)，可解得的極小點(diǎn)為t2=0.2所以（4）,注：原問題的精確極小點(diǎn)為已達(dá)到預(yù)定精度要求，迭代終止。故f（x）的無約束近似極小點(diǎn)為3.最速下降法性質(zhì)與評價相鄰兩個搜索方向

3、正交，存在鋸齒現(xiàn)象，從而影響了迭代速度。不具有有限收斂性。缺點(diǎn)：收斂于穩(wěn)定點(diǎn)，收斂速度是線性的。僅僅要求函數(shù)可微，其適應(yīng)面寬。優(yōu)點(diǎn)：常常在計(jì)算開始時使用最速下降法，而在迭代一段時間后，改用其他算法。鋸齒現(xiàn)象謝謝大家！