??本文將在 DL 共軛梯度法的基礎(chǔ)上,介紹 HZ 共軛梯度法。這是由 Hanger-Zhang 于 2005 年提出的一種非常經(jīng)典的共軛梯度法...
??共軛梯度法是一類重要的方法,特別是當(dāng)維數(shù)很大時(shí)。本文將提出一種新的共軛條件,考慮其非精確線搜索。依據(jù)新的共軛條件,兩種非線性共軛梯度法將會(huì)被...
??本節(jié)我們將介紹共軛梯度法,只是簡(jiǎn)單的介紹一下,其收斂性的證明和共軛梯度法類似。 1、簡(jiǎn)介 ??LS 共軛梯度法是由 Liu 和 Storey...
??本節(jié),我們將提出兩種類型的線搜索,他們都是依據(jù)標(biāo)準(zhǔn)線搜索。本文的第一種線搜索且要求能夠保證在每一步產(chǎn)生一個(gè)下降方向,在這種線搜索下,,和方法...
本節(jié)我們將介紹另外一種經(jīng)典的共軛梯度法,即是共軛梯度法。 1、引言 ??HS 共軛梯度法是由 和于1952 年在求解線性共軛梯度法中提出,后來(lái)被...
??上節(jié)我們證明了方法在一種型線搜索下的全局收斂性。本節(jié)將證明取常數(shù)步長(zhǎng)因子的方法的收斂性。 1、引言 ??PRP 共軛梯度法是由 Polak ...
??在節(jié),我們證明了方法的收斂性。然而,即使是一致凸函數(shù),參數(shù)也可能非負(fù)。在節(jié),我們知道采取精確線搜索的方法對(duì)于一致凸函數(shù)的全局收斂性。于是,和...
??如果使用非精確線搜索如強(qiáng) Wolfe 線搜索,戴彧虹在文獻(xiàn) 中舉出例子表明,即使為一致凸函數(shù),而且參數(shù)充分小,PRP 方法都可能產(chǎn)生一個(gè)上升...
??本文將介紹 PRP 共軛梯度法,我們又進(jìn)入嶄新的一頁(yè)。方法的全局收斂性證明會(huì)有點(diǎn)難,所以在 1969 年提出 PRP 共軛梯度法,卻在 19...