1、證明線性方程AX=b,當(dāng)系數(shù)矩陣A超定時,最小二乘解為? ? ?

答案:參考一下鏈接的證明,不想去證明一次,說一下思路,這個是最小化,||Ax-b||/2,通過矩陣的跡來確定,
TR{{AX-B}{AX-B}T}, 對這個跡進(jìn)行對X求導(dǎo),求出導(dǎo)數(shù)為零的點(diǎn),可以解得上面這個公式。跡的求導(dǎo)可以這個鏈接:https://blog.csdn.net/acdreamers/article/details/44662633。
2、調(diào)研最速下降法、牛頓法、高斯牛頓法、列文伯格-馬夸爾特方法各有什么優(yōu)點(diǎn),除了ceres庫和g2o庫還有什么優(yōu)化庫。
答:什么是最速下降法,解決了什么問題,基本的原理是什么?
參看一下大牛在文章,最速下降法是指選定一個初始點(diǎn),在梯度負(fù)方向上進(jìn)行搜索,得到一個局部駐點(diǎn),這種方法不足是初始角,步長的選擇過大或者過小都容易出現(xiàn)問題,當(dāng)接近駐點(diǎn)時搜索過慢。https://zhuanlan.zhihu.com/p/32709034。
牛頓法是函數(shù)在某一點(diǎn)附近進(jìn)行了二次展開,需要用來Hessen矩陣計(jì)算較為復(fù)雜,運(yùn)算量較大,它的優(yōu)點(diǎn)是,采用了二次擬合,下降速度更快。參考這篇文章,https://www.cnblogs.com/shixiangwan/p/7532830.html
高斯牛頓法是牛頓法專門用來解決最非線性最小二乘的問題。列文伯格-馬夸爾特方法解決了高斯牛頓法在初始迭代不能保證收斂的缺點(diǎn)。
3、為什么高斯牛頓法的增量系數(shù)矩陣可能不正定,不正定有什么幾何含義,為什么這種情況下解就不穩(wěn)定了。
答:增量矩陣JT*J,假設(shè)J在方陣的情形下,正定矩陣的要求是所有特征值均為零,經(jīng)過我的思考,如果雅克比矩陣是半正定的,也就是在某種情況下,J的行列式會等于零,這個時候增量方程出現(xiàn)零行某些變量將不會被優(yōu)化到,所以得不到一個最優(yōu)解。增量矩陣內(nèi)在要求H就是要是正定的,如果出現(xiàn)0的情況,無法求解。這時代表在這個方向上,無變化,所有點(diǎn)都一樣,無法在這個方向上優(yōu)化。
如何查看內(nèi)存在使用情況,ubuntu,gnome-system-monitor。
安裝ceres庫時遇到關(guān)于模板的問題,“” is not a template.所以,這時說的是eigen版本太低。重新安裝

4、DogLeg是什么,與高斯牛頓和列文伯格-馬夸爾特方法有何異同。
答:基于信賴域的優(yōu)化問題,狗腿法,是基于依賴域的,更加靈活,與高斯牛頓和馬夸爾特方法相比,不同點(diǎn)是采用了依賴域,相同點(diǎn)是都采用了非純線性梯度的方法.