正方形線性方程組求解：系數(shù)矩陣非奇異

• 雅克比迭代、高斯-賽德爾迭代、(超)松弛迭代；
• 對稀疏矩陣與處理后，萬能高斯-賽德爾迭代。
• 參考本文

欠定線性方程組：方程個數(shù) < 未知數(shù)個數(shù)

• 有無窮解：用廣義加號逆求通解、唯一極小范數(shù)解；
• 參考本文

超定線性方程組：方程個數(shù) > 未知數(shù)個數(shù)

• 無解：用廣義加號逆求全部最小二乘解、唯一極小范數(shù)最小二乘解；
• 參考本文和上文

補充1：總之，不管系數(shù)矩陣是什么樣子，
只要方程無解，用廣義逆可以求它的全部最小二乘解和唯一極小范數(shù)最小二乘解；
只要方程有通解，用廣義逆可以求它的通解和唯一極小范數(shù)解；
只要方程有唯一解，那系數(shù)矩陣一定是正方形的，廣義逆和普通逆完全一樣。

正方形非線性方程組：若有解，一般都是多解！

• 牛頓法：原始牛頓法、修正牛頓法；
• 擬牛頓法：逆Broyden秩1、逆Broyden秩1第二方法、BFS秩2。
• 參考本文

補充2：非線性方法組個人感覺不用考慮方程個數(shù)和未知數(shù)個數(shù)的關(guān)系，一般都是正方形。因為不管是正方形還是長方形，若有解都是很多解(交線、交面等)！所以都是歸結(jié)于到一個"局部收斂"問題。