数值分析03解线性方程组的迭代法

求解线性方程组的解法，一类逐次求逼近的方法

Jacobi迭代法

GaussSeidel迭代法

利用最新的迭代结果能够加快收敛速度

Jacobi和Gauss-Seidel的收敛性

收敛条件：

1、严格对角占优矩阵

2、对称正定矩阵GS收敛

3、E||B||＜１　则收敛

SOR方法

使用一个参数ω调整迭代中的修正量的大小－－这不就是TMD机器学习的bias　！！！

$\omega$ 取值0-2 ，取值为1时即为GS迭代