Question

非奇异矩阵特征值与条件数之间的关系

解大规模病态线性方程组，其方法很多，遗产算法，模拟退火，神经网络等，也有其他迭代收敛等，我想采用对矩阵处理的方法，其矩阵特征值是不是与条件数有什么关系呢？矩阵的很多东西都忘记了。

Answer 1

条件数事实上表示了矩阵计算对于误差的敏感性。对于线性方程组Ax=b，如果A的条件数大，b的微小改变就能引起解x较大的改变，数值稳定性差。如果A的条件数小，b有微小的改变，x的改变也很微小，数值稳定性好。它也可以表示b不变，而A有微小改变时，x的变化情况。
比如线性方程组
〔1 2 [x = [4
3.999 1] y] 7.999]
的解是(x,y)=(2,1),
而
〔1 2 [x = [4.001
3.999 1] y] 7.998]
的解是(x,y)=(-3.999,4.000)
可见b很小的扰动就引起了x很大的变化，这就是A矩阵条件数大的表现。
一个极端的例子，当A奇异时，条件数为无穷，这时即使不改变b，x也可以改变。奇异的本质原因在于矩阵有0特征值，x在对应特征向量的方向上运动不改变Ax的值。如果一个特征值比其它特征值在数量级上小很多，x在对应特征向量方向上很大的移动才能产生b微小的变化，这就解释了为什么这个矩阵为什么会有大的条件数，事实上，正规阵在二范数下的条件数就可以表示成 abs(最大特征值/最小特征值)。

Answer 2

　　条件数事实上表示了矩阵计算对于误差的敏感性。对于线性方程组Ax=b，如果A的条件数大，b的微小改变就能引起解x较大的改变，数值稳定性差。如果A的条件数小，b有微小的改变，x的改变也很微小，数值稳定性好。它也可以表示b不变，而A有微小改变时，x的变化情况。
　　若n阶矩阵A的行列式不为零，即 |A|≠0，则称A为非奇异矩阵或满秩矩阵，否则称A为奇异矩阵或降秩矩阵。