Question

矩阵分解

Answer 1

为什么要进行矩阵分解？
1、从矩阵变换的角度：
将复合变换后的矩阵分解成基本变换过程。具体请看奇异值分解之矩阵变换角度。
2、从 研究动机 的角度:

首先要理解基变换（坐标变换）再理解特征值的本质。
1、如果一个矩阵的行列式为0（非满秩），其特征值为0，这个证明比较简单：

(单位矩阵有时候用 表示，有时候用 表示。)




如果 ，那么 ，进而
2、对于一个 的矩阵 ，其 ;
3、主对角线上的元素都不为0，其他元素都为0的矩阵叫对角矩阵，对角矩阵一定是正交矩阵，即其基两两垂直。

特征值分解就是矩阵的对角化，就是可以将 分解为 ， 是由对应特征向量组成的矩阵--特征矩阵， 为对角矩阵，对角线上的元素为 的特征值。只有在一定条件下，一个变换可以由其特征值和特征向量完全表述，也就是说： 所有的特征向量组成了空间的一组基 。并不是所有方阵都可以对角化，方阵 可以被对角化的条件是 ：

正交矩阵一定可以对角化 。以三维空间为例，正交矩阵就是歪着的立方体，对角化就是把这个立方体摆正（就是让它的某一个顶点放在原点上，同时这个顶点的三条边放在三条坐标轴上）。对角矩阵就是摆正后的立方体。

机器学习中的特征值分解， 往往是协方差矩阵，如PCA，所以我们要确保各个特征之间是线性无关的。

如何通俗地理解奇异值？

我们知道一个向量张成的空间是一条直线， 任意实数 可以得到非零向量 张成的空间是一条直线。那么如果一个 维空间中的向量 其所张成的空间——一条直线上的点，经过一个矩阵 变换到另一个 的空间中依然在同一条直线上，这个直线是 空间中的向量 所张成的空间，只是会有对应的缩放，这个缩放的程度就是奇异值。用数学形式表达为： ， 是 空间中的向量， 是 的变换矩阵， 是 空间中的向量， 就是奇异值。

可以感觉到特征值是奇异值的特例，当m=n且 和 重叠的时候（方向可以不同），奇异值=特征值。

奇异值分解计算例子：
https://www.cnblogs.com/marsggbo/p/10155801.html

https://www.zhihu.com/question/22237507
https://blog.csdn.net/bitcarmanlee/article/details/52662518
https://blog.csdn.net/billbliss/article/details/78559289

SVD（奇异值分解）Python实现： https://www.cnblogs.com/endlesscoding/p/10058532.html

矩阵分解为了解决传统协同过滤处理稀疏共现矩阵能力差的问题。使用矩阵分解相比传统协同过滤也提升了泛化性。

基于矩阵分解的模型又叫潜在因素模型、隐语义模型。

矩阵分解的开端是2006年的Netflix竞赛。

1、推荐系统中：
分解的是什么矩阵？共现矩阵
怎么共现矩阵分解？
1）特征值分解
要求待分解的是方阵，所以行不通
2）奇异值分解
要求待分解矩阵是稠密矩阵，而共现矩阵是稀疏矩阵，所以不行；
奇异值分解的复杂度是 ，复杂度很高，也不合适。
3）梯度下降法——也就是交替最小二乘法（alternating least squares，ALS），解决两个变量求解。
使用梯度下降法进行矩阵分解
（1）确定目标函数： ，就是一个MSE；
（2）分别对 和 求偏导
（3）参数更新
（4）迭代
得到隐向量后，对某个用户进行推荐时，利用该用户的隐向量与所有物品的隐向量进行逐一内积运算，得到该用户对所有物品的得分，再进行排序，得到最终的推荐列表。
4)贝叶斯矩阵分解
https://zhuanlan.zhihu.com/p/26067454

2、PCA---奇异值分解