词向量，LDA，word2vec三者的关系是什么？
词向量，有时候翻译为词嵌入（word embeddings），又可以称作distributed word representation[1], 最初起源是神经网络语言模型（Neural Networks Language Models）,word2vec是一种常见的word embeddings，另外一种著名word embeddings是GloVe
LDA(Latent Dirichlet Allocation)是主题模型（Topic Models）的一种计算方法，和词向量并无直接关系，不过如果扯上另外一胡迹首种topic model, LSA（Latent Semantic Allocation），那就有一些关系了：LSA的核心技术是SVD，一种矩阵分解，而SVD一般在NLP中的使用并非是使用它分解的三个矩阵，而是合并右边两个矩阵。那么合并之后，左边的矩阵就可以视为word embeddings，而右边的矩阵可以视为当它是context时候的embeddings。当然，一般的矩阵分解，比如NMF，也可以得到word embeddings。而word2vec一再被人证州让明，从结果看，是一个全局PPMI矩阵的分解。某种意义讲，word embeddings可以理解是传统矩阵分解的一个加速版本。LDA和word embeddings还是可以有点联系，比如加入LDA的结果作为word embeddings的输入，来增强文章分类效果。Latent Dirichlet Allocation(LDA)和word2vec从模型上看几乎没有显著联系。词向量则是所有对词进行表示的方法的统称。关于联系你可以这样看：LDA的作用之一是通过对doc-word矩阵进行建模抽出doc-topic和topic-word两个分布裤数。而word2vec其实是分解了word-context矩阵。其实都是对一个"A"-"B"矩阵进行建模。那么LDA自然也可以用于对word-context矩阵进行建模，而word2vec也可以对doc-word矩阵做分解。以上算是LDA和word2vec之间的的一点联系吧。不过他们之间的区别也是非常显著的。
