Gaussian LDA（高斯LDA）简介

最新推荐文章于 2024-06-15 09:48:11 发布

置顶 HFUT_qianyang

最新推荐文章于 2024-06-15 09:48:11 发布

阅读量3.7k

点赞数 2

CC 4.0 BY-SA版权

分类专栏：计算机顶会及顶刊贝叶斯相关模型及程序数据挖掘算法概率主题模型自然语言处理方法及应用文章标签： Gaussian LDA 文本分析词向量模型

本文链接：https://blog.csdn.net/qy20115549/article/details/79528781

数据挖掘算法同时被 3 个专栏收录

68 篇文章

订阅专栏

贝叶斯相关模型及程序

43 篇文章

订阅专栏

概率主题模型

36 篇文章

订阅专栏

本文介绍了发表在2015年ACL会议上的论文，该文提出了一种使用多元高斯分布替换LDA中词生成过程的方法，并通过快速的collapsed Gibbs sampling算法进行求解。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

本文作者：合肥工业大学管理学院钱洋 email：1563178220@qq.com 内容可能有不到之处，欢迎交流。
未经本人允许禁止转载。

论文来源

Das R, Zaheer M, Dyer C. Gaussian lda for topic models with word embeddings[C]//Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing (Volume 1: Long Papers). 2015, 1: 795-804.

这篇论文发在15年的计算机顶会ACL上，作者来自于卡内基梅隆。

简介

连续的词嵌套模型学习海量的非结构化文本效果非常好，适应于很多自然语言处理任务。在作者的这篇文章中，作者将LDA中词的生成部分换成了多元高斯分布，并采用了一种快速的collapsed Gibbs sampling算法来求解模型。

普通的LDA简介我就不过多介绍了，想了解的请看我之前的相关博客介绍。其生成方式如下：

论文理解

说明

这里涉及到许多贝叶斯公式推理方面的知识，建议大家参考以下内容：
1、《LDA数学八卦》
2、Griffiths T. Gibbs sampling in the generative model of latent dirichlet allocation[J]. 2002.
3、Murphy K P. Conjugate Bayesian analysis of the Gaussian distribution[J]. def, 2007【这个相当好，提供了大量的与高斯分布先验后验的推理细节】
4、Bayesian_Data_Analysis，Third_Edition_（Andrew_Gelman）【一本非常学习贝叶斯数据分析非常不错的书籍】