Topic modeling LDA by Blei
来源:互联网 发布:房子夕晒软件 编辑:程序博客网 时间:2024/05/21 20:58
Blei 先生是LDA的鼻祖,先放图镇住,阿弥陀佛~
1、《general introduction to topic modeling》
主要介绍了topic modeling主要用于解决什么问题(search、browse、orginaze)、LDA(latent dirichlet allocation)、概率模型,lda预测隐形变量之类的,介绍了LDA的基本原理(要读懂,需要强大的数学基础),我只是粗略的读了一下
PS.想要了解LDA的数学基础,推荐一篇文章《LDA数学八卦》
2、《topic models》by DAVID M. BLEI & JOHN D. LAFFERTY
主要介绍:
chapter 2:介绍LDA以及使用后验分布
chapter 3: 如何用平均场逼近后验分布的参数(实际上使用Gibbs sampling的人比较多)
chapter 4:两种变形的LDA主题模型,Dynamic Topic models(DTM)和correlated topic model(CTM),分别用来发现主题之间关系和主题随时间变化
论文中提到的有用的一点是:使用TFIDF对词汇集选取top K词汇效果比较好,计算量也下降了
3、《Dynamic Topic Models》 by DAVID M. BLEI & JOHN D. LAFFERTY
粗略看了一遍,数学基础比较薄弱,实在看不懂关于概率分布的公式,大概意思是:每年articals的topic源自于上一年topic的演变,时间刻度参与体现在两点:
一是用含有高斯噪音的状态空间模型代替LDA中的Dirichlet分布;二是用平均α的逻辑正态分布代替LDA中的Dirichlet分布
4、《Online LDA》 by Matthew D. Hoffman & David M. Blei & Francis Bach
粗略看了一遍,关于数学方面还是有很大欠缺,导致看不懂。Online LDA更多的考虑数据量很大的情况,单纯使用变分贝叶斯(VB)计算量会比较复杂,针对这个问题,blei提出使用online VB,基于online stochastic optimization(随机优化),文本以stream的方式输入,用完就丢掉,不需要存储和收集。
推荐一篇总结的很好的博文《基于LDA的Topic Model变形》,介绍Blei的一些相关论文
http://blog.csdn.net/hexinuaa/article/details/6021069
如果想继续深入了解,可以去看看Blei列出来的关于Topic Modeling的参考书目
http://www.cs.princeton.edu/~mimno/topics.html
- Topic modeling LDA by Blei
- lda-c(Blei) 源代码结构
- 最近博客转型,focus到Topic Modeling及LDA概率模型 PRML研读,欢迎交流
- H-LDA (Blei C++) 关键代码分析
- LDA基本介绍以及LDA源码分析(BLEI)
- LDA基本介绍以及LDA源码分析(BLEI)
- LDA基本介绍以及LDA源码分析(BLEI)
- Topic Model 与 LDA
- topic model之LDA
- 用GibbsLDA做Topic Modeling
- LTM(Lifelong Topic Modeling)介绍
- 【JMLR'03】Latent Dirichlet Allocation (LDA) - David M.Blei
- Latent Dirichlet Allocation (LDA)- David M.Blei
- (zz)理解LDA,latent dirichlet allocation- David Blei
- Latent Dirichlet Allocation (LDA)- David M.Blei
- 【JMLR’03】Latent Dirichlet Allocation (LDA)- David M.Blei
- 【LDA】基于LDA的Topic Model变形
- vsm,topic model,LDA比较
- 零基础学软件测试之基础篇
- GDB 命令调试
- oracle释放零时表空间
- F1~F12在Windows系统中的作用
- c语言中栈的分配(挖个坑)
- Topic modeling LDA by Blei
- tkinter的界面更新
- Oracle递归sql
- Windows 运行命令
- ip 和 route 关于IPV6的操作介绍
- pdf转swf的Java实现,可用于实现类似百度文库的效果
- MovieClip详解
- Keynote操作技巧两则:屏幕互换及中途切换
- Limit Login Attempts防止WordPress 后台爆破