LDA文本建模(1)——数学基础
来源:互联网 发布:homebrew 卸载mysql 编辑:程序博客网 时间:2024/05/18 06:25
- 二个函数:Gamma函数、Beta函数
- 五个分布:二项分布(Binomial)、多项分布(Multnomial)、Gamma分布、Beta分布、Dirichlet分布
- 一个概念:共轭先验
1)Gamma函数
gamma函数性质:
gamma函数和log(gamma)函数都是凸函数。
2)Beta函数
性质:
3)Gamma分布(可略去)
(对于连续函数,我们说**分布,就是指该连续**函数的概率密度函数)
对Gamma函数的定义作变形有:
4)二项分布(略去)
5)Beta分布
(对于连续函数,我们说**分布,就是指该连续**函数的概率密度函数)
beta分布是指一组定义在(0,1)区间的连续概率分布,有两个参数alpha和beta,且alpha和beta都大于0。
beta分布的概率密度函数:
随机变量X服从参数为alpha和beta的beta分布通常写作:。
6)多项分布
7)Dirichlet分布
简单的理解,Dirichlet 分布就是一组连续多元变量的概率分布,是Beta分布在高维度上的推广。
8)Beta-Binomial 共轭
例如,下面的m1和m2分别表示抛硬币时正面向上和反面向上的次数;p表示正面向上的概率。
9)Dirichlet-Multinomial共轭
对于非负实数向量,有:
10)Beta/Dirichlet分布的一个性质
参考:
http://blog.csdn.net/v_july_v/article/details/41209515
rickjin的LDA数学八卦(力荐,本文部分图片和公式来自于此文档)网页版:http://www.flickering.cn/tag/lda/,PDF版:http://emma.memect.com/t/9756da9a47744de993d8df13a26e04e38286c9bc1c5a0d2b259c4564c66132
- LDA文本建模(1)——数学基础
- LDA文本建模(3)——pLSA模型和LDA模型
- LDA文本建模(2)——MCMC和Gibbs Sampling
- LDA文本建模(4)——算法细节、伪代码、实现
- LDA文本建模
- 数学建模(1)
- 数学建模(1)——遗传算法(GA)
- 数学建模(12)——拟合
- 数学建模(15)——聚类分析
- 数学建模(11)——Lingo使用&数学规划
- 数学建模基础
- 【数学建模】数学建模(一)——数学模型概述
- 数学建模——图
- 数学建模——表格
- 数学建模——公式
- 数学建模实录(1)
- MCMC,LDA,文本建模,来点干货(一)
- 《LDA漫游指南》数学基础阅读笔记
- ACM 模板--邻接表 有向图 搜索算法
- 获取指定域名IP地址
- java基础知识5
- 链接服务器不能启动分布式事务
- win32相对路径到绝对路径的转换
- LDA文本建模(1)——数学基础
- C结构体struct学习
- 《nodejs开发指南》微博实例express4.x版
- foreach 循环插入一个数组
- 这几年,我从一线城市学到什么?
- 鲍鹏山:别培养高学历的野蛮人
- 第二章习题汇总
- 保存Fragment状态最好的实现
- ACM模板--邻接矩阵 无向图 搜索算法