Dirichlet Process and Stick-Breaking(DP的Stick-breaking 构造)
来源:互联网 发布:淘宝网创业计划书 编辑:程序博客网 时间:2024/06/06 03:32
目录
- Dirichlet Process简介
- Stick-Breaking构造
本文作者:合肥工业大学 管理学院 钱洋 email:1563178220@qq.com 内容可能有不到之处,欢迎交流。
未经本人,允许禁止转载。
下面是本文博客的另一个地址,该网站是师兄弄得一个专门做机器学习的网站,非常不错。
http://www.datalearner.com/blog/
Dirichlet Process简介
DP是一种非参数贝叶斯模型, 其优点是参数的个数和性质灵活可变, 可通过模型和数据来计算数目, 近年来它已成为机器学习和自然语言处理研究领域中的一个研究热点。举个例子,我们在使用聚类方法k-means时,需要指定k的值(聚成k个簇);在使用LDA时需要指定主题的数目k,但通过DP过程这种非参方法,可以不指定k,而是通过数据学习,自动获取k值。
如下所示为混合模型对等的两个图,其中图二是从随机测度的角度画的概率图。正如图中提到的问题,当k趋向于无穷大的时候,该怎么办呢?
Stick-Breaking构造
在上图中,当
如下公式表达为Stick-breaking 构造:
则定义随机分布
其中,
Stick-breaking 构造可以形象地解释为:对长度为1的棒子在比例
第一次减掉的比例为:
第二次减掉的比例为:
以此类推。。。。。
参考文献:
(1)徐谦, 周俊生, 陈家骏. Dirichlet 过程及其在自然语言处理中的应用[J]. 中文信息学报, 2009, 23(5): 25-33.
(2)周建英, 王飞跃, 曾大军. 分层 Dirichlet 过程及其应用综述[J]. 自动化学报, 2011, 37(4): 389-407.
(3)Dirichlet Process and Stick-Breaking
- Dirichlet Process and Stick-Breaking(DP的Stick-breaking 构造)
- 从折棍子(Stick Breaking)模型到狄利克雷过程(DP)
- Stick
- Stick
- Stick
- stick
- stick
- stick
- stick
- CF507E Breaking Good(spfa+dp)
- Pasha and Stick(纯数学问题)
- Pasha and Stick
- A. Pasha and Stick
- Pasha and Stick
- Pasha and Stick
- Pasha and Stick
- 【codeforces】Pasha and Stick
- Pasha and Stick
- 5.2最少转机——图的广度优先遍历
- 归并排序(Java&&JavaScript)
- 牛客网剑指offer-02替换空格
- HTML5本地存储-localStorage如何实现定时存储
- 【LeetCode】88. Merge Sorted Array
- Dirichlet Process and Stick-Breaking(DP的Stick-breaking 构造)
- signed char类型取值范围计算
- 经典排序算法之选择排序算法
- 基于nodejs模拟浏览器post请求爬取json数据
- SLF4JLogFactory does not implement org.apache.commons.logging.LogFactory
- 【第十课】异常---finally的使用
- 6.1只有五行的算法——Floyd-Warshall
- 免安装版MySQL乱码(问号)问题解决方案
- LA 3514