Graphical Model(概率图模型)的浅见
来源:互联网 发布:金税盘备份的数据备份 编辑:程序博客网 时间:2024/05/10 14:43
转载自:http://chentingpc.me/article/article.php?id=1503
最近在做一些概率图模型的东西,所以有一点点浅见,就随便写写,白话、不带数学公式,不深。
概率图分为有向图(bayesian network)与无向图(markov random filed)。直觉上说,有向图突出causality(因果关系,其实只是correlation),无向图突出correlation(关联性)。为什么用图模型,我觉得主要原因还是为了更好的捕获随机变量间的关系。像SVM、Decision Tree、Regression等模型通常假设分类结果只依赖于既有的特征,并没有直接捕获(观察到的与观察不到的)随机变量之间的复杂关系,虽然在特征充足的情况下效果还是不错,但这在某些问题中会变得非常局限(比如判断A的分类不仅跟A的特征有关,跟B的分类也有关的时候)。在概率图上可以建立生成模型或判别模型。有向图多为生成模型(如LDA、HMM),无向图多为判别模型(如CRF)。过去的报告认为判别模型在分类问题上比生成表现更加好(比如Logistic Regression与Naive Bayesian的比较,再比如HMM与Linear Chain CRF的比较)。当然,生成模型的图模型也有一些难以代替的地方,比如更容易结合无标注数据做semi-or-un-supervised learning。
用概率图模型去解决问题,第一步是把模型建立起来,有哪些随机变量,他们之间是什么关系,如何互相作用,用有向图还是无向图,生成模型还是判别模型,等等。这个过程是第一步,但又不只是第一步,有些数据间的关系不是那么直觉的,用拍脑袋想出来的模型往往是需要验证与修改的。因为叫做概率图模型,所以几乎肯定是带参数,所以设计好模型后,要做的就是parameter estimation。这些参数一般要学出来,有很多种学的方法,比较常用的是ML(maximum likelihood),也就是先写一个似然函数,然后最大化似然函数来求参数,最大化的方式可以是梯度下降、牛顿法、各种拟牛顿法、SGD(随机梯度下降)
概率图模型"博大精深",由于其对随机变量间关系的出色的model能力,不错的learning与inference效果,以及日渐增多的问题都会遇到图状随机变量集,它应该会有越来越应用广泛。概率图模型比起SVM等可能还是要相对处于年幼期,虽然已经被用了很久,但是还有很多问题可以改进(比如在inference中approximation的收敛性和准确度)。想起上次龙星计划,好多人问概率图模型最近这么热但比起传统的模型究竟有多大前进?我觉得还是在处理不太一样的问题吧,直接的比较并不是特别合适(如果要比,一般要忽略变量间关系,然后用SVM等方法去做,效果往往会更差;相反,在一些非常特殊的问题上,如果有办法把这种关系融合到一些特征中去,使得随机变量能够相对独立,用BP等方法的GM也可能由于approximation而比不过SVM)。但是,在SVM专攻的方向上,也有图模型或者说网模型介入挑战了,那就是deep learning,deep learning跟graphical model有很多相似之处,虽然解决的问题与具体方法不太一样,但是网状结构的模型还是很类似的。这是不是在说明,explicitly去model(observable and unobservable)变量之间的关系与结构或许是未来的一个重要方向呢?
- Graphical Model(概率图模型)的浅见
- Graphical Model(概率图模型)的浅见
- Graphical Model(概率图模型)的浅见
- 概率图模型的学习——Probabilistic Graphical Model
- PGM:概率图模型Graphical Model
- latex中绘制graphical model概率图模型
- 概率图模型(PGM,Probability Graphical Model)推断简述
- Stanford概率图模型(Probabilistic Graphical Model)— 第一讲 贝叶斯网络基础
- Stanford概率图模型(Probabilistic Graphical Model)— 第二讲 Template Models and Structured CPDs
- Stanford概率图模型(Probabilistic Graphical Model)— 第一讲 贝叶斯网络基础
- 图模型(graphical model, GM)的表示
- 一. 图模型(graphical model, GM)的表示
- 一. 图模型(graphical model, GM)的表示
- 一. 图模型(graphical model, GM)的表示
- 一. 图模型(graphical model, GM)的表示
- 深度学习、概率图模型、逻辑之间的联系和区别 Deep Learning vs Probabilistic Graphical Models vs Logic
- 贝叶斯网络(Bayesian network))简介(PRML第8.1节总结)概率图模型(Graphical models)
- 图模型的统计推断 inference in graphical models(马尔科夫链的推断)
- android --edittext设置没有底框
- [转载]【开源中国】为 Java 程序员准备的 10 分钟 Perl 教程
- java学习笔记-----面向对象
- linux中比较文件差异命令diff用法简介
- SDL游戏开发教程11(扫雷游戏实现)
- Graphical Model(概率图模型)的浅见
- 淘宝开放平台(TOP)的返利金额获取的rails实现(hastings)
- hdu-4554-叛逆的小明
- 背包问题C++程序
- PendingIntent理解
- 笔记本或台式电脑开机黑屏的现象分析及处理办法
- 黑马程序员_学习笔记_Java基础_网络编程
- Pascal's Triangle
- centos6.4服务器-搭建lnmp环境的经验小结