PRML Chapter 2. Probability Distributions
来源:互联网 发布:小山竹网络春晚视频 编辑:程序博客网 时间:2024/05/22 20:02
P68
conjugate priors
In Bayesian probability theory, if the posterior distributions p(θ|x) are in the same family as the prior probability distributionp(θ), the prior and posterior are then called conjugate distributions, and the prior is called a conjugate prior for the likelihood. For example, the Gaussian family is conjugate to itself (or self-conjugate) with respect to a Gaussian likelihood function: if the likelihood function is Gaussian, choosing a Gaussian prior over the mean will ensure that the posterior distribution is also Gaussian.
exponential family
The exponential families include many of the most common distributions, including the normal, exponential, gamma, chi-squared, beta, Dirichlet, Bernoulli, binomial,multinomial, Poisson, Wishart, Inverse Wishart and many others.
P73页关于那个Beta分布的东东哪里看到过,想不起来了,是《统计学习完全教程》里?下次找找看。
2.2 Multinomial Variables
Multinomial 说白了就是多选一分布。比如随机变量X有三种取值x1,x2,x3,那么用一个三维向量表示Multinomial 的取值就是{1,0,0},{0,1,0},{0,0,1}分别代表选中x1,x2,x3,即必须选中一个,同时只能选一个这样的意思。
如果用μk表示xk=1时的概率,那么对于随机变量x的取值的概率分布可以表示为:
其实这个式子的意思就是当K取值k的时候,只有xk是1,其他都是0,所以这个p(x|μ)的值就是μk的值而已,因为一个数的0次方是1,所以对于其他xi(i≠k)的那部分μi全部都乘以了一个1而已。搞了这么一个玄乎的式子,应该是为了数学表示全面点,事实上直接理解就是p(x|μ) = μk。
那么对于Multinomial 的极大似然估计其实可想而知,就是数数xk的个数然后取占整个集合的比例作为概率了。式(2.31)给了数学上的likelihood的式子,但是那个什么拉格朗日乘子λ我已经没啥概念了,这里记着点以后看。
- PRML Chapter 2. Probability Distributions
- PRML Chapter 2. Probability Distributions
- PRML读书会第二章 Probability Distributions
- PRML Ch2: Probability Distributions 机器学习的概率基础
- 机器学习学习笔记 PRML Chapter 1.2 : Probability Theory
- 概率分布 Probability Distributions
- PRML读书会第二章 Probability Distributions(贝塔-二项式、狄利克雷-多项式共轭、高斯分布、指数族等)
- PRML Notes- Chapter2 Probability Distribution
- PRML系列:1.2 Probability Theory
- Study notes for Continuous Probability Distributions
- 重学statistics, Cha6 Continuous Probability Distributions
- PRML Chapter 1. Introduction
- PRML读书笔记(2)——Probability Distribution
- PRML Notes-Chapter1 Introduction(1.2 Probability Theory)
- PRML CHAPTER 2 学习笔记
- MLaPP Chapter 2 Probability 概率论
- MLaPP Chapter 2 Probability 概率论
- Probability And Statistics In Python:Distributions And Sampling
- 19个非常有用的Javascript类库
- 设置myeclipse新建jsp文件默认编码为UTF-8
- oracle的sys用户怎么通过jdbc连接
- SNMP用VC++6.0实现的方法_VC技术_C语言教程(本文来自21视频教程网C语言频道)
- MotionEvent中getX()和getRawX()的区别
- PRML Chapter 2. Probability Distributions
- Django Admin 模块探究
- 记几个实用的测试website和web开发
- 得到“恒”标志
- mac系统截屏的快捷键
- NcPaint重绘非客户区
- Android,XML配置文件内容记录
- 一 相关概念的了解
- Java注解Annotation