机器学习:贝叶斯_1:贝叶斯估计
来源:互联网 发布:上海证券交易软件下载 编辑:程序博客网 时间:2024/05/20 15:37
β 密度函数
β 密度函数可以用于0~~1直接的连续随机变量
Γ(Z)是 γ 函数
后验概率
- r视为随机变量R;
P(yN|r) : 似然值;在一个特定的 r下,观测到yN 的可能性p(r) : 先验概率P(yN) : 边缘分布
共轭先验
- 如果似然和先验是一对共轭,那么后验和先验具有相同的形式
贝叶斯推论
- 先验和后验的共轭是罕见的
二值响应
- t={0,1} ;
w :参数 ;X : 观测对象
其中:
先验
- p(w):高斯分布
p(w)=N(0,σ2I) - 记:
p(w|σ2)
似然
- 设独立同分布,
p(t|X,w)=∏Nn=1p(tn|Xn,w) - 设为sigmod函数
- 设独立同分布,
边际似然
Z−1=p(t|X,σ2)=∫p(t|X,w)p(w|σ2)dw
后验概率:
p(w|X,t,σ2)=Z−1g(w;X,t,σ2)
三种解决办法
- 找到与最高后验概率一致的
w 的单值.Z−1不是w的函数 - 近似
p(w|X,t,σ2) - 后验概率采用
点估计:最大后验
logg(w;X,t)=logp(t|X,w)+logp(w|σ2) - 优化算法求解w
拉普拉斯近似
高斯近似感兴趣的密度
logp(w;X,t,σ2)≈泰勒展开,忽略三阶 logp(w;X,t,σ2)≈logg(w^;X,t,σ2)−v2(w−w^)2 p(w|X,t,σ2)≈N(μ,∑)
抽样技术
0 0
- 机器学习:贝叶斯_1:贝叶斯估计
- 机器学习:贝叶斯总结_1:概述
- 机器学习->统计学基础->贝叶斯估计,最大似然估计(MLE),最大后验估计(MAP)
- 机器学习->统计学基础->贝叶斯估计,最大似然估计(MLE),最大后验估计(MAP)
- 机器学习:LDA_数学基础_1:贝叶斯数学_基础
- 机器学习: 最小二乘与贝叶斯估计
- 斯坦福机器学习笔记_1
- 机器学习之极大似然估计
- 机器学习----贝叶斯分类器(贝叶斯决策论和极大似然估计)
- 【机器学习笔记】判别模型和生成模型(贝叶斯估计)
- 位姿估计_1
- 《机器学习》学习笔记_1.机器学习的分类
- 机器学习05-支持向量机_1
- 机器学习_1之dlib库
- 贝叶斯估计
- 贝叶斯估计
- 贝叶斯估计
- 贝叶斯估计
- HDU_ACM_A+B for Input-Output Practice (IV)
- C#时间DateTime包含星期存入数据库错误
- the summary of greedy strategy
- Theano下用CNN(卷积神经网络)做车牌中文字符OCR
- 226. Invert Binary Tree | Java最短代码实现
- 机器学习:贝叶斯_1:贝叶斯估计
- 跑 NeuralStyle (使用CNN进行的画风迁移实验)
- 逆序整数二进制
- Qt使用QGraphicsView实现滑动窗体效果 .
- Eclipse 常用快捷键
- HDU_ACM_A+B for Input-Output Practice (V)
- 详解Java中的checked异常和unchecked异常
- dispatch_once让代码只执行一次
- Linux设置默认python3