极大似然估计(MLE)和贝叶斯估计(MAP)
来源:互联网 发布:天津大学软件学院地址 编辑:程序博客网 时间:2024/05/16 08:54
极大似然估计(MLE)和贝叶斯估计(MAP)
标签(空格分隔):机器学习笔记
极大似然估计与贝叶斯估计是统计中两种对模型的参数确定的方法,两种参数估计方法使用不同的思想。
前者来自于频率派,认为参数是固定的,我们要做的事情就是根据已经掌握的数据来估计这个参数(上帝眼中参数
一般取对数,求偏导数得出
MLE的初衷就是选择,使得该模型
产生的这些样本数据概率最大
MLE的初衷就是选择
而后者属于贝叶斯派,认为参数也是服从某种概率分布的,已有的数据只是在这种参数的分布下产生的。所以,直观理解上,极大似然估计就是假设一个参数 θ,然后根据数据来求出这个θ. 而贝叶斯估计的难点在于p(θ) 需要人为设定,之后再考虑结合MAP (maximum a posterior)方法来求一个具体的θ:
同样取对数:
朴素贝叶斯就是MAP的一个应用
由于朴素贝叶斯是一个生产模型,用来做分类器使用。
假设总共的类别是
0代表正常邮件,1代表垃圾邮件。
假设一封邮件
先验概率:
朴素贝叶斯假设条件独立这样就可以概率相乘:
=
根据贝叶斯公式:
邮件分类:
这封邮件是
y1是指正常邮件的概率;要y2是指垃圾邮件的概率
分母是相同的 所以只需要比较分子,哪个大分到哪一类。
上面这俩式其实式最大似然估计的结果。
所以朴素贝叶斯是MAP和极大似然估计的结合(类别(
所以极大似然估计与贝叶斯估计最大的不同就在于是否考虑了先验,而两者适用范围也变成了:极大似然估计适用于数据大量,估计的参数能够较好的反映实际情况;而贝叶斯估计则在数据量较少或者比较稀疏的情况下,考虑先验来提升准确率。
- 极大似然估计(MLE)和贝叶斯估计(MAP)
- MLE极大似然估计
- 极大似然估计(MLE)
- 极大似然估计(MLE)和最大后验估计(MAP)
- 极大似然估计和贝叶斯估计
- 极大似然估计和贝叶斯估计
- 极大似然估计和贝叶斯估计
- 极大似然估计和贝叶斯估计
- 极大似然估计和贝叶斯估计
- 极大似然估计和贝叶斯估计
- MLE极大似然估计和EM最大期望算法
- MLE极大似然估计和EM最大期望算法
- 机器学习->统计学基础->贝叶斯估计,最大似然估计(MLE),最大后验估计(MAP)
- 机器学习->统计学基础->贝叶斯估计,最大似然估计(MLE),最大后验估计(MAP)
- 最大后验估计MAP/最大似然估计MLE
- (转)极大似然估计和贝叶斯估计
- 极大似然估计与贝叶斯估计
- 极大似然估计与贝叶斯估计
- Nginx源码剖析--ngx_http_optimize_servers函数分析
- 转载:Spring Boot (九):定时任务
- 概率论与数理统计笔记 第一章 概率论的基本概念
- 一个TexitView的字数监听器
- shell脚本记录
- 极大似然估计(MLE)和贝叶斯估计(MAP)
- solr单机版安装
- pe解析
- gdb的用法及常用指令
- 积化和差、和差化积公式
- PHP页面合成+请求转发
- 转载:Spring Boot (十):邮件服务
- vmware虚拟机三种网卡
- STL之list操作