直方图法、Kn近邻估计法、Parzen窗法
来源:互联网 发布:windows可以开发ios吗 编辑:程序博客网 时间:2024/04/27 19:39
当需要估计的概率密度函数的形式未知,比如我们并不能知道样本的分布形式时,我们就无法用最大似然估计方法或贝叶斯估计方法来进行参数估计,而应该用非参数估计方法。这里就介绍三种非参数估计方法。
需要知道的是,作为非参数方法的共同问题是对样本数量需求较大,只要样本数目足够大众可以保证收敛于任何复杂的位置密度,但是计算量和存储量都比较大。当样本数很少时,如果能够对密度函数有先验认识,则参数估计能取得更好的估计效果。
一、直方图法
首先来考虑最简单的情况,样本
现在考虑复杂一点的情况,当
假设总样本数为
可以注意到,小区间的大小选择与估计的效果是密切相连的。如果区域选择过大,会导致最终估计出来的概率密度函数非常粗糙;如果区域的选择过小,可能会导致有些区域内根本没有样本或者样本非常少,这样会导致估计出来的概率密度函数很不连续。所以,随着样本数的增加,区域的体积应该尽可能小,同时又必须保证区域内有充分多的样本,但是每个区域的样本数有必须是总样本数的很小的一部分。
所以说,固定区域大小的直方图法只是最简单的非参数估计方法,要想有更好的估计,需要采用能够根据样本分布调整区域大小的方法。下面介绍的
二、
该方法的基本思想是:根据总样本确定一个参数
这样,在样本密度比较高的区域的体积就会比较小,而在密度低的区域的体积则会自动增大,这样就能够较好的兼顾在高密度区域估计的分辨率和在低密度区域估计的连续性。
为了取得好的估计效果,需要选择合适的
三、Parzen窗法
Parzen窗法是另外一种在取值空间中进行取样估计的方法,或者说可以看作是用核函数对样本在取值空间中进行插值。
假设
定义如下
这个函数在以原点为中心的
将其带入
在上式中定义核函数(或者叫窗函数和):
核函数反应了一个观测样本
合法的核函数应该满足密度函数的要求,即:
这种用窗函数(核函数)估计概率密度的方法就是Parzen窗法,或者叫核密度估计。
常见的几种核函数:
(1)方窗:
其中
(2)高斯窗(正态窗)
即以样本
一维情况为:
(3)超球窗
其中
- 直方图法、Kn近邻估计法、Parzen窗法
- 直方图法、Kn近邻估计法、Parzen窗法
- [模式分类] Parzen窗概率密度估计与Kn近邻概率密度估计
- 模式识别:非参数估计法之Parzen窗估计和k最近邻估计
- Parzen窗法概率密度函数估计
- 非参数估计-parzen窗估计和k近邻估计
- MATLAB 下的 Parzen函数 Parzen 窗法概率密度函数估计
- parzen窗方法和k近邻方法估计概率密度
- 模式识别七--非参数估计法之Parzen窗估计和k
- Parzen窗估计
- Parzen窗估计
- Parzen window概率密度估计
- Parzen window概率密度估计
- 非参数估计:parzen窗发与kn近领法
- 非参数估计-Parzen窗口函数法
- parzen窗-非参数密度估计
- 概率密度估计的Parzen窗方法
- Matlab演示Parzen窗法
- 关于mini2440中断配置
- 解决 VS2005解决方案下无法添加多个项目的问题
- Java 面试高频提问知识点之:Set、List 和 Map 的区别
- 给出double底数求int的次方的递归和循环方法
- Android 点击空白处自动隐藏输入法,适用activity与fragment
- 直方图法、Kn近邻估计法、Parzen窗法
- Chrome插件-Postman
- PHP读取大文件小技巧
- HDU 2674 N!mod2009
- 转载华为测试题目
- Spring MVC 教程,快速入门,深入分析
- clock(), sleep(), Sleep()在windows和Linux的区别
- Bag of Words(BOW)模型
- Unity3D - 图形性能优化