最大信息熵原理
来源:互联网 发布:建筑拆除优化设计 编辑:程序博客网 时间:2024/06/06 14:21
摘自:http://www.wljx.sdu.edu.cn/wlwz/reading/r_infor/shang7.htm
在很多情况下,对一些随机事件,我们并不了解其概率分布,所掌握的只是与随机事件有关的一个或几个随机变量的平均值。
按最大信息熵原理,我们从全部相容的分布中挑选这样的分布,它是在某些约束条件下(通常是给定的某些随机变量的平均值)使信息熵达到极大值的分布。这一原理是由杨乃斯提出的。这是因为信息熵取得极大值时对应的一组概率分布出现的概率占绝对优势。
在我们把熵看作是计量不确定程度的最合适的标尺时,我们就基本已经认可在给定约束下选择不确定程度最大的那种分布作为随机变量的分布。因为这种随机分布是最为随机的,是主观成分最少,把不确定的东西作最大估计的分布。
任何物质系统除了都受到或多或少的外部约束外,其内部总是具有一定的自由度,这种自由度导致系统内的各元素处于不同的状态。而状态的多样性,状态的丰富程度(混乱程度、复杂程度)的定量计量标尺就是熵,熵最大就是事物状态的丰富程度自动达到最大值。换句话说,事物总是在约束下争取(或呈现)最大的自由权,我们把这看作是自然界的根本原则。
在给定的约束条件下,由最大信息熵原理求“最佳”概率分布,就是求解条件极值问题。在某些场合,常用拉格朗日乘子法来确定此分布。
- 最大信息熵原理
- 最大熵原理
- 最大熵原理
- 最大熵原理
- 最大熵模型原理小结
- 最大熵学习笔记(二)最大熵原理
- 最大熵学习笔记(二)最大熵原理
- 最大熵学习笔记(二)最大熵原理
- 最大熵学习笔记(二)最大熵原理
- 最大熵学习笔记(二)最大熵原理
- 机器学习——最大熵原理
- 机器学习算法疗程(最大熵原理)
- 二维最大熵阈值分割原理与opencv实现
- 完备的最大熵模型算法原理解析
- 最大信息系数(MIC)
- MIC(最大信息系数)
- 电脑支持最大内存原理
- 高斯分布的信息熵最大。即,高斯分布是最混乱系统。
- C# 实现Smart Device WIFI 的打开/关闭
- volatile的作用
- 深度剖析WinPcap之(九)——数据包的发送过程(1)
- 深度剖析WinPcap之(九)——数据包的发送过程(2)
- FINAL的使用节省时间
- 最大信息熵原理
- linux 条件变量
- 深度剖析WinPcap之(九)——数据包的发送过程(3)
- DOM的Form对象
- extjs 表格锁定同时多表头
- Disable (initial) screen lock
- 深度剖析WinPcap之(九)——数据包的发送过程(4)
- 路径
- 深度剖析WinPcap之(九)——数据包的发送过程(5)