最大熵模型

最大熵原理，需要对一个随机事件的概率分布进行预测时，我们预测应当满足全部已经知道的提哦爱按，而对位置的情况不要走任何主观假设，不做主观假设这点很重要在这种情况下，概率分布最均匀，预测额风险最小，因为这是概率分布的信息上最大，所以人们称这种模型为最大熵模型

 

对任何一组布想象矛盾的信息，这个最大熵 模型不仅存在，而且是唯一的，此外，他们都有同一个非常简单的形势-指数函数

 

例子 拉纳帕提的词性标注系统

 

把各种特征综合到一起最好的方法 就是采用最大熵模型

 

最大熵的简化模型 线性差值模型