KL距离

来源:互联网 发布:c语言 日期间隔 编辑:程序博客网 时间:2024/05/16 11:29
D_{mathrm{KL}}(P|Q) = sum_i P(i) log frac{P(i)}{Q(i)}. !
D_{mathrm{KL}}(P|Q) = int_{-infty}^infty p(x) log frac{p(x)}{q(x)} , {rm d}x, ! 

约定 0*log(0/q(x))=0;p(x)*log(p(x)/0)=infinity;

用KL距离可以判断两个数据集或者分布的相似程度

原创粉丝点击