关于Exponential family

来源:互联网 发布:进销存软件免费下载 编辑:程序博客网 时间:2024/06/05 14:21

exponential family 在回归算法,聚类起到重要作用,并为GLM(Generalized linear model )提供了基础


可以将伯努利,泊松,伽马,正太,狄克累分布等等常用分布都展现成的形式

 f_X(x|\theta) = h(x)\ \exp[\ \eta(\theta) \cdot T(x)\ -\ A(\theta)\ ]

其中theta作为参数


例如

可被分解为


       h_\sigma(x) = e^{-x^2/2\sigma^2}/\sqrt{2\pi}|\sigma|

T_\sigma(x) = x/\sigma\!\,
A_\sigma(\mu) = \mu^2/2\sigma^2\!\,
\eta_\sigma(\mu) = \mu/\sigma.\!\,

exponential family在各式分类其中可以给出P(X|Y)的通用模型,并演化成不同分布模式