最大熵，三硬币模型的R语言代码

#最大熵算法

#《 统计学习方法》最大熵，三硬币模型的R语言代码

   有3个硬币，分布为A、B、C，硬币正面的概率是pai，p，q。投币实验如下，先投A，如果A是正面，即A=1，那么选择投B；A=0，投C。

  最后，如果B或者C是正面，那么y=1；是反面，那么y=0；

  投n次，n=0，结果序列是 ：1,1,0,1,0,0,1,0,1,1

Θ是向量pai，p，q。

y是观察到的硬币最终的正反面。

Z是硬币A的投掷结果，是没有未观察到的。

  

theta=c(0.4,0.6,0.7);pai=theta[1];p=theta[2];q=theta[3];y=c(1,1,0,1,0,0,1,0,1,1);n=length(y);u=seq(1,10,by=1);for(i in 1:100){  for( j in 1:n)   {     t=pai*p^y[j]*(1-p)^(1-y[j]);    s=(1-pai)*q^y[j]*(1-q)^(1-y[j]);    u[j]= t/(t+s);      }      pai=1.0*(sum(u))/n;    p=sum(u*y)/sum(u);    q=sum((1-u)*y)/sum(1-u);}paipq