adaboost

a思想：利用多个弱分类器的输出结果加权，得到最终的分类结果。并且，通过第一个弱分类器调整第二个弱分类器权重，通过第二个弱分类器调整第三个分类器的权重。

b基本原理：

             使样本权重w均匀分布

             For  t=1：n

                使用若分类器Vt对训练样本分类；

                计算分类错误率；

                计算权重a_t；

                调整权重w；

             End

             得到a₁到a_n。

             强分类器V=sign（a₁Vt+。。。。+a_nVt）

             

c说明

有两个权重：

一个是弱分类器的权重a，是弱分类器合成强分类器的权重。a越大，最后的该弱分类器在合成强分类器的话语权越大。a值不变。

一个是样本的权重w，如果上一次该样本错误分类，该样本的w会增大，从而避免下次该样本错误分类。否则w减少。

权重a调整的由来：

选用指数损失函数作为损失函数，并使其最小；使用前向分步算法，即假设前n-1项系数都正确，求第n项系数a_n