机器学习的一般算法

1、线性模型

• 列表内容
• 线性回归
• 阿斯蒂芬
• 线性判别回归
• 多分类回归

2、决策树

• 多变量决策树

3、支持向量机

• 核方法

4、贝叶斯分类器

• 极大似然估计
• 朴素贝叶斯分类器
• 半朴素贝叶斯分类器
• 贝叶斯网
• EM算法

5、集成学习

• Boosting
• Bagging和随机森林
• 结合策略

6、聚类

• 原型聚类
• 密度聚类
• 层次聚类

7、神经网络

8、降维和度量学习

• K邻近学习
• 低维嵌入
• 主成分分析
• 核线性降维
• 流行学习
• 度量学习

9、特征选择和稀疏学习

• 字迹搜索与评价
• 过滤式选择
• 包裹式选择
• 嵌入式选择与L1正则化
• 稀疏表示和字典学习
• 压缩感知

10、计算学习理论

• PCA学习
• 有限假设空间
• VC维
• Rademacher复杂度

11、半监督学习

• 半监督SVM
• 图半监督学习
• 半监督聚类
• 基于分歧的办法

12、概率图模型

• 隐马尔科夫模型
• 马尔科夫随机场
• 条件随机场
• 学习与推断
• 话题模型
• 近似推断

13、规则学习

• 序贯覆盖
• 减枝优化
• 一阶 规则学习
• 归纳逻辑程序设计

14、强化学习

• K-摇臂赌博机
• 有模型学习
• 面模型学习
• 值函数近似
• 模仿学习