机器学习算法班

第1课 概率论与数理统计
Taylor展式、梯度下降和牛顿法初步、Jensen不等式、
常见分布与共轭分布、切比雪夫不等式、大数定理、中心极限定理、矩估计、极大似然估计

第2课 矩阵和线性代数
特征向量、对称矩阵对角化、线性方程

第3课 凸优化
凸集、凸函数、凸优化、KKT条件

第4课 回归
知识内容：线性回归、logistic回归、梯度下降
实践示例：线性回归与拟合，Logistic回归与分类
工程经验：实际工程海量数据下的logistic回归使用，包括样本处理、特征处理、算法调优和背后的原理

第5课 决策树、随机森林、GBDT/xgboost/fastRGF
决策树 随机森林、GBDT、xgboost、fastRGF
实践案例：使用随机森林进行数据分类

第6课 SVM
线性可分支持向量机、线性支持向量机、非线性支持向量机、SMO
实践案例: 使用SVM进行数据分类

第7课 最大熵与EM算法
熵、相对熵、信息增益、最大熵模型、IIS、GMM

第8课 特征工程
内容：数据获取、数据清洗、特征抽取、特征选择与融合
目标：掌握实际工程数据上的特征处理与特征选择

第9课 模型调优
内容：实际机器学习项目下的场景分析、算法选择、模型构建与调优、kaggle示例
目标：掌握一个实际工业界完整的机器学习模型构建的流程

第10课 从分类到CTR预估
分类问题与LR, SVM, Random Forest，GBDT;从分类到CTR预估与排序
实践案例：电商分类与各种模型融合，CTR预估

第11课 推荐系统
基于内容的推荐，协同过滤，隐语义模型，排序模型
实践案例：基于用户打分的电影推荐系统

第12课 聚类
K-means/K-Medoid/层次聚类
实践示例：K-means代码实现和实际应用分析 

第13课 贝叶斯网络
朴素贝叶斯、有向分离、马尔科夫模型

第14课 隐马尔科夫模型HMM
概率计算问题、参数学习问题、状态预测问题
实践案例：使用HMM进行中文分词

第15课 主题模型
pLSA、共轭先验分布、LDA
实践案例：使用LDA进行文档分类

第16课 采样与变分
MCMC/KL(p||q)与KL(q||p)

第17课 人工神经网络
全连接神经网络、BP算法、链式法则
实践案例：用BP网络做样本数据分类

第18课 深度学习之CNN
卷积操作、Polling操作
理解卷积网络、卷积网络训练以及GPU加速
实践案例：卷积网络在图像分类中的应用

第19课 深度学习之RNN
RNN 网络、LSTM
实践案例：回归网络在自然语言处理中的应用（字符模型和文本生成，char-rnn 案例分析）

第20课 深度学习实践
Caffe 入门教程
Tensor Flow/MxNet 简介
实践案例：使用Torch进行图像分类及卷积网络可视化的深度学习实践