UFLDL教程[斯坦福机器学习课程]

来源:互联网 发布:python 流量 预测 编辑:程序博客网 时间:2024/05/01 22:27

说明:本教程将阐述无监督特征学习和深度学习的主要观点。通过学习,你也将实现多个功能学习/深度学习算法,能看到它们为你工作,并学习如何应用/适应这些想法到新问题上。

本教程假定机器学习的基本知识(特别是熟悉的监督学习,逻辑回归,梯度下降的想法),如果你不熟悉这些想法,我们建议你去这里

机器学习课程,并先完成第II,III,IV章(到逻辑回归)。


稀疏自编码器

  • 神经网络
  • 反向传导算法
  • 梯度检验与高级优化
  • 自编码算法与稀疏性
  • 可视化自编码器训练结果
  • 稀疏自编码器符号一览表
  • Exercise:Sparse Autoencoder


矢量化编程实现

  • 矢量化编程
  • 逻辑回归的向量化实现样例
  • 神经网络向量化
  • Exercise:Vectorization


预处理:主成分分析与白化

  • 主成分分析
  • 白化
  • 实现主成分分析和白化
  • Exercise:PCA in 2D
  • Exercise:PCA and Whitening


Softmax回归

  • Softmax回归
  • Exercise:Softmax Regression


自我学习与无监督特征学习

  • 自我学习
  • Exercise:Self-Taught Learning


建立分类用深度网络

  • 从自我学习到深层网络
  • 深度网络概览
  • 栈式自编码算法
  • 微调多层自编码算法
  • Exercise: Implement deep networks for digit classification


自编码线性解码器

  • 线性解码器
  • Exercise:Learning color features with Sparse Autoencoders


处理大型图像

  • 卷积特征提取
  • 池化
  • Exercise:Convolution and Pooling



注意: 这条线以上的章节是稳定的。下面的章节仍在建设中,如有变更,恕不另行通知。请随意浏览周围并欢迎提交反馈/建议。


混杂的

  • MATLAB Modules
  • Style Guide
  • Useful Links

混杂的主题

  • 数据预处理
  • 用反向传导思想求导


进阶主题:

稀疏编码

  • 稀疏编码
  • 稀疏编码自编码表达
  • Exercise:Sparse Coding

独立成分分析样式建模

  • 独立成分分析
  • Exercise:Independent Component Analysis

其它

  • Convolutional training
  • Restricted Boltzmann Machines
  • Deep Belief Networks
  • Denoising Autoencoders
  • K-means
  • Spatial pyramids / Multiscale
  • Slow Feature Analysis
  • Tiled Convolution Networks



英文原文作者: Andrew Ng, Jiquan Ngiam, Chuan Yu Foo, Yifan Mai, Caroline Suen