斯坦福大学-2017年-秋-最新深度学习基本理论课程分享
来源:互联网 发布:阿里云服务器挂载云盘 编辑:程序博客网 时间:2024/06/05 04:09
文末附课程已经Release出来的视频课程及PPT获取地址。
深度学习最近的壮观成就纯粹是经验性的。不过,知识分子总是试图从理论上解释深度学习取得这些重要成就的原因。
在本课程中,我们将回顾Bruna和Mallat,Mhaskar和Poggio,Papyan和Elad,Bolcskei和他的合着者,Baraniuk和他的合着者等人的最近的所做的工作,尝试建立一套理论框架,以解释深度学习所取得的这些成绩。
首先,我们会讲解一些基本的理论知识。然后,我们会邀请一些作者就特定的论文进行讲座。本课程每周举行一次。
课程主页:https://stats385.github.io/
课程大纲及阅读材料列表:
Lecture 1 – Deep Learning Challenge. Is There Theory?
Readings
1. Deep Deep Trouble
2. Why 2016 is The Global Tipping Point...
3. Are AI and ML Killing Analyticals...
4. The Dark Secret at The Heart of AI
5. AI Robots Learning Racism...
6. FaceApp Forced to Pull ‘Racist' Filters...
7. Losing a Whole Generation of Young Men to Video Games
Lecture 2 – Overview of Deep Learning From a Practical Point of View
Readings
1. Emergence of simple cell
2. ImageNet Classification with Deep Convolutional Neural Networks (Alexnet)
3. Very Deep Convolutional Networks for Large-Scale Image Recognition (VGG)
4. Going Deeper with Convolutions (GoogLeNet)
5. Deep Residual Learning for Image Recognition (ResNet)
6. Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
7. Visualizing and Understanding Convolutional Neural Networks
Lecture 3
Readings
1. A Mathematical Theory of Deep Convolutional Neural Networks for Feature Extraction
2. Energy Propagation in Deep Convolutional Neural Networks
3. Discrete Deep Feature Extraction: A Theory and New Architectures
4. Topology Reduction in Deep Convolutional Feature Extraction Networks
Lecture 4
Readings
1. A Probabilistic Framework for Deep Learning
2. Semi-Supervised Learning with the Deep Rendering Mixture Model
3. A Probabilistic Theory of Deep Learning
Lecture 5
Readings
1. Why and When Can Deep-but Not Shallow-networks Avoid the Curse of Dimensionality: A Review
2. Learning Functions: When is Deep Better Than Shallow
Lecture 6
Readings
1. Convolutional Patch Representations for Image Retrieval: an Unsupervised Approach
2. Convolutional Kernel Networks
3. Kernel Descriptors for Visual Recognition
4. End-to-End Kernel Learning with Supervised Convolutional Kernel Networks
5. Learning with Kernels
6. Kernel Based Methods for Hypothesis Testing
Lecture 7
Readings
1. Geometry of Neural Network Loss Surfaces via Random Matrix Theory
2. Resurrecting the sigmoid in deep learning through dynamical isometry: theory and practice
3. Nonlinear random matrix theory for deep learning
Lecture 8
Readings
1. Deep Learning without Poor Local Minima
2. Topology and Geometry of Half-Rectified Network Optimization
3. Convexified Convolutional Neural Networks
4. Implicit Regularization in Matrix Factorization
Lecture 9
Readings
1. Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position
2. Perception as an inference problem
3. A Neurobiological Model of Visual Attention and Invariant Pattern Recognition Based on Dynamic Routing of Information
Lecture 10
Readings
1. Working Locally Thinking Globally: Theoretical Guarantees for Convolutional Sparse Coding
2. Convolutional Neural Networks Analyzed via Convolutional Sparse Coding
3. Multi-Layer Convolutional Sparse Modeling: Pursuit and Dictionary Learning
4. Convolutional Dictionary Learning via Local Processing
课程在线视频链接:
https://www.bilibili.com/video/av16136625/
课程ppt下载地址:
链接: https://pan.baidu.com/s/1slyphil
密码: hrph
往期精彩内容推荐:
深度学习中如何选择一款合适的GPU卡的一些经验和建议分享
国立台湾大学-李宏毅-2017年(秋)最新深度学习与机器学习应用及其深入和结构化研究课程分享
模型汇总18 强化学习(Reinforcement Learning)基础介绍
纯干货10 强化学习视频教程分享(从入门到精通)
纯干货15 48个深度学习相关的平台和开源工具包,一定有很多你不知道的!!!
模型汇总23 - 卷积神经网络中不同类型的卷积方式介绍
斯坦福大学2017年春季_基于卷积神经网络的视觉识别课程视频教程及ppt分享
ICML17 Seq2Seqtutorial精品资料分享
斯坦福大学2017年-Spring-最新强化学习(Reinforcement Learning)课程分享
麻省理工学院-2017年-深度学习与自动驾驶视频课程分享
IJCAI-2017年会议论文下载地址分享
<模型汇总-6>堆叠自动编码器Stacked_AutoEncoder-SAE
<视频教程-2>生成对抗网络GAN视频教程part6-完整版
更多深度学习在NLP方面应用的经典论文、实践经验和最新消息,欢迎关注微信公众号“深度学习与NLP”或“DeepLearning_NLP”或扫描二维码添加关注。
- 斯坦福大学-2017年-秋-最新深度学习基本理论课程分享
- 斯坦福大学2017年-Spring-最新强化学习(Reinforcement Learning)课程分享
- 《纯干货-6》Stanford University 2017年最新《Tensorflow与深度学习实战》视频课程分享
- 国立台湾大学-李宏毅-2017年(秋)最新深度学习与机器学习应用及其深入和结构化研究课程分享
- 斯坦福大学Tensorflow与深度学习实战课程
- 吴恩达-斯坦福CS229机器学习课程-2017(秋)最新课程分享
- 斯坦福大学深度学习与自然语言处理课程解读
- <纯干货-4> 加州伯克利大学2017年最新深度强化学习视频课程_part1
- <纯干货-4> 加州大学伯克利分校2017年最新深度强化学习视频课程_part3
- 斯坦福大学2017年春季_基于卷积神经网络的视觉识别课程视频教程及ppt分享
- 纯干货13 2017年-李宏毅-最新深度学习/机器学习中文视频教程分享-前篇
- 麻省理工学院-2017年-深度学习与自动驾驶视频课程分享
- 麻省理工学院-2017年-深度学习与自动驾驶视频课程分享
- 斯坦福大学深度学习开言
- 斯坦福大学机器学习课程讲义
- 斯坦福大学机器学习课程讲义
- 斯坦福CS231n 2017最新课程:李飞飞详解深度学习的框架实现与对比
- 斯坦福大学【2014年】机器学习课程全套资料
- 假如时光倒流,我会这么学习Java
- MongoDB搭建副本集(集群)
- DFS 转弯数剪枝 hdu 1728
- Codeforces 825E Minimal Labels
- Java中hashCode的作用
- 斯坦福大学-2017年-秋-最新深度学习基本理论课程分享
- 8种常见机器学习算法比较
- 事物_软件分层
- [JavaWeb]关于DBUtils中QueryRunner的一些解读.
- PMP第5版 风险登记册被输出的5个版本
- 搭建cdn的高性能HTTP加速器Varnish服务器
- 三角形的判定
- 小菜鸟学习之路
- 渗透测试的那些事儿