20170402#cs231n#13.Others

Segmentation 分割

上图中没有对四只牛进行具体的分割，因为四只牛混在一块了，这是 Semantic Segmentation

Instance Segmentation 实例分割又称为实时检测与分割
需要把每个pixel分到具体的类上面去

实际中语义分割和实例分割是分开进行的

Semantic Segmentation 语义分割

multi-scale

Refinement

Upsampling

deconv的前向后向和conv后向前向相同
deconv这个名字并不好

Instance Segmentation 实例分割

Attention Model 注意力模型

Videos

RNN与CNN相融合

Unsupervised Learning for deep learning

自动编码器和生成对抗网络

Autoencoders

Vanilla Autoencoders

在这里z的空间大小比x小是因为先把数据压缩然后提取出比较重要的部分（类似于PCA）

对于reconstructed这件事，要使用upconv使得数据从空间大小比较小的扩展回原来状态重新产生原始数据

encoder和decoder经常是会共享参数的

流程是：encode decoder 计算loss 然后反向传播

在训练结束之后会丢弃decoder，这是因为reconstruction重建这件事并不是很有用

大量的无label样本和少量有label样本，适合用Autoencoders，利用encoder去初始化监督模型。利用很多无监督学习样本去学习到有用的特征，但是这个方法其实不是很行的通。

Variational Autoencoder

由于上图左边的pθ(x)几乎找不到

与Vanilla Autoencoders不同的是，在最后不再计算L2 LOSS而是让output的数据分布与原始数据分布相似，中间部分也有loss，中间部分产生的隐含特征概率要和最前面声明的先验概率分布近似

Generative Adversarial Nets 生成对抗网络

包含生成器和鉴别器