【神经网络】神经网络可视化工具

t-SNE 

方法：在fc7（倒数第一层fc）提取输出，并用欧氏距离远近展示（或聚类）。好的网络可以直观看到同分类的图片聚在一起，几何上易被切割出来。

http://cs.stanford.edu/people/karpathy/cnnembed/

一个例子：

4000*4000（3.2M）

Visualizing Activations

方法：

    1. 逆向使用已训练好的神经网络生成图片：输入一张只有噪点的图片，并且要求它在某个分类上可能性最大化，则神经网络会用它学到的东西给这张图片添加该分类的特性，最终“”绘制“出一张画。通过这种形式来看神经网络对于某个分类的理解。

    2. 动态观察各层激活的情况：https://github.com/yosinski/deep-visualization-toolbox

http://yosinski.com/deepvis

待续