DRML(2016-CVPR)重现过程记录---(8)问题定位_3

来源:互联网 发布:mac 播放ftp mp4 编辑:程序博客网 时间:2024/06/16 07:26

在上一篇提到,我接下来会训练drml检测单个AU的结果

训练与尝试_1

说明:中间层采用drml结构,输入层是lmdb, loss层采用soft max

下面是train loss 曲线


测试对AU4检测的准确率,用没有参与神经网络模型训练的数据测试,会发现检测效果很差,但是用参与训练的数据测试,在训练集上的准确率是89.45%,在测试集上的准确率是74.38%。

部分图片可视化的结果:


上面是有AU4的,下面是没有AU4的。




训练与尝试_2

说明:输入输出以及中间层都用drml.prototxt,但是multinum都改成1,fc8输出num也改为1

下面是train loss 曲线


部分loss值如下图


看到,第20次迭代时loss会突然变得特别小,第40次又突然特别大(上面loss曲线图有一个顶峰的原因),后面又突然变很小且一直在徘徊。

猜测是因为学习速率太大造成的。

学习率从0.001减小到0.0003,得到的结果跟上面差不多。所以应该不是学习率太高的原因






0 0
原创粉丝点击