ECCV A Discriminative Feature Learning Approach for Deep Face Recognition

来源:互联网 发布:手机性价比 知乎 编辑:程序博客网 时间:2024/05/22 15:54
A Discriminative Feature Learning Approach for Deep Face Recognition
主要思想:
  是一种metric learning的思想,本文提出在原有的网络结构上加入center loss,仅改变原有的损失层,使得网络容易训练和优化网络。本文同时使用softmax loss and center loss两种监督信号,把softmax loss看作是可训练的Separable Features,Center loss可看做能够训练出Discriminative Features. Center loss使得类内聚合,类间松散。
实例:
   通过使用在MNIST数据上验证Center loss的作用,在FC上使用2个神经元,使得特征可视化。在LeNets上进行修改,修改的具体参数为

损失函数:
  softmax loss function 
  Center loss

表示类yi的类中心。
问题:在这个公式中,可以看出,要将所有的训练样本导入网络中,才能确定样本类中心。
解决:1、在每次更新计算样本中心时使用mini-batch 2、为了避免由于少量样本的错误标签导致样本中心的扰乱,使用标量a来控制center的学习率。
改变后:



训练算法

实验结果分析:
2维可视化(MNIST数据集)
仅使用softmax loss function

加入 center loss后


通过两个图对边可以看出

1 0