人脸识别正则化系列之normface
来源:互联网 发布:罗辑思维的骗局 知乎 编辑:程序博客网 时间:2024/06/07 11:07
今天介绍一下NormFace: L2 Hypersphere Embedding for Face Verification
Motivation
基本原理
即使样本被完美分类,即对应类别的输出为1,其他的为-1,那么这个概率Py还是一个比较小的值,而softmax loss的梯度为1-Py,这使得容易的样本梯度也很大。相比于原来的softmax loss,其输入的scale可以很大使得概率Py是个接近于1的数使得难易样本的梯度差别比较明显。所以解决办法也就显而易见了,就是在normalize之后加个scale,让这个差距再拉大,所以最终normalize之后的softmax loss如下,其中w和f都是归一化的。
到这里为止作者已经解决了归一化的softmax问题,那么归一化还有什么好处呢,由于归一化之后w和f的平方项为1或者常数,
那么欧式距离、内积、cosine距离就变成了等价的
其原理在于用Wj、Wk去代替原本loss里面的fj和fk,作者把这个Wj叫做第j类feature的agent,
直观的理解就是fi和他自己所在类别的Wj的距离应该足够接近而与其他类别的Wk的距离应该足够远,
其实这个与原本的constractive和triplet loss还是有本质差别的,这里的loss输入仍然是f和W内积之后的输出,
只不过形式变成了不同类别所对应的输出之间的比较,而原来在没有normalize的情况下这个值并不能等价
于cosine距离并且范围不固定使得margin的选择变得很困难。相比于作者之前的工作
SphereFace: Deep Hypersphere Embedding for Face Recognition. In Proceedings of the IEEE conference on computer vision
实验结果
总结:
- 人脸识别正则化系列之normface
- 人脸识别之端到端框架(五)--NormFace
- 人脸识别-NormFace: L2 Hypersphere Embedding for Face Verification
- 正则表达式之识别网址
- 图片识别之人脸识别API
- 人脸识别之颜色识别
- 人脸识别系列方法调研
- 浅谈语音信号处理系列之五 语音识别与说话人识别
- 人脸识别之特征向量
- 人脸识别之LBPH
- 人脸识别之PCA
- 人脸识别之FaceNet
- 人脸识别之light_cnn
- 人脸识别之DeepFace
- 人脸识别之Face++
- 人脸识别之light_cnn
- 人脸识别之SphereFace
- 人脸识别《一》opencv人脸识别之预处理
- linux下的僵尸进程产生原因和解决方法(含具体代码)
- PyScripter中文乱码原因
- Java使用OpenCV实现人脸识别/人眼检测/图片截取/合成/添加水印
- Storm IRichSpout
- cad转pdf格式怎么设置线宽
- 人脸识别正则化系列之normface
- java web 学习笔记
- __cdecl与_stdcall
- Android中清除缓存模块
- 解决Redis局域网内不能访问的问题(Windows/Linux)
- kd树划分空间选择维度使用方差的好处
- HTML5的相关内容
- js判断本地文件是否存在
- 统计一个数组中多少重复的元素