基于全连接孪生网络的目标跟踪（siamese-fc）

Fully-Convolutional Siamese Networks for Object Tracking

这两年可以说deeplearning已经占领了visual object tracking这个领域，但是对于跟踪问题来说，这些基于DL的做法虽然能够很好的提升跟踪的效果，但是在时效性这一方面却做的很差，这是因为DL复杂的模型往往需要很大的计算量，尤其是当使用的DL模型在跟踪的时候对模型进行更新的话，可能使用GPU都没法达到实时。今年出现了一些使用CNN进行跟踪，同时又具有很高的效率的跟踪算法，比如今年ECCV的GOTURN，

文章题目叫：《Fully-Convolutional Siamese Networks for Object Tracking》 
算法主页：http://www.robots.ox.ac.uk/~luca/siamese-fc.html 
code：https://github.com/bertinetto/siamese-fc 

一、算法总体框架

 
图1 算法总体框架 

图中z代表的是模板图像，算法中使用的是第一帧的groundtruth；x代表的是search region，代表在后面的待跟踪帧中的候选框搜索区域；ϕ代表的是一种特征映射操作，将原始图像映射到特定的特征空间，文中采用的是CNN中的卷积层和pooling层；6*6*128代表z经过ϕ后得到的特征，是一个128通道6*6大小feature，同理，22*22*128是x经过ϕ后的特征；后面的*代表卷积操作，让22*22*128的feature被6*6*128的卷积核卷积，得到一个17*17的score map，代表着search region中各个位置与模板相似度值。

从图一和文章题目我们可以很容易理解算法的框架，算法本身是比较搜索区域与目标模板的相似度，最后得到搜索去区域的score map。其实从原理上来说，这种方法和相关性滤波的方法很相似。其在搜索区域中逐点的目标模板进行匹配，将这种逐点平移匹配计算相似度的方法看成是一种卷积，然后在卷积结果中找到相似度值最大的点，作为新的目标的中心。

上图所画的ϕ其实是CNN中的一部分，并且两个ϕ的网络结构是一样的，这是一种典型的孪生神经网络，并且在整个模型中只有conv层和pooling层，因此这也是一种典型的全卷积（fully-convolutional）神经网络。

二、具体实现

1、损失函数

在训练模型的时肯定需要损失函数，并通过最小化损失函数来获取最优模型。本文算法为了构造有效的损失函数，对搜索区域的位置点进行了正负样本的区分，即目标一定范围内的点作为正样本，这个范围外的点作为负样本，例如图1中最右侧生成的score map中，红色点即正样本，蓝色点为负样本，他们都对应于search region中的红色矩形区域和蓝色矩形区域。文章采用的是logistic loss，具体的损失函数形式如下： 
对于score map中了每个点的损失： 

l(y,v)=log(1+exp(−yv))

其中v是score map中每个点真实值，y∈{+1,−1}是这个点所对应的标签。 
上面的是score map中每个点的loss值，而对于score map整体的loss，则采用的是全部点的loss的均值。即： 

L(y,v)=1|D|∑u∈Dl(y[u],v[u])

这里的u∈D代表score map中的位置。 
有了损失函数，那就可以用SGD对模型进行训练啦～～

2、训练所用数据库

与以前的算法不一样的是，起训练的数据库并不是传统的VOT，ALOV，OTB这三个跟踪benchmark，而是ILSVRC（ImageNet Large Scale Visual Recognition Challenge）中用于视频目标检测中的视频，这个数据集一共有4500个videos，4500个，4500….视频的每一帧都有标记的groundtruth，4500是什么概念呢，VOT，ALOV，OTB这三个数据集加起来也就不到500个视频，500个，500…..

3、网络结构

整个网络结构类似与AlexNet，但是没有最后的全连接层，只有前面的卷积层和pooling层。 

 
图2 网络结构 

整个网络结构入上表，其中pooling层采用的是max-pooling，每个卷积层后面都有一个ReLU非线性激活层，但是第五层没有。另外，在训练的时候，每个ReLU层前都使用了batch normalization，用于降低过拟合的风险。

4、一些实现细节

• 训练采用的框架是MatConvNet
• 训练采用的优化算法就是batch SGD，batch大小是8
• 跟踪时直接对score map进行线性插值，将17*17的score map扩大为272*272，这样原来score map中响应值最大的点映射回272*272目标位置。

5、算法测评结果

图3 OTB13 

图3 VOT14