百度seo网站优化,风车网站做花盆磨具,wordpress给帖子打分,wordpress app 生成论文 《Training Region-based Object Detectors with Online Hard Example Mining》链接 https://arxiv.org/pdf/1604.03540.pdf
Astract
摘要主要讲了四点#xff1a;
(1) 训练过程需要进行参数的空间搜索(2) 简单样本与难分辨样本之间的类别不平衡是亟需解决的问题(3) 自…论文 《Training Region-based Object Detectors with Online Hard Example Mining》链接 https://arxiv.org/pdf/1604.03540.pdf
Astract
摘要主要讲了四点
(1) 训练过程需要进行参数的空间搜索(2) 简单样本与难分辨样本之间的类别不平衡是亟需解决的问题(3) 自动地选择难分辨样本来进行训练不仅效率高而且性能好(4) 提出了OHEM算法不仅效率高而且性能好在各种数据集上表现优越
1 Introduction
(1) 分类器
由于目标检测套用图像分类的分类思想但图像分类的数据集和目标检测的数据集存在天然的差距目标检测的目标框和背景框之间存在严重的不平衡。
在滑动窗口检测器尤为严重在DPM中甚至达到1100,000虽然在其他检测器中有所减缓但依然高达170
(2) hard negative mining
参考深度学习之 hard negative mining 难例挖掘
当然这个类别不平衡问题并不是新问题之前有个hard nagetive mining的算法是解决这个类别不平衡问题的它的关键思想是逐渐地增加分辨错误的样本。这个算法需要迭代地交替训练用样本集更新模型然后再固定模型 来选择分辨错的目标框并加入到样本集中在传统目标检测中用SVM做分 类器也用到hard negative mining这个算法来训练在一些浅层的神经网络和 提升决策树中也用hard negative mining来进行训练。除此之外使用深度学习的目标检测算法也用到了hard negative mining
(3) why current state-of-the-art object detectors do not use hard negative mining?
那为什么不用hard negative mining这主要是技术上的难度hard negative mining需要交替地训练而这对于使用线上优化的算法来说是不可能的例如SGD(随机梯度下降算法)。使用SGD来训练网络需要上万次更新网络如果每迭代几次就固定模型一次这样的速度会慢得不可想象
(4) online hard example mining(OHEM)
那OHEM是怎样解决类别不平衡的呢OHEM是选择损失较大的候选ROI 具体为什么选择损失较大的候选ROI这个后面再仔细说
作者总结了一下使用了OHEM之后不仅避免了启发式搜索超参数而且提高了mAP。作者发现训练集越大越困难OHEM的效果就越好
2 Related work
我们来回顾一下相关的工作
(1) Hard example mining
a. SVMs
优化SVMs时维持一个工作样本集。交替训练先训练模型收敛于当前的工作集然后固定模型去除简单样本(能够轻易区分的)添加困难样本(不能够区分的)这样的训练方式能使模型达到全局最优
b. non-SVMs
除了优化SVMs类的模型也优化非SVMs类的模型例如浅层神经网络和提升决策树
(2) ConvNet-based object detection
基于卷积网络的检测模型已经得到了很大的发展例如R-CNN、OverFeat。 OverFeat是基于滑动窗口的检测模型R-CNN是基于选择性搜索的检测模型。 除此之外还有Fast R-CNN作者的研究工作就是在Fast R-CNN上展开的
(3) Hard example selection in deep learning
在深度学习方面相关的研究工作有三篇论文这三篇论文的关注点在于图像分类或者图像识别而OHEM关注点在目标检测
3 Overview of Fast R-CNN
我们回顾一下Fast R-CNN网络框架如下图 (1) framework
图片和候选框做为Fast R-CNN的输入Fast R-CNN分为两部分一部分是卷积网络包括卷积和池化层另一部分是RoI网路包括RoI池化层、全连接层和两个损失层(一个是分类一个检测框回归)
(2) inference
在测试的时候图片输入到卷积网络得到特征层选择性搜索算法得到RoIs 对于每个RoI得到其对应的特征向量然后每个特征向量输入到全连接层并得到两个输出一个是概率一个检测框的坐标
(3) 那为什么选择Fast R-CNN做为基础的目标检测器呢
作者给出了几点原因:
a. more broadly applicable
Fast R-CNN由两部分组成一是卷积网络二是RoI网络而这种结构也被其他的检测模型沿用例如SPPnet 和 MR-CNN
b. allow for training the entire conv network
虽然Fast R-CNN和SPPnet、MR-CNN在结构上相似但Fast R-CNN允许更新整个卷积网络而SPPnet、MR-CNN却固定住卷积网络
c. SVM or not
SPPnet、MR-CNN使用SVM做分类器Fast R-CNN不使用SVM
(4) How it trains
Fast R-CNN是使用SGD来优化模型的每个RoI的损失包括分类损失和回归损失其中不断降低分类损失使得模型分类更准确不断降低回归损失使得预测标注框更准确。
SGD是以mini-batch为单位来更新模型的。对于每个mini-batch先从数据集中取N张然后每张图片采样B/N个RoIs
a. Foreground RoIs
一个RoIs怎样才算作一个目标RoI(也就是含有目标的RoI)呢在R-CNN, SPPnet, and MR-CNN等把RoI与真实框的交叉比(IOU)大于等于0.5即判定为目标RoI在本文中也是这样的设置
b. Background RoIs
而如果要被判定为背景RoI则要求该RoI与真实框的交叉比大于等于 bg_lo这个阈值并且小于0.5。虽然这样的设置能加快收敛和检测准确度 但这样的设置会忽略不怎么出现但又十分重要的比较难分辨的背景。因此在本文的OHTM方法中作者去掉了这样的设置。
c. Balancing fg-bg RoIs
为了解决目标框和背景框之间的不平衡Fast R-CNN设置在一个 mini-batch中它们之间的比例是13。作者发现这样的一个比例对于Fast R-CNN的性能是十分重要的增大或者减小这个比例都会使模型的性能有所下降但使用OHEM便可以把这个比例值去掉。
4 Our approach
作者认为Fast R-CNN之前选择RoI的方法不仅效率低而且也不是最优的于是作者提出了OHEMOHEM不仅效率高而且性能也更优
(1) Online hard example mining
我们知道基于SVM的检测器在训练时使用hard example mining来选择样本需要交替训练先固定模型选择样本然后再用样本集更新模型 这样反复交替训练直到模型收敛
a. main observation
作者认为可以把交替训练的步骤和SGD结合起来。之所以可以这样作者认为虽然SGD每迭代一次只用到少量的图片但每张图片都包含上千个RoI可以从中选择hard examples这样的策略可以只在一个mini-batch中固定模型因此模型参数是一直在更新的。
更具体的在第t次迭代时输入图片到卷积网络中得到特征图然后把特征图和所有的RoIs输入到RoI网络中并计算所有RoIs的损失把损失从高到低排序然后选择B/N个RoIs。这里有个小问题位置上相邻的RoIs通过RoI网络后会输出相近的损失这样损失就翻倍。作者为了解决这个问题使用了NMS(非最大值抑制)算法先把损失按高到低排 序然后选择最高的损失并计算其他RoI这个RoI的IoU(交叉比)移除IoU大于一定阈值的RoI然后反复上述流程直到选择了B/N个RoIs。
(2) Implementation details
how to implement OHEM in the FRCN detector
主要有两种方法
a. An obvious way
直接修改损失层然后直接进行hard example selection。损失层计算所有的RoIs然后按损失从大到小排序当然这里有个NMS(非最大值抑制) 操作选择hard RoIs并non-hard RoIs的损失置0。虽然这方法很直接但效率是低下的不仅要为所有RoI分配内存还要对所有RoI进行反向传播即使有些RoI损失为0。
b. A better way 为了解决这个问题作者提出了上面这样的架构。这个架构有两个相同的RoI网络不同的是其中一个只可读另一个可读可写。我们看到(a) 是只可读的只对所有RoI做前向计算所以只需分配内存给前向计算操作(b)既可读也可写对被选择的hard RoIs不仅做前向计算也做反向传播计算。
对于一次SGD迭代计算过程如下:先计算出特征图可读RoI网络对所有RoI执行前向计算并计算每个RoI的损失然后选择hard RoIs。把这些hard RoIs输入到可读可写的RoI网络中执行前向前向计算和反向传播更新网络并把可读可写的RoI网络的参数赋值给只可读的网络一次迭代就完成了。
这个方式和第一种方式在内存空间是差不多的但第二种方式的速度快了两倍。
5 Analyzing online hard example mining
(1) Experimental setup
在本文的实验中使用两种标准的卷积网络一种是VGG_CNN_M_1024另一种是VGG16。论文实验使用的超参数沿用Fast R-CNN的默认设置。 (2) OHEM vs. heuristic sampling
为了检验hard example mining的重要性我们做了两组实验一组Fast R-CNN 带有hard example miningbg_lo0.1另一组没有hard example mining即 bg_lo0。我们发现对于VGGM网络mAP降低2.4点VGG16基本没变化。而使用OHEM相对于使用了hard example mining的Fast R-CNNmAP 提高了2.4点相对于没有使用hard example mining的Fast R-CNNmAP提 高了4.8点。
(3) Robust gradient estimates
而在实验中存在一个这样的疑虑每个mini-batch只取两张图片会不会造成梯度不稳定和收敛慢因为在一张图片中选择RoI会使RoIs之间的相关性很大。Fast R-CNN的作者认为在训练过程不存在这样的问题而在OHEM中由于是在一张图片中选择损失大的RoI这样可能造成RoIs之间的相关性更大。为了解答这个疑虑我们把N设置为1通过做实验发现传统的Fast R-CNN大概降低一个点而OHEM却没有太大变化这说明使用了OHEM的Fast R-CNN是鲁棒的。
(4) Why just hard examples, when you can use all?
那为什么只选择hard examples呢因为easy examples的损失很小对梯度影响很小。为了用事实说话作者做了一个这样的实验把mini-batch的B分别设置为128和2048结果表明B为2048的相对于128的mAP提高了一个点。不过这提高的一个点对于使用了OHEM的Fast R-CNN来说是无关紧要的因为OHEM的mAP提高更大并且用更小的mini-batch收敛速 度会更快。
(5) Better optimization
作者为了分析使用了不同训练方法的Fast R-CNN的训练损失的情况做了这样的实验每优化20K步就记录一下所有RoIs的平均损失结果显示 bg_lo0(即没有使用hard example mining)的训练损失最高bg_lo0.1(使用 hard example mining)的损失有所降低增大mini-batch(即设置bg_lo0 B2048)损失更低最后使用了OHEM的Fast R-CNN损失最低这表明 Fast R-CNN使用了OHEM会训练得更好。
(6) Computational cost
使用了OHEM的Fast R-CNN相对于没有使用OHEM的Fast R-CNN在内存和每迭代一次所花的时间都有所增加不过作者认为这一点增加影响不大。
6 Conclusion
(1) 简化训练过程(2) 更好的训练收敛和检测准确度的提高
