特征融合的目的（特征融合的分类和方法）

1                  、特征融合的定义

特征融合方法是模式识别领域的一种重要的方法                  ，计算机视觉领域的图像识别问题作为一种特殊的模式分类问题 
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，仍然存在很多的挑战

















，特征融合方法能够综合利用多种图像特征
  
  
  
  
  
  
  
  
  
，实现多特征的优势互补 
  
  
  
  
  
  
  
  
 ，获得更加鲁棒和准确性的识别结果  
  
  
  
  
  
  
  
  
 。

2 
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  、特征融合的分类

按照融合和预测的先后顺序 


 


 


 


 


 


 


 


 


 ，分类为早融合和晚融合（Early fusion and Late fusion）

早融合（Early fusion）：就是在特征上进行融合
 
 
 
 
 
 
 
 
 
，进行不同特征的连接  
   
   
   
   
   
   
   
   
 ，输入到一个模型中进行训练 
  
  
  
  
  
  
  
  
 。（先融合多层的特征 

 

 

 

 

 

 

 

 

 ，然后在融合后的特征上训练预测器

 

 

 

 

 

 

 

 

 
，只有在完全融合之后                  ，才进行检测


 


 


 


 


 


 


 


 


 
。）这类方法也被称为skip connection,即采用concat

















、add操作 
 
 
 
 
 
 
 
 
。这一思路的代表是Inside-Outside Net (ION)和HyperNet.

两个经典的特征融合的方法：

（1）concat：系列特征融合 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，直接将连个特征进行连接  
   
   
   
   
   
   
   
   
  。两个输入特征x和y的维数若为p和q


















，输出特征z的维数为p+q

 

 

 

 

 

 

 

 

 
。

（2）add：并行策略                           ，将这两个特征向量组合成复合向量 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，对于输入特征x和y



























，z=x+iy                  ，其中i是虚数单位
 

 

 

 

 

 

 

 

 
。

晚融合（Late fusion）：指的是在预测分数上进行融合 
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，做法就是训练多个模型

















，每个模型都会有一个预测分数
  
  
  
  
  
  
  
  
  
，我们对所有模型的结果进行融合 
  
  
  
  
  
  
  
  
 ，得到最后的预测结果                   。（通过结合不同层的检测结果改进检测性能 


 


 


 


 


 


 


 


 


 ，尚未完成最终融合之前
 
 
 
 
 
 
 
 
 
，在部分融合的层上就开始检测  
   
   
   
   
   
   
   
   
 ，会有多层的检测 

 

 

 

 

 

 

 

 

 ，最终将多个检测结果进行融合）
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
。

这一类研究思路的代表有两种：

（1）feature不融合：多尺度的feture分别进行预测

 

 

 

 

 

 

 

 

 
，然后对预测结果进行综合                  ，如Single Shot MultiBox Detector(SSD),Multi-scale CNN(MS-CNN).

注意：SSD 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，全称Single Shot MultiBox Detector


















，是Wei Liu在ECCV 2016上提出的一种目标检测算法                           ，截至目前是主要的检测框架之一 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，相比Faster RCNN有明显的速度优势



























，相比YOLO又有明显的mAP优势（不过已经被CVPR 2017的YOLO9000超越）

















。

MS-CNN：cNN多尺度

（2）feature进行金字塔融合                  ，融合后进行预测 
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，如Feature Pyramid Network(FPN)等

注意：FPN全称是Feature Pyramid Network, 也就是特征金字塔网络

















，主要是针对图像中目标的多尺度的这个特点提出的
  
  
  
  
  
  
  
  
  
，多尺度在目标检测中非常常见 
  
  
  
  
  
  
  
  
 ，而且对应不同的问题应该设计不同的FPN                            。

3
  
  
  
  
  
  
  
  
  
、深度特征融合和高低层特征融合的方法

（1）早融合 


 


 


 


 


 


 


 


 


 ，用经典的特征融合的方法 
 
 
 
 
 
 
 
 
 
，在现有的网络（如VGG19）中  
   
   
   
   
   
   
   
   
 ，用concat或add融合其中的某几层
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
。

变种：用DCA特征融合方法替代concat和add操作


























。

（2）晚融合 

 

 

 

 

 

 

 

 

 ，采用类似特征金字塔网络（FPN）的思想

 

 

 

 

 

 

 

 

 
，对特征融合进行预测                   。（ＦＰＮ一般用于目标检测                  ，提高小目标检测能力）
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
。

三个变种：

YOLO2的方法 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，只在金字塔的top-down路径的最后一层进行预测


















，此外还有 U-Net [31] and SharpMask for segmentation, Recombinator networks for face detection, and Stacked Hourglass networks for keypoint estimation； YOLO3的方法                           ，在金字塔的每一层都进行预测； FSSD的方法 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，对 FPN进行细微改造；

feature不融合



























，多尺度的feature分别进行预测                  ，然后对预测结果进行综合

















。

（3）用一个具有高低特征融合能力的网络代替普通的网络 
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，如Densenet  
  
  
  
  
  
  
  
  
 。

（4）不进行高低层特征融合

















，而是在高层特征预测的基础上
  
  
  
  
  
  
  
  
  
，再用底层特征进行预测结果的调整 
  
  
  
  
  
  
  
  
 。

4 
  
  
  
  
  
  
  
  
 、DCA特征融合的方法

特征融合的目的 
  
  
  
  
  
  
  
  
 ，是把从图像中提取的特征 


 


 


 


 


 


 


 


 


 ，合并成一个比输入特征更具有判别能力的特征


 


 


 


 


 


 


 


 


 
。

基于CCA（典型关联分析）的融合方法
 
 
 
 
 
 
 
 
 
，就是使用两个输入特征间的相关关系  
   
   
   
   
   
   
   
   
 ，计算两种变换后的特征比输入的两个特征集具有更高的相关性 
 
 
 
 
 
 
 
 
。CCA的主要不足 

 

 

 

 

 

 

 

 

 ，在于忽略了数据集中类结构间的关系

 

 

 

 

 

 

 

 

 
，所以将每组特征中类分开                  ，为了解决CCA的弱点 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，引入了DCA  
   
   
   
   
   
   
   
   
  。DCA最大化两个特征及中对应特征的相关关系


















，同时最大化不同类之间的差异

 

 

 

 

 

 

 

 

 
。

5 


 


 


 


 


 


 


 


 


 、改进的SSD目标检测算法（DeseNet）

改进在于使用Dense net代替原始SSD结构中的VGG                           ，以提高目标检测准确性 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，改进后的SSD网络对小物体产生很好的拟合
 

 

 

 

 

 

 

 

 
。

DeseNet（密集卷积网络）

6
 
 
 
 
 
 
 
 
 
、FPN（特征金字塔）

特征金字塔是识别不同尺度的目标时常用的结构



























，但是特征金字塔需要较大的计算量和显存                  ，所以为了解决这一问题 
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，开发了一种构建特征金字塔的新方法

















，可以减少额外的对计算量和显存的消耗                   。

7  
   
   
   
   
   
   
   
   
 、YOLO

YOLOv2网络结构中有一个特殊的转换层（Passthrough Layer）
  
  
  
  
  
  
  
  
  
，假设最后提取的特征图的大小是1313 
  
  
  
  
  
  
  
  
 ，转换层的作用就是将前面的2626的特征图和本层的1313的特征图进行堆积（扩充特征维数据量） 


 


 


 


 


 


 


 


 


 ，而后进行融合
 
 
 
 
 
 
 
 
 
，再用融合后的特征图进行检测
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
。这么做是为了加强算法对小目标检测的精确度

















。为达更好效果  
   
   
   
   
   
   
   
   
 ，YOLOv3将这一思想进行了加强和改进                            。

YOLO v3采用（类似FPN）上采样和融合做法 

 

 

 

 

 

 

 

 

 ，融合了3个尺度（13x13 

 

 

 

 

 

 

 

 

 、26X26和52x52）

 

 

 

 

 

 

 

 

 
，在多个尺度的融合特征图上分别独立做检测                  ，最终对于小目标的检测效果提升明显
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
。（有些算法采用多尺度特征融合的方式 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，但是一般是采用融合后的单一特征图做预测


















，比如YOLOv2                           ，FPN不一样的地方在于其预测是在不同特征层进行的


























。）