前言

在【模式识别】SVM实现人脸表情分类一文中               ，我曾使用Hog特征+SVM的方式实现表情分类
  
 
  
 
  
 
  
 
  
 
  
 
  
 
，但对于Hog特征的原理并未做深入整理
  
  
  
  
  
  
  。此篇将结合scikit-image来简单分析Hog特征的原理和维度关系  
  
  
  
  
  
  
 。因为没看过原论文













，因此自己的理解可能会有偏差 
  
  
  
  
  
  
  ，如有错误
  
  
  
  
  
  
  
，欢迎评论区指正
 


 


 


 


 


 


 


。

图像梯度

在进入到Hog之前
 


 


 


 


 


 


 

，需要先了解图像中梯度的概念
 
 
 
 
 
 
 。

以下图为例(图源：[1]) 
 
 
 
 
 
 
 ，黑色像素点值为0
   
   
   
   
   
   
   
，白色像素点值为1
 

 

 

 

 

 

 
，分别求X方向梯度和Y方向梯度 

 

 

 

 

 

 

 ，从后两幅图可以看出              ，当箭头从0突变到1时

 
 

 
 

 
 

 
 

 
 

 
 

 
 
，梯度为正值













，图像中以白色边缘表示                      ，反之为负值
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，以黑色的阴影表示   
   
   
   
   
   
   
 。

更进一步




















，把X方向的梯度和Y方向的梯度进行融合               ，这样可以计算出每一个像素点的融合梯度大小和方向
 

 

 

 

 

 

 

。

例如
  
 
  
 
  
 
  
 
  
 
  
 
  
 
，上图中选择了一个像素点













，其相邻位置的像素大小如宫格所示 
  
  
  
  
  
  
  ，X方向梯度大小为50
  
  
  
  
  
  
  
，Y方向梯度大小为50
 


 


 


 


 


 


 

，那么其融合梯度大小为70.1 
 
 
 
 
 
 
 ，方向为45°

 

 

 

 

 

 

 。

计算公式的数学表达如下[2]：

有了上面的概念之后
   
   
   
   
   
   
   
，下面进入到Hog特征提取的流程               。

标准化gamma空间和颜色空间（Gamma/Colour Normalization）

标准化gamma空间和颜色空间是Hog特征提取的第一步
 
 

 
 

 
 

 
 

 
 

 
 

 
 

。

这一步主要做了3个操作：

1               、因为颜色信息影响不大
 

 

 

 

 

 

 
，因此先转化为灰度图；

2
  
 
  
 
  
 
  
 
  
 
  
 
  
 
、进行gamma校正：

gamma<1在高灰度值区域内 

 

 

 

 

 

 

 ，动态范围变小              ，图像对比度降低

 
 

 
 

 
 

 
 

 
 

 
 

 
 
，图像整体灰度值变大













，显得亮一些；gamma>1在低灰度值区域内                      ，动态范围变小
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，图像对比度降低




















，图像整体灰度值变小               ，变得暗淡[3]

校正公式如下：

校正的好处在于：能够有效地降低图像局部的阴影和光照变化

3













、对图像尺寸进行重新调整
  
 
  
 
  
 
  
 
  
 
  
 
  
 
，并让各像素进行归一化；

计算图像梯度

图像预处理之后













，就要计算图中每一个像素点的梯度













。之前已经给出了图像梯度的计算公式 
  
  
  
  
  
  
  ，但在实际使用中
  
  
  
  
  
  
  
，两个方向上的梯度分量可以用卷积的方式来快速计算                      。

x方向的梯度分量gradscalx：用[-1,0,1]梯度算子对原图像做卷积运算 y方向的梯度分量gradscaly：用[1,0,-1]梯度算子对原图像做卷积运算

为每个细胞单元构建梯度方向直方图

下面就需要引入一个细胞单元(Cell)的概念
 


 


 


 


 


 


 

，这里Cell的尺寸可以自由设定 
 
 
 
 
 
 
 ，我这里以8 X 8 的尺寸为例
   
   
   
   
   
   
   
，如下图所示：

这张猫选自VOC2012数据集
 

 

 

 

 

 

 
，我对其进行了一定的裁剪 
 
 
 
 
 
 
 
 
 
 
 
 
 
。

这里的8 X 8指代一个Cell中包含8 X 8个像素点 

 

 

 

 

 

 

 ，例如图中的网格              ，每个网格代表一个像素点

 
 

 
 

 
 

 
 

 
 

 
 

 
 
，对于每一个像素点可以计算出一个梯度值和方向





















。

下面就要统计每个Cell的梯度直方图













，通常来说                      ，直方图是用来统计频率的              。这里也类似
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，因此




















，需要先把360°角度进行分类  
 
  
 
  
 
  
 
  
 
  
 
  
 
 。按照原作者的说法               ，分成9份效果最好














。于是就有了下面这张图[3]：

这里表示的是每一块为20°
  
 
  
 
  
 
  
 
  
 
  
 
  
 
，这里初次看可能会有个疑问：360°/9 = 40°













，每一块是40°才对 
  
  
  
  
  
  
  ，为什么是20°呢？

这是由于角度只看了数值
  
  
  
  
  
  
  
，因此正角度和负角度的符号进行忽略
 


 


 


 


 


 


 

，因此180°/9 = 20°

举个例子 
 
 
 
 
 
 
 ，第一个像素点梯度方向为45°
   
   
   
   
   
   
   
，40°<45°<60°
 

 

 

 

 

 

 
，这样它就被划分到第三组
  
  
  
  
  
  
  。

以此类推 

 

 

 

 

 

 

 ，统计一个Cell中每个像素点的角度              ，就可以得到梯度方向直方图  
  
  
  
  
  
  
 。

把细胞单元组合成大的块（block）

 
 

 
 

 
 

 
 

 
 

 
 

 
 
，并归一化梯度直方图

下一步就要引入另一个新概念：块(block)













，一些博文中也称作窗口(windows)                      ，应该是同一个东西
 


 


 


 


 


 


 


。

还是拿这张猫图举例
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，假设block的大小为2 X 2




















，那么就包含2 X 2个cell               ，所占据的尺寸为(16
  
 
  
 
  
 
  
 
  
 
  
 
  
 
，16)个像素
 
 
 
 
 
 
 。

如图中的蓝框代表cell













，黄框代表block 
  
  
  
  
  
  
  ，这里block的大小也是通过人为指定   
   
   
   
   
   
   
 。

这样
  
  
  
  
  
  
  
，一个block内所有cell的特征向量串联起来便得到该block的HOG特征
 


 


 


 


 


 


 

，同时 
 
 
 
 
 
 
 ，需要在块内进行归一化
 

 

 

 

 

 

 

。归一化的方法大致有四种：

根据原作者描述
   
   
   
   
   
   
   
，使用L2-Hys方法效果最好[3]

 

 

 

 

 

 

 。

至于这里的大小设置
 

 

 

 

 

 

 
，个人理解是和目标的尺寸有关               。例如 

 

 

 

 

 

 

 ，行人检测的最佳参数设置是：3×3细胞/区间 
  
  
  
  
  
  
  、6×6像素/细胞
  
  
  
  
  
  
  
、9个直方图通道[3]
 
 

 
 

 
 

 
 

 
 

 
 

 
 

。

移动block              ，计算维度

下面就到最后一步

 
 

 
 

 
 

 
 

 
 

 
 

 
 
，一张图里有多个像素













，那么通过计算之后                      ，整张图的hog特征的维度是多少呢？

这里我们进入实践
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，来通过实践来理解block是如何移动的













。

首先导库




















，使用opencv和skimage

import cv2 from skimage.feature import hog

定义数据预处理过程               ，调整图片尺寸为256x256
  
 
  
 
  
 
  
 
  
 
  
 
  
 
，并将图片进行灰度化和归一化

def preprocessing(src): gray = cv2.cvtColor(src, cv2.COLOR_BGR2GRAY) # 将图像转换成灰度图 img = cv2.resize(gray, (256, 256)) # 尺寸调整g img = img/255.0 # 数据归一化 return img

提取Hog特征

img = cv2.imread("test.jpg") img_afterpro = preprocessing(img) image_features = hog(img_afterpro, orientations=9, pixels_per_cell=(8, 8), cells_per_block=(16, 16), block_norm=L2-Hys)

这里有多个参数













，主要的四个参数解释和默认取值如下：

orientations：方向数 pixels_per_cell：胞元大小 cells_per_block：块大小 block_norm：可选块归一化方法L2-Hys(L2范数)

这里图片的大小为(256,256) 
  
  
  
  
  
  
  ，cell的大小选择为(8,8)
  
  
  
  
  
  
  
，block设置为(16,16)
 


 


 


 


 


 


 

，那么hog特征总的维度是多少呢？起初我的理解是多个block平铺整个图像 
 
 
 
 
 
 
 ，那么每个block大小为(8x16,8x16)=(128,128)
   
   
   
   
   
   
   
，即整幅图像有四个block
 

 

 

 

 

 

 
，那么总维度应该是16x16x9x2x2=9216然而通过验证

image_features.shape

输出的实际维度应为665856 

 

 

 

 

 

 

 ，差得很远！

于是我想到了卷积神经网络中卷积核的滑动窗口的运动方式              ，假设这里block也是以滑动窗口的方式进行运动

 
 

 
 

 
 

 
 

 
 

 
 

 
 
，每次运动的步长为一个cell的宽度













，如下图所示：

这里的block应该是(16,16)                      ，我这里为了作图方便
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，仍保留为(2,2)




















，旨在领会传达的意思                      。

如图所示               ，每个block计算完成之后
  
 
  
 
  
 
  
 
  
 
  
 
  
 
，向水平/垂直方向移动一个cell的宽度













，这样前一部分的cell会和下一个block再次计算 
 
 
 
 
 
 
 
 
 
 
 
 
 
。

这样block总的个数可以这样计算：

水平方向block个数=(256-128)/8 + 1 =17

垂直方向block个数=水平方向block个数=17

那么总维度=16x16x9x17x17=665856

结果证实 
  
  
  
  
  
  
  ，该思路是正确的





















。

Reference

[1]https://www.bilibili.com/video/BV1dz411B7Rd

[2]https://blog.csdn.net/zouxy09/article/details/7929348

[3]https://blog.csdn.net/qq_37791134/article/details/81413758