Keras框架：人脸检测-mtcnn思想及代码

人脸检测-mtcnn

概念：

MTCNN，英文全称是Multi-task convolutional neural network，中文全称是多任务卷积神经网络，该神经网络将人脸区域检测与人脸关键点检测放在了一起。
从工程实践上，MTCNN是一种检测速度和准确率都很不错的算法，算法的推断流程有一定的启发性。
在这里插入图片描述
总体可分为P-Net、R-Net、和O-Net三层网络结构。

流程：

1.由原始图片和PNet生成预测的bounding boxes。
2.输入原始图片和PNet生成的bounding box，通过RNet，生成校正后的bounding box。
3.输入原始图片和RNet生成的bounding box，通过ONet，生成校正后的bounding box和人脸面部轮廓关键点。
在这里插入图片描述

MTCNN主要包括三层网络：

第一层P-Net将经过卷积，池化操作后输出分类（对应像素点是否存在人脸）和回归（回归 box)结果。
第二层网络将第一层输出的结果使用非极大抑制（NMS）来去除高度重合的候选框，并将这些候选框放入R-Net中进行精细的操作，拒绝大量错误框，再对回归框做校正，并使用NMS去除重合框，输出分支同样两个分类和回归。
最后将R-Net输出认为是人脸的候选框输入到O-Net中再一次进行精细操作，拒绝掉错误的框，此时输出分支包含三个分类：
a. 是否有人脸：2个输出；
b. 回归：回归得到的框的起始点的xy坐标和框的长宽，4个输出；
c. 人脸特征点定位：5个人脸特征点的xy坐标，10个输出。

注：三段网络都有NMS，但是所设阈值不同。

1、构建图像金字塔

首先对图片进行Resize操作，将原始图像缩放成不同的尺度，生成图像金字塔。然后将不同尺度的图像送入到这三个子网络中进行训练，目的是为了可以检测到不同大小的人脸，从而实现多尺度目标检测。
构建方式是通过不同的缩放系数factor分别对图片的h和w进行缩放，每次缩小为原来的factor大小。
注意：缩小后的长宽最小不可以小于12。
在这里插入图片描述
为什么需要对图片做“金字塔”变换？
图片中的人脸的尺度有大有小，让识别算法不被目标尺度影响一直是个挑战。
MTCNN使用了图像金字塔来解决目标多尺度问题，即把原图按照一定的比例(如0.709)，多次等比缩放得到多尺度的图片，很像个金字塔。
P-NET的模型是用单尺度(1212)的图片训练出来的。推理的时候，缩小后的长宽最小不可以小于12。
对多个尺度的输入图像做训练，训练是非常耗时的。因此通常只在推理阶段使用图像金字塔，提高算法的精度。
设置合适的最小人脸尺寸和缩放因子为什么可以优化计算效率？
• factor是指每次对边缩放的倍数。
• 第一阶段会多次缩放原图得到图片金字塔，目的是为了让缩放后图片中的人脸与P-NET训练时候的图片尺度(12px * 12px)接近。
• 引申优化项：先把图像缩放到一定大小，再通过factor对这个大小进行缩放。可以减少计算量。
• minsize是指你认为图片中需要识别的人脸的最小尺寸(单位：px)。
• 注：代码中使用的是“引申优化项“的策略。

图例：如果待测图片1200px1200px，想要让缩放后的尺寸接近模型训练图片的尺度(12px*12px)。
缩放因子为什么官方选择0.709?
• 图片金字塔缩放时，如果默认把宽，高都变为原来的1/2，缩放后面积变为原来的1/4；
• 如果认为1/4的缩放幅度太大，你会怎么办？—把面积缩放为原来的1/2。
• 这是很直观的想法，所以这里的缩放因子0.709 ≈ sqrt(2)/2，这样宽高变为原来的sqrt(2)/2，面积就变为原来的1/2。
• 从实际意义上看，factor应该设置为小于1。
图像金字塔的缺点：
慢。

第一，生成图片金字塔慢；
第二，每种尺度的图片都需要输入进模型，相当于执行了多次的模型推理流程。

2、P-Net（Proposal Network）

其基本的构造是一个全卷积网络。对上一步构建完成的图像金字塔，通过一个FCN（全卷积网络）进行初步特征提取与标定边框。
在这里插入图片描述
MTCNN算法可以接受任意尺度的图片，为什么？
• 因为第一阶段的P-NET是一个全卷积网络（Fully Convolutional Networks）。
• 卷积、池化、非线性激活都是一些可以接受任意尺度矩阵的运算，但全连接运算是需要规定输入。如果网络中有全连接层，则输入的图片尺度(一般)需固定；如果没有全连接层，图片尺度可以是任意的。
• 在推理的时候，测试图像中人脸区域的尺度未知。但是因为P网结构是固定的，当输入图为1212时，输出的恰好是11的5通道特征图，所以可以把p网整体看做一个1212的卷积核在图片上从左上方开始，取步长stride=2，依次做滑窗操作。——>所以，当刚开始图很大的时候，1212的框可能只是框住了一张大脸上的某个局部如眼睛、耳朵、鼻子。当该图不断缩至很小的时候（图像金字塔）， 12*12的框能对其框住的也越来越全，直至完全框住了整张脸。
在这里插入图片描述

• 3次卷积和1次池化操作后，原来12123的矩阵变为1132
• 利用这个1132的向量，再通过一个112的卷积，得到了”是否是人脸”的分类结果
• 我们令输入图片矩阵为A，卷积核在原图矩阵A上滑动，把每个12123区域的矩阵都计算成该区域有无人脸的得分，最后可以得到一个二维矩阵为S，S每个元素的值是[0, 1]的数，代表有人脸的概率。即 A通过一系列矩阵运算，变化到S。
P-Net的输出:

网络的第一部分输出是用来判断该图像是否存在人脸，输出向量大小1x1x2，也就是两个值。
网络的第二部分给出框的精确位置，即边框回归：P-Net输入的12×12的图像块可能并不是完美的人脸框的位置，如有的时候人脸并不正好为方形，有可能12×12的图像偏左或偏右，因此需要输出当前框位置相对完美的人脸框位置的偏移。这个偏移大小为1×1×4，即表示框左上角的横坐标的相对偏移，框左上角的纵坐标的相对偏移、框的宽度的误差、框的高度的误差。
网络的第三部分给出人脸的5个关键点的位置。5个关键点分别对应着左眼的位置、右眼的位置、鼻子的位置、左嘴巴的位置、右嘴巴的位置。每个关键点需要两维来表示，因此输出是向量大小为1×1×10。

举例：
一张7070的图，经过P网络全卷积后，输出为（70-2）/2 -2 -2 =30，即一个5通道的3030的特征图。这就意味着该图经过p的一次滑窗操作，得到了30*30=900个建议框，而每个建议框对应1个置信度cond与4个偏移量offset。再经nms(非极大值抑制：通过iou，把不是极大值的值全都杀掉)把 cond大于设定的阈值0.6对应的建议框保留下来，将其对应的offset经边框回归操作，得到在原图中的坐标信息，即得到符合p网的这些建议框了。之后再传给R网。