【图像处理笔记】SIFT算法原理与源码分析

【图像处理笔记】总目录

0 引言

  特征提取就是从图像中提取显著并且具有可区分性和可匹配性的点结构。常见的点结构一般为图像内容中的角点交叉点闭合区域中心点等具有一定物理结构的点,而提取点结构的一般思想构建能够区分其他图像结构的响应函数或者从特征线或轮廓中进行稀疏采样。Harris角点检测器便是运用二阶矩或自相关矩阵来加速局部极值搜索并保证方向的不变性。基于像素比较的特征提取方法也称为二值特征,通常具有极高的提取效率并具有一定的方向不变性以及所提取的特征点具有较高的重复率,对后续的匹配具有重要意义,然而这类方法受尺度和仿射变换的影响较大。针对上述问题,带有尺度信息的斑点特征成为特征提取的另一种形式,其最早是由Lindeberg 等人提出的高斯拉普拉斯(Laplace of Gaussian,LoG)函数响应来实现,并从中提出了尺度空间理论,其利用高斯响应函数的圆对称性和对局部团结构的极值响应特性以及对噪声抑制能力,通过不同高斯标准差实现在尺度空间上的极值搜索,从而提取对尺度、方向和噪声鲁棒的特征点并得到相应的尺度信息。为了避免大量的计算,D.Lowe 等人介绍了一种高斯差分(Difference-of-Gaussian,DoG)法来近似LoG的计算,并提出了著名的SIFT特征描述子。

【图像处理笔记】SIFT算法原理与源码分析插图

  SIFT是由Lowe[2004]开发的一个算法,用于提取图像中的不变特征。称它为变换的原因是,它会将图像数据变换为相对于局部图像特征的尺度不变坐标。SIFT是本章到目前为止讨论的最复杂的特征检测和描述方法。本节中用到了大量由实验确定的参数。因此,与前面介绍的许多方法不同,SIFT具有很强的探索性,因为我们目前所具备的知识还不能让我们将各种方法组合为一个能够求解单重方法所不能求解的问题的“系统”。因此,我们不得不通过实验确定控制更复杂系统性能的各种参数的相互作用。SIFT特征(称为关键点)对图像尺度和旋转是不变的,并且对仿射失真、三维视点变化、噪声和光照变化具有很强的鲁棒性。SIFT的输入是一幅图像,输出是一个n维特征向量,向量的元素是不变的特征描述子。

1 SIFT算法流程

Lowe将SIFT算法分为如下四步:

(1)尺度空间极值检测:搜索所有尺度上的图像位置。通过高斯差分函数来识别潜在的对于尺度和旋转不变的关键点。

(2)关键点定位:在每个候选的位置上,通过一个拟合精细的模型来确定位置和尺度。关键点的选择依据于它们的稳定程度。

(3)关键点方向确定:基于图像局部的梯度方向,分配给每个关键点位置一个或多个方向。所有后面的对图像数据的操作都相对于关键点的方向、尺度和位置进项变换,从而保证了对于这些变换的不变性。

(4)关键点描述:在每个关键点周围的邻域内,在选定的尺度上测量图像局部的梯度。这些梯度作为关键点的描述符,它允许比较大的局部形状的变形或光照变化。

1.1 尺度空间极值检测

1.1.1 尺度空间

  SIFT算法的第一阶段是找到对尺度变化不变的图像位置。将图像利用不同的尺度参数进行平滑后得到一堆图像,目的是模拟图像的尺度减小出现的细节损失在SIFT中,用于实现平滑的是高斯核,因此尺度参数是标准差。标准差的大小决定图像的平滑程度,大尺度对应图像的概貌特征,小尺度对应图像的细节特征。大的值对应粗糙尺度(低分辨率),小的值对应精细尺度(高分辨率)。因此灰度图像f(x,y)的尺度空间 L(x,y,σ)是f与一个可变尺度高斯核G(x,y,σ)的卷积:

【图像处理笔记】SIFT算法原理与源码分析插图1

式中,尺度由参数σ控制,G的形式如下:

【图像处理笔记】SIFT算法原理与源码分析插图2

输入图像f(x,y)依次与标准差为σ,kσ,k2σ,k3σ,...,的高斯核卷积,生成一堆由一个常量因子k分隔的高斯滤波(平滑)图像。

【图像处理笔记】SIFT算法原理与源码分析插图3

Q1: 怎么理解平滑建立的尺度空间?

  对于一副图像,近距离观察和远距离观察看到的图像效果是不同的,前者比较清晰,通过前者能看到图像的一些细节信息,后者比较模糊,通过后者能看到图像的一些轮廓的信息,这就是图像的尺度,图像的尺度是自然存在的,并不是人为创造的。尺度空间中各尺度图像的模糊程度逐渐变大,能够模拟人在距离目标由近到远时目标在视网膜上的形成过程。在平滑后图像上的一点,包含的是原图中一块像素的信息,属于语义层面的多尺度。

1.1.2 高斯金字塔

  图像金字塔广泛应用于各种视觉应用中。图像金字塔是图像的集合,它是由原始图像产生,连续降采样,直到达到一些期望的停止点。常出现的两种金字塔是:高斯金字塔和拉普拉斯金字塔。高斯金字塔用于降采样,当我们要从金字塔中较低的图像重构上采样图像时,需要拉普拉斯金字塔。SIFT中的高斯金字塔与最原始的高斯金字塔有些区别,因为它在构造尺度空间时,将这些不同尺度图像分为了O个Octave、每个Octave又分为了S层。

  • 对于O的选择:O = log2(min(M,N))-3,M、N指原图像的长和宽,求最小值后开log再减3
  • 对于S的选择:S = n + 3,其中,n指我们希望提取多少个图片中的特征。当S=2时,每个Octave有5层。为什么要+3呢?因为后面要差分,5层差分得到4层,然后每层要和上下两层比较,也就是4层中有两层没法比较,只留下两层,即n是2。
  • 关于比例因子k:为了满足尺度变化的连续性,某一组的每一层应该相差一个k倍。对于Octave2中的第一层,我们取Octave1中的倒数第三层,因为倒数第三层的σ为knσ,也就是为了凑2σ,达到一个隔点取点的降采样效果。所以有knσ=2σ,得k=1/n,当n=2时,k等于√2。即Octave1:【σ,...,knσ,kn+1σ,kn+2σ,kn+3σ】,Octave2:【knσ,kn+1σ,kn+2σ,kn+3σ,kn+4σ】

【图像处理笔记】SIFT算法原理与源码分析插图4Q2:按照尺度空间的理论,模糊就已经改变尺度了,为什么还要下采样呢?

  我们希望算法在对图像进行处理的时候,对于不同拍摄距离得到的图片具有远近特征的不变性。无论摄像机拿的远近,对于同一个物体都可以识别。高斯核卷积是模拟了近处清晰、远处模糊,而下大上小的结构模拟了近大远小。同时,SIFT算法希望能具有更高的尺度分辨率(也就是希望相邻尺度的变化比较精细),所以就需要有很多层。如果不用高斯金字塔,都在原始分辨率上靠采用不同的高斯函数实现多尺度检测,那么对于比较粗尺度的特征提取在计算量上就相当浪费。因为在保持图像原始分辨率不变的情况下,提取粗尺度特征需要高斯函数的方差较大,相应的滤波窗口也比较大,计算量会激增,而由于图像在大尺度上的模糊,保持原始分辨率已经没有必要了,这种计算消耗就更是得不偿失。所以采用高斯金字塔是为了高效地提取不同尺度的特征。
OpenCV构建高斯金字塔源码
void SIFT_Impl::buildGaussianPyramid(const Mat& base, std::vector& pyr, int nOctaves) const
{
    CV_TRACE_FUNCTION();

    std::vector sig(nOctaveLayers + 3);
    pyr.resize(nOctaves * (nOctaveLayers + 3));

    // precompute Gaussian sigmas using the following formula:
    //  sigma_{total}^2 = sigma_{i}^2 + sigma_{i-1}^2
    sig[0] = sigma;
    double k = std::pow(2., 1. / nOctaveLayers);
    for (int i = 1; i 

1.1.3 高斯拉普拉斯(LoG)金字塔

  在介绍边缘检测的博客中,我们了解到二阶导数的过零点可以用于确定粗边缘的中心位置。Marr-Hildreth边缘检测子利用高斯拉普拉斯(LoG)函数来检测边缘,检测算子可以为不同尺度,大算子检测模糊边缘,小算子检测清晰的细节。LoG也是一种比较常用的斑点检测方法

【图像处理笔记】SIFT算法原理与源码分析插图5

 

上面一行原始信号类似于一条线的灰度剖面,下面是在相同尺度σ下的LoG结果。可以看出总的LoG曲线其实是两条边界上LoG函数的结果的叠加,当两条边界足够接近时,可以将这个原始信号看作一个blob,两个LoG函数的结果也合二为一得到一个极值点,这个极值点对应blob的中心。所以边缘检测对应的是LoG的过零点,而斑点检测对应的是LoG的极值点

【图像处理笔记】SIFT算法原理与源码分析插图6

检测blob时,需要选择合适的尺度,然后LOG可以通过检测极值点来检测blob。上图第一行为原信号对不同尺度LoG的响应,可以发现随着尺度的不断增大,LoG曲线由双波谷逐渐融合成单波谷,但是响应的幅值越来越弱。这是因为,随着尺度的增大,LoG算子的最大幅度逐渐减小,导致响应也随着尺度的增大而减小。因此应该使用σ2LoG进行归一化,即σ22G。上图第二行是归一化后的拉普拉斯响应。归一化后选择产生最强响应的尺度,在该尺度上对应的极值就是blob的中心位置。理论表明,对于一个圆形blob,当二维LoG算子的零点值曲线和目标圆形边缘重合时取得最强响应

【图像处理笔记】SIFT算法原理与源码分析插图7

即令LoG=0,

【图像处理笔记】SIFT算法原理与源码分析插图8

得到σ = r/√2。使用LoG寻找斑点时不仅在图像上寻找极值点,还要求在尺度空间上也是极值点。也就是检测在尺度空间和图像空间都是极值的点,就是blob区域的中心点。

1.1.4 高斯差分(DOG)金字塔

二元连续高斯函数G(x,y,σ)对σ求导,可得

【图像处理笔记】SIFT算法原理与源码分析插图9

而LoG函数为

【图像处理笔记】SIFT算法原理与源码分析插图10

两者仅相差一个σ,即

【图像处理笔记】SIFT算法原理与源码分析插图11

根据极限又可以得到

【图像处理笔记】SIFT算法原理与源码分析插图12

因此,当k≈1时,有

【图像处理笔记】SIFT算法原理与源码分析插图13

两个不同方差的高斯函数相减记作DoG,和尺度归一化的LoG只相差一个倍数k-1,这个倍数是一个常数,不影响极值点检测。DoG计算速度快,LoG更精确。因此,我们用高斯差DoG近似高斯拉普拉斯LoG具体做法就是将相邻两层的高斯尺度图像相减:

【图像处理笔记】SIFT算法原理与源码分析插图14为了在每组中检测n个尺度的极值点,DOG金字塔每组需n+2层图像,因为DOG金字塔的每一层和其上下两层比较得到极值点,第一层和最后一层是不能检测极值点的,而DOG金字塔由高斯金字塔相邻两层相减得到,则高斯金字塔每组需n+3层图像。

OpenCV构建DoG金字塔源码

并行计算,共nOctaves个Octave,每个Octave有nOctaveLayers+3层,共nOctaves * (nOctaveLayers + 2)个差分计算。

class buildDoGPyramidComputer : public ParallelLoopBody
{
public:
    buildDoGPyramidComputer(
        int _nOctaveLayers,
        const std::vector& _gpyr,
        std::vector& _dogpyr)
        : nOctaveLayers(_nOctaveLayers),
        gpyr(_gpyr),
        dogpyr(_dogpyr) { }

    void operator()(const cv::Range& range) const CV_OVERRIDE
    {
        CV_TRACE_FUNCTION();

        const int begin = range.start;
        const int end = range.end;

        for (int a = begin; a ::type);//第i+1层减去第i层
        }
    }

private:
    int nOctaveLayers;
    const std::vector& gpyr;
    std::vector& dogpyr;
};

void SIFT_Impl::buildDoGPyramid(const std::vector& gpyr, std::vector& dogpyr) const
{
    CV_TRACE_FUNCTION();

    int nOctaves = (int)gpyr.size() / (nOctaveLayers + 3);
    dogpyr.resize(nOctaves * (nOctaveLayers + 2));//保存所有的DoG图像
    // 并行计算,共nOctaves个Octave,每个Octave有nOctaveLayers+3层,共nOctaves * (nOctaveLayers + 2)个差分计算
    parallel_for_(Range(0, nOctaves * (nOctaveLayers + 2)), buildDoGPyramidComputer(nOctaveLayers, gpyr, dogpyr));
}

1.2 找关键点

1.2.1 查找初始关键点

由高斯金字塔得到每组n+3层图像,所有相邻两幅高斯滤波图像得到n+2个差函数D(x,y,σ)。将这些差函数视为图像,图像的细节水平随着我们上调尺度空间而下降。下图显示了SIFT查找图像D(x,y,σ)中的极值的过程。

【图像处理笔记】SIFT算法原理与源码分析插图15

在D(x,y,σ)图像中的每个位置(显示为黑色x),将该位置的像素值与其在当前图像中的8个相邻像素值及其在上方和下方图像中的9个相邻像素值,即26个相邻像素,进行比较。如果该位置的值大于其所有相邻像素的值,或小于所有相邻像素的值,那么该位置被选为极值(最大值或最小值点)。在一个Octave的第一个(最后一个)尺度中检测不到任何极值,因为它没有相同大小的下方(上方)尺度图像。

OpenCV查找初始关键点源码

在DoG尺度空间中找初始极值点,是通过比较每一个像素与其26个邻域像素相比较。如果该位置的值大于其所有相邻像素的值或小于所有相邻像素的值,那么该位置被选为极值。OpenCV中对应的是findScaleSpaceExtremaT类,其中包括了极值计算,调整极值,梯度计算等。下面为极值计算部分。

void process(const cv::Range& range)
{
    CV_TRACE_FUNCTION();

    const int begin = range.start;
    const int end = range.end;

    static const int n = SIFT_ORI_HIST_BINS;
    float CV_DECL_ALIGNED(CV_SIMD_WIDTH) hist[n];

    const Mat& img = dog_pyr[idx];
    const Mat& prev = dog_pyr[idx - 1];
    const Mat& next = dog_pyr[idx + 1];

    for (int r = begin; r (r);
        const sift_wt* prevptr = prev.ptr(r);
        const sift_wt* nextptr = next.ptr(r);
        int c = SIFT_IMG_BORDER;

        // vector loop reminder, better predictibility and less branch density
        for (; c  0)//当val大于0,找极大值
            {
                sift_wt vmax = std::max(std::max(std::max(_00, _01), std::max(_02, _10)), std::max(std::max(_12, _20), std::max(_21, _22)));
                if (val >= vmax)//当前点和8邻域相比是否为极大值
                {
                    _00 = prevptr[c - step - 1]; _01 = prevptr[c - step]; _02 = prevptr[c - step + 1];
                    _10 = prevptr[c - 1];                        _12 = prevptr[c + 1];
                    _20 = prevptr[c + step - 1]; _21 = prevptr[c + step]; _22 = prevptr[c + step + 1];
                    vmax = std::max(std::max(std::max(_00, _01), std::max(_02, _10)), std::max(std::max(_12, _20), std::max(_21, _22)));
                    if (val >= vmax)//当前点和上一层的8邻域相比是否为极大值
                    {
                        _00 = nextptr[c - step - 1]; _01 = nextptr[c - step]; _02 = nextptr[c - step + 1];
                        _10 = nextptr[c - 1];                        _12 = nextptr[c + 1];
                        _20 = nextptr[c + step - 1]; _21 = nextptr[c + step]; _22 = nextptr[c + step + 1];
                        vmax = std::max(std::max(std::max(_00, _01), std::max(_02, _10)), std::max(std::max(_12, _20), std::max(_21, _22)));
                        if (val >= vmax)//当前点和下一层的8邻域相比是否为极大值
                        {
                            sift_wt _11p = prevptr[c], _11n = nextptr[c];
                            calculate = (val >= std::max(_11p, _11n));//当前点和上下两层对应点相比是否为极大值
                        }
                    }
                }

            }
            else { // val cant be zero here (first abs took care of zero), must be negative// val要不是正的,要不是负的,不可能是0
                sift_wt vmin = std::min(std::min(std::min(_00, _01), std::min(_02, _10)), std::min(std::min(_12, _20), std::min(_21, _22)));
                if (val //后面还有求亚像素精度极值,梯度方向直方图
}

1.2.2 改进关键点位置的精度

  一个连续函数被取样时,它真正的最大值或最小值实际上可能位于样本点之间。得到接近真实极值(亚像素精度)的一种方法时,首先再数字函数中的每个极值点处拟合一个内插函数,然后在内插后的函数中查找改进精度后的极值位置。SIFT用D(x,y,σ)的泰勒级数展开的线性项和二次项,把原点移至被检测的样本点。这个公式的向量形式为

【图像处理笔记】SIFT算法原理与源码分析插图16

式中,D及其导数是在这个样本点处计算的,x=(x,y,σ)T是这个样本的偏移量,▽是我们熟悉的梯度算子,

【图像处理笔记】SIFT算法原理与源码分析插图17

H是海森矩阵,

【图像处理笔记】SIFT算法原理与源码分析插图18

取D(x)关于x的导数并令其为零,可求得极值的位置x,即

【图像处理笔记】SIFT算法原理与源码分析插图19

就像在博客1.2节介绍的那样,海森矩阵和D的梯度是用相邻像素点的差来近似的,f'(x)=(f(x+1)-f(x-1))/2,二阶导数f''(x)=f(x+1)+f(x-1)-2f(x)。得到的3×3线性方程组加u三上很容易求解。如果偏移量x在其任意维度上都大于0.5,那么可以得出结论:极值靠近另一个样本点,在这种情况下,改变样本点,并对改变后的样本点进行内插。最后的偏移量x被添加到其样本点的位置,得到极值的内插后的估计位置。

SIFT使用极值位置函数值D(x)来剔除具有低对比度的不稳定极值,其中D(x)为

【图像处理笔记】SIFT算法原理与源码分析插图20

Lowe的实验结果称,若所有图像的值都在区间[0,1]内,则D(x)小于0.03的任何极值都会被剔除。这剔除了具有低对比度和/或局部化较差的关键点。

1.2.3 消除边缘响应

回顾边缘检测的博客可知,使用高斯差会得到图像中的边缘。但SIFT中我们感兴趣的关键点是“角状”特征,这些特征更加局部化。因此,消除了边缘导致的灰度过渡。为了量化边和角之间的差,我们研究局部曲折度。边在一个方向上由高曲折度表征,在正交方向上由低曲折度表征。图像中某点的曲折度可由该点处的一个2×2海森矩阵算出。因此,要在标量空间中的任何一层计算DoG的局部曲折度,可在该层中计算D的海森矩阵:

【图像处理笔记】SIFT算法原理与源码分析插图21

H的特征值与D的曲折度成正比。如对哈里斯-斯蒂芬斯(HS)角检测器的解释那样,我们可以避免直接计算特征值,H的迹等于特征值之和,H的行列式等于特征值之积。设α和β分别是H的最大特征值和最小特征值,有

【图像处理笔记】SIFT算法原理与源码分析插图22

注意,H是对称的,且大小为2×2。若行列式是负的,则不同曲折度具有不同的符号,且讨论的关键点不可能是一个极值,因此要丢弃它。令r表示最大特征值和最小特征值之比,即α=rβ,则

【图像处理笔记】SIFT算法原理与源码分析插图23

当特征值相等时,上式出现最小值,当r大于1时,随着r的增大而增大。因此,要检查低于某个阈值的r的主曲折度之比,只需检查

【图像处理笔记】SIFT算法原理与源码分析插图24

这个计算很简单。Lowe报告的实验结果中使用了值r=10,这意味着消除了曲折度之比大于10的关键点。

OpenCV源码adjustLocalExtrema

包括计算亚像素精度极值+剔除低对比度的不稳定极值+剔除曲折度较大的点,基于Lowe论文的Section 4

static bool adjustLocalExtrema(
        const std::vector& dog_pyr, KeyPoint& kpt, int octv,
        int& layer, int& r, int& c, int nOctaveLayers,
        float contrastThreshold, float edgeThreshold, float sigma
    )
{
    CV_TRACE_FUNCTION();

    const float img_scale = 1.f / (255 * SIFT_FIXPT_SCALE);
    const float deriv_scale = img_scale * 0.5f;
    const float second_deriv_scale = img_scale;
    const float cross_deriv_scale = img_scale * 0.25f;

    float xi = 0, xr = 0, xc = 0, contr = 0;
    int i = 0;

    for (; i (r, c + 1) - img.at(r, c - 1)) * deriv_scale,
            (img.at(r + 1, c) - img.at(r - 1, c)) * deriv_scale,
            (next.at(r, c) - prev.at(r, c)) * deriv_scale);
        // 基于中心差分的二阶导数
        float v2 = (float)img.at(r, c) * 2;
        float dxx = (img.at(r, c + 1) + img.at(r, c - 1) - v2) * second_deriv_scale;
        float dyy = (img.at(r + 1, c) + img.at(r - 1, c) - v2) * second_deriv_scale;
        float dss = (next.at(r, c) + prev.at(r, c) - v2) * second_deriv_scale;
        float dxy = (img.at(r + 1, c + 1) - img.at(r + 1, c - 1) -
            img.at(r - 1, c + 1) + img.at(r - 1, c - 1)) * cross_deriv_scale;
        float dxs = (next.at(r, c + 1) - next.at(r, c - 1) -
            prev.at(r, c + 1) + prev.at(r, c - 1)) * cross_deriv_scale;
        float dys = (next.at(r + 1, c) - next.at(r - 1, c) -
            prev.at(r + 1, c) + prev.at(r - 1, c)) * cross_deriv_scale;
        //海森矩阵
        Matx33f H(dxx, dxy, dxs,
            dxy, dyy, dys,
            dxs, dys, dss);
        //取D(X)关于X的导数并令其为零,可求得极值的位置X, X = (x, y, σ)T
        //即,HX=-dD
        Vec3f X = H.solve(dD, DECOMP_LU);

        xi = -X[2];
        xr = -X[1];
        xc = -X[0];
        //如果由泰勒级数插值得到的三个坐标的偏移量都小于0.5,说明已经找到特征点,则退出迭代
        if (std::abs(xi)  (float)(INT_MAX / 3) ||
            std::abs(xr) > (float)(INT_MAX / 3) ||
            std::abs(xc) > (float)(INT_MAX / 3))
            return false;
        //由上面得到的偏移量重新定义插值中心的坐标位置,用于下次迭代,上面偏移量小于0.5的话,四舍五入还在layer层的(r,c)点,就不用下面的几句
        c += cvRound(xc);
        r += cvRound(xr);
        layer += cvRound(xi);
        //如果新的坐标超出了金字塔的坐标范围,则说明该极值点不是特征点,函数返回
        if (layer  nOctaveLayers ||
            c = img.cols - SIFT_IMG_BORDER ||
            r = img.rows - SIFT_IMG_BORDER)
            return false;
    }

    // ensure convergence of interpolation //如果迭代次数超过最大迭代次数,这个极值点不是特征点
    if (i >= SIFT_MAX_INTERP_STEPS)
        return false;
    // 剔除具有低对比度的不稳定极值 D(X)=D+0.5*dD*X 
    {
        int idx = octv * (nOctaveLayers + 2) + layer;
        const Mat& img = dog_pyr[idx];
        const Mat& prev = dog_pyr[idx - 1];
        const Mat& next = dog_pyr[idx + 1];
        Matx31f dD((img.at(r, c + 1) - img.at(r, c - 1)) * deriv_scale,
            (img.at(r + 1, c) - img.at(r - 1, c)) * deriv_scale,
            (next.at(r, c) - prev.at(r, c)) * deriv_scale);
        float t = dD.dot(Matx31f(xc, xr, xi));

        contr = img.at(r, c) * img_scale + t * 0.5f;
        if (std::abs(contr) * nOctaveLayers (r, c) * 2.f;
        float dxx = (img.at(r, c + 1) + img.at(r, c - 1) - v2) * second_deriv_scale;
        float dyy = (img.at(r + 1, c) + img.at(r - 1, c) - v2) * second_deriv_scale;
        float dxy = (img.at(r + 1, c + 1) - img.at(r + 1, c - 1) -
            img.at(r - 1, c + 1) + img.at(r - 1, c - 1)) * cross_deriv_scale;
        float tr = dxx + dyy;
        float det = dxx * dyy - dxy * dxy;
        //若行列式是负的,则不同曲折度具有不同的符号,且讨论的关键点不可能是一个极值,因此要丢弃它。曲折度大就说明两个特征值相差大,就是边缘,丢弃
        if (det = (edgeThreshold + 1) * (edgeThreshold + 1) * det)
            return false;
    }
    //保存特征点信息
    kpt.pt.x = (c + xc) * (1 

1.3 计算关键点方向

在之前过程中,我们得到了SIFT认为稳定的关键点。因为我们知道每个关键点在尺度空间中的位置,因此实现了尺度独立性。下一步是根据局部性质为每个关键点分配方向,实现图像旋转的不变性。对此,SIFT使用了一种简单的方法:

  • 使用关键点的尺度来选择最接近该尺度的高斯平滑图像L,然后采集关键点所在高斯金字塔图像3σ邻域窗口内像素的梯度幅度M(x,y)方向角θ(x,y):
【图像处理笔记】SIFT算法原理与源码分析插图25

【图像处理笔记】SIFT算法原理与源码分析插图26 

  • 方向直方图由每个关键点邻域的样本点的梯度方向形成。直方图有36个容器,覆盖了图像平面上360°的方向范围(或者每45度一个柱共8个柱)。添加到直方图中的每个样本按其梯度幅度和一个圆形高斯函数加权(也就是说灰度差大的方向对关键点方向的影响更大,也增强特征点近的邻域点对关键点方向的作用,并减少突变的影响),圆形高斯函数的标准差是关键点尺度的1.5倍。
  • 为了得到更精确的方向,通常还可以对离散的梯度直方图进行插值拟合。具体而言,关键点的方向可以由和主峰值最近的三个柱值通过抛物线插值得到。
  • 在梯度直方图中,当存在一个相当于主峰值80%能量的柱值时,则可以在相同的位置以相同的尺度创建另一个关键点,关键点的方向不同。SIFT仅为15%左右的多方向点分配多个方向,但它们对图像匹配的贡献非常明显。

【图像处理笔记】SIFT算法原理与源码分析插图27

OpenCV源码calcOrientationHist

// Computes a gradient orientation histogram at a specified pixel
static float calcOrientationHist(
        const Mat& img, Point pt, int radius,
        float sigma, float* hist, int n
)
{
    CV_TRACE_FUNCTION();

    int i, j, k, len = (radius*2+1)*(radius*2+1);

    float expf_scale = -1.f/(2.f * sigma * sigma);

    cv::utils::BufferArea area;
    float *X = 0, *Y = 0, *Mag, *Ori = 0, *W = 0, *temphist = 0;
    area.allocate(X, len, CV_SIMD_WIDTH);
    area.allocate(Y, len, CV_SIMD_WIDTH);
    area.allocate(Ori, len, CV_SIMD_WIDTH);
    area.allocate(W, len, CV_SIMD_WIDTH);
    area.allocate(temphist, n+4, CV_SIMD_WIDTH);
    area.commit();
    temphist += 2;
    Mag = X;

    for( i = 0; i = img.rows - 1 )
            continue;
        for( j = -radius; j = img.cols - 1 )
                continue;

            float dx = (float)(img.at(y, x+1) - img.at(y, x-1));//计算相对值,不用除以2了
            float dy = (float)(img.at(y-1, x) - img.at(y+1, x));

            X[k] = dx; Y[k] = dy; W[k] = (i*i + j*j)*expf_scale;//这里的W为高斯函数的e的指数
            k++;
        }
    }

    len = k;
    // 计算邻域中所有元素的高斯加权值W,梯度幅角Ori 和梯度幅值Mag
    // compute gradient values, orientations and the weights over the pixel neighborhood
    cv::hal::exp32f(W, W, len);
    cv::hal::fastAtan2(Y, X, Ori, len, true);
    cv::hal::magnitude32f(X, Y, Mag, len);

    k = 0;
    for( ; k = n )
            bin -= n;
        if( bin 

1.4 关键点描述 

经过前面的步骤,已经为关键点分配了图像位置尺度方向,进而为这三个变量提供了不变性。下一步是为围绕每个明显不同的关键点的局部区域计算一个描述子,同时对尺度、方向、光照和图像视点的变化是尽可能不变的。基本思想是能用这些描述子来识别两幅或多幅图像中局部区域的匹配(相似性)。特征描述子的生成大致有三个步骤:

1. 校正旋转主方向,确保旋转不变性。为了保证特征矢量的旋转不变性,要以特征点为中心,在附近邻域内将坐标轴旋转θθ(特征点的主方向)角度,即将坐标轴旋转为特征点的主方向。旋转后邻域内像素的新坐标为:

【图像处理笔记】SIFT算法原理与源码分析插图28

2. 生成描述子,最终形成一个128维的特征向量。

以关键点为中心取16×16像素的一个区域,并使用像素差计算这个区域中每个点处的梯度幅度和方向。然后使用标准差等于这个区域大小一般的高斯加权函数来分配一个权重,将这个权重乘以每个点处的梯度幅度。高斯加权函数在图中显示为一个圆,权重随着到中心的距离增大而减小。这个函数的目的是,减少位置变化很小时描述子的突然变化。

将16×16的区域分为16个4×4区域,每个4×4区域中有16个方向,将所有的梯度方向量化为8个相隔45°的方向。SIFT不是把一个方向值分配给其最接近的容器,而是进行内插运算,根据这个值到每个容器中心的距离,按比例地在所有容器中分配直方图的输入。例如,容器的中心为[22.5, 67.5, 112.5, ..., 337.5],每个输入需要乘以权重1-d,d是从这个值到容器中心的最短距离,度量单位是直方图间隔,最大的可能距离是1。假设某个方向值是22.5°,到第一个容器中心的距离是0,因此将满输入分配给这个容器。到下一个容器的距离是1,1-d=0,所以不分配给下一个容器,所有容器都是如此。假设某个方向值是45°,分配给第一个容器1/2,分配给第二个容器1/2。采用这种方法,为每个容器得到一个技术的比例分数,从而避免“边界”效应,即描述子方向的细微变化导致的为不同容器分配到同一个值的效应。

16个4×4区域得到16个直方图,将直方图的8个方向显示为一个小向量簇,其中每个向量的长度等于其对应容器的值。所以,一个描述子由4×4阵列组成,每个阵列包含8个方向值。在SIFT中,这描述子数据被组织为一个128维的向量。

3. 归一化处理,将特征向量长度进行归一化处理,进一步去除光照的影响。

  为了降低光照的影响,对特征向量进行了两阶段的归一化处理。首先,通过将每个分量除以向量范数,把向量归一化为单位长度。由每个像素值乘以一个常数所引起的图像对比度的变化,将以相同的常数乘以梯度,因此对比度的变化将被第一次归一化抵消。每个像素加上一个常量导致的亮度变化不会影响梯度值,因为梯度值是根据像素插值计算的。因此描述子对光照的仿射变换是不变的。然后,也可能出现摄像机饱和等导致的非线性光照变化。这类变化会导致某些梯度的相对幅值的较大变化,但它们几乎不会影响梯度方向。SIFT通过对归一化特征向量进行阈值处理,降低了较大梯度值的影响,使所有分量都小于实验确定的值0.2。阈值处理后,特征向量被重新归一化为单位向量。

2 opencv中的SIFT

2.1 SIFT使用示例

 

#include 
using namespace cv;
using namespace std;

int main() {
    Mat src1 = imread("./1.jpg", 0);
    Mat src2 = imread("./2.jpg", 0);

    Mat img1 = imread("./2.jpg");
    Mat img2 = imread("./2.jpg");

    SIFT S;
    Ptr pSIFT = SIFT::create(55);
    vector points1, points2;
    pSIFT->detect(src1, points1);
    pSIFT->detect(src2, points2);
    drawKeypoints(src1, points1, img1, Scalar(0,255,0));
    drawKeypoints(src2, points2, img2, Scalar(0, 255, 0));
    Mat discriptions1, discriptions2;
    pSIFT->compute(src1, points1, discriptions1);
    pSIFT->compute(src2, points2, discriptions2);
    Ptr matcher = DescriptorMatcher::create("BruteForce");
    vector matches;
    matcher->match(discriptions1, discriptions2, matches);
    Mat match_img;
    drawMatches(src1, points1, src2, points2, matches, match_img);
    imshow("markImg", match_img);
    waitKey(0);
    return 0; 
}

2.2 源码分析

SIFT构造函数,查询用户是否提供关键点,然后调用以下函数

  • 建立初始图像SIFT::createInitialImage()
  • 建立高斯金字塔SIFT::buildGaussianPyramid()
  • 建立DoG金字塔 SIFT::buildDoGPyramid()
  • 在DoG中查找尺度空间极值点SIFT::findScaleSpaceExtrema(),会调用下面两个函数

(1)对找到的极值点进行曲线插值拟合,并过滤 adjustLocalExtrema()

(2)计算方向直方图 calcOrientationHist()

  • 计算描述子 calcDescriptors()

(1)计算sift描述子calcSIFTDescriptor()

上面在讲原理的时候已经写了一些源码注释(打),下面是剩下的注释。

2.2.1 SIFT::createInitialImage()

对于高斯金字塔的初始尺度做一下简单的说明,图像通过相机拍摄时,相机的镜头已经对图像进行了一次初始的模糊,即我们输入的图像的尺度为0.5,所以根据高斯模糊的性质有:
【图像处理笔记】SIFT算法原理与源码分析插图29

其中σinit是第0层的尺度,σpre是被相机模糊后的尺度。在Lowe的论文使用了σ0=1.6,S=3。

为了尽可能多的保留原始图像信息,一般需要对原始图像进行扩大两倍采样,即升采样,从而生成一组采样图octave_1,此组采样图的第一层的模糊参数为:

【图像处理笔记】SIFT算法原理与源码分析插图30

也就是说,输入的图像已经是被模糊了(0.5),但你想要更模糊一点(1.6)的作为base。如果要先扩大图像尺寸的话,就先升采样后再用1.25的σ进行卷积。如果不升采样的话,就用sqrt(1.6*1.6-0.5*0.5)对原图做卷积,然后将结果作为base。

static Mat createInitialImage( const Mat& img, bool doubleImageSize, float sigma )
{
    Mat gray, gray_fpt;
    if( img.channels() == 3 || img.channels() == 4 )
    {  //如果输入图像是彩色图像,则需要转换成灰度图像
        cvtColor(img, gray, COLOR_BGR2GRAY);
        gray.convertTo(gray_fpt, DataType::type, SIFT_FIXPT_SCALE, 0);//调整图像的像素数据类型
    }
    else
        img.convertTo(gray_fpt, DataType::type, SIFT_FIXPT_SCALE, 0);

    float sig_diff;

    if( doubleImageSize )//如果需要扩大图像的长宽尺寸
    {
        //SIFT_INIT_SIGMA为0.5,即输入图像的尺度,SIFT_INIT_SIGMA×2 = 1.0,即图像扩大2倍以后的尺度
        sig_diff = sqrtf( std::max(sigma * sigma - SIFT_INIT_SIGMA * SIFT_INIT_SIGMA * 4, 0.01f) );
        Mat dbl;
#if DoG_TYPE_SHORT
        resize(gray_fpt, dbl, Size(gray_fpt.cols*2, gray_fpt.rows*2), 0, 0, INTER_LINEAR_EXACT);
#else
        resize(gray_fpt, dbl, Size(gray_fpt.cols*2, gray_fpt.rows*2), 0, 0, INTER_LINEAR);//利用双线性插值法把图像的长宽都扩大2倍
#endif
        Mat result;
        GaussianBlur(dbl, result, Size(), sig_diff, sig_diff);//对图像进行高斯平滑处理
        return result;
    }
    else//如果不需要扩大图像的尺寸,sig_diff计算不同
    {
        sig_diff = sqrtf( std::max(sigma * sigma - SIFT_INIT_SIGMA * SIFT_INIT_SIGMA, 0.01f) );
        Mat result;
        GaussianBlur(gray_fpt, result, Size(), sig_diff, sig_diff);
        return result;
    }
}
2.2.2 计算描述子 calcDescriptors()

1. 计算邻域内每个像素点的幅值和幅角

在前面的步骤中我们分别得到了关键点的位置(层,组,所在图像的横纵坐标),尺度,主方向信息。所以我们定位关键点到其所属的高斯金字塔中的那幅图中。用关键点周围(radius*2+1)*(radius*2+1)的邻域(橘色矩形框区域)来描述这个关键点,即计算邻域的幅值和幅角,其中

【图像处理笔记】SIFT算法原理与源码分析插图31

将这块区域分成d×d个小区域,SIFT中d取4,每个小区域的宽度是3σ,这里的σ是指相对于当前组第一层图片来说的。

【图像处理笔记】SIFT算法原理与源码分析插图32

2. 校正旋转主方向,确保旋转不变性。

为了保证特征矢量的旋转不变性,要以特征点为中心,在附近邻域内将坐标轴旋转θ(特征点的主方向)角度,即将坐标轴旋转为特征点的主方向。如下图所示

【图像处理笔记】SIFT算法原理与源码分析插图33

旋转后邻域内像素的新坐标为:

【图像处理笔记】SIFT算法原理与源码分析插图28

3.建立三维直方图

在计算特征点描述符的时候,我们不需要精确知道邻域内所有像素的梯度幅值和幅角,我们只需要根据直方图知道其统计值即可。如图所示,三维直方图是由d*d*n个长宽为1的单位立方体组成的,高对应邻域像素幅角的大小,把360度分成8等分。立方体的底就是特征点的邻域区域,该区域被划分为4×4个子区域,邻域中的像素根据坐标位置,把它们归属到这16个子区域中的一个,再根据该像素幅角的大小,把它分到这8等分中的一份,这样每个像素点都能对应到其中的一个立方体内,三维直方图建立起来了。

【图像处理笔记】SIFT算法原理与源码分析插图34

正方体的中心代表着该正方体,但是落入正方体内的邻域像素不可能都在中心,因此我们需要对上面的梯度幅值做进一步的处理,根据它对中心点位置的贡献大小进行加权处理,即在正方体内,根据像素点相对于正方体中心的距离,对梯度幅值做加权处理。所以,三维直方图的值,也就是正方体的值需要下面四个步骤完成:

1)计算落入该正方体内的邻域像素的梯度幅值A

2)根据该像素相对于特征点的距离,对A进行高斯加权处理,得到B

3)根据该像素相对于它所在的正方体的中心的贡献大小,再对B进行加权处理,得到C

由于计算相对于正方体中心点的贡献大小略显繁琐,例如像素(0.25,0.25,0.25),中心点为(0.5,0.5,0.5),相对距离是(0.25,0.25,0.25),贡献权重为(1-0.25)*(1-0.25)*(1-0.25)。因此在实际应用中,我们需要经过坐标平移,把中心点平移到正方体的顶点上,这样只要计算正方体内的点对正方体的8个顶点的贡献即可。根据三线性插值法,对某个顶点的贡献值是以该顶点和正方体内的点为对角线的两个顶点,所构成的立方体的体积。也就是对8个顶点的贡献分别为:

【图像处理笔记】SIFT算法原理与源码分析插图35  

归一化采用的是坐标值减去不大于坐标值的最大整数值,比如像素(-0.25,-0.25,56.25),归一化后得到(0.75,0.75,0.25),V000是0.25*0.25*0.75,V111是0.75*0.75*0.25。然后加权计算后将值放入对应的直方图单元中。

4.描述子归一化处理

经过上述处理后我们得到128维描述子,在OpenCV中,一共对描述子进行了两次归一化处理。第一次使用以下公式对描述子进行归一化处理,并对大于0.2的描述子进行截断处理:

【图像处理笔记】SIFT算法原理与源码分析插图36

假设经过第一次归一化后描述子用qi表示,第二次归一化操作是

【图像处理笔记】SIFT算法原理与源码分析插图37

其中分母要大于FLT_EPSILON。

void calcSIFTDescriptor(
        const Mat& img, Point2f ptf, float ori, float scl,
        int d, int n, Mat& dstMat, int row
)
{
    Point pt(cvRound(ptf.x), cvRound(ptf.y));//特征点坐标位置
    float cos_t = cosf(ori*(float)(CV_PI/180));//特征点方向的余弦
    float sin_t = sinf(ori*(float)(CV_PI/180));//特征点方向的正弦
    float bins_per_rad = n / 360.f;// 1/45
    float exp_scale = -1.f/(d * d * 0.5f); //高斯加权函数中的e指数的常数部分
    float hist_width = SIFT_DESCR_SCL_FCTR * scl;//SIFT_DESCR_SCL_FCTR = 3.f,即3σ
    int radius = cvRound(hist_width * 1.4142135623730951f * (d + 1) * 0.5f);//特征点邻域区域的半径
    // Clip the radius to the diagonal of the image to avoid autobuffer too large exception
    radius = std::min(radius, (int)std::sqrt(((double) img.cols)*img.cols + ((double) img.rows)*img.rows));//避免邻域过大
    cos_t /= hist_width;//归一化处理
    sin_t /= hist_width;
    //len为特征点邻域区域内像素的数量,histlen为直方图的数量,即特征矢量的长度,实际应为d×d×n,+2是为圆周循环留出一定的内存空间
    int i, j, k, len = (radius*2+1)*(radius*2+1), histlen = (d+2)*(d+2)*(n+2);
    int rows = img.rows, cols = img.cols;
    //开辟一段内存空间
    cv::utils::BufferArea area;
    float *X = 0, *Y = 0, *Mag, *Ori = 0, *W = 0, *RBin = 0, *CBin = 0, *hist = 0, *rawDst = 0;
    area.allocate(X, len, CV_SIMD_WIDTH);
    area.allocate(Y, len, CV_SIMD_WIDTH);
    area.allocate(Ori, len, CV_SIMD_WIDTH);
    area.allocate(W, len, CV_SIMD_WIDTH);
    area.allocate(RBin, len, CV_SIMD_WIDTH);
    area.allocate(CBin, len, CV_SIMD_WIDTH);
    area.allocate(hist, histlen, CV_SIMD_WIDTH);
    area.allocate(rawDst, len, CV_SIMD_WIDTH);
    area.commit();
    Mag = Y;
    //直方图数组hist清零
    for( i = 0; i  -1 && rbin  -1 && cbin  0 && r  0 && c (r, c+1) - img.at(r, c-1));
                float dy = (float)(img.at(r-1, c) - img.at(r+1, c));
                X[k] = dx; Y[k] = dy; RBin[k] = rbin; CBin[k] = cbin;
                W[k] = (c_rot * c_rot + r_rot * r_rot)*exp_scale;//高斯加权函数中的e 指数部分
                k++;//统计实际的邻域像素的数量
            }
        }

    len = k;
    cv::hal::fastAtan2(Y, X, Ori, len, true);//计算梯度幅角
    cv::hal::magnitude32f(X, Y, Mag, len);//计算梯度幅值
    cv::hal::exp32f(W, W, len);//计算高斯加权函数

    k = 0;
    for( ; k = n )
            o0 -= n;

        // histogram update using tri-linear interpolation
        //根据三线性插值法,计算该像素对正方体的8个顶点的贡献大小,即8个立方体的体积,这里还需要乘以高斯加权后的梯度值mag
        float v_r1 = mag*rbin, v_r0 = mag - v_r1;
        float v_rc11 = v_r1*cbin, v_rc10 = v_r1 - v_rc11;
        float v_rc01 = v_r0*cbin, v_rc00 = v_r0 - v_rc01;
        float v_rco111 = v_rc11*obin, v_rco110 = v_rc11 - v_rco111;
        float v_rco101 = v_rc10*obin, v_rco100 = v_rc10 - v_rco101;
        float v_rco011 = v_rc01*obin, v_rco010 = v_rc01 - v_rco011;
        float v_rco001 = v_rc00*obin, v_rco000 = v_rc00 - v_rco001;
        //得到该像素点在三维直方图中的索引
        int idx = ((r0+1)*(d+2) + c0+1)*(n+2) + o0;
        //8个顶点对应于坐标平移前的8个直方图的正方体,对其进行累加求和
        hist[idx] += v_rco000;
        hist[idx+1] += v_rco001;
        hist[idx+(n+2)] += v_rco010;
        hist[idx+(n+3)] += v_rco011;
        hist[idx+(d+2)*(n+2)] += v_rco100;
        hist[idx+(d+2)*(n+2)+1] += v_rco101;
        hist[idx+(d+3)*(n+2)] += v_rco110;
        hist[idx+(d+3)*(n+2)+1] += v_rco111;
    }

    // finalize histogram, since the orientation histograms are circular
    //由于圆周循环的特性,纵向的n+2个正方体,使得第n个和第n+1个的值加到第0个和第1个上,而底部的(d+2)*(d+2)则是舍弃多出来的2
    for( i = 0; i (row);
        for( ; k (rawDst[k]*nrm2);//归一化
        }
    }
    else // CV_8U
    {
        uint8_t* dst = dstMat.ptr(row);
        for( ; k (rawDst[k]*nrm2);
        }

    }
}

 

 

参考

1. 冈萨雷斯《数字图像处理(第四版)》Chapter 11(所有图片可在链接中下载)

2. 图像处理基础(六)基于 LOG 的 blob 兴趣点检测

3. 斑点检测(LoG,DoG)(下)

4. 图像处理基础 (四)边缘提取之 LOG 和 DOG 算子

5. SIFT(5)----关键点方向分配

6. sift程序详解

7.计算机视觉-sift(2)代码理解

文章来源于互联网:【图像处理笔记】SIFT算法原理与源码分析

THE END
分享
二维码