1 绪论
1.1 课题背景
随着计算机在图像处理方面的广泛应用,人们对包含信息的图像需求量越来越高,从而使人们对图像分辨率的要求也越来越苛刻。计算机与微电子和半导体技术的结合,使得图像感光器 CCD(Charge Coupled Device)和 CMOS(Complementary Metal OxigenSemiconductor)图像传感器得到了广泛的应用。CCD 和 CMOS 工作原理类似,CCD 获取图像的质量更高,但对硬件设备要求较苛刻,制作工艺相对比较复杂,而 CMOS 对硬件设备要求不高,成本较低,但成像质量要比CCD低。对于目前的成像系统,CCD/CMOS 传感器像素尺寸以缩减到极限,例如减小单位像素尺寸或者提高感光器芯片尺寸来增加单位面积上像素的数目,但通过提升成像传感器硬件设备获取高分辨率图像难度较大,很难满足对图像精度的要求,而分辨率对图像质量的优劣有着直接的影响,分辨率的高低直接决定了图像的质量。图像是由像素构成,像素个数越多,图像呈现画面就越清晰,包含的细节信息就越丰富。分辨率是图像质量优劣的重要参考标准,随着人们对图像要求的提高,图像分辨率成了影响视觉交流的关键。图像的分辨率越高,表明图像所包含的内容越丰富,边缘纹理越清晰,从直观的角度分析,图像生动直观,清晰明了,对信息的获取更有针对性。由于成像设备自身硬件问题,或者由于大气干扰、运动、模糊、噪声等因素的影响,会使图像变得模糊,无法分辨细节纹理。通过硬件设备提升分辨率,需要较大的资金投入,而且在短期内很难实现硬件上的突破,为了获取高分辨率图像,获取更高质量的图像,就产生了超分辨率重建算法。图像插值利用图像自身像素增加像素个数,有一定增加分辨率的作用,该方法利用图像的像素进行插值,但是无法重建丢失细节。图像复原可以滤除部分噪声,恢复原始图像细节,但像素不改变。超分辨率重建不仅包括分辨率的提升,还能对图像进行去噪去模糊操作,通过低分辨率图像之间的互补信息重建丢失的高分辨率细节。超分辨率重建在现有设备基础上,通过提升软件技术达到对分辨率的提高,突破了硬件设备的限制。现如今,通过超分辨率重建技术获取高质量图像涌现出了各种各样的重建算法,取得了一些较好的成效。
............
1.2 国内外研究现状
超分辨率重建是由 Tsai 和 Huang[2]提出,主要是通过低分辨率序列图像经过配准融合生成高像素点静态图像。超分辨率重建主要分为单幅图像的超分辨率重建和多幅图像的超分辨率重建。单幅图像只利用一幅图像进行重建,包含的图像信息有限。多幅低分辨率图像重建利用同一场景中具有亚像素位移的图像间的互补信息,放大图像的细节且保持细节不丢失来获取一幅或者多幅高分辨率图像的过程,使图像具有分辨更小目标的能力,它是图像退化的逆过程,具有病态性,需要正则化技术将它变成一个适定问题,再通过最小化目标泛函实现正则化超分辨率重建。实际中,人们容易得到对同一目标的不同角度、不同时间、不同传感器获得的图像,这些图像涵盖了目标各种细节信息,如果能够将这些信息融合进一幅图像就可以突破单幅图像获取目标信息方面的限制,增强图像的分辨率,可提高目标的辨识程度。
1.2.1 国内研究现状
在国内,钦桂勤[3]根据小面元微分纠正来进行运动估计,估计模型加入共轭梯度法进行运动参数求解,得到的运动参数采用分块或者循环的方法进行重建,通过小面元微分纠正大大提升了配准精度,得到的输出图像精确度更高,实现了超分辨影像重建。兰诚栋[4]等人为了增强低质量监控图像的鲁棒性,通过基于人工形状语义模型获取人脸图像形状语义信息,利用样本库构建正则约束项,采用最速下降法求取最优值。在解决运动目标检测投射阴影造成的准确率不高的情况时,屠礼芬[5]等人以设置双阈值边缘检测为基础,结合多属性阴影的特点,把运动掩模的求取过程转换为高斯滤波模型,避免了直接面对检测准确性不高的情况,有效保存了感兴趣区域。潘宗序[6]等人利用图像自身作为训练库,在聚类的引导下将图像库中的图像进行分类,构建针对各类的多个字典,从而重建图像块的最优字典。李娟[7]等人在 Bayesian 统计框架下构建重建模型,通过非局部自相似和拉普拉斯先验模型相结合作为正则化约束项,将当前估计的高分辨率图像特征块进行学习,增强了稀疏模型的有效性。重建分为单幅和多幅的重建,两种方法的重建过程各不相同,但又保留各自的特点,而且都是广大研究学者的致力方向。单幅图像只利用一幅图像进行重建,包含的图像信息有限。多幅低分辨率图像重建利用同一场景中多幅图像之间的互补信息,通常是具有亚像素位移的图像。
...........
2 超分辨率重建
2.1 超分辨率重建概述
超分辨率重建是由 Tsai 和 Huang[13]提出,其思想是在不改变现有成像系统的前提下利用一幅或者多幅低分辨率、低质量的序列图像,经过配准融合、去噪、去模糊,重建生成一幅或者多幅高分辨率、高质量数字图像的过程。重建主要包括单幅图像重建和多幅图像重建算法。单幅图像主要通过插值[14]或者局部自相似[15]等过程进行重建,多幅图像的超分辨率重建方法相对比较多,例如,基于字典学习[16],基于 MRF 模型[17]、基于Huber 范数[18]、基于稀疏矩阵[19]等的重建算法。多幅序列图像重建算法,主要是根据同一场景中,具有亚像素位移的低分辨率图像的先验信息形成互补信息,充分利用低分辨率图像之间的关系进行重建。如今基于序列图像的多幅图像超分辨率重建研究相对广泛,有效的克服图像获取过程中的模糊、噪声等退化因素的影响,应用前景比较广泛,例如,在医学诊断,交通管理,视频监控,远程遥感,工业控制、视频信号传输等领域有广阔的发展需求。超分辨率重建主要分为频域法和空间域法。频域法适用范围有限,没有充分使用图像的先验信息,不能很好地解决不适定问题,主要通过消除图像频谱混叠来提高分辨率。相反,空域法则较好的解决不适定问题,通过使用图像先验信息的方法进行重建,方法灵活,适用范围较广。超分辨率重建算法主要由四个步骤。(1)低分辨率图像的获取。利用成像设备对同一场景的图像进行采集,采集的图像之间需要满足像素之间具有亚像素位移的条件,也可以通过对原始图像,经过运动变形、光学运动或者传感器点扩散函数产生的模糊、降采样以及加入噪声获取低分辨率序列图像。(2)图像配准。选取序列图像中的任一帧作为参考帧,其他序列低分辨率图像需要进行亚像素级的运动估计进行变换,求得运动参数,使图像中包含相同像素内容的像素点对齐,常见的配准算法有块匹配或者光流运动配准等。(3)模糊函数辨识。通过选取合适的去模糊函数重建来获取高分辨率图像。(4)图像超分辨率重建。根据产生的低分辨率图像,运动参数和模糊函数,选择适当的重建模型,求解目标函数,获取高质量的图像。
...........
2.2 超分辨率重建观测模型
超分辨率重建是通过输入序列的低分辨率、低质量的图像,经过配准融合,去噪去模糊来重建高分辨率、高质量图像的过程。首先需要建立退化模型,在实际的图像获取中,常常由于大气干扰,采样设备硬件设施,目标运动等问题的影响,会导致图像获取的分辨率较低。图像超分辨率重建是图像退化的逆过程。一般将低分辨率图像的获取看作正问题,即系统输入高分辨率图像输出低分辨率图像。如果系统根据低分辨率图像经过重建获取高分辨率图像,那么该重建过程就是正问题的逆过程[20]。退化模型通过分析采集图像过程中的降质因素并通过数字图像处理技术来获取低分辨率图像,退化模型的准确性关系到重建图像的优劣,对重建过程有着重大影响。通常使用的退化模型是:高分辨率图像经过模糊、变形、降采样以及加入噪声得到低分辨率图像。超分辨率重建从方法上大致是由插值算法、重建算法和基于学习的算法三大类构成。基于插值的算法主要是对单幅图像,通过像素的插值来增大分辨率。基于学习的重建算法主要是建立样本库,获取样本中的先验信息,通过先验信息来建立测试样本和样本库之间的联系进行重建。
............
3 偏微分方程去噪及边缘检测算子..... 17
3.1 噪声分类......17
3.2 常用去噪方法........18
3.3 常见偏微分方程去噪.....20
3.4 边缘检测方法........25
3.5 本章小结......29
4 改进后的超分辨率重建模型............31
4.1 CLMC 模型....31
4.2 局部梯度阈值 k.....33
4.3 L1范式去噪模型...........38
4.4 L2范式去噪模型...........39
4.5 LOG 算子......40
4.6 重建模型......41
4.7 本章小结......44
5 实验结果与分析............45
5.1 实验结果与结论....45
5.2 本章小结......48
5 实验结果与分析
5.1 实验结果与结论
为了验证扩散方程和超分辨率重建算法结合的有效性,本文进行了大量的仿真实验,在图像中随机加入不同强度的高斯噪声和脉冲噪声,分别采用双边全变差(BilateralTotal Variation ,BTV)重建模型、基于 L1 和 L2 的混合范式重建模型和本文方法(基于PDE 的自适应超分辨率重建算法)进行对比,并通过峰值信噪比(PSNR),均方误差(MSE)和结构相似度(SSIM)客观评价指标进行比较。实验一采用 lena 和 camera 低分辨率序列图像,像素大小为 100 100,放大因子为2,实验结果如图5.1、5.2 所示,表 5.1 给出了相应算法的比较结果。主观评价上看,三种算法重建效果都较理想,但混合范式和BTV 在图像内部非边缘平坦区域存在阶梯效应,画面整体不够平滑,存在严重的噪声,本文基于PDE自适应SR相较前两种减少了阶梯效应,画面整体平滑,自然柔和。从客观评价上看,本文方法取得的峰值信噪比较 BTV 和混合范式高,均方误差相对较小,结构相似度更高。实验数据表明,建后图像的质量明显增强,较好的减少阶梯效应,重建出的结果质量更好。实验数据对比结果如表5.1 所示:
.........
总结
人类主要通过视觉获取信息,但由于外界环境的干扰或硬件设备的不足,获取的图像分辨率较低,改善硬件设备需要较高的费用支出,增加了生产成本,并且在短时间内很难实现技术的图破。为了获取高分辨率图像,从软件方面出现了超分辨率重建技术。人们可以根据超分辨率重建技术直接获取高分辨率、高质量的图像,节省了时间、金钱,并且重建图像清晰,细节详细。超分辨率重建是通过输入序列的低分辨率图像,经过配准融合,去噪去模糊来重建高分辨率图像的过程。该方法通过将多幅低分辨率图像之间的具有亚像素位移的互补信息相融合,放大图像的细节且保持细节不丢失来获取一帧或者多帧高分辨率图像的过程,使图像具有分辨更小目标的能力,它是图像退化的逆过程,同时具有病态性。同时,在图像的拍摄和传输过程中往往会受到噪声的干扰,给后续图像的分析和问题的解决造成一定程度的困难,而在图像去噪领域,基于偏微分方程的扩散去噪模型近年来得到了研究学者的广泛关注。本文主要通过自适应梯度阈值控制扩散系数来控制扩散速度来进行超分辨率重建。本文通过分析扩散模型中扩散系数的不足,改进了扩散系数中梯度阈值,自适应扩散。由于高斯滤波的原因,会出现模糊平滑的现象,能够去除强噪声点引起的虚假边缘,但会使边缘细节模糊,从而导致梯度阈值的减小,使用自适应梯度阈值能够根据不同图像以及不同区域自适应取值,能有效避免阶梯效应和过度平滑的现象,能够在滤除噪声的同时保留边缘细节,同时避免了人工设定常数阈值带来的影响。通过 CLMC 扩散模型和超分辨率重建模型相结合,利用 L1、L2 范式针对不同区域选择不同算法滤波,改进后的重建模型不仅能够有效的去除噪声,还能保留图像的边缘细节,很大程度上减少了阶梯效应。因此本文通过把扩散和超分辨率重建结合起来能够有效地去除重建后图像的噪声,恢复图像更多细节。通过实验可以表明,本文算法重建图片质量更高,并且有效滤除噪声,保留了边缘,获得图像均方误差小,峰值信噪比高。
..........
参考文献(略)