之——基于CNN的滤镜
目录
之——基于CNN的滤镜
杂谈
正文
1.基于CNN的样式迁移
2.实现
杂谈
通过CNN的特征提取,可以实现将一个图片的样式模式特征迁移到另一张图像上。
正文
1.基于CNN的样式迁移
就是在某些层的输出上用其他的图片进行监督。
2.实现
一般来说,越靠近输入层,越容易抽取图像的细节信息;反之,则越容易抽取图像的全局信息。
为了避免合成图像过多保留内容图像的细节,我们选择VGG较靠近输出的层,即内容层,来输出图像的内容特征。 我们还从VGG中选择不同层的输出来匹配局部和全局的风格,这些图层也称为风格层。
整个过程中唯一要更新的,是输入的图像,经过几个loss的反向传播,并使得最终的噪声较小。
细节见教材。重点关注一下多头的损失、以及全变分损失。
有时候,我们学到的合成图像里面有大量高频噪点,即有特别亮或者特别暗的颗粒像素。 一种常见的去噪方法是全变分去噪。
全变分损失定义为:
尽可能降低该损失,就可以使得相邻噪声较小。
最终风格转移的损失函数是内容损失、风格损失和总变化损失的加权和。 通过调节这些权重超参数,我们可以权衡合成图像在保留内容、迁移风格以及去噪三方面的相对重要性。
基于卷积神经网络(CNN)的样式迁移是一种图像处理技术,旨在将一幅图像的内容(内容图像)与另一幅图像的风格(样式图像)结合在一起,生成一个新的图像,该图像既保留了内容图像的内容,又具有样式图像的艺术风格。
下面是基于CNN的样式迁移的主要思想和步骤:
网络架构: 典型的基于CNN的样式迁移方法使用预训练的深度神经网络,通常是VGG网络。VGG网络具有深度的卷积层,能够捕捉图像的不同层次的特征。
损失函数: 样式迁移的关键在于定义损失函数,它包括内容损失和样式损失。内容损失衡量生成图像与内容图像的相似度,而样式损失则衡量生成图像与样式图像的相似度。
内容损失(Content Loss): 通过比较生成图像和内容图像在某些层次的特征表示,确保生成图像保留了内容图像的关键特征。
样式损失(Style Loss): 通过比较生成图像和样式图像在不同层次的特征表示,确保生成图像的统计特性与样式图像相似。
优化过程: 目标是最小化总体损失函数,使生成图像同时匹配内容和样式。通常使用梯度下降或其变体来调整生成图像的像素值,以降低损失函数。
图像生成: 通过迭代优化过程,生成一个新的图像,该图像在内容上与内容图像相似,在样式上与样式图像相似。
超参数调整: 样式迁移中有一些超参数需要调整,如内容损失和样式损失的权重,学习率等。这些超参数的选择会影响最终生成图像的质量和风格。
基于CNN的样式迁移方法在图像生成和艺术风格转换方面取得了很大的成功,它被广泛用于图像编辑、电影特效和艺术创作等领域。