吴恩达【深度学习工程师】 04.卷积神经网络 第四周特殊应用(2)神经风格转换...

该笔记介绍的是《卷积神经网络》系列第四周:特殊应用(2)神经风格转换

主要内容有:

1.神经风格转换

2.卷积网络隐藏单元可视化显示

3.神经风格转换代价函数

4.内容代价函数

5.风格代价函数

*6.数据从一维到三维的推广

 

 神经风格转换

把C(content)内容图片转化为风格类似S(style)风格图片的G(generated)生成图片。

                                                                                        

卷积网络隐藏单元可视化显示

通过观察可视化显示的不同隐藏单元的输出结果真正了解卷积网络中深度较大的层真正在做些什么。

可视化图块输出:

从第一层隐藏层第一个隐藏单元开始:寻找当前层的最大化激活了隐藏单元激活项的9个图片块。并循环该层所有单元。对之后的隐藏层进行相同的操作,并输出该隐藏层的图片块。

 

单个隐藏单元输出:

                                             

在视频中对9个隐藏单元循环输出:

                                                     

 

对不同隐藏层的输出:

我的理解:
在浅层隐藏单元通常会寻找一些简单的特征(图片块较小)进行学习,但是到了深层会检测以简单的事物(浅层)为基础更会复杂的事物(图片块较大)。

文中的论文地址:Visualizing and Understanding Convolutional Networks

神经风格转换代价函数

定义关于G的代价函数J用于评估生成图片G的好坏。

                         

超参数α,β用于确定内容代价函数和风格代价函数的权重

生成图像G:

    a.随机初始化G,生成如下图的白噪声图。

                                 

    b.使用定义的代价函数J(G),使用梯度下降的方法使其最小化。

                            

逐步处理像素,慢慢的到一个有着风格图片风格的生成图片

                                                

论文地址:A Neural Algorithm of Artistic Style

 

内容代价函数

内容函数为神经风格转换代价函数的:

                                             

定义内容代价函数:

    a.使用隐藏层l来计算内容代价,生成图像G。(l不会太深也不会太浅,在中间层)

    b.使用一个预训练的卷积模型

    c.让a[l](G)(图片G)与a[l](C)(图片C)的l层的激活函数值

    d.如果内容激活函数相似,这两个图片的内容也相似

                           

使用该激活函数找到图片G 

 风格代价函数

风格函数为神经风格转换代价函数的

                                     

为风格图片定义一个深度测量:

                     a.使l层的激活函数去定义风格

      b.把图片风格定义为l层各个通道之间的激活项的相关系数

相关系数:

相关系数为你提供了一种去测量这些不同特征的方法,它的含义是测量这些特性在图片的各个位置同时或者不同或者不同时出现的频率。

使用相关系数来描述通道的风格,是测量生成图片的第一个通道是否与第二个通道相关,及特性是否同时出现或者不同时出现的频率,这样就能测量生成图片与输入风格图片的相似程度。

风格矩阵:

计算不同通道之间的相关系数。

在l层风格图片的风格矩阵:

计算k通道和k'通道之间的相关系数(k=1,2,3,.....,n)

(i,j,k)为l层激活值的(H,W,C)

在l层生成图片的风格矩阵:

合并对于单层l的风格函数:

 

*对每层都使用风格函数相加效果会更好:

 

转载于:https://www.cnblogs.com/-1024/p/8848163.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/486297.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

php grepmatch,linux最快的文本搜索神器ripgrep(grep的最好代替者)

前言说到文本搜索工具,大家一定会知道 grep, 它是 linux 最有用并最常用的工具之一。但如果要再一个大的工程项目中搜索某个关键词,大家也一定知道它比较耗时。所以就有了很多替代工具,之前最出名的是 Ack,Ag而最近又有了新的替代…

蒲慕明:《大脑之美》序言,脑探索的起点

来源:神经现实本文经授权摘自《大脑之美》序言作者:蒲慕明现代神经科学起源于十九世纪末期;圣地亚哥拉蒙-卡哈尔(Santiago Ramn y)的神经解剖学研究和他提出的神经元理论是主要的起点。一百多年来,神经科学…

pycharm python 模板配置_pycharm设置python脚本模板

PyCharmPyCharm是一个有名的Python IDE,带有一整套可以帮助用户在使用Python语言开发时提高其效率的工具,比如调试、语法高亮、Project管理、代码跳转、智能提示、自动完成、单元测试、版本控制。此外,该IDE提供了一些高级功能,以…

slow log php,善用php-fpm的慢执行日志slow log,分析php性能问题

众所周知,mysql有slow query log,根据慢查询日志,我们可以知道那些sql语句有性能问题。作为mysql的好搭档,php也有这样的功能。如果你使用php-fpm来管理php的话,你可以通过如下选项开启。PHP 5.3.3 之前设置如下&#…

04-numpy-笔记-transpose

借鉴代码https://blog.csdn.net/xiongchengluo1129/article/details/79017142 吐槽一下CSDN的垃圾广告。。 这是转置,所以1维(向量)和2维(矩阵)的转置的意义很直观,就是数学上学的。 难的就是超过三维的张量…

量子信息技术研究现状与未来——郭光灿

来源: 中国科学杂志社量子信息技术是量子力学与信息科学融合的新兴交叉学科, 它的诞生标志着人类社会将从经典技术迈进到量子技术的新时代, 本文将阐述量子信息技术的研究现状与未来. 文中描绘了量子技术发展远景, 即筑建各种类型的量子网络, 包括量子云计算网络、分…

springboot需要tomcat服务器吗_嵌入式 Tomcat AJP 协议对 SpringBoot 应用的影响

前言2020 年 1 月 6 日,国家信息安全漏洞共享平台(CNVD)收录了由北京长亭科技有限公司发现并报送的 Apache Tomcat 文件包含漏洞。Tomcat AJP 协议由于存在实现缺陷导致相关参数可控,攻击者利用该漏洞可通过构造特定参数,读取服务器 webapp 下…

php session 前缀,PHP文件包含--session

利用条件:session文件路径已知,且其中内容部分可控。php的session文件的保存路径可以在phpinfo的session.save_path看到。session 的文件名格式为 sess_[phpsessid],而 sessionid 在发送的请求的 cookie 字段中也可以看到。实例:“…

第一阶段 03Java的基本数据类型

03Java的基本数据类型 程序 数据 逻辑 基本数据类型:4类8种 (1)整型类型 byte   1B   8位   -128到127 short   2B   16位  -2^15到(2^15)-1 int    4B  32位  -2^31到(2^31)-1 long   8B  64位  -2^63到(2^6…

大脑与数学——利用代数拓扑研究模拟大脑 第一部分

来源:遇见数学蓝脑计划(Blue Brain Project)是尝试利用分子层级的哺乳类脑部逆向工程建立一个电脑模拟脑。这里模拟并不仅是包括人工神经网络模型,也包括生物过程的真实神经元模型,和一个经验重建模型连接组。该计划希…

spring cloud每次修改必须重新打包_Java面试系列spring相关

Spring中的Bean是线程安全的吗?Spring 中的 bean 默认都是单例的,所有线程都共享一个单例实例Bean,因此是存在资源的竞争,是线程不安全的。但是spring中大部分bean都是在方法内部操作,例如:Controller、Ser…

day20 派生属性和方法,钻石继承

class Animal:人和狗都是动物,所以创造一个Animal基类def __init__(self, name, aggressivity, life_value):self.name name # 人和狗都有自己的昵称;self.aggressivity aggressivity # 人和狗都有自己的攻击力;self.life_value life_value # 人和狗都有自己的…

谈谈实现小样本学习的两条路径

来源:混沌巡洋舰小样本学习是当下机器学习界的一个核心课题。大数据是当下深度学习的咽喉,面临收集成本昂贵,甚至根本无法采集的弊端, 小样本学习的实践价值不言而喻。对于众多产业来说, 真正能够收集到大量样本的是极…

python怎么处理文字_python 处理给规范的文字

你要处理的大多数文字都是比较干净、格式规范的。格式规范的文字通常可以满足一些需求,不过究竟什么是“格式混乱”,什么算“格式规范”,确实因人而异。 通常,格式规范的文字具有以下特点:使用一个标准字体(不包含手写体、草书,或者十分“花哨的”字体) • 虽然被复印或拍照,字…

php自定义商品属性,php – 可变产品属性:自定义每个显示的单选按钮文本值

以下是您重新访问的代码,该代码仅显示“Tab”属性单选按钮自定义显示的文本a< span>基于属性slug和$term_slug的组合,使用不同的类值标记.因此,您可以将一些CSS样式颜色应用于每个单选按钮显示的’pa_tab’属性的自定义文本,将这些CSS规则添加到您的活动主题style.css ……

腾讯 深圳 25928-PHP开发工程师(深圳)

工作地点&#xff1a;深圳职位类别&#xff1a;技术类招聘人数&#xff1a;1人 工作职责&#xff1a;负责游戏研运体系流程工具及相关产品的开发、维护&#xff1b;参与支撑系统的需求分析、设计、编码&#xff1b;承担外包开发成员技术导师&#xff0c;解决技术难点&#xff0…

什么是物联网?常见IoT协议最全讲解

作者&#xff1a;付强来源&#xff1a;IoT物联网技术&#xff08;ID&#xff1a;IoT-Tech-Expo&#xff09;01 什么是物联网?物联网&#xff08;Internet of Things&#xff09;这个概念读者应该不会陌生。物联网的概念最早于1999年被提出来&#xff0c;曾被称为继计算机、互联…

is在python中是什么意思_Python 中 is 与 == 有啥区别?

在 Python 中&#xff0c;比较两个对象(变量)是否相等&#xff0c;可以用 “is” 和 “” 操作&#xff0c;但它俩有什么区别&#xff1f;什么时候用 “is”&#xff0c;什么时候用 “” &#xff1f;在面试时&#xff0c;发现不少候选人很难把这两者完全说清楚&#xff0c;因此…

java下发命令nbiot,NB物联网之天翼物联(3)——编解码插件上传规则细解(java开发物联网)...

前言电信的编解码插件本意上是可以让我们的开发更加灵活&#xff0c;但是你好歹把文档写明白啊。。。同时在正常的生产中我们的产品不可能只使用电信的模块&#xff0c;有时甚至是客户要求使用移动还是电信的模块&#xff0c;所以兼容性给我们的体验非常直观&#xff01;我们先…

netcat使用

前言 最近在做渗透测试的时候遇到了端口监听和shell的反弹问题&#xff0c;在这个过程中自己对Netcat这一款神器有了新的认识&#xff0c;现将一些Netcat的用法做一个小总结&#xff0c;希望对各位有帮助&#xff01; Netcat简介 Netcat是一款非常出名的网络工具&#xff0c;简…