pytorch的F.cross_entropy交叉熵函数

F.cross_entropy计算交叉熵损失,代码为:

loss=F.cross_entropy(out, y)

其中out是网络输出的概率向量,y是真实标签,注意y是标量。使用这个函数时应该特别注意out是没有经过softmax处理过的。因为调用F.cross_entropy函数时会通过log_softmaxnll_loss来计算损失,也就是说使用F.cross_entropy函数时,程序会自动先对out进行softmax,再log,最后再计算nll_loss。

换句话说,执行F.cross_entropy时,相当于执行以下代码:

soft_out = F.softmax(out)
log_soft_out = torch.log(soft_out)
loss = F.nll_loss(log_soft_out, y)

如果out是已经经过了softmax处理过的,则不能使用F.cross_entropy计算损失,而是通过F.nll_loss函数来计算:

log_soft_out = torch.log(out)
loss = F.nll_loss(log_soft_out, y)

其中y也是标量。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/491166.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

QT学习笔记(十六):setwindowflags的属性总结

QT学习笔记(十六):setwindowflags的属性总结 此枚举类型用于为小部件指定各种窗口系统属性。它们是不常用的,但在一些情况下是必要的。其中一些标志取决于底层窗口管理器是否支持它们。 主要类型有 enum WindowType {Widget 0x…

1143 多少个Fibonacci数

1143 多少个Fibonacci数 时间限制:500MS 内存限制:65536K 提交次数:270 通过次数:16 题型: 编程题 语言: G;GCC Description 给你如下Fibonacci 数的定义: F1 1 F2 2 Fn Fn-1 Fn-2 (n > 3) 给你两个数a与b,现要求你计算在a与b之间&…

这些重大科技领域问题,听听专家怎么说

来源:科技日报从前不久结束的全英华人教授协会年会上了解到,目前人类面临的许多问题都可以通过扎实的科研创新和精准的技术应用予以解决;新的技术领域的出现,不代表传统技术方法都要丢弃;尽管摆在广大科技从业者面前的…

plt.fill_between用法

plt.fill_between用颜色填充两条曲线之间的区域plt.fill_between(x, y1, y2),其中x是横坐标,y1和y2是两条曲线,这个函数的作用是用颜色填充y1和y2这两条曲线之间的区域。 该函数最常用的用法是已知均值曲线和标准差,画出标准差覆…

QT+OpenCV综合示例:载入、读取图片

QTOpenCV综合示例:载入、读取图片1、代码:2、运行结果:下载1 GitHub: 下载2 1、代码: 1)opencv_imwrite_Q.pro 添加: INCLUDEPATH D:\opencv-3.1.0\opencv\build\includewin32:CONFIG(release, debug|re…

swift inheritace 继承

class Base {var base_x 0static var base_y 1final var base_z 12func baseInc() {base_x 1}class func baseMuti() {base_y - 1} }class Parent {func parentInc() {print("parnetInc")} }class Child: Base {//属性也加overrideoverride var base_x: Int {wi…

“算法战:DARPA下一代人工智能计划初见成效” 背景分析与初步研判

2018年9月,美国国防高级研究计划局(DARPA)宣布将出资20亿美元,用于开发新的人工智能技术。近日,DARPA副局长彼得海纳姆在华盛顿接受记者采访时说,DARPA的“下一代人工智能”(AI Next)计划在实施…

python画PR曲线(precision-recall曲线)

使用python画precision-recall曲线的代码是: sklearn.metrics.precision_recall_curve(y_true, probas_pred, pos_labelNone, sample_weightNone) 以上代码会根据预测值和真实值,并通过改变判定阈值来计算一条precision-recall典线。 注意&#xff1a…

OpenCV学习笔记(十一):阈值化:threshold(),adaptivethreshold()

OpenCV学习笔记(十一):阈值化:threshold(),adaptivethreshold() 一、定义: 1)固定阈值操作 double threshold( InputArray src, // 输入图像,单通道 OutputArray dst, // 输出图像 double…

北京邮电大学刘伟教授:人机融合与混合智能的新应用场景

前言:本文是北京邮电大学人机交互与认知工程实验室主任、科技委人机融合智能组首席科学家刘伟教授就混合智能的产生、起源和新应用场景所做的深度阐述。第一部分是刘伟老师从新书《崛起的超级智能:互联网大脑如何影响科技未来》延伸的关于人机融合的思考…

VC++6.0怎么打开工程

点击文件→打开,选择工程所在文件夹,选择后缀名为dsp的文件打开即可。 若直接选择cpp后缀名打开,打开的只是cpp文件,而不是工程,此时VC右侧不会显示工程信息。

问题解决:QtCreator屏蔽指定警告:如C4819等

QT creator 频繁报出 ,不好解决的错误如: warning: C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 方法一:(屏蔽此警告) 在工程文件.pro里面添加 # disable C…

解析|2G~5G与未来天线技术!

来源:电子万花筒过去二十年,我们见证了移动通信从1G到4G LTE的转变。在这期间,通信的关键技术在发生变化,处理的信息量成倍增长。而天线,是实现这一跨越式提升不可或缺的组件。按照业界的定义,天线是一种变…

DB2 错误代码 命令大全

SQLSTATE 消息 本节列示 SQLSTATE 及其含义。SQLSTATE 是按类代码进行分组的;对于子代码,请参阅相应的表。 表 2. SQLSTATE 类代码 类 代码 含义 要获得子代码, 参阅... 00 完全成功完成 表 3 01 警告 表 4 02 无数据 表 5 07 动态 …

C++查看各种数据类型所占字节和最大最小值(数据范围)

#include<iostream> using namespace std; int main() { cout << "bool: \t\t" << "所占字节数&#xff1a;" << sizeof(bool); cout << "\t最大值&#xff1a;" << (numeric_limits<bool>::ma…

QT+OpenCV综合示例:图像混合(滑动条)

QTOpenCV综合示例&#xff1a;图像混合&#xff08;滑动条&#xff09;1、代码&#xff1a;2、运行结果&#xff1a;0&#xff09;Widget_op.ui &#xff08;界面文件&#xff09;设计&#xff1a; 1、代码&#xff1a; 1&#xff09;opencv_imwrite_Q.pro 添加&#xff1a;…

软件或jar包等名字里的GA意思

首页 > 转贴的文章 > 软件的版本"GA"代表什么意思?如MyEclipse 5.0 GA 软件的版本"GA"代表什么意思?如MyEclipse 5.0 GA 经常看到软件版本里有GA的&#xff0c;如MyEclipse 5.0 GA&#xff0c;iBATIS for Java 2.2.0 Released [Status: Beta - Vot…

图说报告|智能技术群的“核聚变”推动智能+时代到来

来源&#xff1a;阿里研究院2019年政府工作报告正式提出了“智能”重要战略。5G、物联网、人工智能、数字孪生、云计算、边缘计算等智能技术群的融合与叠加就像“核聚变”&#xff0c;推动着万物互联迈向万物智能时代&#xff0c;进而带动了“智能”时代的到来&#xff0c;以智…

C++局部变量和全局变量的初始化

当局部变量被定义时&#xff0c;系统不会对其初始化&#xff0c;此时局部变量的初始值未定义&#xff0c;必须自行对其初始化。定义全局变量时&#xff0c;系统会自动初始化为下列值&#xff1a;

OpenCV学习笔记(十二):边缘检测:Canny(),Sobel(),Laplace(),Scharr滤波器

OpenCV学习笔记&#xff08;十二&#xff09;&#xff1a;边缘检测&#xff1a;Canny(),Sobel(),Laplace(),Scharr滤波器 1&#xff09;滤波&#xff1a;边缘检测的算法主要是基于图像强度的一阶和二阶导数&#xff0c;但导数通常对噪声很敏感&#xff0c;因此必须采用滤波器来…