比较浮点数时,我被绊倒了

  • 📢欢迎点赞 :👍 收藏 ⭐留言 📝 如有错误敬请指正,赐人玫瑰,手留余香!
  • 📢本文作者:由webmote 原创
  • 📢作者格言:新的征程,我们面对的不是技术而是人心,人心不可测,海水不可量,唯有技术,才是深沉黑夜中的一座闪烁的灯塔 !

1.简单的比较,预期的结果在这里插入图片描述

一天,我在飞快的写代码,当然这个"飞快"我打上了引号, 因为手速奇快吗?并没有。

我遇到一个非常普通的场景,对于码农多年的我老说,应该是小菜一碟了。

然而,这次不一样,我被比较浮点数,绊倒了。

简单描述下场景: 大概的业务逻辑是这样的, 在一个判断告警的逻辑里,需要判断某个值在小于0.9时,就进行告警动作。

代码如下:

bool IsAlarm(float a)
{return a<0.9;
}//不相干的业务逻辑,简化下。。。
if(IsAlarm(a)){Console.WriteLine("嘀嘀嘀,报警了!");
}

写完了代码,就转给测试了,然后反馈说不该报警的时候报警了。

这是什么鬼啊?

Review了N遍代码,也找不到原因是啥。

2.写单元测试

由于业务场景复杂,又不方便调试,因此,实在打不开思路的我,开始折腾起单元测试。

[Fact]
public void TestAlarmSuccess()
{var a = 0.9F;var ret = IsAlarm(a);Assert.False(ret);
}

元凶终于浮出了水面,竟然时浮点比较出了问题。经过反复确认和排查,的的确确是

0.9F < 0.9

顺便说一嘴,这里用的是C#, 0.9F 是单精度浮点数,而 0.9 默认应该是 双精度浮点数。

看到这里,聪明的你是不是恍然大悟了!

如果你还是不明白, 那么跟着我再来探究探究其中的奥秘。

3. 原因说明

由于无知,我甚至跑到了github上提了一个issue,哦哦,大神给了我这样的解释。

这是预期的结果! 更多的信息,可以参考: IEEE Standard for Floating-Point Arithmetic
看下面的例子:

float data = 0.9F;
var firstComparisonValue = 0.9;
var secondComparisonValue = 0.9F;
Console.WriteLine(data < firstComparisonValue);
// return trueConsole.WriteLine(data < secondComparisonValue);
// return falseConsole.WriteLine(data == secondComparisonValue);
// return trueConsole.WriteLine($"Data Value: {data.ToString("F99")}");
Console.WriteLine($"First Comparison Value: >{firstComparisonValue.ToString("F99")}");
Console.WriteLine($"Second Comparison Value: >{secondComparisonValue.ToString("F99")}"); ```

输出结果:
True
False
True
Data Value: 0,899999976158142089843750000000000000000000000000000000000000000000000000000000000000000000000000000
First Comparison Value: 0,900000000000000022204460492503130808472633361816406250000000000000000000000000000000000000000000000
Second Comparison Value: 0,899999976158142089843750000000000000000000000000000000000000000000000000000000000000000000000000000

正如你看到的那样,double 类型的值是大于float类型的值的.

总结

比较数字的时候, 先强制转换成统一类型的数字,然后比较,才会得到你预期的结果。

否则,你就需要了解更多的IEEE规范知识,要不然一不小心,就掉到了坑里。

👓都看到这了,还在乎点个赞吗?

👓都点赞了,还在乎一个收藏吗?

👓都收藏了,还在乎一个评论吗?

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/124128.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C++之string

C之string #include <iostream>using namespace std;/*string();//创建一个空的字符串string(const char* s);//使用字符串s初始化string(const string& str);//使用一个string对象初始化另外一个string对象string(int n,char c);//使用n个字符c初始化*/void test1()…

【计算机网络】浏览器的通信能力

1. 用户代理 浏览器可以代替用户完成http请求&#xff0c;代替用户解析响应结果&#xff0c;所以我们称之为用户代理 user agent。 浏览器两大核心能力&#xff1a; 自动发送请求的能力自动解析响应的能力 1.1 自动发送请求的能力 用户在地址栏输入了一个url地址&#xff0…

eslint提示 xxx should be listed in the project's dependencies

有时候手动安装了一个npm包A&#xff0c;npm包A里面包含了npm包B&#xff0c;这时候如果 import xxx from npm包B;eslint会报错&#xff0c;提示 npm包B 不在 package.json 里面 解决方法&#xff1a;在 eslintrc.js 增加配置 module.exports {rules: {import/no-extraneous-d…

GEO生信数据挖掘(十一)STRING数据库PPI蛋白互作网络 Cytoscape个性化绘图【SCI 指日可待】

GEO生信数据挖掘&#xff08;十&#xff09;肺结核数据-差异分析-WGCNA分析&#xff08;900行代码整理注释更新版本&#xff09; 通过 前面十篇文章的学习&#xff0c;我们应该已经可以获取到一个”心仪的基因列表“了&#xff0c;相较于原始基因数量&#xff0c;这个列表的数…

Go语言进阶 --- Time包的使用

Time包的使用 常用方法介绍 获取当前时间 time.Now() 方法返回值是Time类型的值,直接输出返回值,得到的结果是默认格式下的时间戳 代码展示 //获取当前时间nowTime : time.Now()fmt.Println(nowTime)获取指定的时间 time.Data()方法的参数包含很多值,包括年月日,时分秒,毫秒…

目标检测算法发展史

前言 比起图像识别&#xff0c;现在图片生成技术要更加具有吸引力&#xff0c;但是要步入AIGC技术领域&#xff0c;首先不推荐一上来就接触那些已经成熟闭源的包装好了再提供给你的接口网站&#xff0c;会使用别人的模型生成一些图片就能叫自己会AIGC了吗&#xff1f;那样真正…

定档11月2日,YashanDB 2023年度发布会完整议程公布

数据库作为支撑核心业务的关键技术&#xff0c;对数字经济的发展有着重要的支撑作用&#xff0c;随着云计算、AI等技术的迅猛发展和数据量的爆发式增长&#xff0c;推动着数据库技术的加速创新。 为了应对用户日益复杂的数据管理需求&#xff0c;赋能行业国产化建设和数字化转型…

怎样远程控制电脑桌面?

现代社会使用电脑办公的居多&#xff0c;但经常会遇到忘记下载工作文件&#xff0c;需要远程查看。或是电脑出现故障&#xff0c;维修人员可以远程处理等现象。怎样远程控制电脑桌面呢&#xff1f; 远程桌面可以理解成&#xff0c;是一种不同电脑之间共享桌面的技术。它允许用…

Windows详细安装和彻底删除RabbitMQ图文流程

RabbiitMQ简介 RabbitMQ是实现了高级消息队列协议&#xff08;AMQP&#xff1a;Advanced Message Queue Protocol&#xff09;的开源消息代理软件&#xff08;亦称面向消息的中间件&#xff09;。RabbitMQ服务器是用Erlang语言编写的&#xff0c;而聚类和故障转移是构建在开放…

IRF联动 BFD-MAD

文章目录 IRF堆叠一、主设备配置二、备设备配置三、验证 MAD检测一、MAD检测二、MAD验证 本实验以2台设备进行堆叠示例&#xff0c;按照配置顺序&#xff0c;先配置主设备&#xff0c;再配置备设备。在IRF配置前暂时先不接堆叠线&#xff0c;按步骤提示接线。 IRF堆叠 一、主设…

C语言-递归和迭代

&#x1f308;write in front&#x1f308; &#x1f9f8;大家好&#xff0c;我是Aileen&#x1f9f8;.希望你看完之后&#xff0c;能对你有所帮助&#xff0c;不足请指正&#xff01;共同学习交流. &#x1f194;本文由Aileen_0v0&#x1f9f8; 原创 CSDN首发&#x1f412; 如…

HTML常用标签、CSS基础

HTML常用标签 标签的分类 1. 单标签 img br hr <img /> 2. 双标签 a h p div <a></a> 3. 按照标签属性分类 1. 块儿标签 # 自己独自占一行 h1-h6 p div 2. 行内(内联)标签 # 自身文本有多大就占多大 …

华为OD机考算法题:支持优先级的队列

题目部分 题目支持优先级的队列难度易题目说明实现一个支持优先级的队列&#xff0c;高优先级&#xff08;数字越大&#xff0c;优先级越高&#xff09;先出队列&#xff1b;同优先级时先进先出。 如果两个输入数据和优先级都相同&#xff0c;则后一个数据不入队列被丢弃。 队…

Windows下Redis配置密码,并设置自启动

1. 解压redis修改配置文件&#xff08;设置密码&#xff09; 打开Redis的配置文件&#xff0c;通常位于Redis安装目录下的 redis.windows.conf 去掉"requirepass"前注释&#xff0c;修改"foobared"为要设置的密码 requirepass foobared2.注册服务&#x…

Docker 批量导出/导入镜像

可以编写一个脚本&#xff0c;该脚本循环遍历一个文件夹中的所有镜像存档文件&#xff0c;并使用 docker load 命令加载它们。以下是一个 Bash 脚本示例&#xff1a; 导出&#xff1a; #!/bin/bash### 批量docker镜像的_脚本 # 获取到 "image:tag" 格式的镜像名 IMG…

Mac 安装psycopg2,报错Error: pg_config executable not found.

在mac 上安装psycopg2的方法&#xff1a;执行&#xff1a;pip3 install psycopg2-binary。 如果执行pip3 install psycopg2&#xff0c;无法安装psycopg2 报错信息如下&#xff1a; Collecting psycopg2Using cached psycopg2-2.9.9.tar.gz (384 kB)Preparing metadata (set…

9.Vue2-监听属性的用法

题记 vue2监听属性的用法 计数器 使用watch实现计数器&#xff1a; <!DOCTYPE html> <html> <head> <meta charset"utf-8"> <title>实例</title> <script src"https://cdn.staticfile.org/vue/2.4.2/vue.min.js"…

SpringCloud之Eureka的学习【详细】

目录 服务架构演变 单体架构 分布式架构 分布式架构需要考虑的问题 微服务 架构比较 微服务技术对比 服务拆分注意事项 案例 服务远程调用 RestTemplate Eureka注册中心 RestTemplate存在的问题 服务调用考虑的问题 Eureka的作用 搭建EurekaServer 服务注册 …

刷穿力扣(31~60)

更好的阅读体验 \huge{\color{red}{更好的阅读体验}} 更好的阅读体验 31. 下一个排列 排列原理就是 C 中的 next_permutation 函数&#xff0c;生成指定序列的下一个全排列从给定序列的最右端开始&#xff0c;找到第一个满足 nums[i] < nums[i 1] 的元素 nums[i]若找不到这…