比较二进制_浮点数比较的精度问题

引言

先举个例子:

#include <stdio.h>int main()
{float a = 0.1;float b = 0.2;float c = a + b;if(c == 0.3){printf("c == 0.3n");}else{printf("0.1 + 0.2  != 0.3n");}return 0;
}

f07a4aa2f5dec292e9063a38618bce5a.png

a25e8731381c5ad3c259596d2b1a3a1e.png

如果变量a,b换0.75,0.5可以看出运行出c == 1.25,说明浮点数运算是不稳定的。

84946cff65b17a8ffc5a99202e718d47.png

为什么会时好时坏,因为不是所有的小数能用浮点数标准(IEEE 754)表示出来。

所以,判断两个浮点数变量是否相等,不能简单地通过 "==" 运算符实现,浮点数进行比较时,一般比较他们之间的差值在一定范围之内

bool feq(float a,float b){return fabs(a,b)<FLT_EPSILON;
}

FLT_EPSILON 数值是 1.192092896e-07F,最小的 float 型数,它使 1.0+FLT_EPSILON !=1.0

为什么浮点数精度会丢失

十进制小数转化为二进制数:乘以2直到没有了小数为止。

举个例子,0.9表示成二进制数。

   0.9*2=1.8   取整数部分 10.8(1.8的小数部分)*2=1.6    取整数部分 10.6*2=1.2   取整数部分 10.2*2=0.4   取整数部分 00.4*2=0.8   取整数部分 00.8*2=1.6   取整数部分 10.6*2=1.2   取整数部分 0.........     0.9二进制表示为(从上往下): 1100100100100......

很显然,小数的二进制表示有时是不可能精确的。其实道理很简单,十进制系统中能不能准确表示出 2/3 呢?同样二进制系统也无法准确表示 1/10 。这也就解释了为什么浮点型精度丢失问题。

float 存储原理

float 型在内存中占 4 个字节。 float 的 32 个二进制位结构如下:

float 内存存储结构

313029----2322----0实数符号位指数符号位指数位有效数位

其中符号位1表示正,0 表示负。有效位数位 24 位,其中一位是实数符号位。

将一个 float 型转化为内存存储格式的步骤为:

  • 先将这个实数的绝对值化为二进制格式,注意实数的整数部分和小数部分的二进制方法在上面已经探讨过了。
  • 将这个二进制格式实数的小数点左移或右移 n 位,直到小数点移动到第一个有效数字的右边。
  • 从小数点右边第一位开始数出二十三位数字放入第 22 到第 0 位。
  • 如果实数是正的,则在第 31 位放入“0”,否则放入“1”。
  • 如果 是左移得到的,说明指数是正的,第 30 位放入“1”。如果 n 是右移得到的或 n=0,则第 30 位放入“0”。
  • 如果 n 是左移得到的,则将 n 减去 1 后化为二进制,并在左边加“0”补足七位,放入第 29 到第 23 位。如果n是右移得到的或 n=0,则将 n 化为二进制后在左边加“0”补足七位,再各位求反,再放入第 29 到第 23 位。

0.2356 的内存存储格式:

  • 将 0.2356 化为二进制后大约是0.00111100010100000100100000。
  • 将小数点右移三位得到1.11100010100000100100000。
  • 从小数点右边数出二十三位有效数字,即11100010100000100100000放 入第 22 到第 0 位。
  • 由于 0.2356 是正的,所以在第 31 位放入“0”。
  • 由于我们把小数点右移了,所以在第 30 位放入“0”。
  • 因为小数点被右移了 3 位,所以将 3 化为二进制,在左边补“0”补足七位,得到0000011,各位取反,得到1111100,放入第 29 到第 23 位。
  • 最后表示0.2356为:0 0 1111100 11100010100000100100000

浮点类型标识的有效数字及数值范围

  • Float :比特数为 32 ,有效数字为 6-7 ,数值范围为 -3.4E+38~3.4E+38
  • Double :比特数为 64 ,有效数字为 15-16 ,数值范围为 -1.7E-308~1.7E+308

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/355765.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

open表和closed表_excel工作表合并,多文件数据一键合成

工作中 遇到十几个甚至几十个单独工作excel文件要合并成一个怎么办&#xff0c;难道还按照老办法复制工作表?几个还好说&#xff0c;遇到十几个几十个文件&#xff0c;手速不够快的宝宝心里苦。那么&#xff0c;有没有什么日常偷懒神技&#xff0c;一键合成多个excel文件&…

濡沫江湖一直显示获取服务器地址,濡沫江湖采集点坐标大全

濡沫江湖每个地图都有采集点&#xff0c;那么濡沫江湖采集点具体坐标是多少&#xff1f;下面9k9k小编就为大家整理带来濡沫江湖采集点坐标大全&#xff1a;小渔村(35,4)采集铜矿石、碎铁块小渔村(38&#xff0c;16)采集药草、杂草小渔村(14,35)采集亚麻、杂草小渔村(13,12)采集…

java第五次作业

《Java技术》第五次作业 &#xff08;一&#xff09;学习总结 1.在上周完成的思维导图基础上&#xff0c;补充本周的学习内容&#xff0c;对Java面向对象编程的知识点做一个全面的总结。 2.汽车租赁公司&#xff0c;出租汽车种类有客车、货车和皮卡三种&#xff0c;每辆汽车除了…

mysqld已删除但仍占用空间的_Windows 10删除备份文件方法

Windows具有许多内置备份功能&#xff0c;包括卷影副本&#xff0c;系统还原点和整个系统备份。尽管它们既不是最可靠也不是功能最丰富的备份解决方案&#xff0c;但它们确实提供了一种备份系统和个人数据的不错的方式。Windows内置备份工具的问题之一是它们几乎过于安静和方便…

服务器维修天长,台达精密空调服务天长市供电局

【IT168 厂商动态】项目背景&#xff1a;天长市供电局率属于安徽省供电局&#xff0c;主要负责其辖区内的电力生产与供应。本项目包括三个机房&#xff1a;南、北数据中心机房以及资料中心;台达风冷型精密空调为上述机房的IT设备运行提供7*24小时恒温恒湿高洁净度的运行环境&am…

终端主题_泛终端全渠道新模式中国移动5G泛智能终端渠道生态合作峰会开幕

11月20日&#xff0c;以“泛终端 全渠道 新业态 新模式”为主题的中国移动5G泛智能终端渠道生态合作峰会在广州成功举办。作为2020中国移动全球合作伙伴大会期间举办的重要主题峰会之一&#xff0c;该峰会吸引了超过100家终端、渠道等产业链合作伙伴&#xff0c;会议通过咪咕直…

jq中查找上级_【节能学院】电能管理系统在福州三岐小学项目中的设计及应用...

1项目概述该项目总投资约2.6亿元&#xff0c;建筑规模为4.8万㎡&#xff0c;建设地点在南屿镇葛岐村、晓岐村。项目设有教学楼A区、教学楼B区、教学楼C区、综合楼一区、综合楼二区、室内篮球场、室内游泳馆、足球场等。此电能管理系统为Acrel-3000V7.1系统&#xff0c;在结构设…

[HTML5amp;CSS3]Transform具体解释

Transform字面上就是变形&#xff0c;改变的意思。在CSS3中transform主要包含以下几种&#xff1a;旋转rotate、扭曲skew、缩放scale和移动translate以及矩阵变形matrix。以下我们一起来看看CSS3中transform的旋转rotate、扭曲skew、缩放scale和移动translate详细怎样实现。老样…

比亚迪定薪后多久给offer_比亚迪车主给爱车做四门隔音,没想到两年后肠子都悔青...

许多车主都有过这样的经历&#xff1a;总感觉爱车的静谧性不够如意&#xff0c;为了提升隔音效果改善驾乘质感&#xff0c;往往产生给爱车做一个全车隔音的冲动。只不过冲动归冲动&#xff0c;在着手对车子进行隔音改造工程前&#xff0c;一定要选择靠谱的隔音材料&#xff0c;…

Centos开机自己主动挂载windows中的ntfs磁盘

装了windows和centos双系统后&#xff0c;发如今centos中无法进入windows中的磁盘&#xff0c;更不要说查看磁盘里的文件了&#xff01; 原来默认情况下。centos不支持Widows NTFS硬盘分区读写&#xff0c;要想把NTFS格式的磁盘挂载到CentOS 以下须要安装第三方软件ntfs-3g。…

人工智能方向毕业设计_毕业季|广州美术学院视觉设计学院毕业设计展

视觉艺术设计学院成立于2010年9月&#xff0c;由广州美术学院最传统的装潢系和新兴的数码艺术设计系联合组建而成&#xff0c;2018年11月&#xff0c;艺术与科技专业并入学院。学院现拥有视觉传达设计、数字媒体艺术设计、动画、艺术与科技4个专业。视觉文化设计工作室 视觉文化…

江西住建云实名认证怎么弄_王者荣耀无限时间怎么弄 2020年无限时间账号

腾讯游戏都是有健康系统的&#xff0c;王者荣耀自然也不例外&#xff0c;王者还是第一批出健康系统的游戏&#xff0c;今年健康系统同时有时间限制和充值限制&#xff0c;未成年玩家一天最多只能玩1.5个小时&#xff0c;游戏现在有传闻无限时间账号&#xff0c;那么无限时间怎么…

coherence安装_在Oracle Coherence中分发Spring Bean

coherence安装本文展示了如何通过使用Oracle Coherence中的EntryProcessor和可移植对象格式&#xff08;POF&#xff09;功能来分发Spring Bean。 Coherence通过EntryProcessor API支持无锁编程模型。 此功能通过减少网络访问并在条目上执行隐式的低级锁定来提高系统性能。 此隐…

spring 的aop操作

转载于:https://www.cnblogs.com/hwgok/p/6760663.html

excel 公式 单引号 concat_Excel两个新函数帮你快速搞定批量连接

如果将两个文本连接起来&#xff0c;通常第一反应用连接符号"&"。使用连接符&连接文本字符记得曾经有记者采访刘强东问奶茶妹妹漂不漂亮&#xff0c;他竟然回答看不出来好赖…当时真觉得这家伙身在福中不知福&#xff0c;饱汉不知饿汉饥。果然之后还闹出一些…

练习~虚拟线上银行

数据库操作&#xff0c;网络编程及多线程的综合练习~ 客户端&#xff1a; UI层 1 import javax.swing.*;2 import java.awt.*;3 import java.awt.event.*;4 5 public class ATMUI{6 7 //主方法8 public static void main(String [] args){9 ATMUI ui new ATMUI();…

mybatisplus 操作另一个数据库的数据_MySQL数据库的基础操作

一、基本概念数据库术语数据库(database) - 保存有组织的数据的容器(通常是一个文件或一组文件)。数据表(table) - 某种特定类型数据的结构化清单。模式(schema) - 关于数据库和表的布局及特性的信息。模式定义了数据在表中如何存储&#xff0c;包含存储什么样的数据&#xff0…

JEP 277“增强弃用”非常好。 但这是一个更好的选择

维护API很难。 我们正在维护非常复杂的jOOQ API。 但是就语义版本而言&#xff0c;我们遵循相对宽松的规则 。 当您阅读Brian Goetz和其他人关于在JDK中保持向后兼容性的评论时&#xff0c;我只能对他们的工作表示敬意。 显然&#xff0c;我们都希望最终移除Vector &#xff…

ds哈希查找—二次探测再散列_大白话之哈希表和哈希算法

哈希表概念哈希表&#xff08;散列表&#xff09;&#xff0c;是基于关键码值(Key value)而直接进行访问的数据结构。也就是说&#xff0c;它通过把关键码值映射到表中一个位置来访问记录&#xff0c;以加快查找的速度。这个映射函数叫做散列函数&#xff08;哈希函数&#xff…

二叉搜索时与双向链表python_剑指Offer(二十六) 二叉搜索树和双向链表

题目描述输入一棵二叉搜索树&#xff0c;将该二叉搜索树转换成一个排序的双向链表。要求不能创建任何新的结点&#xff0c;只能调整树中结点指针的指向。思路以及解答主要是使用递归&#xff0c;设置一个head和end&#xff0c;head只在第一次设置值&#xff0c;后面就是将end的…