四舍五入_从四舍五入谈起

起源

前几天改了同事遗留的一个四舍五入的缺陷,颇有探索的价值。问题简化如下:

总邀约人数11人,已完成6人,邀约完成率应显示为55%,实际显示54%

废话不多说翻代码:

 C#:
int CalcPercentageInt(int a, int b)
{
if (b == 0 || a == 0) return 0;
int result = 100 * a / b;
return result;
}

简短的一句代码有诸多想法:

1.四舍五入的代码应该放到前端去做,能稍微减轻服务器压力。

  1. int做输入参数,要考虑精度损失问题。
    3.输出参数为什么是int, 又要考虑精度问题,直接输出格式化的好的百分比不就行了

后面又有同事改造成如下:

 int CalcPercentageInt(int a, int b)
{
if (b == 0 || a == 0) return 0;
string result = ((double)a / b).ToString("f2"); ;
return (int)(Convert.ToDouble(result) * 100);
}

执行以上运算结果是55,是对的。然后他就提测了,结果被打回来了。

总邀约人数7人,已完成2人,邀约完成率应显示为29%,实际显示28%

然后缺陷转到我名下了,我改为如下版本:

int CalcPercentageIntBak(double a, double b)
{
if (b == 0 || a == 0) return 0;
var result = Math.Round(a/b,2)*100 ;// 这一步 2/7 得到28.999999999999996
return (int)result;
}

这样也不行,改为decimal可以了

int CalcPercentageInt(decimal a, decimal b)
{
if (b == 0 || a == 0) return 0;
var result = Math.Round(a/b,2)*100 ;// 这一步 2/7 得到29.00M
return (int)result;
}

经单元测试如下都通过:

 int m1 = CalcPercentageInt(2, 7);
Assert.True(m1 == 29);
... 3到5省略
m1 = CalcPercentageInt(6, 7);
Assert.True(m1 == 86);
m1 = CalcPercentageInt(2, 9);
... 3到7省略
m1 = CalcPercentageInt(8, 9);
Assert.True(m1 == 89);
m1 = CalcPercentageInt(2, 11);
Assert.True(m1 == 18);
... 3到9省略
m1 = CalcPercentageInt(10, 11);
Assert.True(m1 == 91);

虽然解决了问题,最合理的方案也许还是放到前端去计算,或者直接toString("f2")都比返回int到前端好些。用chrome演示如下(多么的省事!)

>((2/7)*100).toFixed('0')
"29"
>((3/7)*100).toFixed('0')
"43"
>((6/11)*100).toFixed('0')
"55"

再来对比下如下写法:

//javascript
> var a=6,b=11;
parseInt(a)/parseInt(b)
输出:0.5454545454545454

> var a=2,b=7;
parseInt(a)/parseInt(b)
输出:0.2857142857142857

//C#
var a=2;
var b=11;
var m1=a/b; 输出:0
var m2=(double)a/b;输出:0.2857142857142857
var m3=(decimal)a/b;输出:0.2857142857142857142857142857
a=2;b=7;
(float)2/7;输出:0.2857143
(double)2/7;输出:0.2857142857142857
(decimal)2/7;输出:0.2857142857142857142857142857
Math.Round((double)a/b,2) 输出:0.29
Math.Round((double)a/b,2)*100,输出:28.999999999999996 (上一步是0.29 ,*100后变成了28.999999999999996,佛系吧)
Math.Round((decimal)2/7,2),输出:0.29M
Math.Round((decimal)2/7,2)*100,输出29.00(可以对比double,为什么?)

从上面的对比可以知道int型除法小数精度问题C#和javascript采取的策略是不一样的,以及C#中double和decimal的处理方式也有所不同。
我们再来看下C++:

//gcc version 9.2.0 (MinGW.org GCC Build-2)(2019年8月5号发布)
int main()
{
int a = 2;
int b = 7;
cout << "a/b的结果是:" << a / b << endl;
//输出:0
cout << "(double)a/b 的结果是:" << (double)a / b << endl;
//输出:0.285714(注意这个小数位长度只有6个)
//cout << "(double)a / b" << (decimal)a / b;//C++默认没有decimal类型?
}

针对这些乱象,我们要从一个浮点数的标准IEEE754说起。

IEEE754

IEEE二进制浮点数算术标准(IEEE 754)是20世纪80年代以来最广泛使用的浮点数运算标准,为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式(包括负零-0)与反常值(denormal number)),一些特殊数值(无穷(Inf)与非数值(NaN)),以及这些数值的“浮点数运算符”;它也指明了四种数值舍入规则和五种例外状况(包括例外发生的时机与处理方式)。

Ieee754-2019官方链接
下载IEEE-754-2019
该标准规定了计算机编程环境中二进制和十进制浮点算术的交换和算术格式以及方法。该标准规定了异常条件及其默认处理。可以完全以软件,完全以硬件或以软件和硬件的任何组合来实现符合该标准的浮点系统的实现。对于本标准规范部分中指定的操作,数值结果和例外情况由输入数据的值,操作顺序和目标格式唯一确定,所有这些操作均在用户的控制之下。
相关标准的其他版本(包含已被取代)有:

IEEE 754-1985-二进制浮点算法的IEEE标准
IEEE 854-1987-独立于基数的浮点算法的IEEE标准
IEEE 754-2008-浮点算法的IEEE标准
IEEE / ISO / IEC 60559-2020-ISO / IEC / IEEE国际标准-浮点运算

这里有一篇文章IEEE 754格式可以作为参考,解答一下疑惑。

问题

选择一个标准方法用二进制数来表示浮点数时,需要考虑很多事情:

  • 范围:应该能支持很大范围的正负数

  • 精度:你能区别1.7和1.8之间的区别么?1.700001和1.700002呢,你应该记住多少小数位?

  • 时间效率:您的解决方案是否使快速进行比较和算术运算变得容易?

  • 空间注意:怎么极精确表示3的平方根,除非需要兆字节来存储它

  • 一对一的关系:如果每个浮点数只能以一种方式写入,反之亦然,您的解决方案将简单得多

IEEE 754 Form的开发人员最终采用的方法使用科学符号的思想。科学记数法是表达数字的标准方法,它使数字易于阅读和比较。我们最熟悉的是以10为底的数字的科学计数法。
您只需要将数字分为两部分:值的范围1<=N<10,幂为10,例如:

3498523 被写成 1612df13-f754-eb11-8da9-e4434bdf6706.svg
− 0.0432 被写成 1712df13-f754-eb11-8da9-e4434bdf6706.svg

用二进制数也是相似的思路,需要使用2的幂。只需将您的数字分解为大小在范围内的值1 ≤ Ñ < 2,并且为2的幂。

-6.84 被写成 1912df13-f754-eb11-8da9-e4434bdf6706.svg
0.05 被写成 1a12df13-f754-eb11-8da9-e4434bdf6706.svg

要创建位串(二进制串?),我们需要用下面的格式:

1b12df13-f754-eb11-8da9-e4434bdf6706.svg

我们可以从中获得三个关键信息:

  • 第一部分:sign/符号,如果符号位为0,则代表正数,1c12df13-f754-eb11-8da9-e4434bdf6706.svg=1; 如果符号位为1,代表负数,$(-1)^0=-1; 否则为0;

  • 第二部分:fraction/mantissa尾数我们总是把括号里的数字算作(1+某个分数)。因为我们知道1在那里,唯一重要的是分数,我们将把它写成二进制字符串。
    如果我们需要将二进制值转换回以10为基数的值,我们只需将每个数字乘以其位值,如以下示例所示:

1d12df13-f754-eb11-8da9-e4434bdf6706.svg=0.51f12df13-f754-eb11-8da9-e4434bdf6706.svg=0.252012df13-f754-eb11-8da9-e4434bdf6706.svg=0.625

  • 第三部分指数/阶 上一步获得的2的幂只是一个整数。注意,该整数可以是正数或负数,分别取决于原始值是大还是小。我们需要存储该指数-但是,使用两者的补码(带符号的值的常用表示形式)会使这些值的比较更加困难。这样,我们将一个称为bias(偏差)的常数添加到指数中。通过在存储指数之前对其进行偏置,我们将其置于更适合比较的无符号范围内。

对于单精度浮点,将-127到+ 127范围内的指数加上127以得到1到254范围内的值(0和255具有特殊含义),从而对指数产生偏倚。

对于双精度,将1022到+1023范围内的指数加1023来获得1到2046范围内的值(0和2047具有特殊含义),从而对其产生偏差。

偏差和2的幂的和是实际上进入IEEE 754字符串的指数。请记住,指数=幂+偏差。(或者,幂=指数偏差)。该指数本身必须最终以二进制形式表示-但考虑到加上偏差后我们有一个正整数,则现在可以按常规方式完成此操作。

计算这些二进制值后,可以将它们放入32位或64位字段中。这些数字的排列方式如下:

b25dafc2e11ec591d62e82b60b4d7b63.png

image.png

通过以这种方式排列字段,以使符号位位于最高有效位位置,偏斜指数位于中间,然后尾数位于最低有效位-结果值实际上将正确排序以进行比较,无论是否它被解释为浮点数或整数值。这样可以使用定点硬件对浮点数进行高速比较。

有一些特殊情况:


  • 符号位= 0; 有偏指数(阶码)=全部0位; 分数=全部0 位;-0和+0是不同的值,尽管它们相等

  • 正负无穷大(不知是否理解对?)
    符号位=0 ,有偏指数(阶码)=全部1个位, 分数=全部0 位,表示正无穷大;
    符号位=1,有偏指数(阶码)=全部1个位,分数=全部0 位,为负无穷大;

  • NaN(非数字)
    值NAN用于表示错误值。当指数字段为全零且带零符号位或尾数不是1后跟零的尾数时,将表示此值。这是一个特殊值,可用于表示尚不包含值的变量。

    74119094b0e700fc124b3339431c0721.png

    985a9371e0e275013d85f4a6170df112.png

    413b848d5aadbdad580d34d02085dfb6.png

3915c5f93cfac0258271f293566b7b8d.png

Float,Double ,Decimal 有何区别?

Decimal,Double和Float变量类型在存储值方面有所不同。精度是主要区别,其中float是单精度(32位)浮点数据类型,double是双精度(64位)浮点数据类型,而Decimals(十进制)是128位浮点数据类型。
float/single -32位(7位数字)
double-64位(15-16位)
decimal-128位(28-29位有效数字)
主要区别在于Floats和Doubles是二进制浮点类型,而Decimal将值存储为浮点小数点类型。因此,Decimal位数具有更高的精度,通常用于要求高度准确性的货币(金融)应用程序中。但是在性能方面,Decimal比双精度和浮点型慢。

Decimal可以100%准确地表示十进制格式精度范围内的任何数字,而Float和Double不能准确表示所有数字,即使数字在其各自格式精度范围内。

将IEEE 754浮点转换为二进制
示例:转换为浮点型Floating Point Representation
ieee-standard-754-floating-point-numbers
Decimal vs Double vs Float

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/475341.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

LeetCode 339. 嵌套列表权重和(DFS)

文章目录1. 题目2. 解题1. 题目 给定一个嵌套的整数列表&#xff0c;请返回该列表按深度加权后所有整数的总和。 每个元素要么是整数&#xff0c;要么是列表。同时&#xff0c;列表中元素同样也可以是整数或者是另一个列表。 示例 1: 输入: [[1,1],2,[1,1]] 输出: 10 解释:…

精心设计的基于组件的C# Win Forms实践 一个框架数据库驱动多个业务逻辑数据库...

设计一个灵活稳定的多层架构的程序不是件容易的事情。当有了成熟的模式和应用之后&#xff0c;还需要经历各种应用与需求考验&#xff0c;用直白的话说&#xff0c;就是要经得起折腾。最近在重构自己的EPN框架时&#xff0c;有了一些新的体会实践&#xff0c;与各位分享。 首先…

LeetCode 1213. 三个有序数组的交集(哈希set)

文章目录1. 题目2. 解题1. 题目 给出三个均为 严格递增排列 的整数数组 arr1&#xff0c;arr2 和 arr3。 返回一个由 仅 在这三个数组中 同时出现 的整数所构成的有序数组。 示例&#xff1a; 输入: arr1 [1,2,3,4,5], arr2 [1,2,5,7,9], arr3 [1,3,4,5,8] 输出: [1,5] 解…

回溯算法--8皇后问题

前些天有同学去跑社招&#xff0c;面试的时候被人问到8皇后问题&#xff0c;很是杯具。这也说明我们平时对于经典的算法问题关注太少&#xff0c;但设计算法的能力也不是一日之功&#xff0c;需要的是长期的练习和锻炼提高&#xff0c;比如我就很需要锻炼啊&#xff0c;哈哈。 …

LeetCode 1085. 最小元素各数位之和

文章目录1. 题目2. 解题1. 题目 给你一个正整数的数组 A。 然后计算 S&#xff0c;使其等于数组 A 当中最小的那个元素各个数位上数字之和。 最后&#xff0c;假如 S 所得计算结果是 奇数 的请你返回 0&#xff0c;否则请返回 1。 示例 1: 输入&#xff1a;[34,23,1,24,75,…

LeetCode 1134. 阿姆斯特朗数

文章目录1. 题目2. 解题1. 题目 假设存在一个 k 位数 N&#xff0c;其每一位上的数字的 k 次幂的总和也是 N&#xff0c;那么这个数是阿姆斯特朗数。 给你一个正整数 N&#xff0c;让你来判定他是否是阿姆斯特朗数&#xff0c;是则返回 true&#xff0c;不是则返回 false。 …

LeetCode 1180. 统计只含单一字母的子串

文章目录1. 题目2. 解题1. 题目 给你一个字符串 S&#xff0c;返回只含 单一字母 的子串个数。 示例 1&#xff1a; 输入&#xff1a; "aaaba" 输出&#xff1a; 8 解释&#xff1a; 只含单一字母的子串分别是 "aaa"&#xff0c; "aa"&#x…

LeetCode 1086. 前五科的均分(map + 优先队列)

文章目录1. 题目2. 解题1. 题目 给你一个不同学生的分数列表&#xff0c;请按 学生的 id 顺序 返回每个学生 最高的五科 成绩的 平均分。 对于每条 items[i] 记录&#xff0c; items[i][0] 为学生的 id&#xff0c;items[i][1] 为学生的分数。 平均分请采用整数除法计算。 示…

87说明书 ikbc_女性玩家的首选!——IKBC白无垢. 樱机械键盘赏评

如今有越来越多的人开始选择机械键盘&#xff0c;无论是玩游戏&#xff0c;还是打字办公&#xff0c;都有着先天优势。而且价格也在不断探低。在这个“颜值即正义”的当下。也有很多与热门IP结合的新品。比如IKBC的高达系列。IKBC与很多热门IP合作发布过定制联名款的键鼠套装&a…

《信息检索导论》第七章总结

一、打分排序的特性 其实对于打分排序来说&#xff0c;我们最终只需要确定文档的相对顺序即可&#xff0c;因此我们可以简化打分的算法&#xff0c;只需要保持相对顺序不变即可&#xff1b; 二、快速排序及打分方法 我们前面的打分排序方法都需要计算查询及每篇文档的余弦相似度…

日志级别_SpringBoot实战(十三):Admin动态修改日志级别

强烈推荐一个大神的人工智能的教程&#xff1a;http://www.captainbed.net/zhanghan【前言】之前关于线上输出日志一直有个困惑&#xff1a;如何可以动态调整的日志级别&#xff0c;来保证系统在正常运行时性能同时又能在出现问题时打印详细的信息来快速定位问题&#xff1b;最…

LeetCode 293. 翻转游戏

文章目录1. 题目2. 解题1. 题目 你和朋友玩一个叫做「翻转游戏」的游戏&#xff0c;游戏规则&#xff1a;给定一个只有 和 - 的字符串。 你和朋友轮流将 连续 的两个 “” 反转成 “–”。 当一方无法进行有效的翻转时便意味着游戏结束&#xff0c;则另一方获胜。 请你写出一…

LeetCode 1196. 最多可以买到的苹果数量(贪心)

文章目录1. 题目2. 解题1. 题目 楼下水果店正在促销&#xff0c;你打算买些苹果&#xff0c;arr[i] 表示第 i 个苹果的单位重量。 你有一个购物袋&#xff0c;最多可以装 5000 单位重量的东西&#xff0c;算一算&#xff0c;最多可以往购物袋里装入多少苹果。 示例 1&#x…

3点 刚体运动 opencv_模态法动力学分析中的刚体模态

01—概述在对汽车结构进行动力学有限元分析时&#xff0c;无论是瞬态问题还是频响问题&#xff0c;都经常使用模态叠加法。模态叠加法动力学分析是常规模态分析的自然扩展&#xff0c;它利用结构振型来缩减问题求解规模&#xff0c;从而使数值求解更为高效。模态叠加法首先计算…

简单实用的铁道部12306.cn网站自动化登录

铁道部网站登录难点分析 必须使用微软IE浏览器 铁道部网站只支持IE在线付款网站使用Https协议 客户端不允许跨域访问 技术解析 使用微软IE开发者工具栏即可破解自动化登录过程开始步骤 使用IE8及其以上的版本&#xff0c;IE7及以下版本需要另外下载微软官方的IE开发者工具栏&a…

LeetCode 1064. 不动点(二分查找)

文章目录1. 题目2. 解题2.1 暴力搜2.2 二分查找1. 题目 给定已经按升序排列、由不同整数组成的数组 A&#xff0c;返回满足 A[i] i 的最小索引 i。 如果不存在这样的 i&#xff0c;返回 -1。 示例 1&#xff1a; 输入&#xff1a;[-10,-5,0,3,7] 输出&#xff1a;3 解释&…

LeetCode 1474. 删除链表 M 个节点之后的 N 个节点

文章目录1. 题目2. 解题1. 题目 给定链表 head 和两个整数 m 和 n. 遍历该链表并按照如下方式删除节点: 开始时以头节点作为当前节点. 保留以当前节点开始的前 m 个节点. 删除接下来的 n 个节点. 重复步骤 2 和 3, 直到到达链表结尾. 在删除了指定结点之后, 返回修改过后的链…

mac找不到mysql_mac找不到mysql

出现问题&#xff1a;macbook安装好mysql&#xff0c;并按照各路大神的说明进行了以下配置。打开Terminal&#xff0c;输入&#xff1a;vim .bash_profile进入编辑界面&#xff0c;添加以下内容&#xff1a;export PATH$PATH:/usr/local/mysql/bin按下esc键&#xff0c;输入 :w…

LeetCode 1427. 字符串的左右移

文章目录1. 题目2. 解题1. 题目 给定一个包含小写英文字母的字符串 s 以及一个矩阵 shift&#xff0c;其中 shift[i] [direction, amount]&#xff1a; direction 可以为 0 &#xff08;表示左移&#xff09;或 1 &#xff08;表示右移&#xff09;。 amount 表示 s 左右移的…

LeetCode 800. 相似 RGB 颜色

文章目录1. 题目2. 解题2.1 暴力枚举2.2 独立枚举1. 题目 RGB 颜色用十六进制来表示的话&#xff0c;每个大写字母都代表了某个从 0 到 f 的 16 进制数。 RGB 颜色 “#AABBCC” 可以简写成 “#ABC” 。例如&#xff0c;"#15c" 其实是 “#1155cc” 的简写。 现在&a…