在js中浮点数精度丢失问题及使用bignumber处理高精度小数的数学运算

一、精度丢失:

正常计算:0.1 + 0.2 = 0.3
js计算:0.1 + 0.2 = 0.30000000000000004

正常计算:1 - 0.9 = 0.1
js计算:1 - 0.9 = 0.09999999999999998

正常计算:0.0532 * 100 = 5.32
js计算:0.0532 * 100 = 5.319999999999999

正常计算:0.3 / 6 = 0.05
js计算:0.3 / 6 = 0.049999999999999996

let a = 0.123456789123456789123456789
console.log(a) // 0.12345678912345678

二、导致原因:

因为JavaScript中所有的数字(包括整数和小数)都只有一种类型–Number。它的实现遵循IEEE 754标准,使用64位固定长度来表示,也就是标准的double双精度浮点数。它的优点是可以归一化处理整数和小数,节省储存空间。而实际计算的时候会转换成二进制计算再转成十进制。进制转换之后会很长,舍去一部分,计算再转回来,就有了精度误差。

三、如何解决
1、先转整数进行运算,再转成小数
0.1 + 0.2 = (0.1*10 + 0.2*10) / 10 = 0.3

但这种方法也不是万能的,有时候也会失精

0.14*100=14.0000000000000028.55*100=855.0000000000001

使用Math.round()方法解决

Math.round(0.14*100) // 14
Math.round(8.55*100) // 855
2、使用第三方库bignumber.js
  • 2.1 html页面
引入
<script src="https://cdn.bootcdn.net/ajax/libs/bignumber.js/9.0.1/bignumber.js"></script>
  • 2.2 vue项目
安装
npm install --save bignumber.js
导入
import BigNumber from 'bignumber.js'
  • 2.3 使用
转换

转为 bignumber

const x = new BigNumber('123.456')

转为 普通数字

x.toNumber()

转为 字符串

x.toString()
加法
const a = new BigNumber(0.1)
console.log(a.plus(0.2).toNumber()) // 0.3
减法
const a = new BigNumber(0.3)
console.log(a.minus(0.1).toNumber()) // 0.2
乘法
const a = new BigNumber(3)
console.log(a.multipliedBy(0.3).toNumber()) // 0.9
除法
const a = new BigNumber(335)
console.log(a.div(6).toNumber()) // 55.833333333333336
console.log(a.div(6).dp(3).toNumber()) // 55.833 
保留小数点位数

x = new BigNumber(1234.56)
x.dp(1).toNumber() //1234.6
x.dp(0).toNumber() //1235

四舍五入
x = new BigNumber(123.456)
x.integerValue().toNumber() //123
向上取整
x = new BigNumber(123.456)
x.integerValue(BigNumber.ROUND_CEIL).toNumber() //124
向下取整
x = new BigNumber(123.456)
x.integerValue(BigNumber.ROUND_DOWN).toNumber() //123
取余
x = new BigNumber(1)
x.modulo(0.9).toNumber() // 0.1
比较大小
x = new BigNumber(1)
x.eq(1) // true 是否相等1
x.gt(0) // true 是否大于0
x.gte(1) // true 是否大于等于0
x.lt(1) // false 是否小于1
x.lte(1) // false 是否小于等于1
取非,改变数字的正负号
x = new BigNumber(1.8)
x.negated()  // '-1.8'
y = new BigNumber(-1.3)
y.negated()  // '1.3'
最大值,最小值
x = [2222, 3333, '4444']
BigNumber.max(...x6).toNumber() // 4444
BigNumber.min(...x6).toNumber() // 2222
求和
x = BigNumber.sum('11', 23)
x.toNumber() // 34y = [2, new BigNumber(14), '15.9999', 12]
BigNumber.sum(...y).toNumber() // 43.9999

使用Bignumber.js可以轻松地进行高精度计算,解决JavaScript的精度丢失问题。可以通过设置精度和四舍五入方式,进行高度自定义的计算。同时,Bignumber.js支持基本的数学运算、大小比较和相等比较,具有广泛应用的价值。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/225907.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

中国剩余定理

中国剩余定理 一、问题的引入 一个整数除以3余2、除以5余3、除以7余2&#xff0c;求这个整数&#xff1f;答案&#xff1a;23 所谓中国剩余定理基本思想&#xff1a;知道一个整数对于几个不同的模数的余数&#xff0c;那么可以推断出该整数对于这些模数的最小非负整数解。 …

ChatGPT在指尖跳舞: open-interpreter实现本地数据采集、处理一条龙

原文&#xff1a;ChatGPT在指尖跳舞: open-interpreter实现本地数据采集、处理一条龙 - 知乎 目录 收起 Part1 前言 Part2 Open - Interpreter 简介 Part3 安装与运行 Part4 工作场景 1获取网页内容 2 pdf 文件批量转换 3 excel 文件合并 Part5总结 参考资料 往期推…

算法基础十四

二叉树的最大深度 给定一个二叉树 root &#xff0c;返回其最大深度。二叉树的 最大深度 是指从根节点到最远叶子节点的最长路径上的节点数。 示例 1&#xff1a; 输入&#xff1a;root [3,9,20,null,null,15,7] 输出&#xff1a;3 示例 2&#xff1a; 输入&#xff1a;root …

2023第十四届蓝桥杯国赛 C/C++ 大学 B 组

文章目录 前言试题 A: 子 2023作者思考题解答案 试题 B: 双子数作者思考题解 试题 C: 班级活动作者思考题解 试题 D: 合并数列作者思考题解 试题 E: 数三角作者思考题解 试题 F: 删边问题作者思考题解 试题 G: AB 路线作者思考题解 试题 H: 抓娃娃作者思考题解 试题 I: 拼数字试…

Android 14 应用适配指南

Android 14 应用适配指南&#xff1a;https://dev.mi.com/distribute/doc/details?pId1718 Android 14 功能和变更列表 | Android 开发者 | Android Developers 1.获取Android 14 1.1 谷歌发布时间表 https://developer.android.com/about/versions/14/overview#timeli…

事务--04---分布式系统唯一ID

提示&#xff1a;文章写完后&#xff0c;目录可以自动生成&#xff0c;如何生成可参考右边的帮助文档 文章目录 分布式ID一、什么是分布式系统唯一ID2. 二、分布式系统唯一ID的特点 分布式ID-----实现方案1、使用UUID生成分布式ID2、基于数据库自增ID3、Redis生成ID4、号段模式…

【嵌入式开发 Linux 常用命令系列 14.1 -- .bashrc 定义函数】

上篇文章&#xff1a;【嵌入式开发 Linux 常用命令系列 14 – source hello.sh 和 ./hello.sh 的区别】 文章目录 .bashrc 定义函数 .bashrc 定义函数 在 .bashrc 文件中定义别名时&#xff0c;通常不能直接传递参数。别名是用于创建命令的简写形式&#xff0c;它们不支持参数…

人工智能联盟的首件神兵利器——“Purple Llama” 项目,旨为保护工智能模型安全性

Meta公司&#xff08;Meta Platform Inc&#xff09;&#xff0c;原名Facebook&#xff0c;创立于2004年2月4日&#xff0c;市值5321.71亿美元。总部位于美国加利福尼亚州门洛帕克。 Meta 公司推出了名为“Purple Llama”的项目&#xff0c;旨在保护和加固其开源人工智能模型。…

WINCC8.0脚本调试方法

前言 WINCC是西门子推出的过程可视化系统&#xff08;SCADA&#xff09;&#xff0c;是基于PC的HMI系统&#xff0c;兼容WINDOWS各种系统&#xff0c;除了强大的图形系统之外&#xff0c;WINCC还具有在线历史趋势、报警记录、用户管理、用户归档等高级功能&#xff0c;而且WINC…

华为OD机试真题-考古学家-2023年OD统一考试(C卷)

题目描述: 有一个考古学家发现一个石碑,但是很可惜,发现时其已经断成多段,原地发现n个断口整齐的石碑碎片。为了破解石碑内容,考古学家希望有程序能帮忙计算复原后的石碑文字组合数,你能帮忙吗? 输入描述: 第一行输入n,n表示石碑碎片的个数。 第二行依次输入石碑碎片上…

什么是PHP的SOLID原则?

SOLID 是面向对象编程&#xff08;OOP&#xff09;中的五个设计原则的首字母缩写&#xff0c;这些原则有助于创建可维护、灵活且可扩展的软件。以下是 SOLID 原则的概述&#xff1a; 单一职责原则&#xff08;Single Responsibility Principle - SRP&#xff09;&#xff1a; 一…

[Angular] 笔记1:开发设置 , 双向绑定

1 设置开发环境 1.1 安装 node 下载 node&#xff0c;因为要使用 npm 工具&#xff0c;教程中使用 Angualr 14, 最新版 node 20 用不了&#xff0c;安装 node 16 就可以。 1.2 安装 Angular CLI Angular CLI 是用于创建 Angular 工程的工具集&#xff0c;使用如下命令&…

(第61天)多租户架构(CDB/PDB)

背景介绍 Oracle 的 CDB 和 PDB 是 Oracle 12C 及以上版本中引入的新概念,用于管理多租户数据库环境。 Oracle 数据库是商业数据库领域中的翘楚,其强大的功能和高可靠性备受企业用户追捧。而随着云计算和大数据时代的到来,Oracle 也不断推出新的技术以适应这些变化。CDB 技…

我为什么要当程序员?

阿七毕业于上海一所大学的管理学院&#xff0c;在读期间没写过一行 Java 代码。 管理学院&#xff0c;你出来能干啥呀&#xff1f;什么公司&#xff0c;会让你一个刚毕业的学生当管理呢&#xff1f;所有我们学院的同学&#xff0c;很多都跨科目考研、出国、创业。 家里没钱的…

【leetcode】链表总结

说明&#xff1a;本文内容来自于代码随想录 链表基本操作 https://leetcode.cn/problems/design-linked-list/ 删除节点 https://leetcode.cn/problems/remove-linked-list-elements/description/&#xff0c;删除节点&#xff0c;虚拟头节点。定义两个节点&#xff0c;分别…

『OPEN3D』1.5.2 动手实现点云栅格/体素最近邻

本专栏地址: https://blog.csdn.net/qq_41366026/category_12186023.html?spm=1001.2014.3001.5482 NEARBY6实现的voxel可视化 一种NEARBY14实现的可视化voxel

【LeetCode每日一题】152. 乘积最大子数组

题目&#xff1a; 给你一个整数数组 nums &#xff0c;请你找出数组中乘积最大的非空连续子数组&#xff08;该子数组中至少包含一个数字&#xff09;&#xff0c;并返回该子数组所对应的乘积。 思路 由于做了53. 最大子数组和 下意识觉得求出所有元素的以该元素结尾的连续…

QuPath学习 ② HE scripts

文献中详细介绍了处理H&E scripts的详细过程&#xff0c;计算H&E染色的全切片中的肿瘤基质百分比。 步骤&#xff1a; 1.将相关幻灯片添加到QuPath项目中。 2.对于项目中的每张幻灯片&#xff0c;围绕一个有代表性的肿瘤区域绘制一个注释。 3.运行“Estimate _ bac…

LeetCode190. Reverse Bits

文章目录 一、题目二、题解 一、题目 Reverse bits of a given 32 bits unsigned integer. Note: Note that in some languages, such as Java, there is no unsigned integer type. In this case, both input and output will be given as a signed integer type. They sho…

【Flink-Sql-Kafka-To-ClickHouse】使用 FlinkSql 将 Kafka 数据写入 ClickHouse

【Flink-Sql-Kafka-To-ClickHouse】使用 FlinkSql 将 Kafka 数据写入 ClickHouse 1&#xff09;需求分析2&#xff09;功能实现3&#xff09;准备工作3.1.Kafka3.2.ClickHouse 4&#xff09;Flink-Sql5&#xff09;验证 1&#xff09;需求分析 1、数据源为 Kafka&#xff0c;定…