JavaScript数值计算时精度问题处理

js精度问题

当使用 JavaScript 进行数值计算时，会面临一些精度问题，这些问题可能会导致不正确的结果。以下是一些常见的奇奇怪怪的 js 数据精度问题：

1. 浮点数精度问题

在 JS 中，浮点数的精度有限。例如：

0.1 + 0.2 // 结果为0.30000000000000004
23.327*100 // 结果为2332.7000000000003

这个结果显然不符合我们的期望。因为这是由于浮点数本身就无法表示 0.1 和 0.2 精确值。

解决方案：可以使用 toFixed 方法将其转换为字符串保留特定位数的小数，或者使用 Big.js 库中的 Big 对象。

2. 整数运算超出范围

在 JS 中，整数运算的范围为 -2^53 ~ 2^53。当运算结果超出该范围时，会发生奇怪的事情，例如：

Math.pow(2, 53) + 1 // 结果为9007199254740992

解决方案：可以使用 BigInt 类型进行更大范围的整数运算，但是要注意支持性不够广泛，需在浏览器和 Node.js 环境中提供额外的支持。

3. 数字类型转换问题

在 JS 中，数字类型之间的转换也可能会导致奇怪的问题。例如：

"10" > "9" // 结果为false

原因是在字符串比较中，比较的是字符编码而不是实际的数字大小。

解决方案：可以使用 parseInt 或者 parseFloat 将字符串转换为数字，或者使用 Number 函数将字符串强制类型转换为数字。

4. 小数点后多余的零

在 JS 中，将一个小数转换成字符串时，如果它没有小数部分，那么默认会添加 .0。例如：

String(1.0) // 结果为"1.0"

这种自动添加小数点可能会导致输出结果与预期不符。

解决方案：可以使用 Number.prototype.toFixed() 来保持一定的小数点位数，或者使用 Number.prototype.toPrecision() 来控制总位数。

Big.js

Big.js 是一个 JavaScript 的 “任意精度” 数字库，能够处理普通数字无法表示的大数字计算。这个库可以非常有用，例如在金融交易、密码学和科学计算中。

安装

Big.js 可以通过多种途径来安装：

  • npm 安装: npm install big.js
  • 下载源码包: https://github.com/MikeMcl/big.js/archive/v5.2.2.tar.gz
  • 在线 CDN 引入: <script src="https://cdn.jsdelivr.net/npm/big.js@5.2.2/big.min.js"></script> (这里使用了 jsDelivr CDN)

使用方法

在代码中引入 big.js：

const Big = require('big.js');

创建一个 Big 对象

const x = new Big(123.4567);
const y = Big(987654321.123456789);
const z = new Big('123456789012345678901234567890');

上述代码创建了三个 Big 对象。你可以将任何字符串、数字或其他 Big 对象传递给构造函数。请注意，只有字符串才能正确表示 0.1、0.01 等小数。我们可以用以下方式来打印这些对象的值：

console.log(x.toString()); // "123.4567"
console.log(y.toString()); // "987654321.123456789"
console.log(z.toString()); // "123456789012345678901234567890"

进行运算

Big.js 支持 +、-、*、/、mod、pow、sqrt 和 abs 操作。下面是代码示例：

const x = Big(123.4567);
const y = Big('987654321.123456789');console.log(x.plus(y).toString());    // "987654444.580156789"
console.log(x.minus(y).toString());   // "-987654197.666756789"
console.log(x.times(y).toString());   // "121931366283.89509775303"
console.log(x.div(y).toString());     // "0.00012468606749151914"
console.log(x.mod(y).toString());     // "123.4567"
console.log(x.pow(3).toString());     // "18604128.120667185023"
console.log(x.sqrt().toString());     // "11.107774091203273684"
console.log(x.abs().toString());      // "123.4567"

设置运算精度

默认情况下，Big.js 将结果四舍五入到 20 位数字。但是你可以更改这个精度设置。这里提供了两种方式：

全局配置

在全局范围内，你可以通过 Big.RM 和 Big.DP 来更改默认设置。RP（Rounding Precision）指定了四舍五入的精度（默认为 20），而 DP（Decimal Places）指定了默认保留的小数位数。

Big.RM = 0; // 舍去模式（0 表示四舍五入）
Big.DP = 10; // 小数点后保留 10 位

局部配置

如果你不想全局更改设置，那么可以在每次操作时单独进行设置。以下是如何使用它们：

const x = new Big(1);
const y = new Big(3);x.div(y);            // '0.33333333333333333333'
x.dp = 2;            // 将小数点后的位数设置为 2
x.div(y);            // '0.33'
x.round(1);          // 四舍五入至整数
x.div(y).toString(); // '0.3'

十六进制和二进制格式

当处理加密哈希等特殊数据类型时，十六进制和二进制格式的数字显得尤为重要。Luckily, Big.js 提供了相关方法。以下是相关代码示例：

创建一个 big.js 实例需要传入一个数字或字符串。下面是一个创建 big.js 实例的示例：

const num1 = new Big(123.4567);
const num2 = new Big("9876543210123456789");

加法

Big 对象可以使用 plus() 方法来进行加法操作，返回一个新的 Big 对象，不改变原有对象：

const num1 = new Big(1.23);
const num2 = new Big(4.56);const result = num1.plus(num2); // 等价于 num1 + num2
console.log(result.toString()); // 5.79

减法

Big 对象可以使用 minus() 方法来进行减法操作，返回一个新的 Big 对象，不改变原有对象：

const num1 = new Big(1.23);
const num2 = new Big(4.56);const result = num1.minus(num2); // 等价于 num1 - num2
console.log(result.toString()); // -3.33

乘法

Big 对象可以使用 times() 方法来进行乘法操作，返回一个新的 Big 对象，不改变原有对象：

const num1 = new Big(1.23);
const num2 = new Big(4.56);const result = num1.times(num2); // 等价于 num1 * num2
console.log(result.toString()); // 5.6088

除法

Big 对象可以使用 div() 方法来进行除法操作，返回一个新的 Big 对象，不改变原有对象：

const num1 = new Big(1.23);
const num2 = new Big(4.56);const result = num1.div(num2); // 等价于 num1 / num2
console.log(result.toString()); // 0.26973684210526315789

幂运算

Big 对象可以使用 pow() 方法来进行幂运算操作，返回一个新的 Big 对象，不改变原有对象：

const num1 = new Big(2);
const num2 = new Big(3);const result = num1.pow(num2); // 等价于 num1 ** num2
console.log(result.toString()); // 8

比较

Big 对象可以使用 cmp() 方法来进行比较操作，返回一个负数、零或正数，分别表示小于、等于或大于。

const num1 = new Big(1.23);
const num2 = new Big(4.56);console.log(num1.cmp(num2)); // -1
console.log(num2.cmp(num1)); // 1
console.log(num1.cmp(num1)); // 0

四舍五入和保留小数位数

Big 对象可以使用 toFixed() 方法来进行四舍五入和保留小数位数操作：

const num1 = new Big(1.23456789);console.log(num1.toFixed(2)); // 1.23
console.log(num1.toFixed(5)); // 1.23457
console.log(num1.toFixed(10)); // 1.2345678900

在处理大数值时，使用 big.js 这样的高精度库可以避免 JavaScript 中 Number 类型的精度问题。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/58017.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Python面试：什么是GIL

Python面试：什么是GIL

1. GIL (Global Interpreter lock)可以避免多个线程同时执行字节码。 import threadinglock threading.Lock()n [0]def foo():with lock:n[0] n[0] 1n[0] n[0] 1threads [] for i in range(5000):t threading.Thread(targetfoo)threads.append(t)for t in threads:t.s…
阅读更多...
开发新能源的好处

开发新能源的好处

风能无论是总装机容量还是新增装机容量&#xff0c;全球都保持着较快的发展速度&#xff0c;风能将迎来发展高峰。风电上网电价高于火电&#xff0c;期待价格理顺促进发展。生物质能有望在农业资源丰富的热带和亚热带普及&#xff0c;主要问题是降低制造成本&#xff0c;生物乙…
阅读更多...
【Unity3D】水面特效

【Unity3D】水面特效

1 前言 水波特效 中通过屏幕后处理实现了环形水波效果&#xff0c;本文通过 Shader Graph 实现了模拟水面特效&#xff0c;包含以下特效细节。Shader Graph 基础知识详见→Shader Graph简介、Shader Graph节点、程序纹理简单应用。 深水区和浅水区颜色差异&#xff1b;水面有波…
阅读更多...
Git分支机制

Git分支机制

一、分支机制简述 要想真正理解Git的分支机制&#xff0c;我们要首先回过头来看一下Git是如何存储数据的。 Git并没有采用多个变更集( changeset )或是差异的方式存储数据&#xff0c;而是采用一系列快照的方式。当你发起提交时&#xff0c;Git存储的是提交对象( commi…
阅读更多...
【测试】pywinauto的简单使用（安装、常用对象、元素控件、鼠标操作、键盘操作）

【测试】pywinauto的简单使用（安装、常用对象、元素控件、鼠标操作、键盘操作）

1.说明 pywinauto是一个用于自动化Python 模块&#xff0c;适合Windows系统的软件&#xff08;GUI&#xff09;&#xff0c;可以通过Pywinauto遍历窗口&#xff08;对话框&#xff09;和窗口里的控件&#xff0c;也可以控制鼠标和键盘输入&#xff0c;所以它能做的事情比之前介…
阅读更多...
【Leetcode】124.二叉树中的最大路径和（Hard）

【Leetcode】124.二叉树中的最大路径和（Hard）

一、题目 1、题目描述 二叉树中的 路径 被定义为一条节点序列，序列中每对相邻节点之间都存在一条边。同一个节点在一条路径序列中 至多出现一次 。该路径 至少包含一个 节点，且不一定经过根节点。 路径和 是路径中各节点值的总和。 给你一个二叉树的根节点 root ，返回其…
阅读更多...
解决ubuntu文件系统变成只读的方法

解决ubuntu文件系统变成只读的方法

所欲文件变成只读&#xff0c;这种情况一般是程序执行发生错误&#xff0c;磁盘的一种保护措施 使用fsck修复 方法一&#xff1a; # 切换root sudo su # 修复磁盘错误 fsck -t ext4 -v /dev/sdb6 方法二&#xff1a; fsck.ext4 -y /dev/sdb6 重新用读写挂载 上面两种方法&…
阅读更多...
Redis 7 教程 事务 过渡篇

Redis 7 教程 事务 过渡篇

理论 可以一次执行多个命令，本质是一组命令的集合。一个事务中的所有命令都会序列化，按顺序地串行化执行而不会被其它命令插入，不许加塞 一个队列中，一次性、顺序性、排他性的执行一系列命令 Redis事务 VS 关系型数据库事务 单独的隔离操作Redis的事务仅仅是保证事务里的…
阅读更多...
libdrm全解析三十 —— 源码全解析（27）

libdrm全解析三十 —— 源码全解析（27）

接前一篇文章&#xff1a;libdrm全解析二十九 —— 源码全解析&#xff08;26&#xff09; 本文参考以下博文&#xff1a; DRM 驱动程序开发&#xff08;VKMS&#xff09; 特此致谢&#xff01; 本文开始对drmIoctl(DRM_IOCTL_MODE_CREATE_DUMB)以及其封装函数drmModeCreateD…
阅读更多...
JDBC：更新数据库

JDBC：更新数据库

JDBC&#xff1a;更新数据库 更新记录删除记录 为了更新数据库&#xff0c;您需要使用语句。但是&#xff0c;您不是调用executeQuery()方法&#xff0c;而是调用executeUpdate()方法。 可以对数据库执行两种类型的更新&#xff1a; 更新记录值删除记录 executeUpdate()方…
阅读更多...
龙蜥白皮书精选：SysAK—大规模复杂场景的系统运维利器

龙蜥白皮书精选：SysAK—大规模复杂场景的系统运维利器

文/系统运维 SIG 01 概述 SysAK&#xff08;System Analyse Kit&#xff09;是龙蜥社区系统运维 SIG&#xff0c;通过对过往百万服务器运维经验进行抽象总结&#xff0c;而提供的一个全方位的系统运维工具集&#xff0c;可以覆盖系统的日常监控、线上问题诊断和系统故障修复…
阅读更多...
checkstyle检查Java编程样式：隐藏属性

checkstyle检查Java编程样式：隐藏属性

checkstyle可以使用HiddenField检查是否存在隐藏属性的行为&#xff1a;局部变量或者参数是否隐藏了在同一个类中的属性。 所谓隐藏属性&#xff0c;就是指局部变量、或者参数&#xff08;例如构造器的参数、方法的参数&#xff09;的名字和同一个类中的属性的名字相同。如果相…
阅读更多...
【流量分析】Godzilla分析

【流量分析】Godzilla分析

一、哥斯拉流量的特点&#xff1a; 1.User-Agent (弱特征) 哥斯拉客户端使用JAVA语言编写&#xff0c;在默认的情况下&#xff0c;如果不修改User-Agent&#xff0c;User-Agent会类似于Java/1.8.0_121&#xff08;具体什么版本取决于JDK环境版本&#xff09;。但是哥斯拉支持…
阅读更多...
XML—标记语言

XML—标记语言

什么是XML&#xff1f; Extensible Markup Language&#xff0c;可扩展标记语言。 那标记语言是什么&#xff1f; 用文字做标记表达一些效果或携带一些数据。比如&#xff1a;HTML、XML 我的理解&#xff1a;用倾盆大雨表达雨很大 那XML为什么说是可扩展的呢&#xff1f; 还…
阅读更多...
《基于 Vue 组件库 的 Webpack5 配置》3.将 CSS 提取到单独的文件

《基于 Vue 组件库 的 Webpack5 配置》3.将 CSS 提取到单独的文件

使用 webpack 插件 mini-css-extract-plugin 需要额外安装 npm i mini-css-extract-pluginlatest -D&#xff1b; 同时打包 js 和 css 文件时&#xff0c;可参考 entry 高级用法&#xff1b; package.json 的配置如下 const { VueLoaderPlugin } require(vue-loader); // 可…
阅读更多...
为什么不建议使用Executors来创建线程池

为什么不建议使用Executors来创建线程池

&#xff08;1&#xff09;FixedThreadPool 当我们使用Executors创建FixedThreadPool时&#xff0c;对应的构造方法为&#xff1a; public static ExecutorService newFixedThreadPool(int nThreads) {return new ThreadPoolExecutor(nThreads, nThreads, 0L, ThimeUnit.MILLI…
阅读更多...
脚本：PDF文件批量转换成图片（python3）

脚本：PDF文件批量转换成图片（python3）

文章目录 语言用法源码1源码2Open Mind&#xff1a;more than one way to solve a problem 语言 语言&#xff1a;python 3 用法 用法&#xff1a;选择PDF文件所在的目录&#xff0c;点击 确定 后&#xff0c;自动将该目录下的所有PDF转换成单个图片&#xff0c;图片名称为:…
阅读更多...
vue2项目中表格的增删查改

vue2项目中表格的增删查改

我们在项目中经常会用到对于表格的增删查改操作&#xff0c;以下使用vue2elementui来实现表格的增删查改 表格的基本属性 基础表格如下:(其中需要注意的是当el-table元素中注入data对象数组后&#xff0c;在el-table-column中用prop属性来对应对象中的键名即可填入数据&#x…
阅读更多...
PDF制作成翻页电子书

PDF制作成翻页电子书

在日常工作中&#xff0c;大部分人使用的都是PDF文档发送给客户&#xff0c;但是PDF文档通常是静态的&#xff0c;缺乏交互性和视觉吸引力。那你有没有想过把它转换成翻页的电子书呢&#xff1f; 小编将告诉你操作步骤&#xff0c;非常简单 1.搜索FLBOOK在线制作电子杂志平台 …
阅读更多...
linux scatterlist阅读三

linux scatterlist阅读三

sg_copy_buffer 函数定义&#xff1a; /*** sg_copy_buffer - Copy data between a linear buffer and an SG list* sgl: The SG list* nents: Number of SG entries* buf: Where to copy from* buflen: The number of bytes to copy* skip: Number of bytes to sk…
阅读更多...
最新文章

Copyright @ 2022~2023