python 中 float 和 decimal 的区别

decimal --- 十进制定点和浮点运算 — Python 3.11.8 文档请参考官方说明文档: decimal --- 十进制定点和浮点运算 — Python 3.11.8 文档

举例:

# 使用 Decimal 类型进行计算
from decimal import Decimaltotal_float = 0.1 + 0.2
total_decimal = Decimal('0.1') + Decimal('0.2')
print("[0.1 + 0.2] 使用 float 类型进行计算:", total_float)      # 输出可能是 0.30000000000000004,而不是期望的 0.3
print("[0.1 + 0.2] 使用 Decimal 类型进行计算:", total_decimal)
print()
print("[1.23 ÷ 0.1] 使用 float 类型进行计算:", (1.23 / 0.1) )   # 输出可能是 12.299999999999999 而不是期望的 12.3
print("[1.23 ÷ 0.1] 使用 Decimal 类型进行计算:", Decimal('1.23') / Decimal('0.1'))
print("[1.23 ÷ 0.1] 使用 float ->转成-> Decimal 类型进行计算:", Decimal(1.23) / Decimal(0.1))
print()
print("[1.23 + 0.1] 使用 float 类型进行计算:", (1.23 + 0.1))   # 这个可以正常输出1.33,
print("[1.23 + 0.1] 使用 Decimal 类型进行计算:", (Decimal('1.23')+Decimal('0.1')))

特点Decimalfloatint
数据类型十进制浮点数二进制浮点数整数
精度高精度,适用于金融计算有限精度,可能会存在精度损失无限精度
精确性提供精确的计算结果可能会存在舍入误差精确,没有小数部分
运算速度比 float 类型稍慢比 Decimal 类型稍快最快
内存消耗比 float 类型稍大比 Decimal 类型稍小最小
使用情景金融应用、精确计算科学计算、数据分析计数、索引和简单运算

Decimal('0.1') 跟 Decimal(0.1) 等效吗?

答:

不完全等效。

  • Decimal('0.1'):使用字符串表示的十进制数,可以确保精确地创建 Decimal 对象,因为字符串会被解析为准确的数字。
  • Decimal(0.1):使用浮点数表示的十进制数,由于浮点数本身可能存在精度损失,因此在创建 Decimal 对象时,可能会出现精度损失或不精确的情况。

因此,推荐使用字符串表示法 Decimal('0.1') 来确保精确性。

注意:上下文精度和舍入仅在算术运算期间发挥作用。 getcontext().prec   getcontext().rounding 

getcontext().prec = 6
a = Decimal('3.0')        # 没有发生影响,精度还是1位小数b = Decimal('3.1415926535') # 没有发生影响,精度还是10位小数c = Decimal('3.1415926535') + Decimal('2.7182818285') # 发生影响了,结果是 Decimal('5.85987')getcontext().rounding = ROUND_UPd = Decimal('3.1415926535') + Decimal('2.7182818285')  # 结果是 Decimal('5.85988')

quantize()  用法:

 decimal_object.quantize(exp, rounding=None, context=None)

参数说明

quantize 方法接受一个 Decimal 对象作为exp参数,表示将要量化到的精度。这个参数取值通常是Decimal('0.1')、Decimal('0.01')、Decimal('0.001')、Decimal('0.0001')(但我把这个参数取值为Decimal('1.2'),Decimal('13.55'),Decimal('0.335') 得到的效果是一样的,具体区别是什么,我不知道,未查清楚之前,还是老老实实用0.0001这种形式吧)

  • exp:这个参数是一个 Decimal 对象,表示将要量化到的精度。也可以是一个整数,表示量化到小数点后的位数。

  • rounding:可选参数,用于指定舍入规则。如果不提供该参数,则使用 Decimal 对象的上下文中指定的默认舍入规则。可选的取值有 decimal.ROUND_CEILING, decimal.ROUND_DOWN, decimal.ROUND_FLOOR, decimal.ROUND_HALF_DOWN, decimal.ROUND_HALF_EVEN, decimal.ROUND_HALF_UP, decimal.ROUND_UP, 和 decimal.ROUND_05UP

  • context:可选参数,用于指定 Decimal 操作的上下文环境。如果不提供该参数,则使用当前默认的上下文环境。

from decimal import Decimal# 小数位数作为变量
decimal_places = 2exp = Decimal('0.1') ** decimal_places# 创建要量化的 Decimal 对象
decimal_object = Decimal('3.14159')# 根据变量的值动态设置量化精度
quantized_result = decimal_object.quantize(exp)print(quantized_result)  # 输出: 3.14

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/757121.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

CMU 10-414/714: Deep Learning Systems --hw3

实现功能 在ndarray.py文件中完成一些python array操作 我们实现的NDArray底层存储就是一个一维向量,只不过会有一些额外的属性(如shape、strides)来表明这个flat array在维度上的分布。底层运算(如加法、矩阵乘法)都…

[LeetCode][LCR170]交易逆序对的总数

题目 LCR 170. 交易逆序对的总数 在股票交易中,如果前一天的股价高于后一天的股价,则可以认为存在一个「交易逆序对」。请设计一个程序,输入一段时间内的股票交易记录 record,返回其中存在的「交易逆序对」总数。 示例 1&#xf…

【VUE】前端阿里云OSS断点续传,分片上传

什么是OSS: 数据以对象(Object)的形式存储在OSS的存储空间(Bucket )中。如果要使用OSS存储数据,您需要先创建Bucket,并指定Bucket的地域、访问权限、存储类型等属性。创建Bucket后,您…

React - 实现菜单栏滚动

简介 本文将会基于react实现滚动菜单栏功能。 技术实现 实现效果 点击菜单,内容区域会自动滚动到对应卡片。内容区域滑动,指定菜单栏会被选中。 ScrollMenu.js import {useRef, useState} from "react"; import ./ScrollMenu.css;export co…

线程和进程的区别和联系

一、什么是进程 进程(Process), 是一个具有独立功能的程序关于某个数据集合的一次运行活动,是系统进行 【资源分配和调度】 的一个独立单位。 进程是【程序】的【一次执行】(是计算机中程序的执行过程,而不是计算机中的程序)进程是系统进行【资源分配和…

[LeetBook]【学习日记】排序算法——归并排序

主要思想 归并排序是一种分治算法,其排序过程包括分和治分是指将要排序的序列一分为二、二分为四,直到单个序列中只有一个数治是指在分完后,将每两个元素重新组合,四合为二、二合为一,最终完成排序 图片作者&#xf…

Gitlab部署及使用

1. 简介 GitLab 是一个用于仓库管理系统的开源项目,使用 Git 作为代码管理工具,并在此基础上搭建起来的Web服务。Gitlab是目前被广泛使用的基于 git 的开源代码管理平台,基于Ruby on Rails构建,主要针对软件开发过程中产生的代码…

taro之Picker,PickerView基础用法

1.Picker 直接上代码 import Taro,{Component} from "tarojs/taro"; import {View,Picker} from tarojs/components import { AtIcon } from taro-ui import { putKey } from /src/utils/storage-utilsclass AgriculturePolicy extends Component{constructor (prop…

基于禁忌搜索算法的VRP问题求解matlab仿真,带GUI界面,可设置参数

目录 1.程序功能描述 2.测试软件版本以及运行结果展示 3.核心程序 4.本算法原理 4.1车辆路径问题(Vehicle Routing Problem, VRP)概述 4.2 禁忌搜索算法(Tabu Search, TS)原理 5.完整程序 1.程序功能描述 基于禁忌搜索算法…

漫谈微服务网关

一、什么是服务网关 服务网关 路由转发 过滤器 1、路由转发:接收一切外界请求,转发到后端的微服务上去; 2、过滤器:在服务网关中可以完成一系列的横切功能,例如权限校验、限流以及监控等,这些都可以通过…

【Linux】Linux开发工具-vim / 编译器-gcc/g++ / 调试器-gdb / git操作 / 项目自动化构建工具-make/Makefile

主页:醋溜马桶圈-CSDN博客 专栏:Linux_醋溜马桶圈的博客-CSDN博客 gitee:mnxcc (mnxcc) - Gitee.com 目录 1.在Linux写自己的第一个程序 1.1 nano指令 1.2 nano指令的使用 1.2.1 介绍 1.2.2 演示 1.2.2.1 创建.c文件 1.2.2.2 nano cod…

Java后端八股------设计模式

Coffee可以设计成接口。 b

EPSON XV4001BC陀螺仪传感器汽车导航系统的应用

近年来为了提高汽车应用系统的可靠性,传感器融合系统被越来越多的应用到汽车领域,如汽车导航系统中的行人检测和预碰撞警告等,通过提供精准的导航信息,为驾驶员提供更安全,更稳定,更舒适的出行体验,例如在行人检测系统中,只使用低成本的红外传感器不能检测到行人的实际位置,而利…

本地gitlab-runner的创建与注册

引言 之前通过一些方式在本地创建runner,时而会出现一些未知的坑,所以写下本文记录runner可以无坑创建的方式。 以下注册runner到相应仓库的前提是已经在本地安装了gitlab-runner 具体安装方式见官网 本地gitlab-runner安装常用的指令 查看gitlab r…

5G网络架构及技术(一):入门级介绍

参考资料: [1] 5G网络架构,March 15, 2020 / By Adnan Ghayas [2] 5G应用场景,June 2, 2021 / By Adnan Ghayas [3] 独立和非独立5G网络,September 19, 2020 / By Adnan Ghayas 5G网络架构(一):…

Android14音频进阶:AudioFlinger究竟如何混音?(六十三)

简介: CSDN博客专家,专注Android/Linux系统,分享多mic语音方案、音视频、编解码等技术,与大家一起成长! 优质专栏:Audio工程师进阶系列【原创干货持续更新中……】🚀 优质专栏:多媒体系统工程师系列【原创干货持续更新中……】🚀 人生格言: 人生从来没有捷径,只…

高效的Gitlab Flow最佳实践

文章目录 一、git flow二、github flow三、gitlab flow四、基于gitlab flow的最佳实践1.语义化版本号2.测试发布3.bug修复 参考 业界包含三种flow: Git flowGithub flowGitlab flow 三种工作流程,有一个共同点:都采用"功能驱动式开发&…

SQL server服务连接失败,通过端口1433连接到主机 localhost的 TCP/IP 连接失败

SQL server服务连接失败,通过端口1433连接到主机 localhost的 TCP/IP 连接失败 出现这个错误的时候,首先确保sql的服务正常启动 通常来说正常安装的SQL server之后,会自带一个软件 打开:SQL server配置管理器 确认一下红框内的…

X1 grok-1 开源大语言模型下载

Grok 前言 我们正在发布我们的大型语言模型 Grok-1 的基本模型权重和网络架构。Grok-1 是一个 3140 亿参数的专家混合模型,由 xAI 从头开始训练。 这是 2023 年 10 月结束的 Grok-1 预训练阶段的原始基础模型检查点。这意味着该模型不会针对任何特定应用&#xff…

【c语言篇】每日一题-pta-实验11-2-9 链表逆置

题目如下&#xff1a; 裁判测试程序样例&#xff1a; #include <stdio.h> #include <stdlib.h>struct ListNode {int data;struct ListNode *next; };struct ListNode *createlist(); /*裁判实现&#xff0c;细节不表*/ struct ListNode *reverse( struct ListNod…