python decimal用法_Python decimal模块使用方法详解

decimal 模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持

1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。

2.要从浮点数据转换为Decimal类型

from decimal import *

Decimal.from_float(12.222)

# 结果为Decimal('12.2219999999999995310417943983338773250579833984375')

3.通过设定有效数字,限定结果样式

from decimal import *

getcontext().prec = 6

Decimal(1)/Decimal(7)

# 结果为Decimal('0.142857'),六个有效数字

4.四舍五入,保留几位小数

from decimal import *

Decimal('50.5679').quantize(Decimal('0.00'))

# 结果为Decimal('50.57'),结果四舍五入保留了两位小数

5.Decimal 结果转化为string

from decimal import *

str(Decimal('3.40').quantize(Decimal('0.0')))

# 结果为'3.4',字符串类型

Python3中decimal处理计算精度问题示例

#!/usr/bin/python3

# coding:utf-8

import decimal

from decimal import Decimal, getcontext

def demo():

"""

取整问题:

ROUND_CEILING 总是趋向无穷大向上取整

ROUND_DOWN 总是趋向0取整

ROUND_FLOOR 总是趋向负无穷大向下取整

ROUND_HALF_DOWN 如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整

ROUND_HALF_EVEN 类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。

偶数值会导致结果向下取整,奇数值导致结果向上取整

ROUND_HALF_UP 类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整

ROUND_UP 朝0的反方向取整

ROUND_05UP 如果最后一位是0或5,则朝0的反方向取整;否则向0取整

"""

# 1.常规计算

getcontext().prec = 9

r1 = Decimal(1) / Decimal(3)

print("r1 ", r1) # r1 0.333333333

# 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数

r2 = Decimal(10) / Decimal(3)

print("r2 ", r2) # r2 3.33333333

# 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数

r3 = Decimal(1) / Decimal(3)

print("r3 ", r3.quantize(Decimal('0.00000000'))) # r3 0.33333333

r4 = Decimal(10) / Decimal(3)

print("r4 ", r4.quantize(Decimal('0.00000000'))) # r4 3.33333333

r5 = Decimal(10) / Decimal(str(1.5))

print("r5 ", r5.quantize(Decimal('0.00000000'))) # r5 6.66666667

# 4.向上取整

getcontext().rounding = getattr(decimal, 'ROUND_CEILING') # 总是趋向无穷大向上取整

r6 = Decimal(10) / Decimal(str(1.5)) # r6 6.66666667

print("r6 ", r6.quantize(Decimal('0.00000000')))

r7 = Decimal(10) / Decimal(3) # r7 3.33333334

print("r7 ", r7.quantize(Decimal('0.00000000')))

# 5.向下取整

getcontext().rounding = getattr(decimal, 'ROUND_FLOOR') # 总是趋向无穷大向下取整

r8 = Decimal(10) / Decimal(str(1.5)) # r8 6.66666666

print("r8 ", r8.quantize(Decimal('0.00000000')))

r9 = Decimal(10) / Decimal(3) # r9 3.33333333

print("r9 ", r9.quantize(Decimal('0.00000000')))

if __name__ == '__main__':

demo()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/501231.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Linux的实际操作:任务调度基本说明

Linux可以定时调度我们的脚本或者代码 任务调度:值得是系统在某个时间执行特定的命令或者程序 任务调度的分类: 1.系统工作:有些重要的工作必须周而复始执行。如病毒扫描 2.个别用户工作:个别用户可能希望执行某些程序&#x…

arcgis批量出图python代码_python使用arcpy.mapping模块批量出图

出图是项目里常见的任务,有的项目甚至会要上百张图片,所以批量出土工具很有必要。arcpy.mapping就是ArcGIS里的出图模块,能快速完成一个出图工具。arcpy.mapping模块里常用的类有MapDocument、DataFrame、Layer、DataDrivenPages和TextElemen…

python读取命令行输入-python获取命令行输入参数列表

(一)单一独立的参数 如果命令行输入的参数都是各自单一独立的,直接用个循环把所有参数逐一读出来就行了。sys模块里面直接用args sys.argv就可以获取到所有参数了(返回值args是一个list),args0]是执行的py…

Linux的实际操作:Linux磁盘分区 、挂载

1.分区基础知识: (1)最多支持4个主分区 (2)系统只能安装在主分区 (3)扩展分区要占用一个主分区 (4)MBR最大只支持 2TB,但是拥有最好的兼容性 2.gpt分区&…

论坛高级签名_首届中国定制白酒高峰论坛在天津盘山举行

阅读本文前,请您先点击上面的蓝色字体,再点击“关注”,这样您就可以继续免费收到文章了。每天都有分享,完全是免费订阅,请放心关注。9月13日,2020行走的酒窖——首届中国(华北)白酒定制高峰论坛&#xff0c…

glibc版本查看_Linux开发必知内容整理 | libc、glibc和glib的关系

在进行Linux开发不可避免的要调用一些系统的API,我们经常开到的概念有诸如glibc、libc和glib等等。那么这些系统库之前的关系是什么样的呢?下面小编带大家了解一下这些库之前的共同点和差异,希望对以后的编程开发提供帮助。glibc 和 libc的关…

Linux ls常见的命令选项【转载】

-a all ,查看目录下的所有文件,包括隐藏文件 -l 长列表显示 -h human 以人性化的方式显示出来 -d 只列出目录名,不列出其他内容 (比如在查询文件时加上-d 就只会显示当前文件的信息,不会显示文件内的信息内容…

威纶触摸屏使用说明书_MODBUS通信之触摸屏与变频器通信知识分享(一)

今天跟大家分享一个有关于MODBUS通信的知识,使用触摸屏不经过PLC,直接对变频器或是仪表进行监控:这里面我们选择用西门子的SMART 700IE的触摸屏及台达VFD_M的变频器为例给大家进行介绍。需要完成这样的一个控制,需要掌握以下几个知…

反函数连续性定理 反三角_高中数学:三角函数诱导公式及诱导公式口诀

定义、定理、公式是学好数学的基础,一些常见的题型的解答方法和技巧也需要牢记于心,今天给大家介绍19种数学记忆方法,会让你学习数学变得轻松!1.口诀记忆法高中数学中,有些方法如果能编成顺口溜或歌诀,可以…

Linux系统常用的基本命令【转载CSDN象在舞】

本文主要介绍Linux中常用的基本命令,简单实用,以供大家参考,如有错误,欢迎大家指出。下面开始介绍。 一、查看哪个用户登录的系统 1、users命令 2、whoami命令或者who am i命令 二、查看哪些用户在系统上工作 1、who命令 2、w命…

swiper5 点击图换下一张_电商小牛教你如何选择点击率超同行三倍的爆品主图!...

当我们已经分析好了消费者的购物行为习惯,也把主图的设计原则做好了,接下来我们还需要做的就是如何合理布局主图。很多商家主图位置可能一半都没用,甚至很多商家就用了一张图位置,这是不可取的。现在很多消费者是直接看完主图就下…

iphone屏幕突然变暗_iPhone 玩游戏时屏幕突然变暗,来看看是什么原因?

有没有小伙伴的苹果手机遇到过这种情况,手机打着王者好好的屏幕突然变暗了,而且屏幕亮度调到最大也还是没有亮起来,这到底是怎么回事?后来我仔细研究了一下才知道这其中的原因,朋友们也来看看。一般手机屏幕突然变暗&a…

Linux的实际操作:Linux的分区

原理介绍: (1)对于Linux来说,无论有多少个分区,分配给哪一个目录使用,归根结底就只有一个根目录,一个独立且唯一的文件结构,Linux中的每一个分区都是用来组成整个文件系统的一部分 …

python 报错继续执行_Python报错不要慌,这三个关键词帮你解决问题!

本文转载自公众号“读芯术”(ID:AI_Discovery)。写代码必然会出现错误,而错误处理可以针对这些错误提前做好准备。通常出现错误时,脚本会停止运行,而有了错误处理,脚本就可以继续运行。为此,我们需要了解下…

vscode如何连接新设备_台州要用“超级平台”连接300万台工业设备,成为全省新示范...

全省工业互联网平台推广会上台州工业互联网平台发布、7个工业互联网项目签约——“企业间一座座孤立的烟囱,通过数据‘联姻’打破了信息孤岛。”5月22日,在路桥召开的全省工业互联网平台建设推广会上,专家们这样形容正在发生的变革。工业互联…

Linux的实际操作:给Linux添加一块新硬盘

因为某种原因,Linux系统的一块硬盘已经用完了,现在需要新增加一块硬盘挂载到Linux文件系统上 案例:增加一块 2G的硬盘 sdb1,挂载到文件系统中新增的/home/newdisk文件目录下,后续通过newdisk就可以操控sdb1硬盘 如何增…

归并排序 java_马士兵说之归并排序

大家对于排序应该是挺熟悉的吧,马士兵老师特意为排序出了一波视频,当然文章是转自博客园的,马士兵老师的视频观看请点击下方的了解更多概要本章介绍排序算法中的归并排序。内容包括:1. 归并排序介绍2. 归并排序图文说明3. 归并排序…

LeetCode //C - 1456. Maximum Number of Vowels in a Substring of Given Length

1456. Maximum Number of Vowels in a Substring of Given Length Given a string s and an integer k, return the maximum number of vowel letters in any substring of s with length k. Vowel letters in English are ‘a’, ‘e’, ‘i’, ‘o’, and ‘u’. Example…

tft lcd驱动参数详解_LED拼接屏和LCD拼接屏的区别

LED屏幕和LCD屏幕是每个人都经常听到的两个屏幕,但是每个人之间的区别尚不清楚。不认识的人可能会认为两者之间没有区别。让我们谈谈LED和LCD屏幕之间的区别:首先,什么是LED? LED是发光二极管,LED拼接屏是由发光二极管…

求有向图的简单路径_2020福建农信社招聘-关键路径

2020福建农信社公告暂未发布,预计于2020年1月发布公告,历年福建农信社笔试以纸考形式进行,同时笔试内容包含经济、金融、计算机、法律、财会、公基、三农、农信文化、普惠金融、市场营销、时政等部分,相对而言考试知识点较多&…