2021-07-01

python 的decimal模块

decimal用于精确的小数计算,如货币

decimal.Decimal() 可以传入整数和字符串进行实例化

Decimal('5.1296').quantize(exp=Decimal('0.001'), rounding=ROUND_HALF_DOWN)
# 5.130
# Decimal('0.001')表示保留三位小数,ROUND_HALF_DOWN 是舍弃策略
rounding参数说明

round-down:丢弃的数字被忽略;结果不变(向 0 舍入,截断):
1.123 --> 1.12
1.128 --> 1.12
1.125 --> 1.12
1.135 --> 1.13

round-half-up:如果丢弃的数字表示大于或等于一半(0.5),则结果应加 1;否则丢弃的数字将被忽略:
1.123 --> 1.12
1.128 --> 1.13
1.125 --> 1.13
1.135 --> 1.14

round-half-even:如果丢弃的数字表示大于一半(0.5),则结果系数加 1;如果它们代表不到一半,则结果不进行调整;否则,如果其最右边的数字是偶数,则结果不变,或者如果其最右边的数字是奇数,则结果加 1(生成偶数):

这个解释似乎不太对,看下下面的解释

向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则向相邻的偶数舍入。
如果舍弃部分左边的数字为奇数,则舍入行为与 ROUND_HALF_UP 相同;
如果为偶数,则舍入行为与 ROUND_HALF_DOWN 相同。
注意,在重复进行一系列计算时,此舍入模式可以将累加错误减到最小。
此舍入模式也称为“银行家舍入法”,主要在美国使用。四舍六入,五分两种情况。
如果前一位为奇数,则入位,否则舍去。
以下例子为保留小数点1位,那么这种舍入方式下的结果。
1.123 --> 1.12
1.128 --> 1.13
1.125 --> 1.12
1.135 --> 1.14

round-ceiling:如果所有丢弃的数字为零或如果符号为负,则结果不变;否则,结果加 1(向正无穷大舍入):
1.123 --> 1.13
1.128 --> 1.13
-1.123 --> -1.12
-1.128 --> -1.12

round-floor:如果所有丢弃的数字为零或如果符号为正,则结果不变;否则,结果的绝对值增加 1(向负无穷大舍入):
1.123 --> 1.12
1.128 --> 1.12
-1.123 --> -1.13
-1.128 --> -1.13

round-half-down:如果丢弃的数字表示大于一半(0.5),则结果加 1;否则丢弃的数字将被忽略:
1.123 --> 1.12
1.128 --> 1.13
1.125 --> 1.12
1.135 --> 1.13

round-up:如果所有丢弃的数字为零,则结果不变,否则结果增加 1(从 0 开始舍入):
1.123 --> 1.13
1.128 --> 1.13
1.125 --> 1.13
1.135 --> 1.14

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 源码:Lib/decimal.py decimal模块为快速正确舍入的十进制浮点运算提供支持。 它提供了float...
    山海皆可平z阅读 3,385评论 0 0
  • ✍我终于明白了细节打败爱情这句话.其实.真正爱一个人会不图回报地对她好.但真的也希望她能对自己好一点.再好一点.就...
    南情阅读 3,831评论 0 1
  • 我是黑夜里大雨纷飞的人啊 1 “又到一年六月,有人笑有人哭,有人欢乐有人忧愁,有人惊喜有人失落,有的觉得收获满满有...
    陌忘宇阅读 12,732评论 28 53
  • 信任包括信任自己和信任他人 很多时候,很多事情,失败、遗憾、错过,源于不自信,不信任他人 觉得自己做不成,别人做不...
    吴氵晃阅读 11,351评论 4 8
  • 步骤:发微博01-导航栏内容 -> 发微博02-自定义TextView -> 发微博03-完善TextView和...
    dibadalu阅读 8,360评论 1 3