什么是不确定尾数
我们都知道在计算机中数据由二进制表示,而浮点数则是小数的一种二进制表示方法。
由于浮点数存在精度限制,在Python中使用浮点数做运算时就可能会产生不确定尾数。
比如0.1 + 0.2
的运算结果应该是0.3
,但是在Python中输出的却是0.30000000000000004
。小数点后十七位出现了不确定尾数,这与浮点数的精度是相符合的。
不确定尾数的影响
不确定尾数是一种比较常见的现象,在编写程序时要注意避免,否则容易产生不易察觉的bug。
比如下面这段简单的程序,它判断用户的计算结果是否正确:
x = 0.1
y = 0.2
z = input(str(x) + '+' + str(y) + '=')
if x + y == eval(z):
print('Correct Answer')
else:
print('Wrong Answer')
如果用户输入了正确的答案0.3,程序本来应该输出“Correct Answer”,然而由于不确定尾数的存在,程序依然输出“Wrong Answer”。
实验结果:
如何避免受不确定尾数的影响
既然知道了不确定尾数会带来不可预料的bug,我们在编写程序时就要留意避免这种局面,一种常用的方法是使用round()
函数只保留运算结果的前几位小数,这样就自然去掉了小数点后十多位的不确定尾数。
刚才那段代码可以修改为如下版本:
x = 0.1
y = 0.2
z = input(str(x) + '+' + str(y) + '=')
if round(x + y, 6) == eval(z):
print('Correct Answer')
else:
print('Wrong Answer')
这里用round(x + y, 6)
来保留到小数点后六位。实验结果: