老板:用float存储金额为什么要扣我工资

公司最近在做交易系统,交易系统肯定是要和钱打交道的,和钱有关,自然而然很容易想到用float存储,但是使用float存储金额做的计算是近似计算。老板:用float做计算造成公司损失的钱都往你工资里扣


哼,扣工资就扣工资。但还是得静下心来想想为什么不能用float

为什么不能使用float存储金额

首先看个例子:FloatTest.java

public class FloatTest {
    public static void main(String[] args) {
        float f1 = 6.6f;
        float f2 = 1.3f;
        System.out.println(f1 + f2);
    }
}

结果:7.8999996 和自己口算的值竟然不一样

image.png

计算机只认识0和1,所有类型的计算首先会转化为二进制的计算

从计算机二进制角度计算 6.6 + 1.3 的过程

float底层存储

计算是由CPU来完成的,CPU表示浮点数由三部分组成
分为三个部分,符号位(sign),指数部分(exponent)和有效部分(fraction, mantissa)。 其中float总共占用32位,符号位,指数部分,有效部分各占1位,8位,23位


二进制的转化

对于实数,转化为二进制分为两部分,第一部分整数部分,第二部分是小数部分。整数部分计算二进制大家都很熟悉。

整数部分的计算:6转化为二进制
除以2 结果 小数部分
6 3 0
3 1 1
1 0 1

所以6最终的二进制为110

小数部分的计算

将小数乘以2,取整数部分作为二进制的值,然后再将小数乘以2,再取整数部分,以此往复循环

0.6转化为二进制
乘以2 整数部分 小数部分
1.2 1 0.2
0.4 0 0.4
0.8 0 0.8
1.6 1 0.6
1.2 1 0.2

...进入循环,循环体为1001
所以0.6转化为二进制为0.10011001...
6.6转化为二进制为110.10011001...

规约化

通过规约化将小数转为规约形式,类似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个1。110.10011001规约化为:1.1010011001*2^2

指数偏移值

指数偏移值 = 固定值 + 规约化的指数值
固定值=2^e-1,其中的e为存储指数部分的比特位数,前面提到的float为8位。所以float中规定化值为127
6.6的二进制值规约化以后为1.1010011001*2^2,指数是2,所以偏移值就是127+2=129,转换为二进制就是10000001,

拼接6.6

6.6为正数,符号位为0,指数部分为偏移值的二进制10000001,有效部分为规约形式的小数部分,取小数的前23位即10100110011001100110011,最后拼接到一起即01000000110100110011001100110011
到这里已经大致可以知道float为什么不精确了,首先在存储的时候就会造成精度损失了,在这里小数部分的二进制是循环的,但是仍然只能取前23位。double造成精度损失的原因也是如此

求和

原来如此


不能使用float那用什么类型存储金额?

  • 使用int
    数据库存储的是金额的分值,显示的时候在转化为元
  • 使用decimal
    mysql中decimal存储类型的使用
     column_name  decimal(P,D);
    
    D:代表小数点后的位数
    P:有效数字数的精度,小数点也算一位
    测试例子
    数据表的创建:
     CREATE TABLE `test_decimal` (
      `id` int(11) NOT NULL,
      `amount` decimal(10,2) NOT NULL
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4
    
    对应的DAO层代码:TestDecimalDao.java
    /**
     * @description dao层
     *
     * @author JoyHe
     * @date 2018/11/05
     * @version 1.0
     */
    @Repository
    public interface TestDecimalDao {
        @Select("select * from test_decimal where id = #{id}")
        TestDecimal getTestDecimal(int id);
    }
    
    测试类:TestDecimalDaoTest.java
    /**
     * @description 测试类
     *
     * @author JoyHe
     * @date 2018/11/05
     * @version 1.0
     */
    public class TestDecimalDaoTest extends BaseTest {
        @Resource
        private TestDecimalDao testDecimalDao;
    
        @Test
        public void test() {
            TestDecimal testDecimal1 =   testDecimalDao.getTestDecimal(1);
            TestDecimal testDecimal2 =   testDecimalDao.getTestDecimal(2);
            BigDecimal result =   testDecimal1.getAmount().add(testDecimal2.getAmount());
            System.out.println(result.floatValue());
        }
    }
    

    说明:jdbcType为decimal转化为javaType为BigDecimal
    测试结果:


    image.png

    是符合预期的7.9

使用decimal存储类型的缺点

  • 占用存储空间。浮点类型在存储同样范围的值时,通常比decimal使用更少的空间
  • 使用decimal计算效率不高

参考:
1.《浮点计算精度损失原因》
2.《高性能MySQL》

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 背景 在java中float赋值给double,会产生精度问题。 输出为2.0999999046325684。 小...
    我叫小小强阅读 19,384评论 2 23
  • 天蒙蒙亮,伴着曼妙的音乐,生活碰撞的黎明里,诗歌浸润每一个生命,为每一个早晨注入力量的源泉。《在命运无风的日子》我...
    书香絮阅读 507评论 0 2
  • 劫 我撕碎了我的心 我剖开了我的眼 我弄脏了我的一切 在最深的夜 在最凉的外街 我以为圆滑会很简单 以至于我目空了...
    夏虫简阅读 295评论 0 0
  • 潇潇这两天因为不太舒服,没有去上学。担心她落下功课,于是就针对课文给她讲了下。 她说这篇课文前天老师讲过了,老...
    我们的亲子时光阅读 442评论 0 0
  • 我一直会在 如果不曾见,或许就不相欠 也就不会骗了自己的梦,也骗了自己的情 我流连于你周围的世界中,寻一处成空 在...
    清淑一言阅读 136评论 0 0