float精度问题

  • 发现问题

订阅折扣里float类型的0.3、0.6乘100后显示为30.000019、60.000019，其余的数值不会

float(0.3) * 100 = 30.000019 
float(0.6) * 100 = 60.000019 
float(0.9) * 100 = 90.0    // 其他数值不会有精度问题 
float(0.3) * 10 = 3.0    // 0.3*10不会有精度问题 
float(0.3) * 1000 = 300.0    // 0.3*1000不会有精度问题 
float(0.3) * 10 * 10 = 30.0    // 0.3*10*10不会有精度问题 
double(0.3) * 100 = 30.0    // double类型不会有精度问题
  • 解决方法

先乘100后再截取N位小数

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容