js关于小数点失精算法修正0.07*100竟然=7.000000000000001
// 关于js失精算法你都遇到哪些,让我们一起来细数一下吧 console.log(0.07*100); // 7.000000000000001 console.log(0.1+0.2); // 0.30000000000000004 // ........
事实上,0.1 + 0.2 这这样的 0.1000000000000000055511151231257827021181583404541015625 + 0.200000000000000011102230246251565404236316680908203125 = 0.3000000000000000444089209850062616169452667236328125
这也是造成计算失精的主要原因。
wiki:https://en.wikipedia.org/wiki/IEEE_floating_point#Basic_formats
oracle失精算法专栏:http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html
解决方案:
如果是取整数,我们可以这样:
Math.round((0.07*100))
需要保留小数的,我们可以这样:
parseFloat((0.07*100).toPrecision(12)) // = 7 parseFloat((0.01+0.02).toPrecision(12)) // = 0.03
更多实例应用扫码体验:
相关推荐
RealJianyuan 2020-06-14
秒懂数学 2014-01-26
xiaoge00 2019-10-19
dreamjava 2014-07-08
ykmail 2019-08-19
joyleeLyhua 2009-09-02
我壮壮壮 2019-07-01
一只懒虫 2016-08-18
xiahanss 2011-11-30
zluxingzhe 2019-06-27
xiaocaibai 2014-07-08
秒懂数学 2014-01-26
libowen0 2019-06-26
pfpfpfpfpf 2010-04-21
伊文硕Oracle 2013-03-21
chenqiangdage 2012-11-27