如何保证javascript算数计算结果的精度
前言:
我们先看如下这个js的代数计算结果,什么? 明显不是我们想要的结果3.52!!
备注:其实这个小数计算精度问题,在弱类型语言python等语言中同样存在。
问题原因之所在:
JavaScript 语言的底层根本没有整数,所有数字都是小数(64位浮点数)。容易造成混淆的是,某些运算只有整数才能完成,此时 JavaScript 会自动把64位浮点数,转成32位整数,然后再进行运算!!
由于浮点数不是精确的值,所以涉及小数的比较和运算要特别小心。
解决方法:
解决的方案应该有很多种,下面介绍,我这边总结的一种方法。
parseFloat((2.3+1.22).toFixed(10))
思路分为如下两步,
1、将计算结果保留10位小数,
2、然后再用parseFloat这个全局函数来解析一下,即可得到我们想要的结果。
小结:
parseFloat 除了可以将字符串解析为浮点数,还有一个功能就是把类似2.3002000这种小数的尾部的0都去掉。
相关推荐
nmgxzm00 2020-11-10
ifconfig 2020-10-14
hhanbj 2020-11-17
zfszhangyuan 2020-11-16
古叶峰 2020-11-16
一个智障 2020-11-15
jipengx 2020-11-12
81427005 2020-11-11
xixixi 2020-11-11
游走的豚鼠君 2020-11-10
苗疆三刀的随手记 2020-11-10
Web卓不凡 2020-11-03
小飞侠V 2020-11-02
帕尼尼 2020-10-30
爱读书的旅行者 2020-10-26
帕尼尼 2020-10-23
杏仁技术站 2020-10-23
淼寒儿 2020-10-22