js toFixed()方法的坑

2019-04-18 08:59:46来源:博客园 阅读 ()

新老客户大回馈,云服务器低至5折

javascripttoFixed使用的是银行家舍入规则。

银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法。

简单来说就是:四舍六入五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一。但是不论引入toFixed解决浮点数计算精度缺失的问题也好,它有没有使用银行家舍入法也罢,都是为了解决精度的问题,但是又离不开二进制浮点数的环境,但至少他帮助我们找到了问题所在,从而让我们有解决方法。

 

一:四舍五入并不是真正的四舍五入

 

这个问题是在测试阶段我们的测试人员提出来的。一开始我也很吃惊,结果待我在控制台试了一些数据之后,我懵逼了,我一直在用的toFixed方法竟然有问题

 

chrome上的测试结果

 

 

 

1.35.toFixed(1) // 1.4 正确

 

1.335.toFixed(2) // 1.33 错误

 

1.3335.toFixed(3) // 1.333 错误

 

1.33335.toFixed(4) // 1.3334 正确

 

1.333335.toFixed(5)  // 1.33333 错误

 

1.3333335.toFixed(6) // 1.333333 错误

 

IE上的测试结果:

 

1.35.toFixed(1) // 1.4 正确

 

1.335.toFixed(2) // 1.34  正确

 

1.3335.toFixed(3) // 1.334 正确

 

1.33335.toFixed(4) // 1.3334 正确

 

1.333335.toFixed(5)  // 1.33334 正确

 

1.3333335.toFixed(6) // 1.333334 正

我个人的解决方法numFormat 为千分位方法

 

numFormat(Math.round(money*100/100).toFixed(2))

 

如果您觉得文章有用,可以打赏个咖啡钱

 


原文链接:https://www.cnblogs.com/zazahao/p/10705411.html
如有疑问请与原作者联系

标签:

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有

上一篇:js setattribute批量设置css样式的方法

下一篇:js基础复习点