小数运算需要注意什么?

2018-06-24 00:07:54来源:未知 阅读 ()

新老客户大回馈,云服务器低至5折

1. 生活中0.1+0.2=0.3, 计算机中可不是这样,为什么呢?

大家都知道计算机类型都是有数据范围的。整形int范围是 正负21亿左右,小数类型同样也是有范围的,但是即使0.1~0.2之前如果问你有多少小数? 无穷个!!!

那么有限的范围怎么表示无限的数据呢? 告诉你表示不了,只能存储一个无限接近的数。

另外大家都知道计算机所有数据都是二进制,0.5即 2的-1次方,0.25是2的-2次方,同样解释了为什么不能表达所有小数。

这样大家也就明白下面这个例子 100个0.1相加为什么不等于10了。

 

因为计算机是一个无限接近与0.1的数字去表示0.1,所以一个有误差的数去参与计算,参与的越多误差越大

2.针对上面的情况,那在财务上怎么处理小数位运算呢?

  如果遇到小数,则先扩大为整数,最后结果计算出来以后,再除以扩大的倍数。请看下图

 

标签:

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有

上一篇:asp.net mvc Html.BeginForm()及Html.Action用法

下一篇:sql 去掉 空格