小数运算需要注意什么?
2018-06-24 00:07:54来源:未知 阅读 ()
1. 生活中0.1+0.2=0.3, 计算机中可不是这样,为什么呢?
大家都知道计算机类型都是有数据范围的。整形int范围是 正负21亿左右,小数类型同样也是有范围的,但是即使0.1~0.2之前如果问你有多少小数? 无穷个!!!
那么有限的范围怎么表示无限的数据呢? 告诉你表示不了,只能存储一个无限接近的数。
另外大家都知道计算机所有数据都是二进制,0.5即 2的-1次方,0.25是2的-2次方,同样解释了为什么不能表达所有小数。
这样大家也就明白下面这个例子 100个0.1相加为什么不等于10了。
因为计算机是一个无限接近与0.1的数字去表示0.1,所以一个有误差的数去参与计算,参与的越多误差越大。
2.针对上面的情况,那在财务上怎么处理小数位运算呢?
如果遇到小数,则先扩大为整数,最后结果计算出来以后,再除以扩大的倍数。请看下图
标签:
版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有
- web前端是什么?需要掌握什么技术? 2020-05-30
- 转web前端开发,需要哪些工具和需要学习什么? 2020-05-21
- web前端工程师的学习路径,每个阶段都需要学什么? 2020-05-04
- 除了HTML+CSS,高薪web前端还需要会什么技术? 2020-04-27
- 【Vue】状态管理 2020-04-25
IDC资讯: 主机资讯 注册资讯 托管资讯 vps资讯 网站建设
网站运营: 建站经验 策划盈利 搜索优化 网站推广 免费资源
网络编程: Asp.Net编程 Asp编程 Php编程 Xml编程 Access Mssql Mysql 其它
服务器技术: Web服务器 Ftp服务器 Mail服务器 Dns服务器 安全防护
软件技巧: 其它软件 Word Excel Powerpoint Ghost Vista QQ空间 QQ FlashGet 迅雷
网页制作: FrontPages Dreamweaver Javascript css photoshop fireworks Flash