小数运算需要注意什么？
2018-06-22 07:27:43来源：未知 阅读 ()
1. 生活中0.1+0.2=0.3, 计算机中可不是这样，为什么呢？
大家都知道计算机类型都是有数据范围的。整形int范围是 正负21亿左右，小数类型同样也是有范围的，但是即使0.1~0.2之前如果问你有多少小数？ 无穷个！！！
那么有限的范围怎么表示无限的数据呢？ 告诉你表示不了，只能存储一个无限接近的数。
另外大家都知道计算机所有数据都是二进制，0.5即 2的-1次方，0.25是2的-2次方，同样解释了为什么不能表达所有小数。
这样大家也就明白下面这个例子 100个0.1相加为什么不等于10了。
因为计算机是一个无限接近与0.1的数字去表示0.1，所以一个有误差的数去参与计算，参与的越多误差越大。
2.针对上面的情况，那在财务上怎么处理小数位运算呢？
如果遇到小数，则先扩大为整数，最后结果计算出来以后，再除以扩大的倍数。请看下图
标签：
版权申明：本站文章部分自网络，如有侵权，请联系：west999com@outlook.com
特别注意：本站所有转载文章言论不代表本站观点，本站所提供的摄影照片，插画，设计作品，如需使用，请与原作者联系，版权归原作者所有
上一篇：[.NET Core] 简单读取 json 配置文件
下一篇：C#格式规范
- .Net项目中一些常用验证操作 2020-02-27
- ASP.NET生成随机密码函数的介绍 2019-08-09
- Vue+Element UI 实现视频上传 2019-07-24
- 【转载】sqlserver中小数类型float和deciaml类型比较 2019-07-23
- 构建高性能ASP.NET站点 网站优化需要考虑的方面 2019-06-21
IDC资讯： 主机资讯 注册资讯 托管资讯 vps资讯 网站建设
网站运营： 建站经验 策划盈利 搜索优化 网站推广 免费资源
网络编程： Asp.Net编程 Asp编程 Php编程 Xml编程 Access Mssql Mysql 其它
服务器技术： Web服务器 Ftp服务器 Mail服务器 Dns服务器 安全防护
软件技巧： 其它软件 Word Excel Powerpoint Ghost Vista QQ空间 QQ FlashGet 迅雷
网页制作： FrontPages Dreamweaver Javascript css photoshop fireworks Flash
