大数吃小数是什么情况,怎么避免?

cnxjtlow
推荐于2016-12-02 · TA获得超过4275个赞
知道小有建树答主
回答量:961
采纳率:0%
帮助的人:2313万
展开全部
有一天,你的管家缺钱了,就偷了你40万元。然后在跟你汇报的时候,依然如实的报告你有921.24亿(实际是921.2383亿,四舍五入就是921.24亿)。 那么假设这个管家是向你借了40万,而且你的账本只能记录这样的一个小数点后有两位小数的数,写不下第三位。这个时候你以为你有921.24亿,所以你会觉得你借钱之后有921.236亿,但是本子写不下,必须四舍五入,所以你的账本上还是会记录921.24亿。如此的借钱行为进行10次,账本上依然记录的是921.24亿,而你此时应该只有921.20亿。 因为表示精度的关系,那个小数(100万)的影响在最后的结果中表示不出来了,我们就说它被大数吃掉了。 一般可以考虑先把小数一起处理,比如累加,累加成大数以后再跟大数处理。或者使用表示范围更广的数据类型(比如一开始我们用的精确到个位的数),避免被吃掉。
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式