java中double类型存储和运算的问题
问题源于System.out.println(2.0-1.1);的输出是0.8999999999999999。网上大家都认同的一个合理解释是“有些小数在机器中是不能精确表...
问题源于System.out.println(2.0-1.1);的输出是0.8999999999999999。网上大家都认同的一个合理解释是“有些小数在机器中是不能精确表示的”。是的,对于一位小数(十进制),除了0.0和0.5,其余的在机器中都不能精确表示(二进制),小数位多了也同样有很多不能精确表示。但是进行另外两次测试,System.out.println(1.1*10);System.out.println(1.11*10);输出结果是11.0和11.100000000000001。既然这两次机器中同样是使用不精确的数1.1和1.11来计算,为何结果有一个是精确的,另一个是不精确的?
还有,如果把上面得例子中的双精度double型全换成单精度float型,所有的结果都是精确的,正确的。但是float和double一样在机器中存储时是不精确的无限小数,为什么结果有差别? 展开
还有,如果把上面得例子中的双精度double型全换成单精度float型,所有的结果都是精确的,正确的。但是float和double一样在机器中存储时是不精确的无限小数,为什么结果有差别? 展开
2个回答
2013-08-05
展开全部
小数好像只是表示无限接近那个数 不等于那个数 试试 2.0/0.0 不会出现异常0.0 只是一个无线接近0的数 但是不会被表示为0
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
2013-08-05
展开全部
跟极限值有关系!
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询