展开全部
小数点后面保留7位
不是什么意思,而是数据类型的定义而已.有的地方这个精度够了,就定义变量了呗
不是什么意思,而是数据类型的定义而已.有的地方这个精度够了,就定义变量了呗
已赞过
已踩过<
评论
收起
你对这个回答的评价是？
展开全部
这是由于计算机的存储机制造成的，参见
《float与double的区别》
－－－－－－－－－－－－－－－－
可以算出来，2^23，看下面的代码
TRACE("%.7f %.7f", 1.0/3.0, 1.0f/3.0f);
TRACE("%.8f %.8f", 1.0/3.0, 1.0f/3.0f);
从中可以看出，当输出7位时结果还是正确的，但到8位但就不行了
《float与double的区别》
－－－－－－－－－－－－－－－－
可以算出来，2^23，看下面的代码
TRACE("%.7f %.7f", 1.0/3.0, 1.0f/3.0f);
TRACE("%.8f %.8f", 1.0/3.0, 1.0f/3.0f);
从中可以看出，当输出7位时结果还是正确的，但到8位但就不行了
参考资料： http://hi.baidu.com/justevenly/blog/item/a466090f39a924e9aa645745.html
已赞过
已踩过<
评论
收起
你对这个回答的评价是？
推荐律师服务：
若未解决您的问题，请您详细描述您的问题，通过百度律临进行免费专业咨询
