浮点数不精确的原因是什么?
floatb=2.1;cout<<b-2.09f<<endl;这么简单的运算都不能得到想要的0.01,输出结果是0.0099999我稍微看了一下浮点数存储的相关知识,还是...
float b=2.1;
cout<<b-2.09f<<endl;
这么简单的运算都不能得到想要的0.01,输出结果是0.0099999
我稍微看了一下浮点数存储的相关知识,还是无法解释。
我想知道到底在内存中进行了怎样的二进制运算算出后面这个不精确的结果!! 展开
cout<<b-2.09f<<endl;
这么简单的运算都不能得到想要的0.01,输出结果是0.0099999
我稍微看了一下浮点数存储的相关知识,还是无法解释。
我想知道到底在内存中进行了怎样的二进制运算算出后面这个不精确的结果!! 展开
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询