C语言double类型
我想判断一个数是不是小数位还有数字,用a-(int)a>0在oj里面错误,但是用a-(int)a>0.000001却可以得到正确结果,这是怎么回事??a是double类型...
我想判断一个数 是不是小数位还有数字 , 用a-(int)a>0 在 oj里面 错误,但是用 a-(int)a>0.000001 却可以得到正确结果 ,这是怎么回事?? a是double类型的
展开
展开全部
double不能精确表示所有十进制的小数,尽管double能精确表示所有整数,但将某个整数进行除n再乘n的操作后double就不一定能精确表示这个整数了,可能结果是n-0.000...0x或n+0.000...0x,此时n+0.000...0x-n>0仍然成立。所以,必须设立一个阈值,当某个double型数d-(int)d>这个阈值时,才可以认为d要大于其向下取正的值。这个阈值一般应设置为小于1e-6的数。但要注意不可太小,double能表示的最大精度为小数点后16位,且精度会随整数部分数值的增大而降低。比较任何浮点数的大小时都一定要小心。
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询