为何c++中static_cast<int>(10.03*100)输出变成1002?
展开全部
你好。是这样的,因为小数在计算机里是用2进制表示的,在位数固定的情况下,其实大部分情况下计算机是无法精确表达小数的值的。
比如3.5,可以表达为1 * 2 + 1 + 1* 2^(-1) 可以看到,小数的表示最小单位和2的-n次方有关,比这个值小的数值,是n位二进制不能表示的。
比如double d = 0.03;在调试模式下可以看到实际上d的值是0.02999999。
这种情况下10.03*100实际得到的是1002.999999
再进行类型转换,去掉小数,得到1002
比如3.5,可以表达为1 * 2 + 1 + 1* 2^(-1) 可以看到,小数的表示最小单位和2的-n次方有关,比这个值小的数值,是n位二进制不能表示的。
比如double d = 0.03;在调试模式下可以看到实际上d的值是0.02999999。
这种情况下10.03*100实际得到的是1002.999999
再进行类型转换,去掉小数,得到1002
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询