vb中single与double
我在做一个很简单的vb计算器时定义x,y为single时计算小数时比如1.1+1.1=2.20000002384186为什么后面会。。。但定义为double时就对了原因?...
我在做一个很简单的vb计算器时 定义x,y为single时 计算小数时 比如1.1+1.1=2.20000002384186为什么后面会。。。 但定义为double时就对了
原因? 我要根本的原因 不要说 一个是单精度 一个是双精度 请跟我一步一步的讲 谢谢!!!!!!!!!!!!!!!!!!!!!!!!!!!! 展开
原因? 我要根本的原因 不要说 一个是单精度 一个是双精度 请跟我一步一步的讲 谢谢!!!!!!!!!!!!!!!!!!!!!!!!!!!! 展开
2个回答
展开全部
因为single和double占用的内存长度不同,single是4字节,double是8字节,所以
single能表示最大精度是小数点后约六位,double能表示的精度是小数点后14位,
1.1+1.1=2.20000002384186
因为这个式子里都是single,那么结果中小数点后六位之前是准确的,六位以后就是不准确的。
因为输出的是按double处理的,所以,显示为精确到小数点后14为,所以,才出现误差,而你如果使用double计算,因为还在有效精度范围内,所以不会有误差。
如果你输出的是按single处理的,那么也不会有误差。
下面的代码你可运行一下,就能理解了:
Dim a As Single, b As Single, c As Double, d As Single
a = 1.1
b = 1.1
c = a + b
d = a + b
Debug.Print c, d
输出结果: 2.20000004768372 2.2
如果存在类型转换,那么可能就有误差,如果没有精度转换,那么就不会有误差
single能表示最大精度是小数点后约六位,double能表示的精度是小数点后14位,
1.1+1.1=2.20000002384186
因为这个式子里都是single,那么结果中小数点后六位之前是准确的,六位以后就是不准确的。
因为输出的是按double处理的,所以,显示为精确到小数点后14为,所以,才出现误差,而你如果使用double计算,因为还在有效精度范围内,所以不会有误差。
如果你输出的是按single处理的,那么也不会有误差。
下面的代码你可运行一下,就能理解了:
Dim a As Single, b As Single, c As Double, d As Single
a = 1.1
b = 1.1
c = a + b
d = a + b
Debug.Print c, d
输出结果: 2.20000004768372 2.2
如果存在类型转换,那么可能就有误差,如果没有精度转换,那么就不会有误差
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询