vb中single与double

 我来答
只洋剑E
2020-03-31 · TA获得超过3.7万个赞
知道大有可为答主
回答量:1.5万
采纳率:32%
帮助的人:897万
展开全部
因为single和double占用的内存长度不同,single是4字节,double是8字节,所以
single能表示最大精度是小数点后约六位,double能表示的精度是小数点后14位,
1.1+1.1=2.20000002384186
因为这个式子里都是single,那么结果中小数点后六位之前是准确的,六位以后就是不准确的。
因为输出的是按double处理的,所以,显示为精确到小数点后14为,所以,才出现误差,而你如果使用double计算,因为还在有效精度范围内,所以不会有误差。
如果你输出的是按single处理的,那么也不会有误差。
下面的代码你可运行一下,就能理解了:
Dim
a
As
Single,
b
As
Single,
c
As
Double,
d
As
Single
a
=
1.1
b
=
1.1
c
=
a
+
b
d
=
a
+
b
Debug.Print
c,
d
输出结果:
2.20000004768372
2.2
如果存在类型转换,那么可能就有误差,如果没有精度转换,那么就不会有误差
创作者IrZwd7c2kU
2020-04-03 · TA获得超过3.7万个赞
知道大有可为答主
回答量:1.2万
采纳率:29%
帮助的人:960万
展开全部
操作数据的大小和精度不同
single比double的数据类型数据大小要小,而且精度要小,但占用的内存要小一倍。
所以single能够处理的数据,最好不要用double,这样程序会运行的快一些
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式