50分求解 VB6 ROUND函数问题。在线等!!
代码1:DimaAsDoublea=2.025Debug.PrintRound(a,2)按照“四舍六入五留双”的规则,输出为:2.02代码:2DimaAsDoublea=...
代码1:
Dim a As Double
a = 2.025
Debug.Print Round(a, 2)
按照“四舍六入五留双”的规则,输出为:2.02
代码:2
Dim a As Double
a = 1.35 * 1.5
Debug.Print Round(a, 2)
结果却是:2.03
请帮忙解决此问题,该怎么该写代码2,使结果为2.02,我要2.02!!!急!!
1楼和2楼的,我知道原因,只是想要个解决办法。
3楼的,你的方法不行,不能满足我的意思。 展开
Dim a As Double
a = 2.025
Debug.Print Round(a, 2)
按照“四舍六入五留双”的规则,输出为:2.02
代码:2
Dim a As Double
a = 1.35 * 1.5
Debug.Print Round(a, 2)
结果却是:2.03
请帮忙解决此问题,该怎么该写代码2,使结果为2.02,我要2.02!!!急!!
1楼和2楼的,我知道原因,只是想要个解决办法。
3楼的,你的方法不行,不能满足我的意思。 展开
4个回答
展开全部
这个问题不在于Round,而是在于Double的精度问题。Double在计算机中以二进制数表示的时候并不能精确的转换,也就导致了精度的损失。
1.35 * 1.5和2.025不相等,因此结果就和你预想的不同了。
1.35 * 1.5和2.025不相等,因此结果就和你预想的不同了。
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
对 楼上说的没错。
这个问题不在于Round,而是在于Double的精度问题。更准确的说,应该是浮点数的表示问题,不单单是Double,只要是浮点类型,都会存在这种极小的误差。
为什么1.35 * 1.5和2.025不相等,是因为1.35这个数用浮点数是没办法精确描述出来的。1.35 * 1.5的结果比2.025大了一丁点。
这个问题不在于Round,而是在于Double的精度问题。更准确的说,应该是浮点数的表示问题,不单单是Double,只要是浮点类型,都会存在这种极小的误差。
为什么1.35 * 1.5和2.025不相等,是因为1.35这个数用浮点数是没办法精确描述出来的。1.35 * 1.5的结果比2.025大了一丁点。
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
Round函数实行Banker舍入,而不是我们习惯的算术舍入(四舍五入)。
可以参考微软的Knowledge Base
Q194983 PRB: Round Function Different in VBA 6 and Excel Spreadsheet
Q189847 INFO: New String and Format Functions in Visual Basic 6.0
Q196652 HOWTO: Implement Custom Rounding Procedures
你这个问题可以用Fix函数来解决
Dim a As Double
a = 1.35 * 1.5
Debug.Print Fix(a*100)/100
可以参考微软的Knowledge Base
Q194983 PRB: Round Function Different in VBA 6 and Excel Spreadsheet
Q189847 INFO: New String and Format Functions in Visual Basic 6.0
Q196652 HOWTO: Implement Custom Rounding Procedures
你这个问题可以用Fix函数来解决
Dim a As Double
a = 1.35 * 1.5
Debug.Print Fix(a*100)/100
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
晕,这么简单的问题!
看解:
Dim a As Double
a = 1.35 * 1.5
Debug.Print Round(CStr(a), 2)
看解:
Dim a As Double
a = 1.35 * 1.5
Debug.Print Round(CStr(a), 2)
参考资料: 本人大脑
本回答被提问者采纳
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询