Delphi中两个数字调试显示值相等,但是用'<>'判断为true。求指导!!!
varsumProportion0,sumProportion1:double;......sumProportion0:=0.0;//有效值为-1的总权重sumProp...
var sumProportion0,sumProportion1:double;
......
sumProportion0:=0.0; //有效值为-1的总权重
sumProportion1:=0.0; //有效值为1的总权重
......//sumProportion0和sumproportion1都变成了1
if( sumProportion0<>1.0 ) then
begin
showMessage('有效值为-1的总权重不为1!');
exit;
end;
if( sumProportion1<>1.0 ) then
begin
showMessage('有效值为1的总权重不为1!');
exit;
end;
调试时,sumproportion0和sumproportion1的值都是1,但是第一个判断为flase,第二个确为true,进入语句。 展开
......
sumProportion0:=0.0; //有效值为-1的总权重
sumProportion1:=0.0; //有效值为1的总权重
......//sumProportion0和sumproportion1都变成了1
if( sumProportion0<>1.0 ) then
begin
showMessage('有效值为-1的总权重不为1!');
exit;
end;
if( sumProportion1<>1.0 ) then
begin
showMessage('有效值为1的总权重不为1!');
exit;
end;
调试时,sumproportion0和sumproportion1的值都是1,但是第一个判断为flase,第二个确为true,进入语句。 展开
2012-04-29 · 知道合伙人软件行家
关注
展开全部
对于浮点数的比较,由于系统的原因,一般采用以下方法:
abs(a1 - a2) < 0.0001
abs(a1 - a2) < 0.0001
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
单点浮点数有误差的, 1.0 存储在内存中有可能是 0.9999999999.
追问
我设置的是double型
本回答被提问者采纳
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
变量是什么类型的
追问
double型
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询