Mathematica精度问题!
举例:a=0.0000000002;b=0.3;a/b+bOut[1]=0.3精度明显变化了!然后,还有个问题,我的计算里面有好几个0.+2之类的结果,就是不知道是不是软...
举例:
a = 0.0000000002; b = 0.3;a/b + b
Out[1]=0.3
精度明显变化了!
然后,还有个问题,我的计算里面有好几个0.+2之类的结果,就是不知道是不是软件的默认精度使问题得不到解决?
我现在希望全局都是10的精度,在函数中也是,因为我有很多个函数,不希望一个个里面都设置精度,况且挨个设置有可能也没用。
有什么命令可以一次性设置这行以下全是比如说小数点后10的精度?
比如实现:
a = 0.0000000002; b = 0.3;a/b + b
Out[1]=0.3000000002这样的结果。
我自己的运行的结果帖下来给你们看看:
(0. + 0. i) - (0.0953495 + 0.00542582 i) aa
其中aa是一个在0.01这样精度的一个层次,我在担心是不是由于前面那个精度不够,在后面的计算中把它忽略了,以致出现当乘上aa后,整个式子就变成了后面一半的结果,出现误差!
请高手帮我详细的解释一下应该怎么办 展开
a = 0.0000000002; b = 0.3;a/b + b
Out[1]=0.3
精度明显变化了!
然后,还有个问题,我的计算里面有好几个0.+2之类的结果,就是不知道是不是软件的默认精度使问题得不到解决?
我现在希望全局都是10的精度,在函数中也是,因为我有很多个函数,不希望一个个里面都设置精度,况且挨个设置有可能也没用。
有什么命令可以一次性设置这行以下全是比如说小数点后10的精度?
比如实现:
a = 0.0000000002; b = 0.3;a/b + b
Out[1]=0.3000000002这样的结果。
我自己的运行的结果帖下来给你们看看:
(0. + 0. i) - (0.0953495 + 0.00542582 i) aa
其中aa是一个在0.01这样精度的一个层次,我在担心是不是由于前面那个精度不够,在后面的计算中把它忽略了,以致出现当乘上aa后,整个式子就变成了后面一半的结果,出现误差!
请高手帮我详细的解释一下应该怎么办 展开
2个回答
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询