fortran数值计算有误差

如题在fortran里面编制循环的时候Z=Z-0.01,Z初始值等于160,计算结果如图左列所示为什么到后期数值开始有偏差,怎么修改?还是fortran本身就这样?... 如题
在fortran里面编制循环的时候
Z=Z-0.01,Z初始值等于160,计算结果如图左列所示
为什么到后期数值开始有偏差,怎么修改?还是fortran本身就这样?
展开
 我来答
天河流纹石
2014-09-20 · TA获得超过1.3万个赞
知道大有可为答主
回答量:7624
采纳率:76%
帮助的人:4050万
展开全部
单精度浮点的有效位数是6-7位,所以第7位开始可能有误差,很正常。

不是 fortran 的问题,使用 IEEE 浮点数计算的都可能这样。
富港检测技术(东莞)有限公司_
2024-06-06 广告
ISTA3L是一个基于研究、数据驱动的测试协议,它模拟了由零售公司完成的产品订单被直接运送给消费者时所经历的危险,它允许用户评估包装产品的能力,以承受运输和处理包装产品时所经历的供应链危险,从接收到任何电子商务零售商履行操作,直到最终消费者... 点击进入详情页
本回答由富港检测技术(东莞)有限公司_提供
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式