fortran里面数据精度的问题
为什么0.001+1234567.0-1234566.0的计算结果是1,0.001为什么被忽略掉了real型的数据可以精确到小数点后几位Doubleprecision型的...
为什么0.001+1234567.0-1234566.0的计算结果是1,0.001为什么被忽略掉了
real型的数据可以精确到小数点后几位
Double precision型的数据可以精确到小数点后几位
real是不是和c语言里面的float一样
为什么网上fortran的资料那么少 展开
real型的数据可以精确到小数点后几位
Double precision型的数据可以精确到小数点后几位
real是不是和c语言里面的float一样
为什么网上fortran的资料那么少 展开
推荐于2017-11-27
展开全部
fortran中普通实数的有效位数好像就是7位,前两个数相加时要保留0.001后面的1需要10位有效数字,自然那个001中的1就没有了。
数值计算最忌讳很大的数加很小的数,最后的结果是较小的数通常被忽略了。
数值计算最忌讳很大的数加很小的数,最后的结果是较小的数通常被忽略了。
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询