fortran里面数据精度的问题
为什么0.001+1234567.0-1234566.0的计算结果是1,0.001为什么被忽略掉了real型的数据可以精确到小数点后几位Doubleprecision型的...
为什么0.001+1234567.0-1234566.0的计算结果是1,0.001为什么被忽略掉了
real型的数据可以精确到小数点后几位
Double precision型的数据可以精确到小数点后几位
real是不是和c语言里面的float一样
为什么网上fortran的资料那么少 展开
real型的数据可以精确到小数点后几位
Double precision型的数据可以精确到小数点后几位
real是不是和c语言里面的float一样
为什么网上fortran的资料那么少 展开
2个回答
推荐于2017-11-27
展开全部
fortran中普通实数的有效位毕哪者数好像就是7位,前两个缓携数相加时要保留0.001后面的1需要10位有效数字,自然那个001中的1就没有手薯了。
数值计算最忌讳很大的数加很小的数,最后的结果是较小的数通常被忽略了。
数值计算最忌讳很大的数加很小的数,最后的结果是较小的数通常被忽略了。
迈杰
2024-11-30 广告
2024-11-30 广告
RNA-seq数据分析是转录组研究的核心,包括数据预处理、序列比对、定量分析、差异表达分析、功能注释和可视化等步骤。数据预处理主要是质量控制和去除低质量序列。序列比对使用HISAT2、STAR等工具将reads比对到参考基因组。定量分析评估...
点击进入详情页
本回答由迈杰提供
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询