我在intel fortran中定义了一个real kind=16的变量，输出的值却与赋的值只有前 20
我在intelfortran中定义了一个realkind=16的变量，输出的值却与赋的值只有前几位相同。比如1.6输出的是1.599992354238…。怎么样才能严格地...
我在intel fortran中定义了一个real kind=16的变量，输出的值却与赋的值只有前几位相同。比如1.6输出的是1.599992354238…。怎么样才能严格地等于1.6000000000000…呢？
展开
1个回答
展开全部
kind=16是表示16位二进制数表达的实型吧。要得到更精确的结果，请用kind=32或kind=64。即使如此，用实数计算，很难做到你要求的严格相等!
更多追问追答
追问
最高就是kind=16了
kind=16就是128位的二进制数
已赞过
已踩过<
评论
收起
你对这个回答的评价是？
推荐律师服务：
若未解决您的问题，请您详细描述您的问题，通过百度律临进行免费专业咨询
