excel 173925.41-50000-5000-115000-3925.41为什么会出现3.63798E-12
excel173925.41-50000-5000-115000-3925.41为什么在等于格里会出现3.63798E-12...
excel 173925.41-50000-5000-115000-3925.41为什么在等于格里会出现3.63798E-12
展开
1个回答
展开全部
这是计算机的浮点运算误差，主要是由于数据存储时的格式转换引起的。
所有数据存储在存储器里时，都是使用16进制（其实是2进制）的，在小数时会产生误差，导致微小差异。也就是：【173925.41】与【3925.41】在小数部分实际上是有微小差异的，而不是看上去两个完全相同的十进制0.41
所以，当主要数据部分完全被减掉后，这部分差异就凸显出来了。这就是浮点运算误差
所有数据存储在存储器里时，都是使用16进制（其实是2进制）的，在小数时会产生误差，导致微小差异。也就是：【173925.41】与【3925.41】在小数部分实际上是有微小差异的，而不是看上去两个完全相同的十进制0.41
所以，当主要数据部分完全被减掉后，这部分差异就凸显出来了。这就是浮点运算误差
本回答由网友推荐
已赞过
已踩过<
评论
收起
你对这个回答的评价是？
苏州蓝晓生物科技有限公司_
2022-08-05 广告
苏州蓝晓生物科技有限公司。标准化核心产品：公司拥有完整的琼脂糖介质、葡聚糖介质、聚甲基丙烯酸酯介质生产线，年产分离介质50000L，产品质量稳定并达到国际领先水平。核心优势：公司核心技术人员拥有近二十年不同基质的基球开发和官能化的丰富技术经...
点击进入详情页
本回答由苏州蓝晓生物科技有限公司_提供
推荐律师服务：
若未解决您的问题，请您详细描述您的问题，通过百度律临进行免费专业咨询
