excel 173925.41-50000-5000-115000-3925.41为什么会出现3.63798E-12
excel173925.41-50000-5000-115000-3925.41为什么在等于格里会出现3.63798E-12...
excel 173925.41-50000-5000-115000-3925.41为什么在等于格里会出现3.63798E-12
展开
1个回答
展开全部
这是计算机的浮点运算误差，主要是由于数据存储时的格式转换引起的。
所有数据存储在存储器里时，都是使用16进制（其实是2进制）的，在小数时会产生误差，导致微小差异。也就是：【173925.41】与【3925.41】在小数部分实际上是有微小差异的，而不是看上去两个完全相同的十进制0.41
所以，当主要数据部分完全被减掉后，这部分差异就凸显出来了。这就是浮点运算误差
所有数据存储在存储器里时，都是使用16进制（其实是2进制）的，在小数时会产生误差，导致微小差异。也就是：【173925.41】与【3925.41】在小数部分实际上是有微小差异的，而不是看上去两个完全相同的十进制0.41
所以，当主要数据部分完全被减掉后，这部分差异就凸显出来了。这就是浮点运算误差
本回答由网友推荐
已赞过
已踩过<
评论
收起
你对这个回答的评价是？
推荐律师服务：
若未解决您的问题，请您详细描述您的问题，通过百度律临进行免费专业咨询
