有效数字运算规则
计算50.1+1.45+0.5812=?修约为:50.1+1.4+0.6=52.1为什么1.45变成1.4而不是1.5,不是四舍五入吗...
计算50.1+1.45+0.5812=?
修约为:50.1+1.4+0.6=52.1
为什么1.45变成1.4而不是1.5,不是四舍五入吗 展开
修约为:50.1+1.4+0.6=52.1
为什么1.45变成1.4而不是1.5,不是四舍五入吗 展开
2010-11-14
展开全部
不是四舍五入,是四舍六入。五后非零则进一,五后为零看前一位,前一位是偶数的话就舍去,是奇数就进一位,留成双数就行啦。所以1.45,修约后是1.4。要是1.451修约就是1.5,再如1.55修约后是1.6。
展开全部
加减法:在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准,例如:
0.0121+25.64+1.05782=?
正确计算 不正确计算
0.01 0.0121
25.64 25.64
+ 1.06 + 1.05782
——————— ———————
26.71 26.70992
上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后面第二位。
b. 乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准。例如:
0.012×25.64×1.05782=?
以上3个数的乘积应为:
0.0121×25.6×1.01=0.328
在这个计算中3个数的相对误差分别为:
E%=(±0.0001)/0.0121×100=±8
E%=(±0.01)/25.64×100=±0.04
E%=(±0.00001)/1.05782×100=±0.0009
显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可。
在乘除法运算过程中,经常会遇到第一个数字为8或9的数,如9.00,8.92等,他们与10.00相当接近,所以通常把这类数当成四位有效数字处理。是为了繁殖数据丢失。如9.81*16.24可把9.81看成四位数而把结果写成159.3.
请参考
0.0121+25.64+1.05782=?
正确计算 不正确计算
0.01 0.0121
25.64 25.64
+ 1.06 + 1.05782
——————— ———————
26.71 26.70992
上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后面第二位。
b. 乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准。例如:
0.012×25.64×1.05782=?
以上3个数的乘积应为:
0.0121×25.6×1.01=0.328
在这个计算中3个数的相对误差分别为:
E%=(±0.0001)/0.0121×100=±8
E%=(±0.01)/25.64×100=±0.04
E%=(±0.00001)/1.05782×100=±0.0009
显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可。
在乘除法运算过程中,经常会遇到第一个数字为8或9的数,如9.00,8.92等,他们与10.00相当接近,所以通常把这类数当成四位有效数字处理。是为了繁殖数据丢失。如9.81*16.24可把9.81看成四位数而把结果写成159.3.
请参考
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询
广告 您可能关注的内容 |