C语言中float数据类型保留几位有效数字?
1个回答
展开全部
float数据
机器内是2进制数,
1位符号位
8位指数位
23位“尾数”位
共32
位
2进制数。
平时讲
有效数字
是6~7位
,指10进制。
通常程序输入的数是10进制,进入机器后要化成2进制,计算完又转十进制输出。
10进制到2进制,2进制到10进制
转换,有的数化不净,有的数化得净。
如同10进制分数化10进制小数,有的化得净(例如
4分之1,变0.25),有的化不净(例如
3分之1,变0.33333....)。
10进制到2进制,2进制到10进制
转换,化得净的效数字7位,化不净的效数字6位,因为最后一位有舍入误差。
例如:
float
x,y;
x=0.51;
//
化不净
y=0.5;
//
化得净
printf("x=%.8f
y=%.8",x,y);
//
输出
0.50999999
0.50000000
机器内是2进制数,
1位符号位
8位指数位
23位“尾数”位
共32
位
2进制数。
平时讲
有效数字
是6~7位
,指10进制。
通常程序输入的数是10进制,进入机器后要化成2进制,计算完又转十进制输出。
10进制到2进制,2进制到10进制
转换,有的数化不净,有的数化得净。
如同10进制分数化10进制小数,有的化得净(例如
4分之1,变0.25),有的化不净(例如
3分之1,变0.33333....)。
10进制到2进制,2进制到10进制
转换,化得净的效数字7位,化不净的效数字6位,因为最后一位有舍入误差。
例如:
float
x,y;
x=0.51;
//
化不净
y=0.5;
//
化得净
printf("x=%.8f
y=%.8",x,y);
//
输出
0.50999999
0.50000000
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询