float精度问题 5
float的精度是七位，为什么输出数值的时候是精确到小数点后六位？精度与小数点后的位数有什么区别？...
float的精度是七位，为什么输出数值的时候是精确到小数点后六位？精度与小数点后的位数有什么区别？
展开
展开全部
这个看你用的什么函数，以java语言为例：
System.out.println(1.234,1,2,BigDecimal.ROUND_UP);得到的是1.24
使用
System.out.println(1.234,1,2,BigDecimal.ROUND_DOWN);得到的是1.23
上面两个函数得到的精度都是2位，如果你设置的值是6得到的就是6位了
System.out.println(1.234,1,2,BigDecimal.ROUND_UP);得到的是1.24
使用
System.out.println(1.234,1,2,BigDecimal.ROUND_DOWN);得到的是1.23
上面两个函数得到的精度都是2位，如果你设置的值是6得到的就是6位了
追问
上面的没学过，看不懂。。。我学的是C语言
已赞过
已踩过<
评论
收起
你对这个回答的评价是？
晓网科技
2024-10-17 广告
浮点数不是连续值,有一定精度,特点是动态范围大。它还没有int的精度高，因为int是32位表示，float只有23位有效值，其他是符号位和指数。 既然计算得不到12.10，就是浮点数不能精确表示12.10。 c = 12.0 8精度也很高了...
点击进入详情页
本回答由晓网科技提供
推荐律师服务：
若未解决您的问题，请您详细描述您的问题，通过百度律临进行免费专业咨询
