关于,单精度和双精度的问题
单精度的取值是10的-38次方到+38次方吧。但是单精度的有效数位是7位啊假如我输入一个数-0.123456789,这个数在单精度的取值范围内,但是他显示出来的从第8位开...
单精度的取值是10的-38次方到+38次方吧。
但是单精度的有效数位是7位啊
假如我输入一个数 -0.123456789 ,这个数在单精度的取值范围内,但是他显示出来的从第8位开始的数值是错误的。
既然这样,他的取值范围取这么大有什么用?你输入超过7为有效数值就会显示错误数据了,这样取这么大的范围有什么意义??
倒不如去10的-8到+8之间??
哦,打错,是-10的37次方 展开
但是单精度的有效数位是7位啊
假如我输入一个数 -0.123456789 ,这个数在单精度的取值范围内,但是他显示出来的从第8位开始的数值是错误的。
既然这样,他的取值范围取这么大有什么用?你输入超过7为有效数值就会显示错误数据了,这样取这么大的范围有什么意义??
倒不如去10的-8到+8之间??
哦,打错,是-10的37次方 展开
2个回答
创视智能
2023-06-12 广告
2023-06-12 广告
光谱共焦位移计是一种用于测量物体表面粗糙度的仪器。它利用白光(或多波长混合光)经过一个小孔,经过镜头将不同的波长聚焦到光轴上,色散地形成一条彩虹状分布带,照射到样品上,部分反射光反射回去;照射在光轴与物体表面交点的光经过分光部件,通过小孔照...
点击进入详情页
本回答由创视智能提供
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询