浮点型数据的精度是什么意思

 我来答
八哥说科技
高粉答主

2019-09-27 · 分享科技资讯,共享科技生活
八哥说科技
采纳数:113 获赞数:78622

向TA提问 私信TA
展开全部

浮点型数据的精度即使用多少位来存储。

一个浮点数a由两个数m和e来表示:a = m × b^e。在任意一个这样的系统中,我们选择一个基数b(记数系统的基)和精度p(即使用多少位来存储)。

单精度浮点数用4字节存储,双精度浮点数用8字节存储,分为三个部分:符号位、阶和尾数。阶即指数,尾数即有效小数位数。单精度格式阶占8位,尾数占24位,符号位1位,双精度则为11为阶,53位尾数和1位符号位。

扩展资料:

浮点数的相关存储格式:

IEEE754标准中浮点数表示格式IEEE规定的浮点数表示法是一种科学计数法,用符号(正或负)、指数和尾数来表示,底数被确定为2。也就是说浮点数被表示为尾数乘以2的指数次方再带上符号。

符号域:符号域占1位,0表示正数,1表示负数。指数域:指数域共有8位,可表达的范围为:0~255。为能处理负指数,实际指数位存储在指数域中值减去一个偏移量(单精度为127,双精度为1023)。

单精度浮点数的偏移量为127,故实际可表达的指数值的范围为-127~128。尾数域:尾数域共有23位。

参考资料来源:百度百科-浮点数

参考资料来源:百度百科-单精度

参考资料来源:百度百科-浮点型数据

四舍五不入6
高粉答主

2020-03-19 · 还没有填写任何签名哦
四舍五不入6
采纳数:27 获赞数:71371

向TA提问 私信TA
展开全部

浮点型数据的精度取决于浮点小数结构:

32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值,决定了它的精度在2的负23次方,1/(2^23)=0.0000001

64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值,决定了它的精度在2的负52次方,1/(2^52)=2.2e-16

扩展资料:

浮点数的相关存储格式:

IEEE754标准中浮点数表示格式IEEE规定的浮点数表示法是一种科学计数法,用符号(正或负)、指数和尾数来表示,底数被确定为2。也就是说浮点数被表示为尾数乘以2的指数次方再带上符号。

符号域:符号域占1位,0表示正数,1表示负数。指数域:指数域共有8位,可表达的范围为:0~255。为能处理负指数,实际指数位存储在指数域中值减去一个偏移量(单精度为127,双精度为1023)。

参考资料来源:百度百科-浮点数 (有理数)

本回答被网友采纳
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
zdingyun
推荐于2017-10-07 · 知道合伙人软件行家
zdingyun
知道合伙人软件行家
采纳数:15429 获赞数:48176
1982年上海业余工业大学化工系毕业 现退休

向TA提问 私信TA
展开全部

浮点型数据的类型有两种,一是单精度浮点数,二是双精度浮点数。

浮点型数据的精度取决于浮点小数结构:

32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值,决定了它的精度在2的负23次方,1/(2^23)=0.0000001

64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值,决定了它的精度在2的负52次方,1/(2^52)=2.2e-16

在文本框输出时

32位浮点型数有7位小数精度(十进制)           .3333333

64位浮点型数有15位小数精度(十进制)         .333333333333333

要超过这精度要求需要将数据类型定义为Decimal(VB6.0)数据类型,它有28位小数精度(十进制)

参考:

http://www.fmddlmyy.cn/text60.html

http://wenku.baidu.com/link?url=xl7cAlbK5r3z5g9w1UdJn5r0wMHzIR3K2svZiFEeX2oDjusyptfIRiFAYFGsABaRFIw-Bip7My_u-S6-HhgCYilP9ZcuerJ-MYcuoRnR_63

已赞过 已踩过<
你对这个回答的评价是?
评论 收起
qmy777
推荐于2017-09-06 · 超过11用户采纳过TA的回答
知道答主
回答量:59
采纳率:0%
帮助的人:29.4万
展开全部
浮点型数据又称单精度浮点数,精度表示的是该浮点数的取值范围。。。
单精度类型:+-3.4*10^(-38)~~~+-3.4x10^38 单精度占用4个字节的内存
双精度类型:+-1.7*10^(-308)~~~+-1.7*10^308 双精度占用8个字节的内存
本回答被提问者采纳
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
丁筱默1
2011-12-01 · TA获得超过110个赞
知道答主
回答量:134
采纳率:0%
帮助的人:63.1万
展开全部
就是你数值的取值范围,单精度的取值范围比双精度的要小
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
收起 更多回答(3)
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式