浮点型数据的精度是什么意思
浮点型数据的精度即使用多少位来存储。
一个浮点数a由两个数m和e来表示：a = m × b^e。在任意一个这样的系统中，我们选择一个基数b（记数系统的基）和精度p（即使用多少位来存储）。
单精度浮点数用4字节存储，双精度浮点数用8字节存储，分为三个部分：符号位、阶和尾数。阶即指数，尾数即有效小数位数。单精度格式阶占8位，尾数占24位，符号位1位，双精度则为11为阶，53位尾数和1位符号位。
扩展资料：
浮点数的相关存储格式：
IEEE754标准中浮点数表示格式IEEE规定的浮点数表示法是一种科学计数法，用符号（正或负）、指数和尾数来表示，底数被确定为2。也就是说浮点数被表示为尾数乘以2的指数次方再带上符号。
符号域：符号域占1位，0表示正数，1表示负数。指数域：指数域共有8位，可表达的范围为：0~255。为能处理负指数，实际指数位存储在指数域中值减去一个偏移量(单精度为127，双精度为1023)。
单精度浮点数的偏移量为127，故实际可表达的指数值的范围为-127~128。尾数域：尾数域共有23位。
参考资料来源：百度百科-浮点数
参考资料来源：百度百科-单精度
参考资料来源：百度百科-浮点型数据
上海巴鲁图工程机械科技有限公司_
2022-05-15 广告
浮点型数据的精度取决于浮点小数结构：
32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值，决定了它的精度在2的负23次方，1/(2^23)=0.0000001
64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值，决定了它的精度在2的负52次方，1/(2^52)=2.2e-16
扩展资料：
浮点数的相关存储格式：
IEEE754标准中浮点数表示格式IEEE规定的浮点数表示法是一种科学计数法，用符号（正或负）、指数和尾数来表示，底数被确定为2。也就是说浮点数被表示为尾数乘以2的指数次方再带上符号。
符号域：符号域占1位，0表示正数，1表示负数。指数域：指数域共有8位，可表达的范围为：0~255。为能处理负指数，实际指数位存储在指数域中值减去一个偏移量(单精度为127，双精度为1023)。
参考资料来源：百度百科-浮点数 （有理数）
浮点型数据的类型有两种，一是单精度浮点数，二是双精度浮点数。
浮点型数据的精度取决于浮点小数结构：
32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值，决定了它的精度在2的负23次方，1/(2^23)=0.0000001
64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值，决定了它的精度在2的负52次方，1/(2^52)=2.2e-16
在文本框输出时
32位浮点型数有7位小数精度（十进制） .3333333
64位浮点型数有15位小数精度（十进制） .333333333333333
要超过这精度要求需要将数据类型定义为Decimal（VB6.0)数据类型，它有28位小数精度（十进制）
参考：
单精度类型：+-3.4*10^(-38)~~~+-3.4x10^38 单精度占用4个字节的内存
双精度类型：+-1.7*10^(-308)~~~+-1.7*10^308 双精度占用8个字节的内存
