求助:C++超怪异的类型转换!

如图... 如图 展开
 我来答
7878ydna
2017-07-16
知道答主
回答量:10
采纳率:100%
帮助的人:4万
展开全部

按照你的提问,我调试了一下,可以看见a变量为单精度float时内存中实际值略小于3.1,可以见float在0.1精度下存在误差

将a变量设为双精度double,值略小于3.11,可见double在0.01精度下存在误差。

关于你问的(long)(a*10)为什么不是31,是因为a实际值为3.0999...,a*10取整数截断自然是30

这其实是因为,浮点数在内存中以二进制储存,会存在一定误差,原因我也不清楚,应该有关于数学和算法方面,你可以去搜下“浮点数精度丢失”。当需要高精度的计算时,我想出来的解决方案是用两个整数类型表示——分子与分母。例如3.14可以表示为314和100。

迪凯特科技(北京)有限公司
2023-07-28 广告
RS-232属于“异步传输”,在传送数据时,并不需要另外使用一条传输线来传送同步信号,不过必须在每一组数据的前后都加上同步信号,把同步信号与数据混和之后,使用同一条传输线来传输。从低位到高位的一帧数据格式为: ---------------... 点击进入详情页
本回答由迪凯特科技(北京)有限公司提供
物理公司的
2017-07-16 · TA获得超过5696个赞
知道大有可为答主
回答量:6105
采纳率:86%
帮助的人:1379万
展开全部
long就是长整型啊,long int,所以是整数
更多追问追答
追问
那为什么(long)(a*10)与(long)(3.1*10)结果不同呢?
追答
这是精度丢失
首先得从计算机本身去讨论这个问题。我们知道,计算机并不能识别除了二进制数据以外的任何数据。无论我们使用何种编程语言,在何种编译环境下工作,都要先把源程序翻译成二进制的机器码后才能被计算机识别。假设2.4是十进制的,计算机不能直接识别,要先编译成二进制。但问题来了,2.4的二进制表示并非是精确的2.4,反而最为接近的二进制表示是2.3999999999999999。原因在于浮点数由两部分组成:指数和尾数,这点如果知道怎样进行浮点数的二进制与十进制转换,应该是不难理解的。如果在这个转换的过程中,浮点数参与了计算,那么转换的过程就会变得不可预知,并且变得不可逆。我们有理由相信,就是在这个过程中,发生了精度的丢失。而至于为什么有些浮点计算会得到准确的结果,应该也是碰巧那个计算的二进制与十进制之间能够准确转换。而当输出单个浮点型数据的时候,可以正确输出,浮点数能正确显示。这更印证了我以上的想法,即如果浮点数参与了计算,那么浮点数二进制与十进制间的转换过程就会变得不可预知,并且变得不可逆。
* * * *.* * * * 小数部分只能是2^-1,2^-2,2^-3......这些数字的任意加的组合才是精确的,其他的都是近似的
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式