python做除法用int()强制转换后出现的问题

当数x特别大的时候,对这个数做除法,比如/10,然后把结果用int()强制转换和对x//10的结果不一致... 当数x特别大的时候,对这个数做除法,比如/10,然后把结果用int()强制转换和对x//10的结果不一致 展开
 我来答
GTA小鸡
高粉答主

2018-05-08 · 醉心答题,欢迎关注
知道大有可为答主
回答量:2.6万
采纳率:78%
帮助的人:1.3亿
展开全部
Python的浮点数在内存中的底层实现就是double型,double型有效数字是16位,再往后则不准确。且double型无法准确表示十进制的小数。如果需要精确的十进制小数计算请使用十进制库decimal。
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式