Question

c++中小数比较大小

Answer 1

【问题描述】
在c++中不可用==来比较两个浮点数的大小，因为在计算机中小数是用IEEE754格式来存储的，由符号位A+阶码B+尾数C三部分构成。
float占4个字节，4 8=32位，三部分分配为1+8+23=32。2^23=8388608，一共7位，所以float有效位为小数后6位。
double占8字节，8 8=64位，三部分分配为1+11+52=64。2^52=4503599627370496,一共16位，所以double有效位为小数后15位。
如float a=0.1111111，float=0.1111110,因为精度损失，只可保留小数后6位，则在if(a==b)中会返回True。

【解决方案】
通常在编译器中先定义一个最小的浮点数MIN，使用减法与MIN相比来判断两浮点数是否相等。
flaot下最小数MIN=1e-6即0.000001，double下最小数MIN=1e-15。比较简单，今天在写凸包算法时遇到反三角函数atan2的返回值为long double，通过sizeof(long double)为12字节，没有查到其IEEE754构成，所以自测MIN最小可以取到哪里，通过测试最小为1e-16，若再小，会出问题，可能因为精度原因将其判为0。

在上程序中，我们也可以通过将long double强制转换为double，通过缩小精度来比较，但这样风险较大，因为精度损失严重。