Question

计算机中 float, double 的表示与计算

Answer 1

在某次面试中被问到，发现自己并不能解释清楚这个看似基础的问题。

根据 IEEE.754 标准，我们用以下公式来表示 float 和 double 。

各变量的 bits 数如下：

但是每个区域的表示并不是简单的二进制直接转换，以表示 0.15625 为例。

因此，结果是

exponent 的表示需要减去127。

fraction 的表示类似于二进制的小数定义（以 2 为底）。比如，十进制里的 0.11 实质上是 。二进制里则应该是 。

知道浮点数表示方法后，精度就是 fraction 部分外加符号位能表示的精度，即：

例如：

曾经自己想当然认为浮点型运算比整形慢，实验发现并不一定：

结果是：

所以这个结论不成立。

cpu设计的目的其实更偏向高速的通用计算，既包括逻辑运算又包括数学运算。因此设计成功能齐全，但是运算核心较少。现在主流 CPU 只有 4 核。

gpu设计的目的是图形加速，也就是对每个像素点（非常多）进行简单的 并行 运算。因此设计成结构简单，但是运算核心非常多。例如，GTX1080系列显卡有 2560 个核心。