什么是浮点运算速度
浮点运算速度就是实数运算,因为计算机只能存储整数,所以实数都是约数,这样浮点运算是很慢的而且会有误差。
现在大多数机器都是32位的,也就是说32位都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的话就是-2^31 到 2^31-1。
扩展资料:
计算机里整数和小数形式就是按普通格式进行存储,例如1024、3.1415926等等,这个没什么特点,但是这样的数精度不高,表达也不够全面,为了能够有一种数的通用表示法,就发明了浮点数。
浮点数的表示形式有点像科学计数法(*.*****×10^***),它的表示形式是0.*****×10^***,在计算机中的形式为 .***** e ±***),其中前面的星号代表定点小数,也就是整数部分为0的纯小数,后面的指数部分是定点整数。
利用这样的形式就能表示出任意一个整数和小数。
例如1024就能表示成0.1024×10^4,也就是。
1024e+004,3.1415926就能表示成0.31415926×10^1,也就是 .31415926e+001,这就是浮点数。浮点数进行的运算就是浮点运算。
浮点运算比常规运算更复杂,因此计算机进行浮点运算速度要比进行常规运算慢得多。
参考资料来源:百度百科-浮点运算
2024-10-30 广告
推荐于2018-05-17
浮点运算性能可以直观地反映一个cpu的计算能力,注意是“计算能力”,可是学过编程的人都知道,占代码量80%的是由if ,while, for 等等构成的分支语句,这些语句对cpu的浮点运算要求不高,可以说没什么要求,但要求有大量的分支预测机制,以加快速度。真正对浮点要求高的是视频压缩,场景的渲染,光散射的计算等等,索尼原本计划用两颗cell来制作ps3,最后由于功耗问题不了了之。有些朋友说cell里面的协处理器没有缓存性能差,这也是不对的,浮点运算不需要太多的缓存,缓存是用来存放中间数据的,浮点运算要求尽可能的即时完成,就像GPU里也没多少缓存一样;相反,分支预测对缓存要求很高,需要存储很多东西以供判断。