CPU的浮点运算能力一般在10 Gflops以下每秒可进行10亿次浮点运算,而GeForce6系列的浮点运算能力已经在40 Gflops左右。
作用:
浮点运算是指得到的结果是一个浮点数,计算结果中的小数部分将保留下来。浮点运算虽然可以运算一个较大的数值范围,但其表示只是近似的。因为计算机只能存储整数,所以实数都是约数,这样浮点运算是很慢的而且会有误差。
整数运算用于CPU中央处理器,在科学计算中,中央处理器可以通过整数运算,加快运算速度和提高系统执行效率。
在大多数情况下,浮点运算用于CPU辅助处理器,完成中央处理器完成其无法执行或执行效率、效果低下的处理工作。
责任编辑:376
热点新闻