浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于0的方法是()。


浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于0的方法是()。

A.截断法

B.舍入法

C.ROM查表法

D.恒置

正确答案:D


Tag:计算机系统结构 误差 尾数 时间:2024-02-04 15:05:20