数的可表示试以浮点数数据表示说明数的可表示精度、运算中的精度损失,尾数基值取小对哪个有利哪个不利?


数的可表示试以浮点数数据表示说明数的可表示精度、运算中的精度损失,尾数基值取小对哪个有利哪个不利?

正确答案:精度是数轴上数的离散程度,两个数间差越小,精度越高;运算中的精度损失指运算中尾数超长造成的损失。尾数基值取小则可表示范围变小,个数减少,分布变密,精度提高,速度降低,对前者有利,对后者不利。


Tag:计算机系统结构 精度 尾数 时间:2024-02-04 15:04:18