华中科技大学：《数值分析 Numerical Analysis》课程教学资源（讲义）根据相对误差估算有效数字位举例

绪论 根据相对误差限估算有效数字位举例 例求5012的近似解要求相对误差不超过104 问应当精保留多少为有效数字?确到小数点后第几 位? 解:501/2的首位数字为7,由 10P+<10 2·(7+1) 可解得p=4. 由于50u/2的近似解得小数点左边有一位,所以应当 精确到小数点后第三位。 提示:如果是考试作这种类型的题,切不要先取对数 后取整。事实上,由

绪 论 1 根据相对误差限估算有效数字位举例 例：求501/2的近似解，要求相对误差不超过10-4， 问应当精保留多少为有效数字？确到小数点后第几 位？ 解：501/2的首位数字为 7，由 1 4 10 10 2 (7 1) 1 − + −    + p 可解得 p=4. 由于 501/2 的近似解得小数点左边有一位，所以应当 精确到小数点后第三位。 提示：如果是考试作这种类型的题，切不要先取对数 后取整。事实上，由

绪论 10P≤16·104 立即可得p=4. 注释:对于求实际来说,我们不必这样精确计算。简 单地说,如果要求相对误差不超过10那么简单地保 留n+1位有效数字即可。如果使用计算机计算,当然 可以在程序中控制相对误差

绪 论 2 10-p≤ 1.6·10-4 立即可得 p=4. 注释：对于求实际来说，我们不必这样精确计算。简 单地说，如果要求相对误差不超过 10-n,那么简单地保 留 n+1 位有效数字即可。如果使用计算机计算，当然 可以在程序中控制相对误差