计算机的错误计算(二十九)

摘要  (1)讨论近似值的错误数字个数。有时,遇到数字'9'或'0',  不太好确认近似值的错误数字个数。(2)并进一步解释确认计算机的错误计算(二十八)中一个函数值的错误数字个数。

       理论上,我们有

 1\\=1.\dot{0}\\=1.000...\\=0.\dot{9}\\=0.999... 

等。利用这些等式,本节讨论一些特殊情形下的错误数字个数。

例1.  已知数值 1 有下列几个四舍五入后的 16位的近似值。请问,它们分别有几位错误数字?

 a_1=1.\underbrace{000000000000000}_{\textup{15 '0'}}\,,\\ a_2=1.\underbrace{000000000000}_{\textup{12 '0'}}245\,,\\ a_3=1.\underbrace{000000000000}_{\textup{12 '0'}}645\,,\\ a_4=0.\underbrace{9999999999999999}_{\textup{16 '9'}}\,,\\ a_5=0.\underbrace{9999999999999}_{\textup{13 '9'}}245\,,\\ a_6=0.\underbrace{9999999999999}_{\textup{13 '9'}}645\,. 

       首先,a_1, a_2 的错误数字个数分别是0、3. 

       其次,对于a_3,若取 13位有效数字,则数字‘6’会产生进位,从而其有 1位错误数字,因此,a_3 的错误数字个数应该是4.  同样道理,a_5 的错误数字个数也是4,也是因为只有低到取 12位有效数字时,才没有错误数字。

       再者,对于 a_4,它有几位错误数字?16位?0位?都不对?反一下,它有几位正确数字?16位正确数字!那么错误数字个数就是 16-16=0?即完全正确?显然也不太合理。那么错误数字是多少才合理呢?就定 1位吧!因为不可能是 2位,0位也不完全合理。

       最后是 a_6.  若取 13位有效数字,则 a_6 的错误数字个数为 0.  所以其错误数字个数是3.

       总结一句:6个近似值的错误数字个数依次为 0、3、4、1、4、3.

例2.  已知 \tilde{y} 是 y 8位的近似值:

 y=\underbrace{3.4366\textcolor{red}{597}}_{\textup{8 digits}}61...\,,\\ \tilde{y}=\underbrace{3.4366\textcolor{red}{601}}_{\textup{8 digits}}\,.

请问,\tilde{y} 中有几位错误数字?

       它们中有 3对不同数字。那么 \tilde{y} 中有 3位错误数字吗?不是的。错误位数是 1位。因为若只考虑 7位有效数字的值,它们是完全相同的。

       这也就是计算机的错误计算(二十八)中 exp(1.2345) 在单精度下的输出具有 1位错误数字的原因。

       各位看官,您觉得以上分析如何?

相关推荐

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-13 07:20:05       67 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-13 07:20:05       71 阅读
  3. 在Django里面运行非项目文件

    2024-07-13 07:20:05       58 阅读
  4. Python语言-面向对象

    2024-07-13 07:20:05       69 阅读

热门阅读

  1. 华为OD机考题(HJ90 合法IP)

    2024-07-13 07:20:05       24 阅读
  2. Spring Boot Vue 毕设系统讲解 9 【Spark】

    2024-07-13 07:20:05       20 阅读
  3. GetX 踩坑之移除路由栈中的某个页面

    2024-07-13 07:20:05       25 阅读
  4. (C++01 栈与队列) 栈与队列的实现,栈的应用

    2024-07-13 07:20:05       17 阅读
  5. openresty+lua遍历 redis set

    2024-07-13 07:20:05       30 阅读
  6. Xcode持续集成之道:自动化构建与部署的精粹

    2024-07-13 07:20:05       27 阅读
  7. 把Docker的虚拟磁盘文件移动到别的盘符

    2024-07-13 07:20:05       24 阅读
  8. Linux C++ 060-设计模式之中介者模式

    2024-07-13 07:20:05       25 阅读
  9. MyBatis-Plus 关联查询

    2024-07-13 07:20:05       29 阅读
  10. 离线安装docker-compse

    2024-07-13 07:20:05       25 阅读
  11. license系统模型设计使用django models

    2024-07-13 07:20:05       28 阅读