计算机的错误计算(三十)

摘要  回复网友就计算机的错误计算(二十八)提出的 3个疑问:为什么 exp(4.567) 有 2位错误数字?不应该是1位么?Excel 的输出中有错误数字,如何证明? 正确结果由 ISReal 软件 提供?

       就网友的疑问,现回答如下。

       问题1.  4.567 只有 1位整数,为何 exp(4.567) 有 2位错误数字?

       :首先看 4.567在计算机内部的表示:

(4.567)_{10}\\ \approx(\underbrace{100.100100010010011011101}_{\textup{24 bits}}) _{2}\\ = (4.566999912261962890625)_{10}\\ \approx (\underbrace{4.5669999}_{\textup{8 digits}})_{10}\,,

显然,它与正确数字

\underbrace{4.5670000}_{\textup{8 digits}}

不太一致。因此,由计算机的错误计算(二十九)知(具体请参看例1 的 a_4),它错了 1 位数字,即(二十七)中的 k=1.  再由(二十七)中的

\left\{\begin{matrix} j-k &\approx & m+m_1-m_2\,,\\ m & =& m_2 \,,\end{matrix}\right. 

可推出

j=k+m_1.

因此,有 j=k+m_1=1+1=2,  即函数值中有 2位错误数字。

       问题2.  文章说,Excel 的输出中有错误数字,如何证明?

       :现贴图一个,以此为据并以飨读者。

       问题3.  文章说,正确结果由 ISReal 软件 提供?

       ISReal 软件 的版本1 是基于文章[1] 的算法。所以结果是始终正确的。当然,现在已经是版本3 了。

[1] 赵世忠. 算术表达式的一种可信计算算法及其软件ISReal. 中国科学F辑: 信息科学, 2016, 46(6): 698-713

相关推荐

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-16 00:08:01       66 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-16 00:08:01       70 阅读
  3. 在Django里面运行非项目文件

    2024-07-16 00:08:01       57 阅读
  4. Python语言-面向对象

    2024-07-16 00:08:01       68 阅读

热门阅读

  1. vue3 学习笔记07 -- 定义响应式数据

    2024-07-16 00:08:01       22 阅读
  2. 第4章 引擎提供的着色器工具函数和数据结构

    2024-07-16 00:08:01       16 阅读
  3. 对删库跑路Say No

    2024-07-16 00:08:01       16 阅读
  4. 完全背包

    2024-07-16 00:08:01       16 阅读
  5. 【C语言】字符常量详解

    2024-07-16 00:08:01       24 阅读
  6. 力扣第六题——Z字形变换

    2024-07-16 00:08:01       20 阅读
  7. 数据结构初阶(C语言)-顺序表

    2024-07-16 00:08:01       21 阅读
  8. C# 做一个临时的对象结构,并用linq查找

    2024-07-16 00:08:01       15 阅读
  9. 动态路由-ospf

    2024-07-16 00:08:01       22 阅读
  10. 如何备份Syslog配置文件?

    2024-07-16 00:08:01       17 阅读
  11. float和double使用注意问题

    2024-07-16 00:08:01       19 阅读