C# float/double 减 float/double 等 (X.xxxxxxxxxxxxxE-07)(黑盒测试)

问题

因为没有深究原理,所有只进行了“黑盒测试”

黑盒测试结论:

问题 操作 结论
float/double运算 进过一系列的运算后 大概率  != 0.0  ,
而是等于0.00000000000xxxx
等于X.xxxxxxxx一串数字的时候 不影响下一步继续使用
当需要显示float/double的时候 进行一次 “保留N位运算”
Mach.Round(float, n)
String.Format("{0:F2}", 1.0f); //  结果 1.00

代码

 void ChangeFormat()
    {
        double aaa = 2.2f;
        double bbb = 2.0f;
        double ccc = aaa - bbb;

        // double ddd = ccc - 0.2d;
        // double ddd = 2.2f - 2.0f - 0.2d; // 这个与上方的结果一样
        double ddd = 2.2d - 2.0d - 0.2; // 这个与上方的结果一样
        string str1 = String.Format("{0:F2}", ddd);

        Debug.Log(ddd);                 // 结果 1.66533453693773E-16
        Debug.Log(ddd + 0.001d);        // 结果 0.00100000000000017
        Debug.Log(Math.Round(ddd, 2));  // 结果 0
        Debug.Log((int)ddd);            // 结果 0
        Debug.Log(str1);                // 结果 0.00


        // 测试:4.76837158092103E-07 是否大于 0
        if (ddd > 0)
        {
            Debug.Log("得到: 1.66533453693773E-16  > 0");
        }


        // ddd + 0.001f 为什么 +0.001
        // 因为:经过测试得 1.66533453693773E-16 == 0
        // 所以:+0.001, 还原显示数值 (一般只要小数两位)
    }

输出结果

相关推荐

  1. 软件测试测试与白测试

    2023-12-25 12:56:03       13 阅读
  2. 软件测试错题集(、白测试

    2023-12-25 12:56:03       30 阅读
  3. 测试和白测试总结

    2023-12-25 12:56:03       17 阅读

最近更新

  1. TCP协议是安全的吗?

    2023-12-25 12:56:03       17 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2023-12-25 12:56:03       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2023-12-25 12:56:03       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2023-12-25 12:56:03       18 阅读

热门阅读

  1. SQL分类

    SQL分类

    2023-12-25 12:56:03      30 阅读
  2. mysql全局事务变量GTID

    2023-12-25 12:56:03       23 阅读
  3. leetcode 131. 分割回文串

    2023-12-25 12:56:03       36 阅读
  4. [网络安全] NTFS权限

    2023-12-25 12:56:03       42 阅读
  5. 《PCI Express体系结构导读》随记 —— 前言

    2023-12-25 12:56:03       32 阅读
  6. Mybatis使用详解

    2023-12-25 12:56:03       40 阅读
  7. Linux 文件管理命令----pwd 命令

    2023-12-25 12:56:03       38 阅读
  8. C/C++编译问题

    2023-12-25 12:56:03       25 阅读
  9. (c语言)素数的判断方法

    2023-12-25 12:56:03       45 阅读
  10. 力扣labuladong——一刷day79

    2023-12-25 12:56:03       36 阅读