C# double类型计算精度问题解决

  • 开发
  • 20

问题：res 的值0.112450000001，精度不对，预期是0.11245

double force=112.45；

double res = force / Math.Pow(10, index * 3);

double force=112.45;
double res = force / Math.Pow(10, index * 3);
string str = res.ToString("F12");//保留12位有效数字
res = double.Parse(str);

结果res符合预期。

阅读全部

相关推荐

  1. C# double类型计算精度问题解决

    2024-03-20 07:08:04       21 阅读

  4. 前端大额计算，真正解决js精度丢失问题

    2024-03-20 07:08:04       15 阅读

  5. 解决toFixed精度问题

    2024-03-20 07:08:04       27 阅读

  6. 前端计算精度丢失问题

    2024-03-20 07:08:04       37 阅读

  8. Postgresql float8类型精度丢失问题

    2024-03-20 07:08:04       13 阅读

  9. 解决vue精确值问题

    2024-03-20 07:08:04       16 阅读

最近更新

  4. TCP协议是安全的吗?

    2024-03-20 07:08:04       18 阅读

  12. 阿里云服务器执行yum，一直下载docker-ce-stable失败

    2024-03-20 07:08:04       19 阅读

  13. 【Python教程】压缩PDF文件大小

    2024-03-20 07:08:04       19 阅读

  18. 通过文章id递归查询所有评论（xml）

    2024-03-20 07:08:04       20 阅读

热门阅读

  1. 面试复盘（北京某小公司）

    2024-03-20 07:08:04       21 阅读

  3. Unity构建详解（2）——SBP的初始设置和脚本编译

    2024-03-20 07:08:04       16 阅读

  6. windows搭建Elasticsearch环境

    2024-03-20 07:08:04       22 阅读

  7. Openssh

    2024-03-20 07:08:04       18 阅读

  11. [论文笔记] Open-Sora 4、sora复现训练过程 (新repo)

    2024-03-20 07:08:04       20 阅读

  14. OpenCV 单目相机光平面标定

    2024-03-20 07:08:04       23 阅读

  15. 【ML】深度学习演进与神经网络反向传播推导 2

    2024-03-20 07:08:04       17 阅读

  25. 高效日志为服务器保驾护航

    2024-03-20 07:08:04       23 阅读

  29. Python实战：爬虫基础与Scrapy框架入门

    2024-03-20 07:08:04       21 阅读