数据按设定单位(分辨率)划分的方法

1. 问题描述

需要将使用公式计算后的float数值换算到固定间隔数轴的对应位置上的数据,比如2.186这个数据,将该数据换算到以0.25为间隔的数轴上,换算后是2.0,还是2.25呢?该方法就是解决这个问题。

2. 方法
输入:input_data,换算间隔 intervel
输出:output_data
output_data = round(input_data * (1/intervel))  / (1/intervel)
3. example
input_data = 2.186
intervel = 0.25
output_data = round(2.186 * 4) / 4
            = round(8.7440) / 4
            = 9 / 4
            = 2.25

ps: round()函数为四舍五入取整。intervel可取0.5, 0.1等值。

END

参考资料

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-03-21 17:40:05       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-03-21 17:40:05       106 阅读
  3. 在Django里面运行非项目文件

    2024-03-21 17:40:05       87 阅读
  4. Python语言-面向对象

    2024-03-21 17:40:05       96 阅读

热门阅读

  1. spring boot 如何升级 Tomcat 版本

    2024-03-21 17:40:05       47 阅读
  2. 什么是网站的外联机制?

    2024-03-21 17:40:05       46 阅读
  3. docker 常用命令

    2024-03-21 17:40:05       40 阅读
  4. 算法刷题day34:并查集

    2024-03-21 17:40:05       49 阅读
  5. haproxy的无缝热重启的实现原理

    2024-03-21 17:40:05       41 阅读
  6. js实现修改图片的底色

    2024-03-21 17:40:05       43 阅读
  7. jupyter | jupyter里执行shell命令

    2024-03-21 17:40:05       37 阅读