找文章 / 找答案
精选问答 更多内容

[数据处理] 为什么文本参数组件做减法小数位很多

nfyjm青铜三 显示全部楼层 发表于 2022-3-17 16:15:02 |阅读模式 打印 上一主题 下一主题
1
已解决
365.84-355.38=10.45999999999998,正常应该是等于10.46,如何设置呢,86版本
Image_20220317160749.png

最佳答案

永洪tech-lucy 青铜一 关注Ta

2022-03-17 16:15:03

本地已确认了,这个就是js 计算的结果,js计算引擎的逻辑,本地使用 谷歌浏览器 模拟数据也是相同的结果,非产品问题:
查看完整内容
回复

使用道具 举报

精彩评论6

永洪tech-lucy青铜一 显示全部楼层 发表于 2022-3-17 16:15:03
nfyjm 发表于 2022-3-17 16:27
高度差赋值,maxCOC就是365.84  minCOC就是355.38

本地已确认了,这个就是js 计算的结果,js计算引擎的逻辑,本地使用 谷歌浏览器 模拟数据也是相同的结果,非产品问题:
js.png
回复

使用道具 举报

永洪tech-lucy青铜一 显示全部楼层 发表于 2022-3-17 16:22:41
看描述:365.84 和 355.38 都是平均数,如果是通过产品绑定字段后求出来的平均,那么就应该是正确的,365.84  只是显示了两位数,实际上存在多位小数
回复

使用道具 举报

永洪tech-lucy青铜一 显示全部楼层 发表于 2022-3-17 16:24:42
永洪tech-lucy 发表于 2022-3-17 16:22
看描述:365.84 和 355.38 都是平均数,如果是通过产品绑定字段后求出来的平均,那么就应该是正确的,365.8 ...

您截图看看  高度差 这个值 是怎么赋值的,如果是脚本赋值 可在赋值之前将数据 处理后再赋值
回复

使用道具 举报

nfyjm青铜三 显示全部楼层 发表于 2022-3-17 16:27:59
永洪tech-lucy 发表于 2022-3-17 16:24
您截图看看  高度差 这个值 是怎么赋值的,如果是脚本赋值 可在赋值之前将数据 处理后再赋值 ...

高度差赋值,maxCOC就是365.84  minCOC就是355.38
Image_20220317162717.png
回复

使用道具 举报

永洪tech-lucy青铜一 显示全部楼层 发表于 2022-3-17 16:49:08
永洪tech-lucy 发表于 2022-3-17 16:47
本地已确认了,这个就是js 计算的结果,js计算引擎的逻辑,本地使用 谷歌浏览器 模拟数据也是相同的结果 ...

您这边也可以找 一个浏览器,在开发者模式 的console 中测试,我的测试function 如下:
function a(){
var maxCOC=365.84
var minCOC=355.38
var c=maxCOC-minCOC
console.log(c)
}
a()
回复

使用道具 举报

nfyjm青铜三 显示全部楼层 发表于 2022-3-18 10:45:48
永洪tech-lucy 发表于 2022-3-17 16:47
本地已确认了,这个就是js 计算的结果,js计算引擎的逻辑,本地使用 谷歌浏览器 模拟数据也是相同的结果 ...

好的
回复

使用道具 举报

高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
50W

会员等你来哦

Copyright   ©2012-2024  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |《永洪社区协议》
返回顶部