永洪社区

标题: 为什么文本参数组件做减法小数位很多 [打印本页]

---

作者: nfyjm    时间: 2022-3-17 16:15
标题: 为什么文本参数组件做减法小数位很多
365.84-355.38=10.45999999999998，正常应该是等于10.46，如何设置呢，86版本

---

作者: 永洪tech-lucy    时间: 2022-3-17 16:15

nfyjm 发表于 2022-3-17 16:27
高度差赋值，maxCOC就是365.84  minCOC就是355.38

本地已确认了，这个就是js 计算的结果，js计算引擎的逻辑，本地使用 谷歌浏览器 模拟数据也是相同的结果，非产品问题：
(, 下载次数: 72)

上传

点击文件名下载附件

---

作者: 永洪tech-lucy    时间: 2022-3-17 16:22
看描述：365.84 和 355.38 都是平均数，如果是通过产品绑定字段后求出来的平均，那么就应该是正确的，365.84  只是显示了两位数，实际上存在多位小数

---

作者: 永洪tech-lucy    时间: 2022-3-17 16:24

永洪tech-lucy 发表于 2022-3-17 16:22
看描述：365.84 和 355.38 都是平均数，如果是通过产品绑定字段后求出来的平均，那么就应该是正确的，365.8 ...

您截图看看  高度差 这个值 是怎么赋值的，如果是脚本赋值 可在赋值之前将数据 处理后再赋值

---

作者: nfyjm    时间: 2022-3-17 16:27

永洪tech-lucy 发表于 2022-3-17 16:24
您截图看看  高度差 这个值 是怎么赋值的，如果是脚本赋值 可在赋值之前将数据 处理后再赋值 ...

高度差赋值，maxCOC就是365.84  minCOC就是355.38

---

作者: 永洪tech-lucy    时间: 2022-3-17 16:49

永洪tech-lucy 发表于 2022-3-17 16:47
本地已确认了，这个就是js 计算的结果，js计算引擎的逻辑，本地使用 谷歌浏览器 模拟数据也是相同的结果 ...

您这边也可以找 一个浏览器，在开发者模式 的console 中测试，我的测试function 如下：
function a(){
var maxCOC=365.84
var minCOC=355.38
var c=maxCOC-minCOC
console.log(c)
}
a()

---

作者: nfyjm    时间: 2022-3-18 10:45

永洪tech-lucy 发表于 2022-3-17 16:47
本地已确认了，这个就是js 计算的结果，js计算引擎的逻辑，本地使用 谷歌浏览器 模拟数据也是相同的结果 ...

好的

---

欢迎光临 永洪社区 (https://club.yonghongtech.com/)

Powered by Discuz! X3.4