永洪社区

标题: 转为数字列 [打印本页]

作者: yhdata_M3u6WOWf 时间: 2024-7-24 15:50
标题: 转为数字列
请问应该如何设置在将文本转为数字列的时候保留原有小数位数？

作者: yhdata_lyaa 时间: 2024-7-24 15:50
修改配置参数
在bi.properties文件中
mem.decimal.as.double=true
控制数据存储为double还是decimal，默认值为true，将decimal处理成double，会降低数据的精度；配置false时，保留decimal原始类型，高精度计算。
文件系统在安装目录Yonghong/bihome/bi.properities配置文件中修改配置后重启，
如果是数据库系统在管理系统--数据库空间--下载bi.properities文件修改后上传重启

参考看看https://www.yonghongtech.com/rea ... cimal.as.doubletrue

作者: yhdata_lyaa 时间: 2024-7-24 16:22
对于单精度浮点数，‌它们占用4个字节（‌32位）‌的存储空间。‌单精度浮点数的数值范围为-3.4E38到3.4E38，‌最多有7位十进制有效数字。‌虽然单精度浮点数的标准定义是7位有效数字，‌但实际上，‌当某个数的有效数字位数超过7位时，‌超出的部分会自动四舍五入。‌此外，‌单精度浮点数的小数点后最多可以存储6位数字12。‌

对于双精度浮点数，‌它们占用8个字节（‌64位）‌的存储空间，‌有效位数为16位，‌小数点后最多可以存储15位数字。‌双精度浮点数的实际有效精度为24位二进制，‌这相当于约7.2位十进制的精度，‌因此通常说双精度浮点数具有15位小数点的精度。

作者: atsyh 时间: 2024-7-24 16:34
你要在格式中自己调想要的数字格式

作者: yhdata_M3u6WOWf 时间: 2024-7-24 16:54

yhdata_lyaa 发表于 2024-7-24 16:22
对于单精度浮点数，‌它们占用4个字节（‌32位）‌的存储空间。‌单精度浮点数的数值范围为-3.4E38到3.4E38 ...

怎么样可以设置为双精度浮点数

作者: yhdata_M3u6WOWf 时间: 2024-7-24 17:14

yhdata_lyaa 发表于 2024-7-24 17:01
修改配置参数
在bi.properties文件中
mem.decimal.as.double=true

所以系统默认的是double即双精度浮点数吗，那为什么现在数据集里面没办法转化为双精度浮点数呢

作者: yhdata_lyaa 时间: 2024-7-24 17:17

yhdata_M3u6WOWf 发表于 2024-7-24 17:14
所以系统默认的是double即双精度浮点数吗，那为什么现在数据集里面没办法转化为双精度浮点数呢 ...

已经是了，有效位数为16位，你有的数据都超过了

作者: yhdata_M3u6WOWf 时间: 2024-7-24 17:22

yhdata_lyaa 发表于 2024-7-24 17:17
已经是了，有效位数为16位，你有的数据都超过了

啊明白了

作者: yhdata_lyaa 时间: 2024-7-24 17:26

欢迎光临永洪社区 (http://club.yonghongtech.com/)