找文章 / 找答案
精选问答 更多内容

[数据处理] 转为数字列

yhdata_M3u6WOWf青铜一 显示全部楼层 发表于 2024-7-24 15:50:04 |阅读模式 打印 上一主题 下一主题
1
已解决

【数据处理】 转为数字列

753 8
请问应该如何设置在将文本转为数字列的时候保留原有小数位数?

最佳答案

永洪vip
yhdata_lyaa 关注Ta

2024-07-24 15:50:05

修改配置参数 在bi.properties文件中 mem.decimal.as.double=true 控制数据存储为double还是decimal,默认值为true,将decimal处理成double,会降低数据的精度;配置false时,保留decimal原始类型,高精度计算。 文件系统在安装目录Yonghong/bihome/bi.properities配置文件中修改配置后重启, 如果是数据库系统在管理系统--数据库空间--下载bi.properities文件修改后上传 重启 参考看看https://www.yonghongtech.com/real-help/Z ...
查看完整内容
回复

使用道具 举报

精彩评论8

yhdata_lyaa 显示全部楼层 发表于 2024-7-24 15:50:05
修改配置参数
在bi.properties文件中
mem.decimal.as.double=true
控制数据存储为double还是decimal,默认值为true,将decimal处理成double,会降低数据的精度;配置false时,保留decimal原始类型,高精度计算。
文件系统在安装目录Yonghong/bihome/bi.properities配置文件中修改配置后重启,
如果是数据库系统在管理系统--数据库空间--下载bi.properities文件修改后上传  重启

参考看看https://www.yonghongtech.com/rea ... cimal.as.doubletrue
回复

使用道具 举报

yhdata_lyaa 显示全部楼层 发表于 2024-7-24 16:22:18
对于单精度浮点数,‌它们占用4个字节(‌32位)‌的存储空间。‌单精度浮点数的数值范围为-3.4E38到3.4E38,‌最多有7位十进制有效数字。‌虽然单精度浮点数的标准定义是7位有效数字,‌但实际上,‌当某个数的有效数字位数超过7位时,‌超出的部分会自动四舍五入。‌此外,‌单精度浮点数的小数点后最多可以存储6位数字12。‌

对于双精度浮点数,‌它们占用8个字节(‌64位)‌的存储空间,‌有效位数为16位,‌小数点后最多可以存储15位数字。‌双精度浮点数的实际有效精度为24位二进制,‌这相当于约7.2位十进制的精度,‌因此通常说双精度浮点数具有15位小数点的精度。
回复

使用道具 举报

atsyh青铜一 显示全部楼层 发表于 2024-7-24 16:34:41
你要在格式中自己调想要的数字格式


回复

使用道具 举报

yhdata_M3u6WOWf青铜一 显示全部楼层 发表于 2024-7-24 16:54:20
yhdata_lyaa 发表于 2024-7-24 16:22
对于单精度浮点数,‌它们占用4个字节(‌32位)‌的存储空间。‌单精度浮点数的数值范围为-3.4E38到3.4E38 ...

怎么样可以设置为双精度浮点数
回复

使用道具 举报

yhdata_M3u6WOWf青铜一 显示全部楼层 发表于 2024-7-24 17:14:15
yhdata_lyaa 发表于 2024-7-24 17:01
修改配置参数
在bi.properties文件中
mem.decimal.as.double=true

所以系统默认的是double即双精度浮点数吗,那为什么现在数据集里面没办法转化为双精度浮点数呢
回复

使用道具 举报

yhdata_lyaa 显示全部楼层 发表于 2024-7-24 17:17:24
yhdata_M3u6WOWf 发表于 2024-7-24 17:14
所以系统默认的是double即双精度浮点数吗,那为什么现在数据集里面没办法转化为双精度浮点数呢 ...

已经是了,有效位数为16位,你有的数据都超过了
回复

使用道具 举报

yhdata_M3u6WOWf青铜一 显示全部楼层 发表于 2024-7-24 17:22:59
yhdata_lyaa 发表于 2024-7-24 17:17
已经是了,有效位数为16位,你有的数据都超过了

啊 明白了
回复

使用道具 举报

yhdata_lyaa 显示全部楼层 发表于 2024-7-24 17:26:33
回复

使用道具 举报

高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
50W

会员等你来哦

Copyright   ©2012-2024  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |《永洪社区协议》
返回顶部