找文章 / 找答案
精选问答 更多内容

[数据处理] 数据集市数据清理

yhdata_u4WUbIdc玄铁一 显示全部楼层 发表于 2023-2-17 10:26:55 |阅读模式 打印 上一主题 下一主题
1
未解决

【数据处理】 数据集市数据清理

2672 10
    创建了数据集市数据集,采用增量抽取,现在表结构发生变动,想沿用原有文件夹,重新抽取历史数据,需要怎么处理,是否可直接重修抽取数据,覆盖以前抽的每日数据文件?如果不可以要如何清理之前的旧数据?

回复

使用道具 举报

精彩评论10

yhdata_ruby铂金一 显示全部楼层 发表于 2023-2-17 10:51:54
回复

使用道具 举报

yhdata_u4WUbIdc玄铁一 显示全部楼层 发表于 2023-2-17 11:06:35
yhdata_ruby 发表于 2023-2-17 10:51
参考一下https://club.yonghongtech.com/forum.php?mod=viewthread&tid=23764&highlight=%E5%A2%9E%E9%87%8 ...

我这个已经增量跑了很多天,是要把之前的每一天的文件都重新跑一遍,还是直接用全量的方式抽取一遍数据可以直接覆盖,然后第二天采用日期增量
回复

使用道具 举报

yhdata_ruby铂金一 显示全部楼层 发表于 2023-2-17 11:43:35
yhdata_u4WUbIdc 发表于 2023-2-17 11:06
我这个已经增量跑了很多天,是要把之前的每一天的文件都重新跑一遍,还是直接用全量的方式抽取一遍数据可 ...

我们这边测试一下哈
回复

使用道具 举报

yhdata_lyaa 显示全部楼层 发表于 2023-2-17 14:00:04
是在调度任务里设置的普通增量吗,重新跑一下任务就好了
回复

使用道具 举报

yhdata_u4WUbIdc玄铁一 显示全部楼层 发表于 2023-2-20 11:21:46
yhdata_lyaa 发表于 2023-2-17 14:00
是在调度任务里设置的普通增量吗,重新跑一下任务就好了

采用的是追加的方式
回复

使用道具 举报

yhdata_u4WUbIdc玄铁一 显示全部楼层 发表于 2023-2-20 11:25:16
yhdata_u4WUbIdc 发表于 2023-2-17 11:06
我这个已经增量跑了很多天,是要把之前的每一天的文件都重新跑一遍,还是直接用全量的方式抽取一遍数据可 ...

我现在是在服务器上把Yonghong/cloud/ 和 Yonghong/bihome/cloud 下的文件夹都删除了,然后重新跑数,用了原来的文件夹名称,调度正常,创建数据集的时候表结构正常,但是加载数据报错显示"数据执行失败或者权限异常,数据无法正常显示",这个要怎么处理
回复

使用道具 举报

yhdata_yzm 显示全部楼层 发表于 2023-2-20 11:37:11
yhdata_u4WUbIdc 发表于 2023-2-20 11:25
我现在是在服务器上把Yonghong/cloud/ 和 Yonghong/bihome/cloud 下的文件夹都删除了,然后重新跑数,用 ...

你没备份?
回复

使用道具 举报

yhdata_u4WUbIdc玄铁一 显示全部楼层 发表于 2023-2-20 11:37:46

没有,因为我在测试,就没备份
回复

使用道具 举报

yhdata_xEfQfOac白银四 显示全部楼层 发表于 2023-2-20 11:57:15
打卡
回复

使用道具 举报

高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
50W

会员等你来哦

Copyright   ©2012-2024  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |《永洪社区协议》
返回顶部