找文章 / 找答案
精选问答 更多内容

怎么增量同步近30的数据

yhdata_QnFAYxT6白银一 显示全部楼层 发表于 2021-10-28 15:11:06 |阅读模式 打印 上一主题 下一主题
1
已解决

怎么增量同步近30的数据

2835 7
需求是每天同步近30天的数据,这数据中只有一小部分是增量数据,使用的产品是z-suit 904,没有920那种动态增量更新。跪求各位大佬,给点建议。

最佳答案

永洪社区YVP
美滋滋 白银二 关注Ta

2021-10-28 15:11:07

我可能理解你的意思了。你的数据不是单纯的新增,历史数据是会有修改(近30天内的数据会发生变化),所以你想同步增量数据的时候,可以修改历史发生变化的数据。是这样吗? 首先,如果历史数据可能发生变化,那么目前应该是不支持增量数据导入的模式。 根据你的需求,我给一个建议。你可以把这个数据集拆分成两个独立的数据集。 一个是30天前的数据集,一个是30天内的数据集。 针对30天前的数据集,可以用增量导入的方式,每天导入 ...
查看完整内容
回复

使用道具 举报

精彩评论7

美滋滋白银二 显示全部楼层 发表于 2021-10-28 15:11:07
我可能理解你的意思了。你的数据不是单纯的新增,历史数据是会有修改(近30天内的数据会发生变化),所以你想同步增量数据的时候,可以修改历史发生变化的数据。是这样吗?
首先,如果历史数据可能发生变化,那么目前应该是不支持增量数据导入的模式。
根据你的需求,我给一个建议。你可以把这个数据集拆分成两个独立的数据集。
一个是30天前的数据集,一个是30天内的数据集。
针对30天前的数据集,可以用增量导入的方式,每天导入第31天前的那一天的数据。
针对30天内的数据,每天做全件更新。
不知道这个方法对于你的需求可行不可行。
这两个数据集最后再做一个整体的组合数据集,把这两个联合到一起,就是你的完整数据集了。
回复

使用道具 举报

_贝贝白银一 显示全部楼层 发表于 2021-10-28 15:27:29
需要有日期字段,可以在调度任务设置增量的时候,下方有一个设置过滤,设置过滤条件来做,过滤条件为 时间 。但是不能完全达到动态增量的效果,因为我们做动态增量就是专门优化的这个需求,您可以本地看一下
回复

使用道具 举报

美滋滋白银二 显示全部楼层 发表于 2021-10-28 15:40:22
每天同步最近30天的数据,也就是说,你的本地数据只保留最近30天的数据是吗?
回复

使用道具 举报

yhdata_QnFAYxT6白银一 显示全部楼层 发表于 2021-11-1 09:35:20
歪打正着 发表于 2021-10-28 15:40
每天同步最近30天的数据,也就是说,你的本地数据只保留最近30天的数据是吗? ...

不是的,全量数据都需要。业务上近30天的原表数据是可以变更的,所以近30天的结果表数据也是会变得。
回复

使用道具 举报

yhdata_QnFAYxT6白银一 显示全部楼层 发表于 2021-11-1 09:37:40
永洪tech-zxx 发表于 2021-10-28 15:27
需要有日期字段,可以在调度任务设置增量的时候,下方有一个设置过滤,设置过滤条件来做,过滤条件为 时间  ...

是带有时间字段的,我就是用采用追加且过滤时间大于等于当前时间减去30天的,这杨做数据是会重复的。
回复

使用道具 举报

yhdata_QnFAYxT6白银一 显示全部楼层 发表于 2021-11-2 11:29:24
歪打正着 发表于 2021-11-1 09:49
我可能理解你的意思了。你的数据不是单纯的新增,历史数据是会有修改(近30天内的数据会发生变化),所以你 ...

是的,你的理解完全正确。那我按照你的建议,尝试试一下,TKS.
回复

使用道具 举报

美滋滋白银二 显示全部楼层 发表于 2021-11-2 11:36:45
yhdata_QnFAYxT6 发表于 2021-11-2 11:29
是的,你的理解完全正确。那我按照你的建议,尝试试一下,TKS.

祝你成功 :)
回复

使用道具 举报

高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
50W

会员等你来哦

Copyright   ©2012-2024  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |《永洪社区协议》
返回顶部