[数据处理] 集市数据抽取

洪小豆 显示全部楼层 发表于 2022-2-15 17:19:49
gzd 发表于 2022-2-15 16:53
今天又发现这个问题了,抽数1个多小时一直是0,卡了好多任务,后来突然好了,发现抽了2000多万,也就是说 ...

看描述, 是一个大任务,占了资源, 其他小任务只能等。
解决办法是,增加资源,让大任务执行的更快。 可以找商务,提供一个性能更好的许可,可能涉及部分费用。当然还需要cpu和内存的支持
另一个办法就是把大任务拆成多个小任务。做成增量追加
回复

使用道具 举报

gzd铂金三 显示全部楼层 发表于 2022-2-15 18:14:43
永洪tech-秀秀 发表于 2022-2-15 17:00
按上面的步骤重新提供下日志呢

我们有10个节点,1个C9个M,都要按照这个把日志弄出来吗
回复

使用道具 举报

环环白银三 显示全部楼层 发表于 2022-2-15 18:27:10
gzd 发表于 2022-2-15 18:14
我们有10个节点,1个C9个M,都要按照这个把日志弄出来吗

看下上面的处理方式呢
回复

使用道具 举报

gzd铂金三 显示全部楼层 发表于 2022-2-16 10:27:04
洪小豆 发表于 2022-2-15 17:19
看描述, 是一个大任务,占了资源, 其他小任务只能等。
解决办法是,增加资源,让大任务执行的更快。 可 ...

这是各个节点的线程日志

dump.zip

407.26 KB, 下载次数: 2

回复

使用道具 举报

洪小豆 显示全部楼层 发表于 2022-2-16 10:41:28
gzd 发表于 2022-2-16 10:27
这是各个节点的线程日志

打jstack日志的时候, 需要连续 多打几次,  仅1次的日志,看不出来变化。
隔2-3s,打一次,多打几次。  主要给c节点的就行。

本次提供的日志,未发现异常
回复

使用道具 举报

gzd铂金三 显示全部楼层 发表于 2022-2-16 10:53:13
洪小豆 发表于 2022-2-16 10:41
打jstack日志的时候, 需要连续 多打几次,  仅1次的日志,看不出来变化。
隔2-3s,打一次,多打几次。   ...

现在没有大任务在跑,打印可以看出来吗
回复

使用道具 举报

洪小豆 显示全部楼层 发表于 2022-2-16 10:56:19
gzd 发表于 2022-2-16 10:53
现在没有大任务在跑,打印可以看出来吗

要你觉得卡住的时候,去打印
回复

使用道具 举报

gzd铂金三 显示全部楼层 发表于 2022-2-16 15:56:15
洪小豆 发表于 2022-2-16 10:56
要你觉得卡住的时候,去打印

这是线程日志

dump_375930.zip

741.92 KB, 下载次数: 2

回复

使用道具 举报

洪小豆 显示全部楼层 发表于 2022-2-16 16:24:34

6.1版本?
回复

使用道具 举报

gzd铂金三 显示全部楼层 发表于 2022-2-16 16:56:29

9.0的,这个是刚升级的,打算替换6.1的,发现这个问题不敢替了
回复

使用道具 举报

高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
50W

会员等你来哦

Copyright   ©2012-2024  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |联系社区管理员|《永洪社区协议》
返回顶部