找文章 / 找答案
精选问答 更多内容

[管理与运维] 内存不够,抽数失败

喵了个汪青铜四 显示全部楼层 发表于 2024-9-19 09:39:16 |阅读模式 打印 上一主题 下一主题
1
未解决
发现当内存使用率超过60%的时候,调度任务就一直跑不出来,重启服务器之后就可以了,但是过两天又会出现这种情况,甚至有时候直接报错503,目前服务器内存64G,分配永洪40G,分配永洪的内存还能扩大吗,能扩多少
回复

使用道具 举报

精彩评论9

朝花夕拾铂金一 显示全部楼层 发表于 2024-9-19 09:57:54
不建议括了,还得剩下一些空间为核心组件运行用。如果可以的话,还是扩容下总内存。
回复

使用道具 举报

喵了个汪青铜四 显示全部楼层 发表于 2024-9-19 10:00:03
朝花夕拾 发表于 2024-9-19 09:57
不建议括了,还得剩下一些空间为核心组件运行用。如果可以的话,还是扩容下总内存。 ...

不扩的话每次启动服务器也不太现实,而且还是生产环境,有什么内存优化的建议吗
回复

使用道具 举报

朝花夕拾铂金一 显示全部楼层 发表于 2024-9-19 10:02:28
可以设置一个脚本每天重启下服务器?避开调度任务时间
回复

使用道具 举报

yhdata_lyaa 显示全部楼层 发表于 2024-9-19 10:09:02
内存的分配并不是将所有的内存都给到 BI 就是最好的,在服务器运行过程中,服务器自身程序也会占用一部分,一般建议,永洪 BI 的服务器内存分配为:服务器可用物理内存的1/2-2/3。
所有任务的执行时间尽量安排在闲时,并且把时间分散开来,避免同一时间执行多个任务,以免在忙时影响用户使用。如果在忙时导数,可以采用单独节点导数,和用户访问区分开。风险:导数的定时任务,非常耗用资源,占用线程以及内存,如果在忙时导数,用户所发出的请求会出现排队的情况,内存不足
回复

使用道具 举报

喵了个汪青铜四 显示全部楼层 发表于 2024-9-19 10:10:04
朝花夕拾 发表于 2024-9-19 10:02
可以设置一个脚本每天重启下服务器?避开调度任务时间

是执行调度任务的时候内存不够,重启完之后需要手动执行调度,还有其他办法吗
回复

使用道具 举报

yhdata_lyaa 显示全部楼层 发表于 2024-9-19 10:14:08
优化参考,如果总内存还是不够也是需要扩了
执行任务的 C 节点和制作报表访问的 C 节点分开
入集市尽可能做增量追加,增量时尽量打 meta(标签)
meta 可以对数据进行分类,打了 meta 我们在读取数据的时候,就不需要读取所有的文件,只需要读取有 meta 过滤后的文件就可以,减少查询文件的个数,减少花费的总时长。

回复

使用道具 举报

喵了个汪青铜四 显示全部楼层 发表于 2024-9-19 10:14:59
yhdata_lyaa 发表于 2024-9-19 10:09
内存的分配并不是将所有的内存都给到 BI 就是最好的,在服务器运行过程中,服务器自身程序也会占用一部分, ...

有没有地方可以查看所有导数定时时间,而不是一个一个去翻定时设置
回复

使用道具 举报

yhdata_lyaa 显示全部楼层 发表于 2024-9-19 10:21:25
抽取的数据嘛,调度任务在调度任务那里看

回复

使用道具 举报

喵了个汪青铜四 显示全部楼层 发表于 2024-9-19 10:32:47
yhdata_lyaa 发表于 2024-9-19 10:14
优化参考,如果总内存还是不够也是需要扩了
执行任务的 C 节点和制作报表访问的 C 节点分开
入集市尽可能做 ...

除了优化,40G的内存不能在扩了吗?现在主要是先解决这个问题,尽量不通过重启来释放资源
回复

使用道具 举报

高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
50W

会员等你来哦

Copyright   ©2012-2024  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |《永洪社区协议》
返回顶部