yhdata_vNbdeYoO青铜一
2024-6-3 16:46:46 发布在问答
【报错信息处理】 导出数据库数据行数限制
你好,将数据集导出到数据库这个功能发现只能导出150w行,这个限制应该如何调整呢?具体参数是什么呢?数据集中执行数据提示执行数据超时,是否也是有限制?谢谢。
4585
17
精彩评论17
yhdata_lyaa
发表于 2024-6-3 17:00:06 显示全部楼层
是报什么错了吗,怎么知道是150w的,当前是什么版本呢
回复

使用道具 2#

永洪tech_xh青铜二
发表于 2024-6-3 17:12:21 显示全部楼层
您可以参考帮助手册(https://www.yonghongtech.com/real-help/Z-Suite/10.2/ch/defenseproperties.html)中说明的max.grid.rows参数,在系统设置的系统参数配置中可以看见。如图
图1.png
•max.grid.rows=100000000
10.0及以后支持。从数据库或集市中获取数据的最大行数,如果超过,计算将会终止,并弹出提示。默认为100000000。抽取数据的任务(数据集上抽取数据,调度任务里同步数据和增量导入数据)不受此属性影响。可以通过【管理系统>系统设置>系统参数配置】进行设置。提示信息:“内存处理的结果集超过行数限制。请查看数据集或报告的“检测性能”的结果,通过调优避免从数据库中或集市中加载大数据量的数据;或到系统设置>系统参数配置>数据量参数配置中修改max.grid.rows的值。”

关于超时问题,产品中数据查询超时在许多不同的位置都存在,您可以看看以下参数是否是您想要的内容。
参考连接:
https://www.yonghongtech.com/real-help/Z-Suite/10.2/ch/defenseproperties.html?zoom_highlightsub=timeout
https://www.yonghongtech.com/real-help/Z-Suite/10.2/ch/biproperties_connect.html?zoom_highlightsub=timeout
•qry.dbmeta.timeout=10000
取元数据的时间如果超过了设置时间,抛错提示,默认为10秒。

•pre.process.timeout=10000
查看数据集数据详情和总行数时,数据库查询或集市计算的超时时间,超过配置时间则弹提示“执行SQL慢,请检查对应数据库”或“执行集市计算慢”,默认值为10000,单位毫秒。

•grid.normal.exists.timeout=120000
数据等待的超时时间,单位为毫秒,默认2分钟。

•qry.defense.timeOut=1800000
数据集预览等请求的超时时间。

回复

使用道具 3#

yhdata_vNbdeYoO青铜一
发表于 2024-6-4 10:07:17 显示全部楼层
永洪tech_xh 发表于 2024-6-3 17:12
您可以参考帮助手册(https://www.yonghongtech.com/real-help/Z-Suite/10.2/ch/defenseproperties.html) ...

在调度任务中将数据集导出到数据库,发现都是导出到150w就停止了,也没报错,这个应该调整哪个参数呢?谢谢
回复

使用道具 4#

yhdata_vNbdeYoO青铜一
发表于 2024-6-4 10:09:26 显示全部楼层
yhdata_lyaa 发表于 2024-6-3 17:00
是报什么错了吗,怎么知道是150w的,当前是什么版本呢

没有报错哦,调度任务显示是成功的,但去数据库去count导出的记录时发现都是150w记录就停止了
回复

使用道具 5#

yhdata_vNbdeYoO青铜一
发表于 2024-6-4 10:10:00 显示全部楼层
yhdata_lyaa 发表于 2024-6-3 17:00
是报什么错了吗,怎么知道是150w的,当前是什么版本呢

目前是10.1.2版本
回复

使用道具 6#

永洪tech_xh青铜二
发表于 2024-6-5 16:19:51 显示全部楼层
yhdata_vNbdeYoO 发表于 2024-6-4 10:09
没有报错哦,调度任务显示是成功的,但去数据库去count导出的记录时发现都是150w记录就停止了 ...

本地测试了几次,回复的有点晚,本地测试结果是200W数据可以正常进行导出的。所以产品默认状态下应该没有但对此功能进行限制。
建议您依旧可以按照以下方法进行排查:
1、在【系统设置】的【系统参数配置】-【数据量参数配置】中找到max.grid.rows参数查看其值是否限制了150W。并检查该位置其他参数是否有修改为150W的相关设置。再或者您可以前往后台中的配置文件bi.properties查看是否有修改为150W的相关设置。
2、拉去任务相应时间段内的日志,反馈给在线工单对日志进行排查,查看是否是作业存在问题。
3、可以去数据库中开启日志记录,查看查询和插入是哪段出了问题。
回复

使用道具 7#

永洪tech_xh青铜二
发表于 2024-6-5 16:22:29 显示全部楼层
附带任务进行时与当前时间截图 图1.png 图2.png
回复

使用道具 8#

yhdata_vNbdeYoO青铜一
发表于 2024-6-6 11:13:04 显示全部楼层
永洪tech_xh 发表于 2024-6-5 16:19
本地测试了几次,回复的有点晚,本地测试结果是200W数据可以正常进行导出的。所以产品默认状态下应该没有 ...

好的,我再检查一下,感谢
回复

使用道具 9#

yhdata_vNbdeYoO青铜一
发表于 2024-6-7 14:43:39 显示全部楼层
永洪tech_xh 发表于 2024-6-5 16:19
本地测试了几次,回复的有点晚,本地测试结果是200W数据可以正常进行导出的。所以产品默认状态下应该没有 ...

你好,测试了一下发现是另一个参数max.load.rows限制的,而max.grid.rows参数是默认1亿,这个参数是否正常呢?导出到数据库这个功能正常是哪个参数去限制的呀?


原数据量

原数据量

参数

参数

导出后数据库统计

导出后数据库统计
回复

使用道具 10#

12  
高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
100W

用户等你来哦

Copyright   ©2012-2025  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |《永洪社区协议》
返回顶部