找文章 / 找答案
精选问答 更多内容

[数据治理] 数据治理:数据成本优化的主要方向

puffs 显示全部楼层 发表于 2024-7-10 13:44:16 |阅读模式 打印 上一主题 下一主题
本文主要介绍了数据治理对于降低成本的重要性,并从多个方面提出了数据成本优化的主要方向,包括提高资源利用效率、优化存储策略、量化成本并促进优化、加强数据质量管理以及满足合规要求以保障数据安全等方面。

除了提效,降本也成了企业经营的长期战略。在运营数据进行精细化运营和数字化转型之后,数据成本优化也成了数据治理的核心工作之一。数据成本优化能够减少企业运营成本,提高资源利用效率,使企业能够更高效地利用有限的资源,实现可持续发展。

一、数据成本的主要来源


数据成本除了相关产研等人力资源成本外,存储和计算的服务器成本是大头,尤其是随着大模型应用的逐渐深入,对计算资源有了更多的需求,一台服务器几万块钱,千万级DAU的企业每年在服务器上的支持成本在大几千万。数据成本产生的主要原因:

  • 数据规模和复杂度:随着数据量的增加和种类的增多,处理、存储和分析这些数据所需的成本也会相应增加。
  • 数据质量和准确性:数据质量低或存在错误,需要投入更多的资源进行清洗和修复,从而增加成本。
  • 数据分析需求:不同的分析需求可能需要不同的技术和工具,导致成本增加。
  • 数据安全和合规要求:不同行业和地区对数据安全和合规的要求不同,需要额外的投入来满足这些要求。
二、数据成本优化的方向

提高资源利用效率:通过优化任务执行、提高机器利用率等方式,减少资源浪费,也就是在大数据平台(离线、实时),可以借助AI能力,优化任务的调度策略,最大可能提升机器利用率
优化存储策略:除了业务自然增长外,设定合理的数据生命周期,设定冷温热数据的标准,如90天不使用为冷数据,定期删除或归档不再需要的数据,减少存储成本。

量化成本并促进优化:建立明确的成本量化标准,通过账单排名等方式促进相关人员主动优化成本,除了量化成本结果外,定期检测高耗时、低效任务,给到数据生产者明确的优化指引,促进低效任务的代码优化。也可以借助AI代码检测能力,在任务提交环节进行校验、提醒

加强数据质量管理:提高数据质量和准确性,减少因数据问题导致的额外成本。

满足合规要求并保障数据安全:遵守相关法规和政策,确保数据在存储、传输和使用过程中的安全性,避免因数据安全问题导致的额外成本。

建设完善的数据资产管理能力,提升模型复用性,减少重复开发带来的程浪费,如建设易用的数据地图、数据血缘、指标管理工具等,通过完善的元数据信息,辅助数据使用者快速找到已有数据,同时平台需要具备一些重复任务的自动化检测能力

文章来源:https://www.woshipm.com/data-analysis/6067480.html
回复

使用道具 举报

高级模式
您需要登录后才可以回帖 登录 | 免费注册

  • 官方微信

    欢迎关注永洪服务号!收费为0,价值无限

    扫码关注
  • 新浪微博

    让每位用户轻松挖掘数据价值!

    访问新浪微博
  • 智能客服
50W

会员等你来哦

Copyright   ©2012-2024  北京永洪商智科技有限公司  (京ICP备12050607) 京公网安备110110802011451号 |《永洪社区协议》
返回顶部