在某些情况下,实时的数据更新会带来无意义的日志的增加,短期看整个数据链条没有问题,但当日志过多时,磁盘被占用后,会出现一系列的问题。定时的清理日志是必要的尤其是更新频率在1个小时之内的项目。日志的分类大致有:
1、产品的bi.log;
2、tomcat下的catalina.out;
3、数据库的日志;
4、etl过程的日志文件;
对于产品的bi.log,有相关的配置项配置file.log.days=10,tomcat的catalina.out可以通过crontab实现定时清理find /opt/Yonghong_Z-Suite/tomcat/logs/ -name "catalina.20*" -mtime +10 -exec rm -rf {} \;,数据库的日志可以通过配置一些配置禁用数据库的日志#log-bin=mysql-bin,etl过程的日志需要etl过程中进行控制,比如设置日志记录过时时间:这个时间参数将从日志表中移除比超时天数早的日志记录;
|