多进程log4j日志混乱问题分析

一、背景

后台有很多任务,每个任务都是一个main函数(JVM或进程),但是所有的任务都往同一份日志文件中输出日志。任务上线当天,日志没有问题,当第二天后,日志输出混乱

二、代码分析

我们来分析下,在 log4jDailyRollingFileAppender 类:

void rollOver() throws IOException {  
  
    /* Compute filename, but only if datePattern is specified */  
    if (datePattern == null) {  
      errorHandler.error("Missing DatePattern option in rollOver().");  
      return;  
    }  
  
    String datedFilename = fileName+sdf.format(now);  
    // It is too early to roll over because we are still within the  
    // bounds of the current interval. Rollover will occur once the  
    // next interval is reached.  
    if (scheduledFilename.equals(datedFilename)) {  
      return;  
    }  
  
    // close current file, and rename it to datedFilename  
    this.closeFile();  
  
    //如果备份文件不存在,则备份,同时创建新日志文件;如果存在,则先删除掉,再备份;
    File target  = new File(scheduledFilename);  
    if (target.exists()) {  
      target.delete();  
    }  
  
    File file = new File(fileName);  
    boolean result = file.renameTo(target);  
    if(result) {  
      LogLog.debug(fileName +" -> "+ scheduledFilename);  
    } else {  
      LogLog.error("Failed to rename ["+fileName+"] to ["+scheduledFilename+"].");  
    }  
  
    try {  
      // This will also close the file. This is OK since multiple  
      // close operations are safe.  
      this.setFile(fileName, false, this.bufferedIO, this.bufferSize);  
    }  
    catch(IOException e) {  
      errorHandler.error("setFile("+fileName+", false) call failed.");  
    }  
    scheduledFilename = datedFilename;  
}  

该方法的作用是:在滚动备份时间间隔到的时刻,将前一时间间隔的日志备份,同时以非追加模式将新日志打到新日志文件中;

三、问题场景分析

假设A进程先进行滚动备份,B进程后进行滚动备份
1、对于A进程:
a. 先将data.log备份(renameTo())为data.log.2017.11.30,然后创建data.log文件,并将日志写在data.log中;
b. 此时A进程持有data.log的文件句柄;而B进程仍然持有data.log.2017.11.30的文件句柄(尽管被重命名,但句柄不变);

2、对于B进程:
发现以data.log.2017.11.30为文件名的文件已经存在,则将其删除(前一时间段的所有日志全没了),并将以data.log为文件名的文件重命名为data.log.2017.11.30,然后创建data.log文件;

3、此时A进程持有data.log.2017.11.30的文件句柄(被B进程重命名过)),而B进程持有最新创建的data.log;

4、结果导致:前一时间段日志丢失,A、B进程在不同的文件里打日志。

四、解决方案

1、改变 rollOver()方法的实现方式
定义 TaskDailyRollingFileAppender 类,该类继承至 FileAppender ,它与 DailyRollingFileAppender 的主要区别在于以下方法:

void rollOver() throws IOException {  
  
    /* Compute filename, but only if datePattern is specified */  
    if (datePattern == null) {  
      errorHandler.error("Missing DatePattern option in rollOver().");  
      return;  
    }  
  
    String datedFilename = fileName+sdf.format(now);  
    // It is too early to roll over because we are still within the  
    // bounds of the current interval. Rollover will occur once the  
    // next interval is reached.  
    if (scheduledFilename.equals(datedFilename)) {  
      return;  
    }  
  
    // close current file, and rename it to datedFilename  
    this.closeFile();  
  
    File target  = new File(scheduledFilename);  
    if (!target.exists()) {  
        File file = new File(fileName);  
        boolean result = file.renameTo(target);  
        if (result) {  
            LogLog.debug(fileName + " -> " + scheduledFilename);  
        } else {  
            LogLog.error("Failed to rename [" + fileName + "] to [" + scheduledFilename + "].");  
        }  
    }  
  
    try {  
        // This will also close the file. This is OK since multiple  
        // close operations are safe.  
        this.setFile(fileName, true, this.bufferedIO, this.bufferSize);  
    }  
    catch(IOException e) {  
      errorHandler.error("setFile("+fileName+", false) call failed.");  
    }  
    scheduledFilename = datedFilename;  
}  

改进后的 rollOver()方法主要作用是:A进程先将日志重命名,然后创建新日志文件,B进程发现已经存在,则直接以追加模式切换到新的日志文件上去。

2、根据启动参数taskName属性区分日志文件
如果是任务,根据启动参数taskName属性区分日志文件,每个日志文件仅受一个线程控制,即一个日志对应一个任务。
a. 目前所有后台任务在启动脚本里都加上了 -DtaskName属性;
b. 定义 TaskDailyRollingFileAppender类,该类继承 DailyRollingFileAppender,并覆盖其 setFile(String file) 方法:

public void setFile(String file) {  
    String taskName = System.getProperty("taskName");  
    if (!StringUtil.isEmpty(taskName)) {  
        file = file + "." + taskName;  
    }  
  
    super.setFile(file);  
}  

c.对于不同的任务,日志文件名以不同的.taskName结尾,实现日志与任务一对一的关系。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,752评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,100评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,244评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,099评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,210评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,307评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,346评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,133评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,546评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,849评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,019评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,702评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,331评论 3 319
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,030评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,260评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,871评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,898评论 2 351

推荐阅读更多精彩内容