高性能日志记录方式 - mmap

场景

程序频繁的输出一些log,要记录,需要的时候要上报到后台分析。

方式1:写文件,写数据库
优点:不容易丢数据。
缺点:频繁调用内核api,IO性能消耗大,导致耗电增加,速度比内存访问慢。

方法2:在内存中创建buffer,合适时写入到磁盘
优点,解决性能问题,避免频繁IO
缺点,容易丢数据,crash,进程被kill时

方法3:mmap(内核地址空间映射到用户进程)
mmap 省掉了内核空间与用户进程空间的拷贝,数据直接写在内核空间中,内核按照一定的策略(LRU,时钟工作集,老化)把脏页面写回磁盘中。即使用户进程crash,被kill 也不会丢数据。
优点:写入速度几乎和内存访问速度一样,不会丢数据。

引用微信 mars 的日志模块 xlog 的测试数据


mmap 相关 api

FILE *fp = fopen(file_path, "wb+");
file_num = fileno(fp);
ftruncate(file_num, size);      // 调整size
char *mmap_ptr = (char *)mmap(NULL, size, PROT_READ | PROT_WRITE, MAP_FILE | MAP_SHARED, file_num, 0);

// 然后就可以对 mmap_ptr 进行读写了

munmap(mmap_ptr, mmap_size);    // 解除一个map,内容会写回磁盘
msync(mmap_ptr, mmap_size, MS_ASYNC);  // 同步,异步写回磁盘

扩容办法:先解除munmap,调大文件大小,重新调 mmap 映射即可
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 前言 公司目前在做一款企业级智能客服系统,对于系统稳定性要求很高,不过难保用户在使用中不会出现问题,而 Andro...
    王晨彦阅读 9,744评论 9 24
  • 操作系统概论 操作系统的概念 操作系统是指控制和管理计算机的软硬件资源,并合理的组织调度计算机的工作和资源的分配,...
    野狗子嗷嗷嗷阅读 12,157评论 3 34
  • 1 进程介绍 1.1 进程和程序 所谓进程是由正文段(text)、用户数据段(user segment)以及系统数...
    疯狂小王子阅读 1,280评论 0 7
  • 又来到了一个老生常谈的问题,应用层软件开发的程序员要不要了解和深入学习操作系统呢? 今天就这个问题开始,来谈谈操...
    tangsl阅读 4,202评论 0 23
  • 具体代码如下:思路如有错误欢迎指正: 参考资料:http://www.cnblogs.com/wanghui907...
    默之m阅读 262评论 0 0