kingbase日志分析之kbbadger

1. 使用kbbadger 

Kbbadger可以分析大型的日志文件。当日志文件足够长时,kbbadger可以自动检测日志文件的格式(syslog,stderr,csvlog或jsonlog)。

由kbbadger生成的所有图表都是可缩放的并且可单独下载为PNG文件。另外,在生成的报告中SQL查询将突出显示。

Kbbadger生成的报告中包含的关于SQL查询的信息有:

总体统计

占用时间最多的查询

最常见的查询

最常见的错误

查询时间直方图

会话时间直方图

参与顶级查询的用户

涉及顶级查询的应用程序

生成最多取消的查询

大多数查询已取消

最耗时的准备/绑定查询

报告也会提供每小时的统计图表,其内容包括:

SQL查询统计信息

临时文件统计

检查点统计

自动vacuum和自动分析统计

已取消查询

错误事件(死机、致命、错误和警告)

错误的类分布

在kbbadger的使用过程中,可以使用命令行选项来启用并行处理模式从而加快日志解析速度,使用-j命令行选项来指定解析使用的CPU核心数,使用-J命令行选项来并行解析的文件数,两个选项可以同时使用。另外,可以使用-A命令行选项来调整直方图的粒度。默认情况下,它们将报告每小时发生的每个主要查询/错误的平均值。

Kbbadger使用方法

配置kingbase.conf

在开始之前,必须在kingbase.conf中启用并设置一些配置指令。

您必须首先启用SQL查询日志记录才能进行解析:

log_min_duration_statement = 0

在这里,每条语句都会被记录,在繁忙的服务器上,您可能需要增加此值以仅记录持续时间较长的查询。请注意,不要启用log_statement,因为kbBadger不会解析它的日志格式并且如果您将log_statement设置为'all',则不会通过log_min_duration_statement指令记录任何内容。如果要保证系统性能,也可以使用log_duration来仅提供有关持续时间和查询数量的报告。有关更多信息,请参见下一章。

kbBadger支持任何设置到kingbase.conf文件的log_line_prefix中的自定义格式,只要它指定时间转义序列(%t,%m或%n)和与进程相关的转义序列(%p或%c)。

例如:

--使用“ stderr”日志格式,log_line_prefix必须至少为:log_line_prefix = '%t [%p]: '--日志行前缀可以添加用户,数据库名称,应用程序名称和客户端IP地址,如下所示:log_line_prefix = '%t [%p]: user=%u,db=%d,app=%a,client=%h '--或用于syslog日志文件格式:log_line_prefix = 'user=%u,db=%d,app=%a,client=%h '--stderr输出的日志行前缀也可以是:log_line_prefix = '%t [%p]: db=%d,user=%u,app=%a,client=%h '--或用于syslog输出:log_line_prefix = 'db=%d,user=%u,app=%a,client=%h '--您也可以在kingbase.conf中启用其他参数,以从日志文件中获取更多信息:log_checkpoints = onlog_connections = onlog_disconnections = onlog_lock_waits = onlog_temp_files = 0log_autovacuum_min_duration = 0log_error_verbosity = default

注意

数据库日志中的内容必须为英文,否则kbbadger可能无法解析日志中的内容:

lc_messages='en_US.UTF-8'

使用kbBadger生成统计信息

kbbadger /var/log/kingbase.logkbbadger /var/log/kingbase.log.2.gz /var/log/kingbase.log.1.gz /var/log/kingbase.logkbbadger /var/log/kingbase/kingbase-2012-05-*kbbadger --exclude-query="^(COPY|COMMIT)" /var/log/kingbase.logkbbadger -b "2012-06-25 10:56:11" -e "2012-06-25 10:59:11" /var/log/kingbase.logcat /var/log/kingbase.log | kbbadger -kbbadger --prefix '%t [%p]: user=%u,db=%d,client=%h ' /sys_log/kingbase-2012-08-21*kbbadger --prefix '%m %u@%d %p %r %a : ' /sys_log/kingbase.log# Log line prefix with syslog log outputkbbadger --prefix 'user=%u,db=%d,client=%h,appname=%a' /sys_log/kingbase-2012-08-21*# Use my 8 CPUs to parse my 10GB file faster, much fasterkbbadger -j 8 /sys_log/kingbase-10.1-main.log

详细请参见 –help

举例说明

$ ./kbbadger ./ sys_log/kingbase-2019-10-26_1544* -f stderr -J 12 -j 32[========================>] Parsed 283210387 bytes of 283210387 (100.00%),queries: 327810, events: 51LOG: Ok, generating html report...

生成的统计信息效果图如下:




更多kbbadger内容请查看官方文档( 监控数据库 — KingbaseES产品手册)
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容