观测云对接 Fluentd 采集业务日志最佳实践

概述

Fluentd 是一个开源数据收集器,专为简化日志管理和使日志数据更加易于访问、使用而设计。作为一个高度可扩展的工具,它能够统一数据收集和消费过程,使得构建实时分析的日志系统变得更加高效。

观测云目前已集成 Fluentd ,可以上报 Fluentd 的日志到观测云控制台进行更进一步的日志查询和分析。

对接 Fluentd 采集业务日志

前提条件

- td-agent >= 4.2.x

部署 DataKit 采集器


# 需要把token 改成观测云空间的实际token值(可在观测云控制台-->集成-->Datakit 上面获取)

DK_DATAWAY="https://openway.guance.com?token=tkn_xxxxxx" bash -c "$(curl -L https://static.guance.com/datakit/install.sh)"


开启 LogStream


cp /usr/local/datakit/conf.d/log/logstreaming.conf.sample /usr/local/datakit/conf.d/log/logstreaming.conf


重启 DataKit


# 在主机终端输入命令

datakit service -R


查看采集器是否开启


# 在主机终端输入命令

datakit monitor


修改 td-agent 文件

以 nginx 日志为例,可以通过 Fluentd 采集 nginx 日志,并发送给 DataKit 上报至观测云平台进行分析。


vim /etc/td-agent/td-agent.conf

<source>

  @type tail

  format ltsv

  path /var/log/nginx/access.log

  pos_file /var/log/buffer/posfile/access.log.pos

  tag nginx

  time_key time

  time_format %d/%b/%Y:%H:%M:%S %z

</source>

##收集的数据由http协议转发至本地 DataKit

## nginx output

<match nginx>

  @type http

  endpoint http://127.0.0.1:9529/v1/write/logstreaming?source=nginx_td&pipeline=nginx.p

  open_timeout 2

  <format>

    @type json

  </format>

</match>


日志示例:


127.0.0.1 - - [24/Mar/2021:13:54:19 +0800] "GET /basic_status HTTP/1.1" 200 97 "-" "Mozilla/5.0 (Macintosh; Intel Mac OS X 11_1_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.72 Safari/537.36"


重启服务


sudo systemctl restart td-agent


观测云查看上报的数据


©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容