背景
本人Java开发工程师一枚,主攻后端,需要搭建一套Prometheus+Grafana的监控系统,采用企业微信告警通知。在网上各种查阅资料的同时,发现很多资料都大致相通且不完整,踩坑无数,经过多日钻研后,最终完成了整个搭建任务,特此记录下整个安装操作过程,希望能帮助各位。同时也请各位大神指导并提出意见,在此只能傻瓜式的记录下操作过程,如果有幸有哪位运维大神看到,还请指正不足之处,感激不尽[抱拳]
一、Prometheus下载安装
Promethus官网下载地址:https://prometheus.io/download/
Xshell连接服务器依次执行以下命令:
进入local目录下
cd /usr/local
上传下载好的文件包prometheus-2.36.2.linux-amd64.tar.gz (输入以下命令后回车)
rz
解压文件
tar -zxvf prometheus-2.36.2.linux-amd64.tar.gz
将解压后的文件夹重命名为prometheus
mv prometheus-2.36.2.linux-amd64 /usr/local/prometheus
进入prometheus目录下
cd prometheus/
编辑配置文件
vim prometheus.yml
追加以下配置 (注意格式、注意修改自己的ip)
- job_name: 'mysql'
static_configs:
- targets: ['自己的ip:9104']
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc → :wq! → 回车
校验修改后的配置文件格式是否正确
./promtool check config prometheus.yml
校验配置文件正常结果展示(非命令操作)
SUCCESS: prometheus.yml is valid prometheus config file syntax
封装Prometheus启动文件(输入以下命令后回车)
vim start.sh
输入以下内容
nohup ./prometheus --config.file=prometheus.yml &
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc → :wq! → 回车
给启动文件执行权限(输入以下命令后回车)
chmod +x start.sh
启动Prometheus
./start.sh
二、mysqld_exporter下载安装(mysql监控插件)
mysqld_exporter插件官网下载地址:https://prometheus.io/download/
Xshell连接服务器依次执行以下命令:
进入local目录下
cd /usr/local
上传下载好的文件包mysqld_exporter-0.12.1.linux-amd64.tar.gz(输入以下命令后回车)
rz
解压文件
tar -zxvf mysqld_exporter-0.12.1.linux-amd64.tar.gz
将解压后的文件夹重命名为mysqld_exporter
mv mysqld_exporter-0.12.1.linux-amd64 mysqld_exporter
登录mysql的root账户(回车后输入密码,此操作需在已安装mysql的前提下执行)
mysql -uroot -p
设置mysql密码策略:密码长度为6
set global validate_password_length=6;
创建用户名为my的账户 密码为Abc@12 (此密码必须根据上边设置的策略长度为6,否则重新设置策略)
CREATE USER 'my'@'%' IDENTIFIED BY 'Abc@12' WITH MAX_USER_CONNECTIONS 3;
设置my账户的权限
GRANT ALL PRIVILEGES ON *.* TO 'my'@'%' IDENTIFIED BY 'Abc@12';
刷新权限
flush privileges;
退出mysql数据库编辑 (输入exit后点击回车)
exit → 回车
进入mysqld_exporter目录下
cd mysqld_exporter
创建配置文件my.cnf
vim my.cnf
输入以下内容 (注意修改自己的ip,host、port为mysql链接,user、password为mysql的账号密码 ) 复制粘贴命令为Shift+Insert
[client]
host=自己的ip
port=3306
user=root
password=root
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc -> :wq! -> 回车
进入/usr/lib/systemd/system/目录下
cd /usr/lib/systemd/system/
创建mysqld_exporter启动脚本
vi mysqld_exporter.service
输入以下内容
[Unit]
Description=mysqld_exporter
Documentation=https://prometheus.io
Wants=network-online.target
After=network.target
[Service]
Type=simple
User=root
ExecStart=/usr/local/mysqld_exporter/mysqld_exporter --config.my-cnf=/usr/local /mysqld_exporter/my.cnf
Restart=on-failure
[Install]
WantedBy=multi-user.target
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc -> :wq! -> 回车
重新加载配置文件
systemctl daemon-reload
启动mysqld_exporter服务 (停止命令:systemctl stop mysqld_exporter.service)
systemctl start mysqld_exporter.service
查看mysqld_exporter服务状态
systemctl status mysqld_exporter.service
设置开机启动
systemctl enable mysqld_exporter.service
访问 IP:9104 地址 (下方图示)
点击 Metrics (下方图示为安装成功)
访问http://ip:9090/targets (如下图示mysql监控成功)
注:如没有任何展示可重启Prometheus(查看9090端口进程,kill干掉进程后,进入prometheus目录下执行./start.sh)
三、Grafana 安装
Grafana官网(版本8.3.3):https://grafana.com/grafana/download/8.3.3?pg=get&plcmt=selfmanaged-box1-cta1
Xshell连接服务器依次执行以下命令:
进入local目录下
cd /usr/local
执行下载命令,等待下载完成
wget https://dl.grafana.com/enterprise/release/grafana-enterprise-8.3.3-1.x86_64.rpm
执行安装
sudo yum install grafana-enterprise-8.3.3-1.x86_64.rpm
进入/etc/grafana目录下
cd /etc/grafana
编辑grafana.ini配置文件
vim grafana.ini
修改以下内容
data目录位置配置:
[paths]
# Path to where grafana can store temp files, sessions, and the sqlite3 db (if that is used)
data = /opt/grafana/data
# Temporary files in `data` directory older than given duration will be removed
temp_data_lifetime = 240h
# Directory where grafana can store logs
logs = /opt/grafana/logs
database配置:
[database]
# You can configure the database connection by specifying type, host, name, user and password
# as separate properties or as on string using the url properties.
# Either "mysql", "postgres" or "sqlite3", it's your choice
type = mysql
host = 自己的ip:3306
name = grafana
user = root
# If the password contains # or ; you have to wrap it with triple quotes. Ex"""#password;"""
password = root
smpt配置:
[smtp]
;enabled = false
;host = smtphz.qiye.163.com
;user = 发送邮件账号
# If the password contains # or ; you have to wrap it with triple quotes. Ex"""#password;"""
;password = 发送邮件账号密码
;cert_file =
;key_file =
;skip_verify = false
;from_address = admin@grafana.localhost
;from_name = Grafana
# EHLO identity in SMTP dialog (defaults to instance_name)
;ehlo_identity = dashboard.example.com
# SMTP startTLS policy (defaults to 'OpportunisticStartTLS')
;startTLS_policy = NoStartTLS
[emails]
;welcome_email_on_sign_up = false
;templates_pattern = emails/*.html, emails/*.txt
;content_types = text/html
启动Grafana服务
systemctl restart grafana-server.service
设置开机启动grafana-server
systemctl enable grafana-server.service
浏览器访问 IP:3000 默认用户密码都为admin
配置prometheus 数据源
导入mysql dashboards
四、java项目监控 & 企业微信告警
Prometheus官网下载alertmanager:https://prometheus.io/download/
Xshell连接服务器依次执行以下命令:
进入local目录下
cd /usr/local
上传下载好的安装包alertmanager-0.24.0.linux-amd64.tar.gz(输入以下命令后回车)
rz
解压
tar -zxvf alertmanager-0.24.0.linux-amd64.tar.gz
将解压后的文件夹更名为alertmanager
mv alertmanager-0.24.0.linux-amd64 alertmanager
进入alertmanager目录下
cd alertmanager
创建grafana.yml配置文件
vim grafana.yml
输入以下内容 (获取corp_id、agent_id、api_secret、to_party信息方式:https://www.jianshu.com/p/5704622052de)
global:
resolve_timeout: 5m
templates:
- '/usr/local/alertmanager/wechat.tmpl' #微信模板,同级目录下wechat.tmpl
route:
group_by: ['alertname']
group_wait: 5s
#同一组内警报,等待group_interval时间后,再继续等待repeat_interval时间
group_interval: 1m
#当group_interval时间到后,再等待repeat_interval时间后,才进行报警
repeat_interval: 5m
receiver: 'wechat'
receivers:
- name: 'wechat'
wechat_configs:
- corp_id: 'xxxxxxxxxxxxx' #企业微信ID
agent_id: 'xxxxxxx' #应用ID
api_secret: 'xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx' #应用密码
to_party: 'xxxxxx' #部门id(部门所属人员均可接收到) 单个账号发送: to_user: 'xxxxx' #多人“,”逗号隔开
send_resolved: true
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc -> :wq! -> 回车
在/usr/local/alertmanager/创建上面配置文件中使用到的wechat.tmpl模板
vim wechat.tmpl
输入以下内容
{{ define "wechat.default.message" }}
{{- if gt (len .Alerts.Firing) 0 -}}
{{- range $index, $alert := .Alerts -}}
{{- if eq $index 0 }}
==========异常告警==========
告警类型: {{ $alert.Labels.alertname }}
告警级别: {{ $alert.Labels.severity }}
告警详情: {{ $alert.Annotations.message }}{{ $alert.Annotations.description}};{{$alert.Annotations.summary}}
故障时间: {{ ($alert.StartsAt.Add 28800e9).Format "2006-01-02 15:04:05" }}
{{- if gt (len $alert.Labels.instance) 0 }}
实例信息: {{ $alert.Labels.instance }}
{{- end }}
{{- if gt (len $alert.Labels.namespace) 0 }}
命名空间: {{ $alert.Labels.namespace }}
{{- end }}
{{- if gt (len $alert.Labels.node) 0 }}
节点信息: {{ $alert.Labels.node }}
{{- end }}
{{- if gt (len $alert.Labels.pod) 0 }}
实例名称: {{ $alert.Labels.pod }}
{{- end }}
============END============
{{- end }}
{{- end }}
{{- end }}
{{- if gt (len .Alerts.Resolved) 0 -}}
{{- range $index, $alert := .Alerts -}}
{{- if eq $index 0 }}
==========异常恢复==========
告警类型: {{ $alert.Labels.alertname }}
告警级别: {{ $alert.Labels.severity }}
告警详情: {{ $alert.Annotations.message }}{{ $alert.Annotations.description}};{{$alert.Annotations.summary}}
故障时间: {{ ($alert.StartsAt.Add 28800e9).Format "2006-01-02 15:04:05" }}
恢复时间: {{ ($alert.EndsAt.Add 28800e9).Format "2006-01-02 15:04:05" }}
{{- if gt (len $alert.Labels.instance) 0 }}
实例信息: {{ $alert.Labels.instance }}
{{- end }}
{{- if gt (len $alert.Labels.namespace) 0 }}
命名空间: {{ $alert.Labels.namespace }}
{{- end }}
{{- if gt (len $alert.Labels.node) 0 }}
节点信息: {{ $alert.Labels.node }}
{{- end }}
{{- if gt (len $alert.Labels.pod) 0 }}
实例名称: {{ $alert.Labels.pod }}
{{- end }}
============END============
{{- end }}
{{- end }}
{{- end }}
{{- end }}
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc -> :wq! -> 回车
在当前目录下(/usr/local/alertmanager/)封装Grafana启动文件(输入以下命令后回车)
vim start.sh
输入以下内容
nohup ./alertmanager --config.file=grafana.yml --storage.path=data/ --log.level=debug &
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc → :wq! → 回车
给启动文件执行权限(输入以下命令后回车)
chmod +x start.sh
启动Grafana
./start.sh
访问 IP:9093/#/status 以下图示为成功
五、node_exporter下载安装(CPU监控插件)
Prometheus官网下载node_exporter:https://prometheus.io/download/
Xshell连接服务器依次执行以下命令:
进入local目录下
cd /usr/local
上传下载好的安装包node_exporter-1.3.1.linux-amd64.tar.gz(输入以下命令后回车)
rz
解压
tar -zxvf node_exporter-1.3.1.linux-amd64.tar.gz
将解压后的文件夹更名为node_exporter
mv node_exporter-1.3.1.linux-amd64.tar.gz node_exporter
进入node_exporter目录下
cd node_exporter
在当前目录下(/usr/local/node_exporter/)封装node_exporter启动文件(输入以下命令后回车)
vim start.sh
输入以下内容
nohup ./node_exporter & > node.log
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc → :wq! → 回车
给启动文件执行权限(输入以下命令后回车)
chmod +x start.sh
启动node_exporter
./start.sh
访问 IP:9100/metrics 以下图示为成功
六、添加JMX配置,并修改项目启动方式添加JMX(所有服务器运行;端口可变,这里使用3010)
Xshell连接服务器依次执行以下命令:
进入local目录下
cd /usr/local
创建jmx文件夹
mkdir jmx
进入jmx文件夹下
cd jmx
下载jmx_prometheus_javaagent-0.12.0.jar文件包
wget https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.12.0/jmx_prometheus_javaagent-0.12.0.jar
创建配置文件(输入以下命令后回车)
vim config.yml
输入以下内容
lowercaseOutputLabelNames: true
lowercaseOutputName: true
whitelistObjectNames: ["java.lang:type=OperatingSystem"]
blacklistObjectNames: []
rules:
- pattern: 'java.lang<type=OperatingSystem><>(committed_virtual_memory|free_physical_memory|free_swap_space|total_physical_memory|total_swap_space)_size:'
name: os_$1_bytes
type: GAUGE
attrNameSnakeCase: true
- pattern: 'java.lang<type=OperatingSystem><>((?!process_cpu_time)\w+):'
name: os_$1
type: GAUGE
强制保存并退出(点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc -> :wq! -> 回车
创建java文件夹
mkdir java
进入java文件夹
cd java
上传要运行的java项目jar包(输入以下命令后回车,需先安装java环境jdk)
rz
在当前目录下( /usr/local/jmx/java/)封装java项目启动文件(输入以下命令后回车)
vim start.sh
输入以下内容(注意修改jar包名称, 注意3010为jmx_prometheus_javaagent端口号,非项目端口号)
nohup java -javaagent:/usr/local/jmx/jmx_prometheus_javaagent-0.12.0.jar=3010:/usr/local/jmx/config.yml -Xms100m -Xmx1024m -Dfile.encoding=utf-8 -jar /usr/local/jmx/java/上传的java项目包名称.jar
强制保存并退出 (点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc → :wq! → 回车
给启动文件执行权限(输入以下命令后回车)
chmod +x start.sh
启动项目
./start.sh
访问 IP::3010 以下图示为成功
七、配置node_exporter和jmx到Prometheus并启动
进入到prometheus目录下
cd /usr/local/prometheus
编辑配置文件
vim prometheus.yml
追加以下内容(注意修改自己的ip)
- job_name: 'node'
static_configs:
- targets: ['自己的ip:9100']
- job_name: 'java'
static_configs:
- targets: ['自己的ip:3010']
强制保存并退出(点击键盘Esc按键 → 输入命令 :wq! → 点击回车)
Esc -> :wq! -> 回车
查看prometheus进程(回车后可查看进程的PID。lsof命令可能需要安装,百度查看下怎样安装很简单。)
lsof -i:9090
干掉进程(注意修改进程的PID)
kill 进程的PID
在当前目录下(/usr/local/prometheus)启动Prometheus
./start.sh
访问 IP:9090 以下图示为node_exporter和jmx配置成功(输入 JVM 和 node查看)
八、Grafana配置企业微信报警
九、测试消息接收
在企业微信【应用管理 → 引用】添加信任ip地址
查看运行的java进程(上边设置的端口是3010) 记录进程PID
lsof -i:3010
干掉进程
kill 进程PID
企业微信接收消息下方图示(可能会有延迟,几分钟或十几分钟不等)
进入jar目录下
cd /usr/local/jmx/java/
再次启动项目
./start.sh
企业微信收到以下信息