Nginx的日志分割及pv统计展示

      运维统计分析,通过分割nginx日志(按小时/天/星期/月),pv统计访问量以便于分析热门操作场景。具体实施按以下几点执行:

1.获取nginx配置nginx.conf文件所在的目录;
      如/etc/nginx/nginx.conf
2.nginx.conf指定pid文件的存放位置;
      pid /wls/nginx/nginx.pid;
3.nginx.conf指定日志文件的格式;
      log_format access $remote_addr - $remote_user [$time_local] "$request"' '$status $body_bytes_sent "$http_referer"' '"$http_user_agent" $http_x_forwarded_for;
其中,access表示日志类型的别名
4.nginx.conf指定日志文件存放的位置,并指定日志格式;
      access_log /etc/nginx/logs/access.log access;
5.执行nginx -t检测nginx.conf的配置是否异常;
      若提示pid的路径无操作权限,核对终端提示的路径与nginx.conf中配置是否一致。若不一致,请以终端返回的地址为准;
      2018/09/24 09:53:55 [emerg] 55408#0: open() "/run/nginx.pid" failed (13: Permission denied)
如终端提示的pid文件地址为"/run/nginx.pid",将配置的地址pid /wls/nginx/nginx.pid改为pid /run/nginx.pid;
6.指定nginx的配置文件路径
      nginx -c /etc/nginx/nginx.conf
若终端提示端口占用,先查看端口是否为nginx端口,若是先终止进程,再次执行 nginx -c命令
7.重启nginx;
      sudo nginx -s reload
8.定期将日志分割备份;

指明日志存放路径
LOG_HOME="/etc/nginx/logs/"

获取日期变量,保存为前一天的日志
day=$(date -d '-1day' +%Y%m%d)

备份日志文件,以日期分割
echo 'paic1234' | sudo -S mv $LOG_HOME/access.log $LOG_HOME/access.log-$day
# 重读日志
echo 'paic1234' | sudo -S kill -USR1 `cat /run/nginx.pid`

9.分析分割后的日志

pvs = `awk '{print $7}' $NGINX_LOG_PATH | grep $keywords | grep "\.html" | wc -l`
echo pvs = $pvs

IP = `awk '{print $1 " " $7}' $NGINX_LOG_PATH | grep $keywords | grep "\.html" | awk '{print $1}'|sort | uniq -c |wc -l`
echo IP = $IP

page_url = `awk '{print $7}' $NGINX_LOG_PATH | grep $keywords  | grep "\.html" |sort | uniq -c |sort -n -k 1 -r |head -n 10`
echo page_url = $page_url
...
result=`python $PYTHON_SCRIPT $DATE $pvs $IP $page_url `
echo $result

其中,$NGINX_LOG_PATH为nginx日志文件地址,$PYTHON_SCRIPT为第10步中的python文件,作用是将关键字相关的pv次数,ip以及请求路径上报至数据库中。
10.将分析结果写入文件或者数据库

#以日期粒度更新统计数据
import MySQLdb
from sys import argv
import json
if __name__ == '__main__':
    file, date, pvs,ip,page_url = argv
    if date == "":
        exit(0)
    # 连接数据库
    db = MySQLdb.connect(host="xx", port=3306, user="test",passwd="test",db="test",charset="utf8")
    # cursor()操作游标
    cursor = db.cursor()
    cursor.execute("SELECT * from tb_test where date='"+date+")
    data = cursor.fetchone()
    if data:
        sql = "UPDATE sql"
    else:
        sql = "INSERT INTO sql"
    try:
        cursor.execute(sql)
        db.commit()
    except:
        db.rollback()
    db.close()

11.将分析统计展示出来
获取数据库中保存的数据,以图标的方式展示:

image.png

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,699评论 6 513
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,124评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 167,127评论 0 358
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,342评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,356评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,057评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,654评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,572评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,095评论 1 318
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,205评论 3 339
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,343评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,015评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,704评论 3 332
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,196评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,320评论 1 271
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,690评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,348评论 2 358