Log

post thumb
Internet
作者 Louis 发表于 2018年6月22日

摘要:日志相关,journalctl,远程日志,基于MySQL的日志,loganalyzer网页展示

日志介绍

  • 日志:

历史事件:时间,地点,人物,事件 日志级别:事件的关键性程度,Loglevel

  • 系统日志服务:
sysklogd :CentOS 5之前版本
syslogd: system application 记录应用日志
klogd: linux kernel 记录内核日志
  • 事件记录格式:日期时间 主机 进程[pid]: 事件内容

  • C/S架构:通过TCP或UDP协议的服务完成日志记录传送,将分布在不同主机的日志实现集中管理

udp协议

rsyslog

  • rsyslog特性:CentOS6和7
  1. 多线程
  2. UDP, TCP, SSL, TLS, RELP
  3. MySQL, PGSQL, Oracle实现日志存储
  4. 强大的过滤器,可实现过滤记录日志信息中任意部分
  5. 自定义输出格式
  • ELK:elasticsearch, logstash, kibana
  1. 非关系型分布式数据库
  2. 基于apache软件基金会jakarta项目组的项目lucene
  3. Elasticsearch是个开源分布式搜索引擎
  4. Logstash对日志进行收集、分析,并将其存储供以后使用
  5. kibana 可以提供的日志分析友好的 Web 界面
  • 配置文件/etc/rsyslog.conf,/etc/rsyslog.d/*.conf格式:由三部分组成
  1. MODULES:相关模块配置
  2. GLOBAL DIRECTIVES:全局配置
  3. RULES:日志记录相关的规则配置

配置rsyslog成为日志服务器

#### MODULES ####
# Provides UDP syslog reception
$ModLoad imudp
$UDPServerRun 514
# Provides TCP syslog reception
$ModLoad imtcp
$InputTCPServerRun 514

journalctl

Systemd 统一管理所有 Unit 的启动日志。带来的好处就是,可以只用journalctl一个命令,查看所有日志(内核日志和应用日志)。日志的配置文件/etc/systemd/journald.conf

journalctl用法

##查看所有日志(默认情况下 ,只保存本次启动的日志)
$ journalctl
##查看内核日志(不显示应用日志)
$ journalctl -k
##查看系统本次启动的日志
$ journalctl -b
$ journalctl -b -0
##查看上一次启动的日志(需更改设置)
$journalctl -b -1
##查看指定时间的日志
$ journalctl --since="2017-10-30 18:10:30"
$ journalctl --since "20 min ago"
$ journalctl --since yesterday
$ journalctl --since "2017-01-10" --until "2017-01-11 03:00"
$ journalctl --since 09:00 --until "1 hour ago"
##显示尾部的最新10行日志
$ journalctl -n
##显示尾部指定行数的日志
$ journalctl -n 20
##实时滚动显示最新日志
$ journalctl -f

journalctl日志优先级管理

查看指定优先级(及其以上级别)的日志,共有8级 0. emerg

  1. alert
  2. crit
  3. err
  4. warning
  5. notice
  6. info
  7. debug

示例如下:

$ journalctl -p err -b
$ 日志默认分页输出,--no-pager 改为正常的标准输出
$ journalctl --no-pager

journalctl输出的格式

#以JSON格式(单行)输出
$ journalctl -b -u nginx.service -o json
#以JSON格式(多行)输出,可读性更好
$ journalctl -b -u nginx.serviceqq -o json-pretty
#显示日志占据的硬盘空间
$ journalctl --disk-usage
#指定日志文件占据的最大空间
$ journalctl --vacuum-size=1G
#指定日志文件保存多久
$ journalctl --vacuum-time=1years

vim /etc/hosts

(1) 准备MySQL Server
(2) 在mysql server上授权rsyslog能连接至当前服务器
GRANT ALL ON Syslog.* TO 'syslog'@'HOST' IDENTIFIED BY 'centos';
FLUSH PRIVILEGES;
(3) 在rsyslog服务器上安装mysql模块相关的程序包
yum install rsyslog-mysql
(4) 为rsyslog创建数据库及表;
mysql -uUSERNAME -hHOST -pPASSWORD < /usr/share/doc/rsyslog-7.4.7/mysql-createDB.sql
###配置rsyslog将日志保存到mysql中
$vim /etc/rsyslog.conf
#### MODULES ####
$ModLoad ommysql 
#### RULES ####
*.info;mail.none;authpriv.none;cron.none  :ommysql:HOST,Syslog,syslog,centos

loganalyzer日志展示软件

yum install httpd php php-mysql php-gd
$ systemctl restart httpd
$ cd /var/www/html
$ vim test.php
<?php
$dsn='mysql:host=DBhost;dbname=Syslog';
$username='syslog';
$passwd='centos';
$dbh=new PDO($dsn,$username,$passwd);
var_dump($dbh);
?>

安装loganalyzer,并填写安装向导source Type MYSQL Native,注意数据库和上面的一样

$ wget
$ tar xf loganalyzer-4.1.6.tar.gz
$ cp -r loganalyzer-4.1.6/src /var/www/html/log
$ cd /var/www/html
$ touch config.php
$ chmod 666 config.php
###网页向导完成安装之后,回收权限
$ chmod 644 config.php

Logrotate

  • logrotate 程序是一个日志文件管理工具。用来把旧的日志文件删除,并创建新的日志文件,称为日志转储或滚动。可以根据日志文件的大小,也可以根据其天数来转储,这个过程一般通过 cron 程序来执行
  • 配置文件是 /etc/logrotate.conf
  • 主要参数如下:
compress #通过gzip 压缩转储以后的日志
nocompress #不需要压缩时,用这个参数
copytruncate #用于还在打开中的日志文件,把当前日志备份并截断
nocopytruncate #备份日志文件但是不截断
create mode owner group #转储文件,使用指定的文件模式创建新的日志文件

nocreate #不建立新的日志文件
delaycompress #和compress一起使用时,转储的日志文件到下一次转储时才压缩
nodelaycompress #覆盖 delaycompress 选项,转储并压缩
errors address #专储时的错误信息发送到指定的Email 地址
ifempty #即使是空文件也转储,是缺省选项。
notifempty #如果是空文件的话,不转储
mail address #把转储的日志文件发送到指定的E-mail 地址
nomail #转储时不发送日志文件
olddir directory #转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统
noolddir #转储后的日志文件和当前日志文件放在同一个目录下
prerotate/endscript #在转储以前需要执行的命令可以放入这个对,这两个关键字必须单独成行
postrotate/endscript #在转储以后需要执行的命令可以放入这个对,这两个关键字必须单独成行
daily #指定转储周期为每天
weekly #指定转储周期为每周
monthly #指定转储周期为每月
size #大小 指定日志超过多大时,就执行日志转储
rotate count #指定日志文件删除之前转储的次数,0 指没有备份,5 指保留5 个备份
Missingok #如果日志不存在,提示错误
Nomissingok  #如果日志不存在,继续下一次日志,不提示错误
上一篇
LAMP1