企业日志分析之Linux系统message收集展示

之前写了收集Linux系统历史history命令,下面介绍一下系统里日志收集与展示的内容。
老规矩,先看效果,满意的话继续看。
一、效果图
1.总览

2.linux系统日志收集数据总量

主要是展示所选范围内容收集日志总量。
3.linux系统日志收集主机数

主要是展示当前总共有多少台主机上传了message日志数据。
4.linux系统日志程序类型Top5

主要是展示收集的日志信息里前5个程序名;我这5个都是docker服务器,所以docker日志有很多。
5.linux系统日志时间数据总量图

主要是展示每个时间段收集的数据量。
6.linux系统日志数据

主要是展示详细的日志数据。
二、收集日志
我收集的是系统/var/log/messages日志,然后通过rsyslog的tcp 8514端口发给logstash。
1.配置rsyslog
默认rsyslog都安装了,所以只需要修改配置。
在/etc/rsyslog.conf里添加:
*.* @@localhost:8514
然后重启rsyslog。
2.配置logstash
[root@puppet tmp]# cat /etc/logstash/conf.d/logstash_agent.conf
input {
tcp {
port => "8514"
type => "syslog"
}
}
filter {
if [type] == "syslog" {
grok {
match => { "message" => "%{SYSLOGTIMESTAMP:syslog_timestamp} %{SYSLOGHOST:syslog_hostname} %{DATA:syslog_program}(?:\[%{POSINT:syslog_pid}\])?: %{GREEDYDATA:syslog_message}" }
}
}
}
output {
redis {
host => ["10.10.125.8:6379"]
data_type =>"list"
key => "logstash:redis"
}
} 3.导入模板
导入顺序:
(1)Linux系统日志试图.json
(2)Linux系统日志搜索.json
(3)Linux系统日志Dashboard.json