博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储
阅读量:6601 次
发布时间:2019-06-24

本文共 1286 字,大约阅读时间需要 4 分钟。

Filebeat内置了不少的模块,可以直接使用他们对日志进行收集,支持的模块如下:

[root@ELK-chaofeng07 logstash]# filebeat modules listEnabled:mysqlDisabled:apache2auditdelasticsearchhaproxyicingaiiskafkakibanalogstashmongodbnginxosquerypostgresqlredissuricatasystemtraefik

只要是上面出现的filebeat都是支持的,但是使用它之前需要设置一下才可以使用,比如:

filebeat modules enable mysql

那这次我们来看看如何使用mysql模块收集mysql的慢查询日志和错误日志

1、首先是使filebeat支持mysql模块

filebeat modules enable mysql

2、在配置文件/etc/filebeat/filebeat.yml启用输出到elasticsearch和kibana的功能。

设置完成后保存就可以了。此外,你的kibana和elasticsearch集群需要正常运行才能进行下一步。

3、开始准备预定义环境

filebeat setup -e

如果最后报错了,那么需要根据情况进行修复。

4、在配置文件/etc/filebeat/modules.d/mysql.yml进行设置。

5、上面的完成后基本就差不多了,此时我们可以启动filebeat服务了。

 如果说你启动的时候报如下错误,说明你的filebeat.yml配置文件中有多个output输出源,此时你需要把其他的output都注释掉才行,只留一个源输出到elasticsearch即可。

Exiting: Template loading requested but the Elasticsearch output is not configured/enabled

6、此后你会在elasticsearch集群中看到这个索引:

7、接下来就是到kibana界面,在这里,你不需要事先创建索引等等操作,直接点击dashboard界面选择mysql即可,比如:

最后你使用几个慢查询语句以及插入一些错误日志到执行的日志文件中看一下效果:

就这样子就完成了。

 本篇实践是我参考官网的文档来做的,详情链接是:https://www.elastic.co/guide/en/beats/filebeat/current/filebeat-module-mysql.html#mysql-settings

总结:我觉得上面的这种方式并不能普及使用,因为这缺少logstash过滤的一步,这样子我们就不能很好的使用聚合等图形。此外没有broker,会造成大量输出到elasticsearch导致阻塞。我的方案是使用logstash过滤加上内置的自定义模块比较好。

转载于:https://www.cnblogs.com/FengGeBlog/p/10650222.html

你可能感兴趣的文章
DBA日常工作职责
查看>>
Redis的持久化
查看>>
linux安装NFS服务器学习
查看>>
Planner .NET日历日程控件能给你的应用程序提供多种日历日程功能
查看>>
我的友情链接
查看>>
Linux压力测试
查看>>
JAVA中的线程机制(二)
查看>>
nginx安装与配置2(转载)
查看>>
Linux下Mongodb安装和启动配置
查看>>
2015 成长计划
查看>>
沈阳一饭店凌晨爆燃,燃气报警器时刻预防
查看>>
Redis 与 数据库处理数据的两种模式
查看>>
VUE2中axios的使用方法
查看>>
assert 断言
查看>>
CS 229 notes Supervised Learning
查看>>
jQuery,ajax,for循环使用典型案例
查看>>
2018.10.27-dtoj-3996-Lesson5!(johnny)
查看>>
genimage.cfg.template hacking
查看>>
DataTable转换成json字符串
查看>>
RecyclerView重用导致的元素重复问题
查看>>